Apa itu Garis Panduan Kebangsaan Tadbir Urus dan Etika AI
Dokumen ini diterbitkan oleh Kementerian Sains, Teknologi dan Inovasi (MOSTI) sebagai rujukan kebangsaan tentang cara AI patut dibangun dan digunakan secara bertanggungjawab di Malaysia. Ia menyasarkan pelbagai pihak : pembangun, pengguna dan pihak berkepentingan , dan menggariskan prinsip serta mekanisme seperti human-in-the-loop untuk memastikan autonomi manusia tidak diketepikan.[1]
Penting difahami: garis panduan ialah rujukan dasar, bukan undang-undang berasingan. Ia tidak menggantikan kewajipan sedia ada seperti perlindungan data peribadi atau keperluan pengawal selia sektor masing-masing. Untuk keputusan pematuhan yang khusus, rujuk penasihat undang-undang atau pengawal selia berkaitan.
Tujuh prinsip AI bertanggungjawab
Garis panduan ini mengetengahkan tujuh prinsip berikut:[1]
Kalau kau baca dengan mata seorang pembina sistem, kau akan perasan satu perkara: empat daripada tujuh prinsip ini bercakap tentang kawalan : kebolehpercayaan dan keselamatan, privasi, ketelusan, dan akauntabiliti. Itu bukan kebetulan. Prinsip-prinsip ini menganggap AI sebagai sesuatu yang perlu diarah dan disemak, bukan dibiar berjalan sendiri.
"Prinsip yang tidak diterjemah kepada tindakan hanyalah poster di dinding pejabat."
Terjemahan: prinsip → apa kau buat hari Isnin
Ini bahagian yang paling kerap tertinggal. Setiap prinsip di bawah dipasangkan dengan satu tindakan konkrit yang boleh dimulakan tanpa bajet dan tanpa mesyuarat.
Semak sama ada output AI memberi layanan berbeza kepada kumpulan pengguna tertentu. Uji dengan beberapa profil, bukan satu sahaja.
Tetapkan apa yang AI dibenarkan sentuh, dan kunci tindakan berisiko tinggi sehingga manusia meluluskannya.
Tapis data sensitif sebelum ia masuk ke dalam prompt. Wujudkan senarai jelas: apa boleh dipaste, apa tidak.
Pastikan sistem boleh digunakan dalam bahasa dan konteks pengguna sebenar, bukan hanya dalam bahasa pembangun.
Beritahu pengguna bila mereka berinteraksi dengan AI, dan simpan rekod versi model serta arahan yang digunakan.
Namakan seorang manusia sebagai pemilik keputusan bagi setiap aliran kerja AI. "Pasukan" bukan nama.
Tanya sebelum bina: siapa yang benar-benar mendapat manfaat, dan siapa yang menanggung kesan bila ia silap?
Tiga daripada tindakan di atas : kawalan tindakan berisiko, penapisan data sensitif dan pemilik keputusan adalah persis empat disiplin asas yang kami huraikan secara praktikal dalam artikel berasingan.
Kalau kau dalam sektor terkawal
Bagi organisasi dalam sektor seperti kewangan, kesihatan dan perkhidmatan awam, garis panduan kebangsaan datang di atas kewajipan sedia ada, bukan menggantikannya. Dua perkara yang paling kerap terlepas pandang:
Data peribadi
Data pelanggan yang dipaste ke dalam alat AI luar tetap tertakluk kepada kewajipan perlindungan data organisasi kau.
Jejak audit
Pengawal selia biasanya menuntut bukti keputusan : siapa lulus, bila, dan berdasarkan apa. Sesi chat bukan jejak audit.
Shadow AI
Bila tiada alat rasmi yang diluluskan, staf akan guna akaun peribadi. Itu risiko organisasi, bukan salah staf.
Kaitan dengan rujukan antarabangsa
Garis panduan Malaysia berkongsi rangka fikir yang sama dengan dua rujukan antarabangsa yang kerap disebut. NIST AI Risk Management Framework menyusun pengurusan risiko AI melalui fungsi Govern, Map, Measure dan Manage.[2] ISO/IEC 42001 pula menyediakan pendekatan sistem pengurusan untuk membina polisi, proses dan akauntabiliti AI secara berterusan.[3]
Ketiga-tiganya menuju ke arah yang sama: AI perlu diletakkan dalam sistem kawalan, bukan digunakan secara terpencil. Asas konsep ini ada dalam panduan AI governance kami.
Di mana ALESA masuk
Prinsip menjawab "apa yang patut". Lapisan operasi menjawab "macam mana ia dikuatkuasakan setiap hari".
ALESA ialah sistem framework perisian yang dibangunkan oleh pakar pengaturcaraan dan pembangunan sistem, Sir Rosli Abdullah. Ia bukan pengganti kepada polisi organisasi, audit, undang-undang atau pensijilan . Ia lapisan operasi yang membantu pasukan menterjemah prinsip governance kepada tindakan harian: membaca konteks, membuat backup, menyimpan bukti dan mendapatkan kelulusan manusia.
Soalan lazim
Adakah garis panduan MOSTI ini wajib dari segi undang-undang?
Ia rujukan dasar kebangsaan, bukan akta berasingan. Namun kewajipan sedia ada seperti perlindungan data peribadi dan keperluan pengawal selia sektor tetap terpakai. Rujuk penasihat undang-undang untuk keadaan khusus organisasi kau.
Saya syarikat kecil. Perlu ikut juga?
Skala pelaksanaan berbeza, tetapi prinsipnya sama. Untuk pasukan kecil, tiga perkara sudah memberi kesan besar: senarai data yang tidak boleh dipaste, pemilik keputusan yang dinamakan, dan bukti untuk setiap output yang dihantar keluar.
Apa perkara pertama yang patut saya buat?
Tulis satu muka surat: alat AI apa yang diluluskan, data apa yang tidak boleh dimasukkan, dan siapa meluluskan tindakan berisiko. Itu sudah menutup sebahagian besar risiko harian.
Adakah ALESA menjadikan organisasi saya patuh secara automatik?
Tidak. Tiada alat yang boleh menjamin pematuhan dengan sendirinya. ALESA membantu menguatkuasakan disiplin operasi yang menyokong pematuhan; keputusan dan tanggungjawab kekal pada organisasi.
Prinsip di atas kertas. Kawalan di atas meja kerja.
Terjemah tujuh prinsip itu kepada tabiat harian : konteks, bukti, dan kelulusan manusia. Itulah kerja seorang AI Commander.
Rujukan utama
- Kementerian Sains, Teknologi dan Inovasi Malaysia (MOSTI), The National Guidelines on AI Governance & Ethics, 2024.
- National Institute of Standards and Technology (NIST), AI Risk Management Framework.
- International Organization for Standardization (ISO), ISO/IEC 42001:2023 — AI management systems.
- ALESA, ALESA — AI Commander Framework. Maklumat produk hendaklah dibezakan daripada pengesahan pihak ketiga.
Nota: artikel ini ialah ringkasan editorial untuk tujuan pendidikan. Ia bukan nasihat undang-undang atau nasihat pematuhan.