Apa itu AI governance dalam bahasa mudah?
AI governance, atau tadbir urus AI, ialah gabungan peraturan, peranan, semakan dan bukti yang menentukan bagaimana AI boleh digunakan. Ia bukan sekadar dokumen polisi. Governance yang berfungsi mesti boleh menjawab: siapa memberi arahan, apa yang AI dibenarkan ubah, bagaimana risiko dinilai, dan siapa meluluskan keputusan akhir.
Siapa mengarah?
Manusia menetapkan objektif, sempadan kerja dan tahap risiko.
Apa AI boleh sentuh?
Data, fail, sistem dan tindakan dikawal mengikut polisi.
Apa bukti "siap"?
Ujian, log, backup dan laluan rollback disahkan sebelum digunakan.
"AI governance bukan brek yang melambatkan inovasi. Ia safety belt yang membolehkan kita bergerak laju tanpa menyerahkan keselamatan kepada nasib."
Garis Panduan Kebangsaan Tadbir Urus dan Etika AI Malaysia meletakkan kebolehpercayaan, keselamatan dan kawalan, privasi, ketelusan serta akauntabiliti sebagai prinsip penting. Dokumen itu juga menyebut mekanisme seperti human-in-the-loop untuk memastikan autonomi manusia tidak diketepikan.[1]
Kenapa programmer perlukan "safety belt" bila coding dengan AI?
Generative AI boleh menghasilkan kod dalam beberapa saat, tetapi kelajuan itu tidak sama dengan kefahaman. Model mungkin hanya melihat sebahagian fail, tersalah anggap struktur pangkalan data, menggunakan konfigurasi yang tidak selamat, atau melaporkan tugas selesai tanpa bukti ujian.
AI faham prompt semasa, tetapi tidak semestinya memahami sejarah dan keputusan seni bina projek.
Satu pembetulan boleh mencipta regression pada modul lain yang tidak diperiksa.
Jawapan yakin tidak membuktikan ujian sebenar telah dijalankan.
Perubahan, data atau arahan berisiko boleh berlaku tanpa backup dan kelulusan manusia.
Masalah sebenar bukan AI terlalu hebat. Masalahnya ialah AI diberi kuasa sebelum sistem kawalan disediakan.
NIST AI Risk Management Framework mengatur pengurusan risiko AI melalui fungsi Govern, Map, Measure dan Manage. ISO/IEC 42001 pula menyediakan pendekatan sistem pengurusan untuk membina polisi, proses dan akauntabiliti AI secara berterusan.[2][3]
ALESA: framework perisian untuk AI yang perlu bekerja ikut cara kita
ALESA dibangunkan untuk menukar penggunaan AI daripada "main prompt" kepada aliran kerja kejuruteraan yang terkawal.
ALESA ialah sistem framework perisian yang dibangunkan oleh pakar pengaturcaraan dan pembangunan sistem, Sir Rosli Abdullah. Fokusnya bukan untuk menggantikan programmer, tetapi untuk memastikan AI memahami konteks, mematuhi peraturan projek dan menghasilkan bukti sebelum sesuatu tugas dianggap selesai.
Dalam pendekatan ALESA, programmer kekal sebagai pihak yang bertanggungjawab. AI menjalankan arahan dalam sempadan yang ditentukan, manakala keputusan berisiko memerlukan kelulusan manusia. Prinsipnya mudah:
AI assists. Humans decide.
AI membantu. Manusia menentukan.Dua fungsi teras ALESA: AI Commander dan AI Governance
Untuk programmer yang menggunakan AI, kedua-dua lapisan ini bukan aksesori. Dalam aliran kerja ALESA, ia menjadi disiplin wajib supaya kelajuan AI tidak memintas kawalan projek.
AI Commander
Manusia menetapkan tujuan, konteks, polisi, had tindakan dan tahap kelulusan.
- Memberi objektif yang jelas
- Menentukan fail dan sistem yang dibenarkan
- Menilai bukti dan risiko
- Meluluskan tindakan sensitif
AI Governance — "Safety Belt"
Guardrail menguatkuasakan semakan sebelum AI menyentuh bahagian kritikal.
- Read before write
- Backup before edit
- Verify before done
- Human approval for high risk
AI + programmer vs programmer konvensional
Perbandingan sebenar bukan "AI lawan manusia". Ia ialah programmer yang mempunyai leverage AI dan governance berbanding programmer yang melakukan semua kerja secara manual , atau programmer yang menggunakan AI tanpa kawalan.
Programmer konvensional
Manual-first workflow
- Banyak masa digunakan untuk kerja rutin dan berulang
- Dokumentasi dan ujian mudah tertangguh apabila mengejar deadline
- Kelajuan bergantung sepenuhnya pada kapasiti manusia
- Sukar menskalakan output tanpa menambah tenaga kerja
AI + programmer + ALESA
Governed AI-assisted workflow
- AI mempercepat kerja rutin, carian kod, draf dan ujian
- Programmer fokus pada seni bina, logik dan keputusan penting
- Guardrail, backup dan bukti mengurangkan kepercayaan buta
- Manusia kekal mengawal production dan tindakan berisiko
Ini bukan janji bahawa AI tidak akan silap. Nilai governance ialah kesilapan lebih cepat dikesan, perubahan boleh dijejak, dan pasukan mempunyai laluan untuk membatalkan tindakan sebelum kerosakan menjadi lebih besar.
Diuji dalam konteks kerja programmer sebenar
SIRIM Berhad · ibu pejabat
Menurut maklumat yang dibekalkan oleh ALESA AiLabs, sistem ALESA telah diuji dan digunakan oleh sekumpulan programmer SIRIM Berhad di ibu pejabat mereka. Konteks ini memberi pendedahan terus kepada keperluan pasukan teknikal sebenar: arahan yang konsisten, kawalan perubahan, bukti kerja dan tanggungjawab manusia.
Bahagian ini penting untuk kredibiliti jurnal: penggunaan oleh organisasi tidak sama dengan pensijilan organisasi tersebut. Apabila bukti awam tersedia, tambah tarikh, bentuk sesi, skop penggunaan, gambar yang dibenarkan atau petikan peserta yang telah diluluskan.
Bagaimana ALESA berkait dengan AI governance di Malaysia?
Malaysia telah menerbitkan Garis Panduan Kebangsaan Tadbir Urus dan Etika AI. Tujuh prinsip yang diketengahkan termasuk fairness, reliability/safety/control, privacy/security, inclusiveness, transparency, accountability, serta pursuit of human benefit and happiness.[1]
ALESA bukan pengganti kepada polisi organisasi, audit, undang-undang atau pensijilan. Ia lebih tepat dilihat sebagai lapisan operasi yang membantu programmer menterjemah prinsip governance kepada tindakan harian: membaca konteks, membuat backup, menguji, menyimpan bukti dan mendapatkan kelulusan manusia.
Soalan lazim
Apa maksud AI governance untuk programmer?
Ia ialah aturan yang menentukan bagaimana AI menerima arahan, fail apa yang boleh disentuh, semakan apa yang wajib dibuat, bukti apa yang perlu disimpan dan siapa yang meluluskan tindakan berisiko.
Adakah ALESA menggantikan programmer?
Tidak. ALESA meletakkan programmer sebagai AI Commander. AI membantu pelaksanaan, tetapi manusia menetapkan konteks, menilai risiko dan membuat keputusan akhir.
Apa beza AI Commander dengan prompt engineer?
Prompt engineer memberi arahan yang lebih baik. AI Commander merangkumi skop lebih luas: objektif, sempadan, risk tier, bukti, rollback dan kelulusan tindakan.
Adakah penggunaan oleh programmer SIRIM bermaksud ALESA disahkan SIRIM?
Tidak semestinya. Penggunaan atau sesi ujian tidak sama dengan pensijilan atau endorsement rasmi. Sebarang dakwaan pengesahan perlu disokong dokumen rasmi.
Adakah AI governance melambatkan pembangunan?
Ia menambah beberapa semakan pada titik berisiko, tetapi mengurangkan masa yang hilang akibat rework, regression, kehilangan data dan deployment tanpa bukti.
Baca seterusnya
Lima artikel sokongan yang memecahkan setiap bahagian panduan ini kepada amalan harian.
AI Commander vs Prompt Engineer
Beza antara memperbaiki ayat prompt dan mengarah AI dengan risiko serta kelulusan.
8 minit bacaan · Baca → Risiko7 Risiko Vibe Coding
Kenapa app yang jadi masa demo boleh pecah masa production , dan penawarnya.
9 minit bacaan · Baca → GovernanceRead, Backup, Verify, Approve
Empat disiplin asas ALESA dipecahkan satu per satu untuk kerja harian.
9 minit bacaan · Baca → MalaysiaGaris Panduan MOSTI
Tujuh prinsip AI bertanggungjawab negara, diterjemah kepada tindakan harian.
8 minit bacaan · Baca → AccountabilityBila AI Silap, Nama KAU yang Kena
False completion, jejak bukti, dan kenapa "AI yang buat" bukan alasan.
8 minit bacaan · Baca →Jangan pilih antara AI atau programmer.
Pilih programmer yang tahu mengarah AI , dengan konteks, guardrail dan bukti. Itulah peralihan daripada sekadar menggunakan AI kepada menjadi AI Commander.
Rujukan utama
- Kementerian Sains, Teknologi dan Inovasi Malaysia (MOSTI), The National Guidelines on AI Governance & Ethics, 2024.
- National Institute of Standards and Technology (NIST), AI Risk Management Framework.
- International Organization for Standardization (ISO), ISO/IEC 42001:2023 — AI management systems.
- ALESA, ALESA NOVA — governed AI engineering workflow. Maklumat produk hendaklah dibezakan daripada pengesahan pihak ketiga.