Kenapa empat sahaja, bukan empat puluh
Kebanyakan dokumen governance gagal bukan kerana kandungannya salah, tetapi kerana ia terlalu panjang untuk diingat pada saat keputusan dibuat. Empat disiplin ini dipilih kerana ia menutup empat titik kegagalan yang paling kerap berlaku dalam kerja harian dengan AI: tidak faham konteks, tiada jalan kembali, tiada bukti, dan tiada tanda tangan.
01 · Read before write — faham dahulu, baru ubah
AI tidak boleh menghormati keputusan yang ia tidak pernah lihat. Sebelum sebarang perubahan ditulis, konteks yang berkaitan perlu dibaca: fail berkaitan, struktur data, log ralat sebenar, dan sebab di sebalik kod sedia ada.
Baca apa
Fail yang akan disentuh, fail yang memanggilnya, skema data dan konfigurasi berkaitan.
Tanya apa
"Apa yang bergantung pada bahagian ini?" sebelum "macam mana nak ubah bahagian ini?"
Elak apa
Terus menampal kod baharu atas kod yang tidak pernah dibaca oleh sesiapa dalam sesi itu.
Petunjuk mudah: kalau AI tak boleh terangkan apa yang kod sedia ada buat, ia belum layak mengubahnya.
02 · Backup before edit — pastikan ada jalan balik
Backup bukan tentang tidak percaya AI. Ia tentang memastikan kesilapan daripada mana-mana pihak boleh dibatalkan tanpa kehilangan kerja atau data.
Kalau kau tak pernah cuba pulihkan daripadanya, kau hanya ada fail , bukan jaminan.
Perubahan kecil yang berasingan jauh lebih mudah dibatalkan berbanding satu commit gergasi.
Kod boleh ditulis semula. Rekod pelanggan yang terpadam selalunya tidak.
Backup yang dibuat selepas masalah berlaku hanya menyimpan keadaan yang sudah rosak.
03 · Verify before done — "siap" mesti ada bukti
Ini disiplin yang paling kerap dilangkau, dan paling mahal bila dilangkau. Laporan "sudah siap" tanpa bukti dipanggil false completion, di mana AI melaporkan kejayaan berdasarkan apa yang sepatutnya berlaku, bukan apa yang benar-benar berlaku.
"Keyakinan bukan bukti. Kalau tiada ujian yang lulus, tiada log, tiada screenshot, statusnya bukan siap, ia belum disahkan."
Bentuk bukti yang boleh diterima berbeza ikut jenis kerja: output ujian automatik, log sebelum dan selepas, screenshot skrin sebenar, atau nombor yang boleh dibandingkan dengan sumber asal. Yang penting ialah bukti itu boleh diperiksa oleh orang lain, bukan hanya diperakui oleh AI sendiri.
04 · Human approval — untuk tindakan berisiko tinggi
Tidak semua tindakan perlukan kelulusan. Membaca fail, membuat draf dan menjalankan ujian dalam persekitaran ujian boleh berjalan bebas. Yang perlu ditahan ialah tindakan yang sukar dibatalkan.
Risiko rendah — biar berjalan
Boleh dibatalkan dengan mudah
- Membaca kod, log dan dokumentasi
- Menulis draf dalam branch berasingan
- Menjalankan ujian dalam persekitaran ujian
- Menjana cadangan dan ringkasan
Risiko tinggi — tahan dan luluskan
Sukar atau mustahil dibatalkan
- Perubahan struktur pangkalan data production
- Memadam data, fail atau rekod sebenar
- Menukar kebenaran akses, kunci atau konfigurasi keselamatan
- Deploy ke pengguna sebenar dan menghantar komunikasi keluar
Pendekatan human-in-the-loop ini selari dengan Garis Panduan Kebangsaan Tadbir Urus dan Etika AI Malaysia, yang menekankan kebolehpercayaan, keselamatan dan kawalan serta akauntabiliti manusia dalam penggunaan AI.[1] Latar belakang penuhnya ada dalam panduan AI governance kami.
Disiplin yang bergantung pada ingatan akan gagal pada hari kau paling sibuk.
ALESA ialah sistem framework perisian yang dibangunkan oleh pakar pengaturcaraan dan pembangunan sistem, Sir Rosli Abdullah. Empat disiplin di atas dijadikan sebahagian daripada aliran kerja yang dikuatkuasakan : konteks dibaca, backup diwujudkan, bukti dituntut, dan tindakan berisiko dikunci sehingga manusia meluluskannya.
Cara guna dalam kerja harian
Kau boleh mula hari ini tanpa menukar apa-apa tool. Jadikan empat soalan ini sebagai pintu sebelum setiap tugas dihantar:
Dah baca?
Apa yang bergantung pada bahagian yang akan diubah ini?
Dah backup?
Kalau ini pecah dalam lima minit, macam mana aku kembali?
Mana bukti?
Apa yang boleh aku tunjuk kepada orang lain bahawa ini benar-benar jalan?
Soalan keempat pula ialah yang paling ringkas: siapa yang tanggung kalau ini salah? Kalau jawapannya "aku", maka kau juga yang patut menekan butang lulus. Kami huraikan aspek tanggungjawab ini dalam artikel Bila AI Silap, Nama KAU yang Kena.
Soalan lazim
Empat disiplin ni untuk programmer sahaja?
Tidak. Ia terpakai untuk sesiapa yang menggunakan AI pada kerja sebenar. Untuk pasukan bukan teknikal, "backup" bermaksud salinan dokumen dan data, dan "verify" bermaksud menyemak nombor dengan sumber asal.
Apa itu false completion?
Keadaan bila AI melaporkan sesuatu tugas telah siap tanpa bukti bahawa ia benar-benar diuji dan berjaya. Ia berbahaya kerana laporan itu kedengaran yakin dan mudah dipercayai.
Bagaimana tentukan sesuatu itu risiko tinggi?
Tanya satu soalan: kalau ini salah, boleh dibatalkan dalam beberapa minit tanpa kehilangan data atau kepercayaan? Kalau jawapannya tidak, ia risiko tinggi.
Boleh saya guna disiplin ini tanpa ALESA?
Boleh, dan kami galakkan. Bezanya ialah tanpa sistem yang menguatkuasakan, disiplin bergantung pada ingatan , dan ingatan paling mudah gagal pada hari yang paling sibuk.
Empat ayat. Satu tabiat. Beza besar.
Baca dahulu, backup dahulu, tuntut bukti, dan pegang keputusan akhir. Itulah kerja seorang AI Commander.
Rujukan utama
- Kementerian Sains, Teknologi dan Inovasi Malaysia (MOSTI), The National Guidelines on AI Governance & Ethics, 2024.
- National Institute of Standards and Technology (NIST), AI Risk Management Framework.
- International Organization for Standardization (ISO), ISO/IEC 42001:2023 — AI management systems.
- ALESA, ALESA — AI Commander Framework. Maklumat produk hendaklah dibezakan daripada pengesahan pihak ketiga.