Satu realiti yang tidak berubah walau AI berapa canggih
Tanggungjawab tidak boleh dipindahkan kepada alat. Sama seperti seorang akauntan tidak boleh menyalahkan spreadsheet, atau seorang jurutera tidak boleh menyalahkan kalkulator, seseorang yang menghantar hasil kerja AI tetap memikul tanggungjawab ke atas hasil itu. Perbezaannya sekarang ialah kelajuan : AI boleh menghasilkan enam ratus baris kod atau lima muka surat laporan lebih cepat daripada kau boleh membacanya.
Di situlah jurangnya: kelajuan penghasilan meningkat berkali ganda, tetapi kelajuan semakan manusia kekal sama. Kalau tiada apa-apa yang menutup jurang itu, yang berlaku bukan produktiviti . Ia risiko yang terkumpul senyap.
Prinsip akauntabiliti ini bukan pandangan peribadi. Ia salah satu daripada tujuh prinsip dalam Garis Panduan Kebangsaan Tadbir Urus dan Etika AI Malaysia, bersama mekanisme human-in-the-loop untuk memastikan autonomi manusia kekal.[1] Ringkasan penuh tujuh prinsip itu ada dalam artikel garis panduan MOSTI.
False completion: bila "siap" bukan bermakna siap
False completion ialah keadaan bila AI melaporkan sesuatu tugas telah selesai, tanpa bukti bahawa ia benar-benar dijalankan dan berjaya. Ia berbahaya bukan kerana AI berbohong, tetapi kerana laporannya kedengaran yakin , dan keyakinan mudah disalah anggap sebagai pengesahan.
Tanpa output ujian yang boleh dilihat, ini kenyataan , bukan bukti.
Dikemas kini di mana? Berapa rekod? Bandingkan dengan kiraan sebelum dan selepas.
Dibaiki bermakna gejala asal tidak lagi berlaku bila diuji semula, bukan sekadar kod telah diubah.
Disemak oleh siapa, terhadap sumber apa? Semakan tanpa sumber rujukan bukan semakan.
"Keyakinan bukan bukti. Kalau tiada apa-apa yang boleh ditunjukkan kepada orang lain, statusnya bukan siap . Ia belum disahkan."
Kau tandatangan sekali dengan AI
Ada satu cara berfikir yang berguna: setiap kali kau menerima output AI dan menghantarnya ke depan, kau menandatangani bersama hasil itu. Enam ratus baris kod yang kau tak baca tetap menjadi enam ratus baris kod yang membawa nama kau pada commit. Laporan yang kau tak semak tetap menjadi laporan yang keluar atas nama jabatan kau.
Ini bukan alasan untuk berhenti menggunakan AI. Ia alasan untuk mengubah apa yang kau terima sebagai "selesai". Perubahan yang paling murah dan paling berkesan ialah menuntut bukti , sesuatu yang boleh diperiksa oleh orang ketiga, bukan sekadar diperakui oleh AI sendiri.
Jurang yang jarang ditanya: apa standard kualiti untuk keputusan AI?
Kebanyakan pasukan sudah ada standard untuk kerja manusia : code review, semakan penyelia, checklist sebelum hantar. Tetapi bila kerja itu dihasilkan oleh AI, standard yang sama selalunya tidak dipakai, semata-mata kerana ia datang lebih cepat.
Kerja manusia
Standard yang sudah wujud
- Ada semakan rakan sebaya sebelum digabungkan
- Ada penyelia yang meluluskan
- Ada rekod siapa buat dan bila
- Ada jangkaan bukti sebelum dianggap selesai
Kerja AI tanpa governance
Jurang yang perlu ditutup
- Output diterima kerana ia kelihatan kemas
- Tiada penyelia khusus untuk keputusan AI
- Rekod hanya wujud dalam sesi chat yang hilang
- "Siap" ditentukan oleh AI, bukan oleh bukti
Menutup jurang ini tidak memerlukan sistem yang rumit. Ia memerlukan satu keputusan: output AI tertakluk kepada standard yang sama dengan output manusia , atau lebih ketat, kerana ia dihasilkan lebih laju.
Empat cara melindungi diri kau bermula hari ini
Jejak yang berguna
Tarikh, versi model, arahan asal, bukti ujian dan nama pelulus. Cukup untuk menjawab audit enam bulan kemudian.
Jejak yang tidak berguna
Sesi chat yang tidak disimpan, tangkapan skrin tanpa tarikh, atau ingatan "rasanya kita dah semak".
Kesan sebenar
Bila insiden berlaku, jejak inilah yang membezakan antara "kecuaian" dan "proses yang diikuti".
Empat langkah ini adalah versi ringkas empat disiplin asas yang kami huraikan sepenuhnya dalam artikel berasingan.
Di mana ALESA masuk
Akauntabiliti yang bergantung pada niat baik akan gagal. Ia perlu jejak yang wujud secara automatik.
ALESA ialah sistem framework perisian yang dibangunkan oleh pakar pengaturcaraan dan pembangunan sistem, Sir Rosli Abdullah. Ia menguatkuasakan bukti dan kelulusan sebagai sebahagian daripada aliran kerja : konteks dibaca, backup diwujudkan, ujian direkod, dan tindakan berisiko dikunci sehingga seorang manusia meluluskannya. Prinsipnya kekal mudah:
AI assists. Humans decide.
AI membantu. Manusia menentukan.Kalau kau baru mula, mulakan dengan panduan AI governance untuk faham asasnya, kemudian lihat beza AI Commander dengan prompt engineer untuk faham peranan yang kau perlu ambil.
Soalan lazim
Kalau saya ikut cadangan AI dan ia salah, siapa tanggung?
Dari segi operasi dan reputasi, tanggungjawab kekal pada manusia dan organisasi yang menghantar hasil itu. Itulah sebabnya bukti dan kelulusan perlu wujud sebelum output dihantar, bukan selepas insiden.
Apa itu false completion dalam satu ayat?
Laporan "sudah siap" daripada AI tanpa bukti bahawa kerja itu benar-benar dijalankan dan berjaya.
Saya kerja solo. Perlu ke semua jejak ni?
Versi ringkasnya sudah memadai: simpan arahan asal, bukti ujian dan tarikh. Bila klien bertanya enam bulan kemudian, kau ada jawapan , bukan ingatan.
Bukankah ini menakutkan orang daripada guna AI?
Tujuannya sebaliknya. Bila jejak dan kelulusan wujud, kau boleh menggunakan AI dengan lebih agresif , kerana kesilapan dapat dikesan awal dan boleh dibatalkan.
AI boleh buat kerja. Ia tak boleh tanggung akibat.
Pastikan setiap output yang membawa nama kau ada bukti di belakangnya. Itulah maksud sebenar menjadi AI Commander.
Rujukan utama
- Kementerian Sains, Teknologi dan Inovasi Malaysia (MOSTI), The National Guidelines on AI Governance & Ethics, 2024.
- National Institute of Standards and Technology (NIST), AI Risk Management Framework.
- International Organization for Standardization (ISO), ISO/IEC 42001:2023 — AI management systems.
- ALESA, ALESA — AI Commander Framework. Maklumat produk hendaklah dibezakan daripada pengesahan pihak ketiga.