Kawalan Dalaman Era AI: 3 Reka Bentuk yang Perlu Dilaksanakan oleh PKS Sekarang

Persoalan Baharu yang Dibawa oleh Perluasan Penggunaan AI kepada Kawalan Dalaman

Kini, apabila penggunaan AI generatif dalam operasi perniagaan menjadi semakin biasa, saya semakin kerap menerima soalan daripada pemilik PKS: "Kalau guna AI, macam mana pula dengan kawalan dalaman?" Sebenarnya, soalan ini menepati inti pati isu. Ini kerana AI berbeza daripada sistem IT tradisional — ia menceburi domain "penilaian" yang sebelum ini milik manusia.

Dalam laporan EY yang bertajuk "Pertimbangan Baharu untuk Kawalan Dalaman IT Seiring Perluasan Penggunaan AI", pelbagai isu spesifik mengenai kawalan dalaman era AI telah disusun. Kali ini, saya ingin menggunakan laporan ini sebagai titik permulaan untuk memikirkan inti pati "kawalan dalaman era AI" yang perlu difahami oleh pemilik PKS.

Bermula daripada Andaian "AI ialah Kotak Hitam"

Dalam laporan EY, antara isu kawalan dalaman berkaitan penggunaan AI yang diketengahkan ialah memastikan "kebolehjelasan" dan "kebolehauditan". Perkara yang paling penting ialah memastikan data yang digunakan oleh AI dan logik yang digunakan untuk membuat keputusan boleh disemak semula pada masa hadapan.

Di sinilah saya ingin pemilik PKS berfikir: apabila memperkenalkan AI, di manakah garis pemisah antara "apa yang boleh dibiarkan sebagai kotak hitam" dan "apa yang perlu divisualisasikan"? Menvisualisasikan segala-galanya dengan sempurna seperti syarikat besar bukanlah sesuatu yang realistik. Namun, jika kawasan yang berakhir dengan sekadar "sebab AI yang buat keputusan" terlalu meluas, ia akan menjadi risiko besar pada masa hadapan.

"3 Garis Visualisasi" yang Perlu Diputuskan oleh Pemilik Perniagaan

Secara khusus, saya cadangkan tiga perkara berikut dimasukkan ke dalam skop visualisasi:

1. Pengurusan Data Input
Data apa yang dimasukkan ke dalam AI? Adakah ia mengandungi maklumat peribadi atau maklumat sulit? Ini adalah titik semakan yang paling asas.

2. Rekod Proses Penilaian
Melalui proses bagaimana AI mencapai kesimpulannya? Adakah reka bentuknya meninggalkan jejak log? Ini wajib terutamanya jika AI digunakan dalam urusan berkaitan khidmat pelanggan atau kontrak.

3. Titik Pengesahan Akhir oleh Manusia
Di bahagian mana manusia perlu menyemak keputusan AI dan bukannya menerima bulat-bulat? Jika ini tidak diperjelaskan, operasi perniagaan yang "tidak bertanggungjawab" dengan menyerahkan segala-galanya kepada AI akan bermula.

Bukan "Pekerjaan Dirampas AI" tetapi "Kualiti Kerja Berubah dengan AI"

Di peringkat operasi PKS, wujud campuran antara harapan bahawa "dengan memperkenalkan AI, kerja akan menjadi lebih mudah" dan kebimbangan bahawa "pekerjaan akan dirampas oleh AI". Namun, dari perspektif pemilik perniagaan, yang lebih penting bukanlah kedua-duanya, tetapi "bagaimana kualiti kerja akan berubah dengan AI".

Contohnya, mari kita fikirkan kes memperkenalkan AI dalam kerja perakaunan. Sebelum ini, ketepatan catatan jurnal amat dititikberatkan, tetapi selepas pengenalan AI, satu kerja baharu akan lahir, iaitu memantau "sama ada AI membuat catatan jurnal dengan betul". Ini bukan sekadar penggantian tugas, tetapi perubahan struktur kerja.

Seperti yang dinyatakan dalam laporan EY, dalam kawalan dalaman era AI, tumpuan beralih daripada "pengurusan AI itu sendiri" kepada "pengurusan proses yang menggunakan AI". Pemilik PKS perlu memahami perubahan struktur ini dan mereka bentuk semula proses perniagaan dalaman syarikat.

3 Tindakan yang Boleh Dilaksanakan oleh PKS "Sekarang Juga"

Seterusnya, berdasarkan kandungan laporan EY, saya akan memperkenalkan 3 tindakan konkrit yang boleh dilaksanakan oleh pemilik PKS mulai hari ini.

Tindakan 1: Buat Inventori Penggunaan AI

Pertama sekali, kenal pasti "dalam urusan mana AI digunakan" dalam syarikat anda. Ini termasuk kes di mana pekerja menggunakan ChatGPT secara peribadi. Perbincangan mengenai kawalan dalaman tidak boleh bermula tanpa inventori ini. Anda mungkin terkejut betapa ramai pekerja menggunakan alat AI untuk urusan kerja tanpa kebenaran.

Tindakan 2: Wujudkan "Dasar Penggunaan AI" dalam Satu Halaman Sahaja

Dasar yang tebal seperti syarikat besar tidak diperlukan. Hanya satu helaian kertas A4 yang menyenaraikan "apa yang boleh dimasukkan", "apa yang tidak boleh dimasukkan", dan "urusan yang boleh menggunakan keputusan AI secara terus vs. urusan yang mesti disemak oleh manusia". Satu helaian ini akan menjadi asas kawalan dalaman era AI.

Tindakan 3: Jadikan Audit AI Tahunan sebagai Amalan

Corak penggunaan AI berubah setiap hari. Walaupun hanya sekali setahun, jadikan amalan untuk menjalankan kitaran "inventori penggunaan AI → semakan semula dasar → latihan pekerja". Syarikat yang menjalankan kitaran ini akan berada satu langkah ke hadapan dalam aspek tadbir urus AI.

Kawalan Dalaman Era AI Bukan Soal "Teknologi" tetapi "Falsafah Reka Bentuk"

Akhir sekali, ada satu perkara yang ingin saya sampaikan kepada para pemilik perniagaan. Perkara yang sebenarnya diuji dalam kawalan dalaman era AI bukanlah butiran teknikal, tetapi falsafah reka bentuk iaitu "bagaimana kita meletakkan kedudukan AI".

Jika AI hanya dianggap sebagai "alat yang memudahkan", kawalan dalaman akan ditangguhkan. Sebaliknya, jika AI dianggap sebagai "entiti penilaian baharu", maka akan lahir perspektif tentang bagaimana menguruskan penilaian tersebut. Seperti yang ditunjukkan oleh laporan EY, kawalan dalaman era AI menuntut peralihan paradigma daripada "menguruskan teknologi" kepada "menguruskan penilaian".

Kekuatan PKS terletak pada organisasi yang kecil dan kepantasan membuat keputusan. Manfaatkan kekuatan ini untuk mereka bentuk "kawalan dalaman era AI" dengan lebih tangkas daripada syarikat besar. Tidak perlu menyasarkan kesempurnaan dari awal. Yang penting ialah mengumpul langkah-langkah kecil yang boleh dimulakan hari ini, secara konsisten dan pasti.

※Artikel ini adalah analisis dan penjelasan unik dari perspektif pemilik PKS, berdasarkan laporan EY yang diterbitkan bertajuk "Pertimbangan Baharu untuk Kawalan Dalaman IT Seiring Perluasan Penggunaan AI".