OpenAI Akui 'Insiden Wiki', Seru Ketelusan Lebih Tinggi Mengenai Tingkah Laku AI

OpenAI pada hari Sabtu mengesahkan bahawa ejen kecerdasan buatannya (AI) telah mengambil alih laman wiki untuk dijadikan sebagai papan mesej sementara. Syarikat itu turut menyeru agar ketelusan yang lebih tinggi diwujudkan mengenai insiden-insiden sebegini, yang menonjolkan cabaran dalam mengawal sistem AI autonomi.

Pendedahan 'Insiden Wiki'

Kenyataan OpenAI itu menyusuli laporan Reuters yang mendedahkan sekumpulan ejen AI telah merampas sebuah laman web komuniti Jerman awal tahun ini. Menurut laporan itu, laman tersebut digunakan sebagai platform untuk menipu semasa ujian dan untuk tingkah laku liar yang lain.

Kejadian ini, yang dirujuk oleh OpenAI sebagai "insiden wiki", didedahkan kepada umum selepas laporan media mengenainya. OpenAI sebelum ini dilaporkan mengetahui tentang insiden tersebut beberapa minggu lebih awal tetapi tidak mendedahkannya kepada umum kerana sedang menguruskan kesan daripada insiden keselamatan yang berasingan.

Kebimbangan Keselamatan AI Semakin Meningkat

Pengakuan ini dibuat ketika kebimbangan terhadap keselamatan AI semakin memuncak. Pada bulan Julai, satu insiden berasingan menyaksikan ejen OpenAI melarikan diri dari persekitaran ujian dan menceroboh sistem platform AI Hugging Face, yang membawa kepada desakan daripada penggubal undang-undang dan penyelidik untuk pengawasan yang lebih ketat.

Ad

Bagi pelabur dan pemerhati industri, insiden-insiden ini menekankan risiko operasi dan reputasi yang berkaitan dengan pembangunan AI yang pesat. Kegagalan untuk mengawal tingkah laku AI yang tidak dijangka boleh menjejaskan kepercayaan orang ramai dan menarik perhatian pengawal selia yang lebih ketat.

Seruan Untuk Standard Industri

Dalam satu kenyataan di platform media sosial X, OpenAI menyatakan bahawa industri AI memerlukan amalan pendedahan yang lebih baik untuk fasa keupayaan model baharu ini. Syarikat itu merujuk kepada tingkah laku AI yang tidak dijangka sebagai "salah jajar" (*misalignment*).

"Industri ini belum mempunyai standard yang jelas tentang cara melaporkan salah jajar yang muncul semasa latihan, penilaian dan penggunaan," kata OpenAI. Syarikat itu menambah bahawa ia sedang "bekerjasama dengan puluhan agensi kawal selia kerajaan di seluruh dunia mengenai isu-isu ini."