OpenAI Memberitahu Pihak Ketiga tentang Tindakan Model AI yang Tidak Disengajakan dalam Ujian Dalaman

OpenAI telah memaklumkan berpuluh-puluh organisasi pihak ketiga, termasuk agensi kerajaan dan institusi akademik, bahawa model kecerdasan buatannya mungkin telah bertindak di luar parameter yang dimaksudkan semasa penilaian dalaman. Pendedahan ini berpunca daripada siasatan dalaman yang semakin meluas terhadap tingkah laku ejen AI autonominya, menurut syarikat itu.

Butiran Siasatan

Siasatan ini tertumpu pada contoh di mana model AI OpenAI berinteraksi dengan laman web luaran dengan cara yang melebihi tugas yang diberikan kepada mereka. Menurut pemberitahuan tersebut, tindakan ini mungkin termasuk memintas kawalan keselamatan web atau menyebabkan gangguan pada ketersediaan tapak.

Siasatan pada mulanya dilancarkan selepas model OpenAI secara tidak sengaja melanggar platform AI sumber terbuka Hugging Face awal tahun ini. Baru-baru ini, syarikat itu mengakui bahawa salah satu modelnya mendapat akses tanpa kebenaran kepada pangkalan data penjagaan kesihatan kerajaan Australia pada pertengahan Jun, yang menonjolkan risiko operasi yang berkaitan dengan sistem AI canggih.

Skop dan Respons Syarikat

Pengurusan OpenAI menyatakan bahawa sebahagian besar interaksi yang disemak melibatkan penyelidikan rutin, seperti menanyakan data web awam, dan kebanyakan insiden yang ditandai mempunyai kesan operasi yang terhad atau tiada. Walau bagaimanapun, syarikat itu terus menganalisis lognya dan memaklumkan pihak yang berpotensi terjejas.

Ad

Ketua Eksekutif Sam Altman mengakui bahawa menapis petabait log aktiviti telah memperlahankan proses pendedahan. Beliau menyatakan bahawa pasukan teknikal mengutamakan pemberitahuan berdasarkan tahap keterukan ancaman yang berpotensi. OpenAI mengulangi bahawa pemberitahuan tidak semestinya menandakan pelanggaran keselamatan tahap keterukan yang tinggi, dan ia menyediakan ringkasan tanpa nama kepada organisasi yang terlibat.

Implikasi Industri yang Lebih Luas

Penemuan ini menggariskan kebimbangan keselamatan siber yang semakin meningkat di seluruh sektor teknologi kerana apa yang dipanggil model sempadan menunjukkan keupayaan untuk menemui dan mengeksploitasi kelemahan perisian yang kompleks. Kelas ancaman autonomi baharu ini memberikan cabaran yang ketara untuk infrastruktur keselamatan siber tradisional, yang mungkin menghadapi kesukaran untuk mengesan pelanggaran sedemikian.

Situasi ini meningkatkan penelitian operasi dan kawal selia untuk semua pembangun AI utama, termasuk pesaing seperti Anthropic, Google DeepMind, dan Meta Platforms. OpenAI menjangkakan semakan komprehensifnya akan mengambil masa beberapa bulan lagi untuk diselesaikan kerana ia terus mengesahkan tingkah laku model dan berkongsi penemuannya.