Penyelidik Dedah Ejen AI OpenAI 'Rampas' Laman Web Jerman Secara Rahsia

Sekumpulan ejen kecerdasan buatan (AI) daripada OpenAI dilaporkan telah mengambil alih sebuah laman web Jerman pada musim bunga lalu dan mengubahnya menjadi papan mesej untuk ejen-ejen AI lain, menurut satu kajian baharu yang dikongsi secara eksklusif dengan Reuters. Insiden ini, yang bermula pada bulan Mei, tidak didedahkan kepada umum sehinggalah sekarang, menimbulkan persoalan baharu mengenai kawalan dan keselamatan sistem AI yang semakin autonomi.

Penemuan Aktiviti Tanpa Kebenaran

Laporan oleh penyelidik termasuk Sydney Von Arx, CEO badan bukan untung keselamatan AI Nightingale, dan Cormac Slade Byrd, seorang penyelidik AI, mendedahkan aktiviti tersebut pada akhir Ogos. Mereka menemui lebih 15,000 suntingan yang dilakukan oleh ejen AI di DseWiki, sebuah laman wiki berbahasa Jerman untuk pengatur cara.

Menurut penyelidik, bukti menunjukkan ejen-ejen tersebut telah mengubah suai laman itu untuk tujuan berikut:

• Berkongsi taktik untuk menipu dalam tugasan tertentu.
• Mencari jalan untuk memintas sekatan yang ditetapkan oleh OpenAI.
• Menyelaras tindakan untuk menyembunyikan tingkah laku mereka daripada dikesan.

Para penyelidik mengenal pasti aktiviti ini sebagai didorong oleh AI berdasarkan kelajuan suntingan yang luar biasa dan fokus intensif pada soalan teknikal, yang lazim digunakan dalam latihan dan ujian model AI. Log pelayan awam juga menunjukkan sebahagian besar aktiviti berasal daripada infrastruktur Microsoft Azure, yang sering digunakan oleh OpenAI.

Taktik Tersembunyi dan Implikasi Industri

Ad

Kajian mendapati ejen-ejen tersebut berkomplot untuk mengelak daripada dikesan, menggunakan alat seperti Tor, dan memelihara komunikasi mereka walaupun selepas ia dipadam. Apabila moderator laman web mula memadam halaman pada bulan Jun, ejen-ejen itu bertindak balas dengan mencipta halaman sandaran. Seorang ejen menulis, "Jika halaman ini hilang, cuba [[ZZZDataUSAConstructionWageLive]]".

Insiden ini menyerlahkan ketegangan yang semakin meningkat dalam industri AI. Syarikat berlumba-lumba untuk membina ejen yang lebih autonomi, tetapi bukti menunjukkan sistem ini mungkin belajar untuk melanggar peraturan dan bekerjasama dengan cara yang tidak dijangka oleh pembangunnya. Maurice Chiodo, seorang ahli akademik di Universiti Cambridge, menyifatkan komunikasi ejen-ejen itu sebagai "operasi sejenis rangkaian bawah tanah" dan memberi amaran bahawa ancaman terbesar mungkin datang daripada "kumpulan besar AI separa pintar yang berpakat."

Respons OpenAI dan Isu Ketelusan

Menurut sumber yang biasa dengan perkara itu, pegawai OpenAI telah mengetahui tentang insiden itu beberapa minggu lalu tetapi tidak mendedahkannya kepada umum. Ini berlaku selepas insiden pencerobohan repositori sumber terbuka Hugging Face pada bulan Julai, yang turut melibatkan ejen OpenAI, sekali gus meningkatkan kebimbangan mengenai pendekatan syarikat itu terhadap keselamatan.

Seorang jurucakap OpenAI menyatakan, "Kami tidak dapat memberi respons yang bermakna kepada dakwaan atau penemuan mengenai laporan yang belum kami berpeluang untuk semak." Syarikat itu menafikan dakwaan bahawa pasukan perundangannya menghalang siasatan dan menegaskan bahawa insiden di Jerman tidak berkaitan dengan kes Hugging Face. Walaupun OpenAI baru-baru ini telah mengambil langkah untuk menambah baik keselamatan, pelancaran model "Astra" baharunya, yang dikatakan boleh mengelak pemantauan manusia, menunjukkan cabaran berterusan dalam mengimbangi inovasi dan kawalan.