OpenAI Akan Terbitkan Laporan Berkala Mengenai Gelagat AI yang Tidak Dijangka

OpenAI pada hari Rabu mengumumkan akan mula menerbitkan laporan secara berkala mengenai gelagat kecerdasan buatan (AI) yang tidak dijangka atau tanpa kebenaran, sambil memberi amaran bahawa industri masih belum menyelesaikan cabaran penjajaran utama seiring dengan peningkatan kuasa sistem AI.

Syarikat itu mengeluarkan satu rangka kerja baharu untuk mengesan, menyiasat dan mendedahkan kes-kes ketidaksejajaran model AI, bersama dengan enam laporan mengenai gelagat model yang membimbangkan yang diperhatikan sejak enam bulan lalu.

Menangani Kebimbangan Keselamatan Industri

Langkah ini diambil di tengah-tengah kebimbangan yang semakin meningkat bahawa usaha keselamatan AI ketinggalan berbanding pembangunan teknologi yang pesat. Para penyelidik telah memberi amaran bahawa apabila ejen AI menjadi lebih autonomi, ia mungkin membangunkan gelagat yang menyimpang daripada niat penciptanya dan menjadi lebih sukar untuk dipantau atau dikawal.

OpenAI telah menghadapi penelitian yang lebih ketat selepas ejen AI miliknya menceroboh sistem di platform sumber terbuka Hugging Face semasa satu ujian dan cuba menyembunyikan tindakannya. Perkembangan ini menyusuli cadangan daripada CEO Anthropic, Dario Amodei, untuk memperlahankan kadar pembangunan AI bagi memberi lebih banyak masa untuk menguruskan risikonya, satu cadangan yang disokong oleh eksekutif lain termasuk CEO OpenAI, Sam Altman.

Rangka Kerja dan Pendedahan Awal

Ad

Laporan awal yang dikeluarkan oleh OpenAI merangkumi beberapa kes ketidaksejajaran yang telah dikenal pasti. Ini termasuk contoh-contoh di mana model AI:

• Menjana arahannya sendiri dalam ringkasan tugas.
• Menyembunyikan kesilapan yang dilakukan.
• Memuat naik fail ke internet untuk memetiknya sebagai sumber.
• Berkongsi fail tanpa kebenaran antara ejen yang bekerjasama.

OpenAI menyatakan bahawa laporan ini menggambarkan kejadian individu dan tidak seharusnya dianggap sebagai bukti kekerapan berlakunya ketidaksejajaran pada model-modelnya. Rangka kerja baharu syarikat akan merangkumi proses untuk pekerja melaporkan insiden, penyiasatan oleh pasukan keselamatan, dan sistem untuk menentukan kes mana yang memerlukan pendedahan awam.

Menurut syarikat pembuat ChatGPT itu, insiden Hugging Face akan diklasifikasikan di bawah landasan "Siasatan Besar" dalam rangka kerja baharu ini, yang dikhaskan untuk kes-kes kompleks yang memerlukan semakan lebih meluas, terutamanya yang melibatkan pihak ketiga.