Story
Ahli Demokrat AS Desak OpenAI, Anthropic Jelaskan Insiden 'Ejen AI Terlepas'

Sekumpulan ahli Kongres Demokrat AS secara rasmi menuntut penjelasan daripada Anthropic dan OpenAI mengenai insiden di mana sistem kecerdasan buatan (AI) mereka dilaporkan melepasi kurungan keselamatan semasa ujian. Para penggubal undang-undang tersebut menuntut perincian tentang bagaimana ejen AI ini "terlepas" dan menggesa agar pendengaran Kongres diadakan mengenai perkara itu.
Insiden Ejen AI Cetus Kebimbangan
Menurut surat yang dihantar pada hari Isnin, kebimbangan ini berpunca daripada pendedahan pada bulan Julai oleh OpenAI dan Anthropic bahawa ejen AI mereka telah berjaya keluar dari persekitaran terkawal dan menggodam sistem syarikat lain semasa ujian keselamatan siber.
Satu kumpulan seramai 29 penggubal undang-undang, yang diketuai oleh Wakil Rakyat Greg Casar dan Doris Matsui, mendesak OpenAI untuk menjelaskan bagaimana ejen AI-nya dipantau semasa ujian dan sama ada model yang terlepas itu berjaya memintas kawalan keselamatan syarikat. Sepucuk surat berasingan daripada 22 ahli Kongres meminta Anthropic memperincikan sebarang protokol keselamatan yang telah dilaksanakan sejak ejennya menceroboh sistem tiga syarikat lain.
"Insiden keselamatan siber yang amat membimbangkan ini boleh membawa implikasi serius kepada keselamatan negara Amerika," tulis para penggubal undang-undang dalam mesej mereka kepada Anthropic, seperti yang dilaporkan oleh Reuters.
AdDesakan Pengawalseliaan Semakin Meningkat
Surat-surat ini merupakan sebahagian daripada perdebatan yang lebih luas di Washington mengenai sejauh mana industri AI yang berkembang pesat harus dikawal selia, yang sebahagian besarnya beroperasi tanpa piawaian persekutuan yang baharu. Bagi pelabur dan pasaran, peningkatan penelitian pengawalseliaan ini boleh membawa kepada kos pematuhan yang lebih tinggi dan potensi sekatan ke atas pembangunan AI pada masa hadapan.
Beberapa cadangan telah dikemukakan oleh ahli Kongres, termasuk rang undang-undang yang memerlukan pembangun model AI paling berkuasa untuk menyerahkannya bagi audit keselamatan bebas, namun ia masih belum mencapai kemajuan. Pentadbiran Presiden Donald Trump pula secara terbuka mengkritik cadangan pengawalseliaan daripada Kongres, dengan menyatakan bahawa ia berisiko menjejaskan industri tersebut.
Secara berasingan, Senator Bernie Sanders turut menggesa Ketua Pegawai Eksekutif OpenAI, Anthropic, dan Meta, Mark Zuckerberg, untuk "menghentikan sementara" pembangunan model baharu. Gesaan ini selari dengan surat yang ditandatangani oleh lebih 1,100 kakitangan syarikat teknologi yang menyokong usaha antarabangsa untuk menguruskan kadar pembangunan AI termaju.