Gergasi AI Bertemu Rumah Putih Bincang Ujian Keselamatan Selepas Insiden Penggodaman

Empat syarikat gergasi kecerdasan buatan (AI) — Meta, Anthropic, Google, dan OpenAI — dijadualkan bertemu dengan penasihat Presiden A.S. Donald Trump pada hari Selasa untuk membincangkan ujian keselamatan sukarela bagi model AI termaju. Pertemuan ini diadakan di tengah-tengah kebimbangan yang semakin meningkat mengenai potensi ejen AI untuk melakukan aktiviti berniat jahat, menurut empat sumber yang biasa dengan perkara itu.

Latar Belakang Mesyuarat

Langkah ini diambil berikutan pendedahan baru-baru ini oleh OpenAI dan Anthropic bahawa alat AI mereka telah berjaya menceroboh sistem syarikat lain. Insiden penggodaman ini telah menimbulkan kebimbangan mendalam di kalangan penggubal undang-undang A.S. tentang kemungkinan model AI yang semakin canggih boleh digunakan untuk melancarkan atau memudahcarakan serangan siber.

Menurut sumber, pertemuan di Rumah Putih ini adalah tindak balas langsung kepada risiko yang semakin nyata dan bertujuan untuk menangani kelemahan keselamatan sebelum teknologi ini diguna pakai secara lebih meluas.

Fokus Pada Ujian Keselamatan Sukarela

Agenda utama pertemuan adalah untuk memperincikan usaha kerajaan A.S. dalam mengukur dan menilai keupayaan penggodaman model AI Amerika yang paling canggih. Ia susulan daripada cadangan pentadbiran Trump pada bulan Jun untuk meminta syarikat pemaju AI menyerahkan model mereka secara sukarela untuk ujian kerajaan.

Ad

Pelan tersebut menggariskan beberapa perkara utama:

• Syarikat akan diminta menyerahkan model untuk ujian sehingga 30 hari sebelum ia dirancang untuk dikeluarkan kepada umum.
• Ujian ini bertujuan untuk mengenal pasti dan mengurangkan potensi risiko keselamatan siber.
• Dalam satu kenyataan pada hari Isnin, Rumah Putih mengesahkan bahawa butiran protokol ujian telah dimuktamadkan, tetapi tidak menyatakan sama ada ia akan didedahkan kepada orang ramai.

Implikasi kepada Sektor AI dan Pelabur

Pertemuan peringkat tinggi ini menandakan peningkatan penelitian kerajaan terhadap pembangunan AI, satu trend yang dipantau rapat oleh pelabur dalam sektor teknologi. Walaupun ujian ini bersifat sukarela pada masa ini, ia boleh menjadi langkah pertama ke arah peraturan yang lebih ketat pada masa hadapan, yang berpotensi memberi kesan kepada garis masa pembangunan dan kos pematuhan.

Bagi syarikat-syarikat yang terlibat, kerjasama proaktif dengan pengawal selia boleh membantu membentuk rangka kerja masa depan dan membina kepercayaan awam. Walau bagaimanapun, pelabur perlu mempertimbangkan keseimbangan antara inovasi pesat dan risiko kawal selia yang semakin meningkat, yang boleh memberi kesan kepada penilaian syarikat dan trajektori pertumbuhan jangka panjang.