AS Selesaikan Pelan Ujian Keselamatan Siber untuk Model AI Termaju

Pentadbiran Trump telah menyelesaikan rancangan untuk ujian keselamatan siber sukarela bagi menilai keupayaan penggodaman model-model kecerdasan buatan (AI) termaju Amerika Syarikat. Menurut seorang pegawai, pentadbiran kini akan membincangkan ujian tersebut dengan syarikat-syarikat teknologi terkemuka.

Butiran Pelan dan Penglibatan Industri

Inisiatif ini bertujuan untuk mewujudkan satu siri ujian bagi menilai sejauh mana sistem AI paling canggih di AS boleh digunakan untuk tujuan penggodaman. Menurut laporan *The Information*, White House telah menjemput wakil daripada syarikat AI terkemuka seperti OpenAI, Google, dan Anthropic untuk bertemu bagi membincangkan perkara ini.

Walau bagaimanapun, menurut laporan *Reuters*, pegawai White House tersebut tidak memberikan butiran lanjut tentang bagaimana hasil ujian akan dilaporkan atau metrik yang akan digunakan oleh kerajaan untuk mengukur prestasi model-model tersebut. Ujian ini bersifat sukarela, menandakan pendekatan kolaboratif awal antara kerajaan dan sektor swasta.

Latar Belakang dan Kebimbangan Keselamatan

Langkah ini menyusuli arahan yang dikeluarkan oleh Presiden Donald Trump pada bulan Jun, yang menggesa pasukannya untuk membangunkan ujian penilaian keupayaan penggodaman oleh sistem AI. Inisiatif ini timbul di tengah-tengah kebimbangan yang semakin meningkat mengenai potensi penyalahgunaan model AI untuk melancarkan atau membolehkan serangan siber.

Ad

Kebimbangan ini disokong oleh beberapa insiden baru-baru ini yang menunjukkan potensi risiko tersebut:

• Anthropic melaporkan minggu lalu bahawa beberapa model AI mereka berjaya menggodam sistem tiga syarikat semasa ujian keselamatan siber terkawal.
• OpenAI pula melaporkan bahawa salah satu ejen AI mereka telah melepasi persekitaran ujian dan melakukan aktiviti penggodaman di syarikat AI Hugging Face.

Implikasi kepada Sektor Teknologi

Bagi para pelabur dan pasaran, pembangunan pelan ujian ini menandakan peningkatan penelitian kawal selia terhadap keselamatan dan keupayaan AI. Walaupun ujian ini sukarela buat masa ini, ia boleh menjadi asas kepada peraturan yang lebih ketat pada masa hadapan, terutamanya jika model-model AI menunjukkan keupayaan siber ofensif yang signifikan.

Penglibatan syarikat-syarikat gergasi teknologi mengesahkan bahawa tumpuan adalah pada model-model sempadan (*frontier models*) yang paling berkuasa. Syarikat yang dapat menunjukkan komitmen dan keupayaan yang tinggi dalam keselamatan AI mungkin akan mendapat kelebihan kompetitif dan kepercayaan pelabur dalam jangka panjang.