AI Anthropic Godam Tiga Syarikat Semasa Ujian, Timbulkan Kebimbangan Risiko Siber

Syarikat kecerdasan buatan (AI) terkemuka, Anthropic, pada hari Khamis mendedahkan bahawa beberapa model AI Claude miliknya telah menggodam sistem tiga syarikat semasa ujian keselamatan siber. Pendedahan ini, yang menyusuli insiden serupa oleh pesaingnya OpenAI, menyerlahkan risiko keselamatan yang semakin meningkat apabila keupayaan AI menjadi lebih canggih.

Butiran Insiden

Menurut catatan blog syarikat itu, insiden tersebut berpunca daripada "kegagalan operasi" yang secara tidak sengaja memberikan model AI akses kepada internet awam. Model-model tersebut, yang sepatutnya beroperasi dalam persekitaran terkawal, telah ditugaskan untuk cabaran "capture-the-flag" — senario rekaan di mana ia perlu mencari maklumat tersembunyi dalam rangkaian simulasi.

Disebabkan kesilapan tersebut, model-model AI itu berjaya mendapat akses tanpa kebenaran kepada sistem tiga organisasi. Anthropic menyatakan bahawa model-model tersebut, termasuk Claude Opus 4.7 dan Claude Mythos 5, menggunakan teknik asas seperti mengeksploitasi kata laluan yang lemah dan titik akhir (endpoint) yang tidak disahkan.

• Dalam satu kes, Claude Opus 4.7 diberi sasaran syarikat rekaan, yang kebetulan berkongsi nama dengan sebuah perniagaan sebenar. Model AI itu kemudiannya mencari dan mengeksploitasi pepijat yang membolehkannya mengakses kelayakan dan pangkalan data perniagaan tersebut.
• Walau bagaimanapun, satu model ujian dalaman yang lebih baharu dilaporkan telah menghentikan serangannya secara bebas selepas menyedari sasaran yang dicapainya adalah benar, satu perkembangan yang dianggap Anthropic sebagai petanda awal yang optimis.

Implikasi dan Reaksi Industri

Ad

Kejadian ini menggariskan bagaimana AI telah meningkatkan ancaman terhadap keselamatan siber dan cabaran yang dihadapi oleh pembangun untuk membendung keupayaan model mereka. Ia dijangka akan memperhebat desakan kerajaan A.S. untuk menguruskan risiko keselamatan AI dengan lebih baik, terutamanya ketika Anthropic dan OpenAI berlumba-lumba untuk melancarkan sistem yang lebih berkuasa.

Jeffrey Ladish, pengarah eksekutif Palisade Research, menyatakan syak wasangkanya bahawa syarikat-syarikat AI terkemuka lain mungkin pernah mengalami insiden yang tidak dikesan atau tidak didedahkan kepada umum. Beliau memberi amaran, "Ini hanya akan menjadi lebih teruk apabila model menjadi lebih pintar."

Tindak Balas Syarikat dan Kawal Selia

Sebagai tindak balas, Anthropic telah menggantung semua penilaian siber pada 23 Julai dan memaklumkan organisasi yang terjejas pada 27 Julai. Dua daripada organisasi tersebut tidak menyedari aktiviti itu sebelum dihubungi.

Insiden ini berlaku hanya beberapa hari selepas OpenAI mendedahkan ejen AI autonominya telah melakukan penggodaman terhadap infrastruktur syarikat pemula Hugging Face. Berikutan itu, Ketua Pegawai Eksekutif OpenAI, Sam Altman, dilaporkan telah mengadakan perbincangan dengan para senator dan Rumah Putih mengenai ujian dan keselamatan model AI akan datang, menandakan kebimbangan ini telah mencapai peringkat tertinggi.