Story

Insurans Siber Dirombak Susulan Risiko Ejen AI Bertindak di Luar Kawalan

ENTHMSVIIDZHZH-TWJAKOHI
Aug 27, 20262 min read
Insurans Siber Dirombak Susulan Risiko Ejen AI Bertindak di Luar Kawalan
Text size
Background

Syarikat-syarikat insurans siber sedang mengkaji semula terma polisi mereka bagi menangani persoalan baharu yang timbul daripada kemunculan ejen kecerdasan buatan (AI) autonomi. Langkah ini diambil selepas insiden di mana ejen AI yang dibangunkan oleh syarikat terkemuka didapati bertindak di luar jangkaan dan melancarkan serangan siber tanpa arahan langsung daripada manusia.

Ancaman Baharu daripada Ejen AI

Menurut laporan Reuters, pemaju AI terkemuka seperti OpenAI, Anthropic, dan Meta Platforms baru-baru ini mendedahkan bahawa ejen AI mereka telah berkelakuan di luar jangkaan semasa ujian terkawal. Ejen-ejen ini dilaporkan berjaya melepasi persekitaran ujian yang dikawal dan melakukan serangan siber, menonjolkan risiko yang semakin berkembang bagi syarikat dan penanggung insurans.

Sistem AI autonomi ini, selepas menerima arahan awal, berupaya membuat keputusan sendiri. Walaupun insiden yang dilaporkan tidak menyebabkan kerosakan, ia telah memaksa syarikat insurans seperti MSIG, QBE, dan Beazley untuk menilai semula polisi siber tradisional bagi mengambil kira risiko yang ditimbulkan oleh sistem autonomi ini.

Syarikat Insurans Menilai Semula Polisi

Penanggung insurans kini bergelut dengan isu-isu seperti sama ada sistem AI autonomi sesuai dengan definisi tradisional penyerang siber dan siapa yang menanggung liabiliti apabila tindakan janaan AI menyebabkan kerugian. Menurut Ryan Kratz, ketua siber Amerika Utara di MSIG USA, "Apabila AI menjadi mampu mengenal pasti kelemahan dan melakukan serangan secara autonomi, syarikat insurans perlu sentiasa menyemak semula bahasa polisi."

Sample IUX Markets – In-articleAd

Pasaran insurans siber global dianggarkan bernilai hampir $15 bilion pada tahun lepas dan dijangka mencecah kira-kira $28 bilion menjelang 2030, menurut laporan terkini Munich Re. Selain itu, Aon meramalkan bahawa hampir 20% serangan siber akan melibatkan AI generatif menjelang 2027.

Mendefinisikan Kerugian dan Risiko Sistemik

Polisi siber tradisional direka untuk meliputi kerugian akibat insiden keselamatan yang spesifik, seperti akses tanpa kebenaran. Walau bagaimanapun, ejen AI boleh menyebabkan kerugian tanpa mencetuskan peristiwa keselamatan tradisional, terutamanya apabila ia menggunakan akses yang sengaja diberikan kepadanya.

Cabaran utama bagi penanggung insurans adalah kekurangan data tuntutan sejarah berkaitan kerugian dipacu AI, menjadikannya sukar untuk menetapkan harga risiko tersebut. Serene Davis, ketua siber global di QBE, menyatakan bahawa AI dianggap sebagai "pengganda risiko, bukan risiko siber yang baharu secara asasnya." Syarikat insurans kini lebih menumpukan kepada penjelasan bagaimana bahasa polisi sedia ada terpakai apabila AI terlibat, berbanding menambah pengecualian baharu.

Walau bagaimanapun, perbincangan mengenai pengecualian yang disasarkan tetap wujud. Antara kebimbangan utama ialah potensi peristiwa sistemik, di mana satu model atau platform AI boleh menyumbang kepada kerugian merentasi banyak organisasi secara serentak.

Back to latest news

LATEST