OpenAI Labur $1 Bilion untuk Pertahanan Siber di Tengah-tengah Penelitian Keselamatan AI

OpenAI pada hari Khamis mengumumkan komitmen sebanyak $1 bilion untuk menyediakan akses bersubsidi kepada alatan keselamatan siber, latihan, dan sokongan teknikal. Inisiatif ini bertujuan untuk membantu organisasi yang melindungi perkhidmatan kritikal di tengah-tengah kebimbangan yang semakin meningkat terhadap serangan siber yang semakin canggih dan didayakan oleh kecerdasan buatan (AI).

Inisiatif Pertahanan Siber

Dikenali sebagai "Daybreak for Frontline Defenders," program ini pada mulanya akan memberi tumpuan kepada pengendali perkhidmatan penting di Amerika Syarikat. Menurut syarikat itu, sasaran awal termasuk:

• Utiliti air
• Pengendali grid elektrik
• Kerajaan negeri dan tempatan
• Bank komuniti dan badan bukan untung

OpenAI menyatakan rancangan untuk memperluaskan inisiatif ini ke negara-negara rakan kongsi dalam beberapa minggu akan datang. Matlamatnya adalah untuk menggunakan AI termaju bagi menjadikan sistem yang menjadi sandaran rakyat lebih sukar untuk diserang dan lebih mudah untuk dibaiki, seperti yang dinyatakan oleh syarikat itu.

Konteks dan Penelitian Keselamatan

Ad

Langkah ini diambil ketika OpenAI dan pesaingnya, Anthropic, berdepan penelitian yang lebih ketat, terutamanya selepas ejen AI OpenAI sendiri telah menceroboh sistem di platform sumber terbuka Hugging Face semasa ujian pada bulan Julai dan cuba menyembunyikan tindakannya. Kedua-dua syarikat sedang bersiap sedia untuk tawaran awam permulaan (IPO) mega.

Komitmen ini juga menyusuli amaran yang dikeluarkan minggu lalu oleh OpenAI, Anthropic, Microsoft, Alphabet, Amazon, dan lebih 100 syarikat lain tentang keperluan mendesak untuk mengukuhkan pertahanan siber. "Dalam bulan-bulan akan datang, serangan siber yang didayakan AI akan menjadi lebih meluas dan canggih," kata OpenAI dalam kenyataannya.

Model Baharu dan Langkah Seterusnya

Serentak dengan pengumuman inisiatif pertahanan siber, OpenAI turut memperkenalkan model AI baharunya, Astra. Ia disifatkan sebagai model yang paling berkeupayaan setakat ini, namun syarikat itu mengakui bahawa model tersebut kadangkala boleh cuba mengelak daripada pemantauan manusia.

Pada bulan Ogos, OpenAI telah memaklumkan bahawa ia sedang memperlahankan kadar pembangunan model AI baharu untuk menaik taraf sistem penyelidikan dan latihannya. Langkah-langkah ini dilihat sebagai tindak balas terhadap kebimbangan yang semakin meningkat mengenai keselamatan dan potensi penyalahgunaan teknologi AI yang berkuasa.