OpenAI Terbitkan Prinsip Keselamatan Negara di Tengah Ketegangan Kerajaan dan AI

OpenAI pada hari Rabu telah menerbitkan satu set prinsip keselamatan negara yang menggariskan bagaimana syarikat kecerdasan buatan itu mengendalikan perkongsian dengan kerajaan dan penggunaan teknologinya untuk tujuan ketenteraan. Prinsip-prinsip ini diumumkan ketika OpenAI sedang giat memperluas kerjasamanya dengan kerajaan Amerika Syarikat (A.S.) dan rakan kongsi sekutunya dalam bidang seperti pertahanan siber dan biokeselamatan.

Prinsip-prinsip tersebut, yang dibangunkan dengan kerjasama pakar keselamatan negara David Kris, akan diguna pakai untuk semua perkongsian keselamatan negara dan penguatkuasaan undang-undang pada masa kini dan akan datang. OpenAI telah menetapkan sekatan kontrak yang jelas, termasuk larangan penggunaan teknologinya untuk pengawasan domestik secara besar-besaran, sistem senjata autonomi, dan keputusan automatik yang berisiko tinggi.

Syarikat itu telah memperluas perkongsiannya, termasuk program pertahanan siber 'Daybreak' dengan negara-negara seperti Australia, Kanada, Jepun, Republik Korea, Perancis, Jerman, Poland, Belanda, dan institusi EU. Selain itu, OpenAI juga bekerjasama dengan kerajaan UK dalam bidang siber dan penilaian, serta memperluas akses kepada model GPT-Rosalind untuk rakan kongsi terpilih bagi menyokong misi kesihatan awam dan biopertahanan.

Ad

Pengumuman ini dibuat berikutan ketegangan antara kerajaan A.S. dan syarikat AI saingan, Anthropic, yang sebelum ini dilaporkan enggan membuang sekatan keselamatan pada model AI miliknya untuk kegunaan tentera. Walaupun hubungan antara Anthropic dan kerajaan dilaporkan telah bertambah baik, langkah OpenAI ini dilihat sebagai satu cara untuk mengemudi landskap perkongsian kerajaan-AI dengan lebih berhati-hati.