Story
Anthropic dan Accenture Berkomitmen $2 Bilion untuk Penilaian Model AI Bebas
Summary
Makmal AI dan gergasi perunding itu masing-masing akan melabur sekurang-kurangnya $1 bilion dalam tempoh lima tahun untuk membina kapasiti ujian keselamatan dan kebolehpercayaan model AI termaju, bagi menangani kebimbangan industri yang semakin meningkat.
Firma penyelidikan AI Anthropic dan gergasi perunding Accenture sedang bekerjasama dalam penilaian bebas kecerdasan buatan canggih, dengan setiap syarikat melakukan sekurang-kurangnya $1 bilion dalam tempoh lima tahun akan datang. Pelaburan gabungan $2 bilion bertujuan untuk membina kapasiti bagi ujian keselamatan dan kebolehpercayaan yang mantap bagi apa yang dipanggil model AI sempadan.
Respons terhadap Tekanan Seluruh Industri
Kerjasama ini berlaku ketika pembangun AI menghadapi penelitian yang lebih tinggi daripada pengawal selia, pelanggan korporat dan orang ramai mengenai keselamatan dan kebolehramalan sistem mereka yang paling berkuasa. Menurut laporan Reuters, insiden baru-baru ini yang melibatkan ejen AI yang dilaporkan beroperasi di luar persekitaran yang selamat telah menguatkan kebimbangan bahawa AI boleh maju dengan pengawasan manusia yang terhad, menjadikan tingkah lakunya sukar dikawal.
Langkah ini susulan seruan daripada Ketua Pegawai Eksekutif Anthropic Dario Amodei agar syarikat AI menyederhanakan kadar pembangunan model sempadan dan memberikan akses yang lebih besar kepada penilai bebas. Ia juga mencerminkan tindakan daripada pesaing seperti OpenAI, yang baru-baru ini menyatakan ia akan mula menerbitkan laporan mengenai tingkah laku model yang tidak dijangka.
AdModel 'Penilaian Terbenam'
Perniagaan AI pakar Accenture, Faculty, akan menerajui usaha penilaian. Kerja-kerja ini akan merangkumi menjalankan penilaian penjajaran, menguji perlindungan model dan melaksanakan latihan "red-team" untuk mengenal pasti kelemahan.
Anthropic berkata pelaburan itu akan menyokong pendekatan yang dipanggilnya "penilaian terbenam", di mana penguji bebas bekerja dari dalam syarikat AI dengan akses yang serupa dengan pekerja. Menurut syarikat itu, titik pandang ini membolehkan penilai menilai operasi korporat, mengesahkan komitmen keselamatan dan mengenal pasti potensi titik buta. Anthropic dan Accenture juga menyatakan rancangan untuk bekerjasama dengan pembangun dan penilai AI lain dalam kapasiti yang serupa.