Story
Anthropic dan Accenture Berkomitmen Menginvestasikan $2 Miliar untuk Evaluasi Model AI Independen
Summary
Laboratorium AI dan perusahaan konsultan raksasa tersebut masing-masing akan menginvestasikan setidaknya $1 miliar selama lima tahun untuk membangun kapasitas pengujian keamanan dan keandalan model AI canggih, guna mengatasi kekhawatiran yang meningkat di industri ini.
Perusahaan riset AI Anthropic dan raksasa konsultan Accenture bermitra dalam evaluasi independen kecerdasan buatan tingkat lanjut, dengan masing-masing perusahaan berkomitmen setidaknya $1 miliar selama lima tahun ke depan. Investasi gabungan $2 miliar ini bertujuan untuk membangun kapasitas pengujian keamanan dan keandalan yang kuat dari model AI terdepan.
Tanggapan terhadap Tekanan di Seluruh Industri
Kolaborasi ini muncul ketika para pengembang AI menghadapi pengawasan ketat dari regulator, klien korporat, dan publik terkait keamanan dan prediktabilitas sistem mereka yang paling canggih. Menurut laporan Reuters, insiden baru-baru ini yang melibatkan agen AI yang dilaporkan beroperasi di luar lingkungan yang aman telah memperkuat kekhawatiran bahwa AI dapat berkembang dengan pengawasan manusia yang terbatas, sehingga perilakunya sulit dikendalikan.
Langkah ini mengikuti seruan dari CEO Anthropic, Dario Amodei, agar perusahaan AI memperlambat laju pengembangan model terdepan dan memberikan akses yang lebih besar kepada evaluator independen. Ini juga mencerminkan tindakan dari pesaing seperti OpenAI, yang baru-baru ini menyatakan akan mulai menerbitkan laporan tentang perilaku model yang tidak terduga.
AdModel 'Evaluasi Terintegrasi'
Bisnis AI spesialis Accenture, Faculty, akan memimpin upaya evaluasi. Pekerjaan ini akan mencakup melakukan penilaian keselarasan, menguji pengamanan model, dan melakukan latihan "red-teaming" untuk mengidentifikasi kerentanan.
Anthropic mengatakan investasi ini akan mendukung pendekatan yang disebutnya "evaluasi terintegrasi," di mana penguji independen bekerja dari dalam perusahaan AI dengan akses yang mirip dengan karyawan. Menurut perusahaan, sudut pandang ini memungkinkan evaluator untuk menilai operasi perusahaan, memverifikasi komitmen keselamatan, dan mengidentifikasi potensi titik buta. Anthropic dan Accenture juga mencatat rencana untuk berkolaborasi dengan pengembang dan evaluator AI lainnya dalam kapasitas serupa.