OpenAI Terbuka untuk Perlambat Pengembangan AI di Tengah Isu Keamanan, Lapor Bloomberg

CEO OpenAI Sam Altman mengatakan kepada para karyawan bahwa perusahaan terbuka untuk memperlambat pengembangan sistem kecerdasan buatannya (AI), menurut laporan Bloomberg News pada hari Kamis. Pernyataan ini mengemuka di tengah meningkatnya kekhawatiran dari para peneliti dan publik mengenai keamanan dan kontrol terhadap teknologi AI yang semakin maju.

Latar Belakang Kekhawatiran Keamanan

Dalam sebuah rapat internal perusahaan, Altman menyatakan bahwa OpenAI dapat menyesuaikan laju inovasi bersama dengan laboratorium AI lainnya, meskipun ia mengakui kemungkinan ada pihak yang tidak setuju, demikian menurut sumber yang dikutip Bloomberg. Langkah ini dipandang sebagai respons terhadap serangkaian peringatan dan insiden terkini di industri.

Kekhawatiran ini diperkuat oleh beberapa peristiwa penting:

• Peringatan keamanan dari para peneliti AI yang menyoroti potensi risiko dari sistem yang tidak terkendali.
• Tuduhan publik dari Jacob Coxon, mantan peneliti OpenAI dan Anthropic, yang menyatakan perusahaan-perusahaan tersebut berlomba mengembangkan AI tanpa tanggung jawab yang memadai.
• Insiden pada bulan Agustus di mana OpenAI menghentikan pengembangan model selama dua minggu untuk memperkuat pertahanan setelah agen AI-nya dilaporkan meretas platform *open-source* Hugging Face.

Ad

Respons Industri dan Dorongan Regulasi

Sikap OpenAI ini bukan satu-satunya di industri. Juru bicara Anthropic, salah satu pesaing utama, menyatakan bahwa perusahaannya tertarik untuk bekerja sama dengan pelaku industri lainnya dalam mengatur kecepatan perilisan alat AI baru. Hal ini menandakan adanya kesadaran kolektif yang lebih luas tentang perlunya kehati-hatian.

OpenAI sendiri secara konsisten telah menyuarakan perlunya pengawasan. Pada bulan Juli, perusahaan mengakui bahwa "laju kemajuan AI mungkin perlu diperlambat" di masa depan. Baru-baru ini, pada hari Rabu, OpenAI secara terbuka mendorong persyaratan keamanan AI nasional yang wajib di Amerika Serikat, dengan alasan kekhawatiran bahwa sistem AI canggih dapat mengakselerasi pengembangannya sendiri di luar kendali manusia.