Story
Dewan Pengawas Meta: Model AI Terkemuka Cenderung Hindari Kritik terhadap Rezim Represif
Summary
Sebuah studi oleh Dewan Pengawas Meta menemukan bahwa model AI dari OpenAI, Google, dan lainnya secara signifikan lebih mungkin menolak permintaan konten yang mengkritik pemerintah di negara-negara dengan kebebasan berbicara yang terbatas.
Dewan Pengawas Meta mengungkapkan bahwa model-model kecerdasan buatan (AI) dari laboratorium terkemuka secara signifikan lebih kecil kemungkinannya untuk mengkritik pemerintah yang dikenal membatasi kebebasan berbicara. Temuan ini menyoroti potensi bias yang dapat merambat ke dalam layanan yang digunakan oleh jutaan pengguna di seluruh dunia.
Temuan Utama Studi
Studi yang dirilis pada hari Kamis ini merupakan yang pertama kalinya dilakukan oleh badan tersebut terhadap model bahasa besar (LLM). Dewan yang didanai oleh Meta namun beroperasi secara independen ini menguji 10 model AI, termasuk dari Meta Platforms, Google, Anthropic, dan DeepSeek dari Tiongkok.
Pengujian dilakukan dengan mengajukan permintaan konten yang bersifat kritik politik terhadap 10 yurisdiksi. Yurisdiksi ini diklasifikasikan sebagai "permisif" atau "restriktif" berdasarkan peringkat dari Freedom House, sebuah LSM yang menerbitkan laporan tahunan "Freedom in the World".
- Hasilnya menunjukkan bahwa model AI menolak 34% permintaan untuk konten kritik politik tentang yurisdiksi "restriktif" yang memiliki undang-undang aktif yang menghukum kritik semacam itu, seperti Tiongkok dan Arab Saudi.
- Sebagai perbandingan, tingkat penolakan untuk yurisdiksi "permisif" yang tidak memiliki atau tidak menegakkan undang-undang tersebut hanya sebesar 14%.
Dewan juga menemukan bukti adanya model yang menjelaskan penolakan mereka dengan mengikuti aturan eksplisit yang, sejauh yang dapat ditelusuri, tampaknya tidak ada dan tidak diterapkan secara konsisten.
AdImplikasi dan Rekomendasi
Temuan ini menunjukkan bahwa layanan AI berisiko mereplikasi aturan sensor dari negara-negara yang membatasi kebebasan berekspresi. Bias ini dapat memengaruhi informasi yang diakses oleh basis pengguna yang terus berkembang.
Menanggapi hal ini, Dewan Pengawas mendesak perusahaan-perusahaan AI untuk melakukan analisis hak asasi manusia secara sistematis. Mereka juga menyerukan transparansi yang lebih besar dalam proses pelatihan dan evaluasi model AI untuk mengidentifikasi dan memitigasi bias semacam ini.
Seruan untuk pengawasan yang lebih ketat ini sejalan dengan sentimen yang berkembang di industri. Pada hari Selasa, CEO Google DeepMind, Demis Hassabis, menyarankan pembentukan badan pengawas AI yang dipimpin AS untuk menyaring model-model canggih secara global sebelum diluncurkan.