Mantan Kepala Keamanan Google Memperingatkan AI Menimbulkan Risiko Lebih Besar bagi Anak-Anak Dibandingkan Media Sosial

Seorang mantan eksekutif puncak di Google, anak perusahaan Alphabet, telah mengeluarkan peringatan keras bahwa industri kecerdasan buatan (AI) mengulangi kesalahan era media sosial, yang berpotensi menyebabkan kerugian yang lebih besar bagi anak-anak. Tom Siegel, pendiri tim kepercayaan dan keamanan Google, menyerukan perlambatan pengembangan AI, menyatakan bahwa keyakinan industri bahwa mereka dapat mengatur diri sendiri adalah "tidak realistis," menurut komentar yang disampaikan kepada Reuters minggu ini.

Peringatan Keras dari Seorang Veteran Teknologi

Siegel, yang menjabat sebagai wakil presiden kepercayaan dan keamanan Google dari tahun 2004 hingga 2019, menyatakan kekhawatiran yang semakin meningkat bahwa AI menimbulkan ancaman yang lebih dalam bagi kaum muda daripada platform media sosial, yang sudah menghadapi ribuan tuntutan hukum dan tekanan regulasi global atas dugaan kerugian bagi anak di bawah umur. Ia berpendapat bahwa perusahaan AI besar menerapkan fitur-fitur canggih kepada anak-anak tanpa pengamanan yang memadai.

"Kita berada dalam situasi yang benar-benar mengerikan dalam hal apa yang dilakukan AI terhadap anak-anak," kata Siegel kepada Reuters. Ia memperingatkan tentang "skenario bahaya yang sangat, sangat parah," dengan menyebutkan risiko yang mencakup bunuh diri, psikosis, dan penurunan kemampuan berpikir kritis—istilah untuk penurunan kemampuan berpikir kritis akibat ketergantungan berlebihan pada AI.

Peran Baru untuk Mendorong Akuntabilitas

Untuk mengatasi kekhawatiran ini, Siegel mengumumkan pada hari Selasa bahwa ia telah bergabung dengan kelompok advokasi nirlaba Common Sense Media sebagai direktur eksekutif pertama dari Youth AI Safety Institute yang baru. Organisasi riset ini, yang didukung oleh para pemain industri termasuk Anthropic dan OpenAI Foundation, bertujuan untuk mengembangkan standar independen untuk menilai risiko alat AI bagi anak-anak, mirip dengan uji tabrak untuk kendaraan.

Ad

Siegel mengatakan tujuannya adalah untuk berkolaborasi dengan perusahaan AI dan kelompok pihak ketiga untuk menciptakan standar akuntabilitas. Ia meninggalkan Google (GOOGL) pada tahun 2019 setelah menyimpulkan bahwa industri teknologi "mengalami stagnasi" dalam kemampuannya untuk memastikan keamanan konsumen daring.

Tanggapan Industri dan Usulan Pengamanan

Siegel menguraikan langkah-langkah segera yang dapat diambil perusahaan AI untuk melindungi pengguna muda dengan lebih baik, meskipun hal itu memengaruhi penggunaan atau keuntungan jangka pendek. Ia menyarankan bahwa ketidakaktifan berisiko menimbulkan konsekuensi yang lebih berat dari tuntutan hukum dan regulasi di masa mendatang.

• Anthropic dan OpenAI dapat menerapkan verifikasi usia yang lebih kuat untuk mencegah akses anak di bawah umur ke chatbot mereka.
• Google dapat menambahkan tombol sederhana untuk menonaktifkan Tinjauan AI dan Mode AI dalam pencarian, serupa dengan filter yang ada untuk konten eksplisit.

Menanggapi komentar tersebut, juru bicara Google mengatakan kepada Reuters bahwa kontrol orang tua mereka memungkinkan untuk menonaktifkan akses anak ke mesin pencari mereka sepenuhnya. Juru bicara OpenAI menyatakan bahwa perusahaan menggunakan "sinyal akun dan perilaku" selain usia yang dilaporkan sendiri untuk mengidentifikasi pengguna di bawah umur dan terus meningkatkan sistemnya. Anthropic tidak segera memberikan komentar.