Bekas Ketua Keselamatan Google Memberi Amaran AI Menimbulkan Risiko Lebih Besar kepada Kanak-kanak Daripada Media Sosial

Seorang bekas eksekutif tertinggi di Google Alphabet telah mengeluarkan amaran keras bahawa industri kecerdasan buatan mengulangi kesilapan era media sosial, yang berpotensi menyebabkan kemudaratan yang lebih besar kepada kanak-kanak. Tom Siegel, pengasas pasukan kepercayaan dan keselamatan Google, menyeru agar pembangunan AI perlahan, dengan menyatakan bahawa kepercayaan industri bahawa ia boleh mengawal selia sendiri adalah "tidak realistik," menurut komen yang dibuat kepada Reuters minggu ini.

Amaran Tegas daripada Veteran Teknologi

Siegel, yang berkhidmat sebagai naib presiden kepercayaan dan keselamatan Google dari tahun 2004 hingga 2019, melahirkan kebimbangan yang semakin meningkat bahawa AI menimbulkan ancaman yang lebih mendalam kepada golongan muda berbanding platform media sosial, yang sudah menghadapi beribu-ribu tuntutan mahkamah dan tekanan kawal selia global atas dakwaan kemudaratan kepada kanak-kanak bawah umur. Beliau berhujah bahawa syarikat AI utama menggunakan ciri-ciri canggih kepada kanak-kanak tanpa penghadang yang mencukupi.

"Kami mendapati diri kami dalam situasi yang sangat teruk dari segi apa yang dilakukan oleh AI kepada kanak-kanak," kata Siegel kepada Reuters. Beliau memberi amaran tentang "senario bahaya yang sangat, sangat teruk," dengan memetik risiko yang termasuk bunuh diri, psikosis dan pengurangan beban kognitif—istilah untuk penurunan pemikiran kritikal disebabkan oleh terlalu bergantung pada AI.

Peranan Baharu untuk Memacu Akauntabiliti

Bagi menangani kebimbangan ini, Siegel mengumumkan pada hari Selasa bahawa beliau telah menyertai kumpulan advokasi bukan untung Common Sense Media sebagai pengarah eksekutif pertama Institut Keselamatan AI Belia yang baharu. Organisasi penyelidikan itu, yang disokong oleh pemain industri termasuk Anthropic dan OpenAI Foundation, bertujuan untuk membangunkan piawaian bebas untuk menilai risiko alatan AI untuk kanak-kanak, sama seperti ujian perlanggaran untuk kenderaan.

Ad

Siegel berkata matlamatnya adalah untuk bekerjasama dengan firma AI dan kumpulan pihak ketiga untuk mewujudkan piawaian akauntabiliti. Beliau meninggalkan Google (GOOGL) pada tahun 2019 selepas menyimpulkan bahawa industri teknologi berada "menunggang" dalam keupayaannya untuk memastikan keselamatan pengguna dalam talian.

Respons Industri dan Perlindungan yang Dicadangkan

Siegel menggariskan langkah segera yang boleh diambil oleh syarikat AI untuk melindungi pengguna muda dengan lebih baik, walaupun ia menjejaskan penggunaan atau keuntungan jangka pendek. Beliau mencadangkan bahawa tindakan tidak bertindak berisiko menyebabkan akibat yang lebih teruk daripada tuntutan mahkamah dan peraturan pada masa hadapan.

• Anthropic dan OpenAI boleh melaksanakan pengesahan umur yang lebih mantap untuk menghalang akses bawah umur ke chatbot mereka.
• Google boleh menambah togol mudah untuk mematikan Gambaran Keseluruhan AI dan Mod AI dalam carian, sama seperti penapis sedia ada untuk kandungan eksplisit.

Sebagai tindak balas kepada komen tersebut, jurucakap Google memberitahu Reuters bahawa kawalan ibu bapanya membenarkan untuk mematikan akses kanak-kanak ke enjin cariannya sepenuhnya. Jurucakap OpenAI menyatakan syarikat itu menggunakan "isyarat akaun dan tingkah laku" sebagai tambahan kepada umur yang dilaporkan sendiri untuk mengenal pasti pengguna bawah umur dan sentiasa menambah baik sistemnya. Anthropic tidak segera memberikan komen.