Para Raksasa Teknologi Berselisih Soal Kecepatan Pengembangan AI di Tengah Kekhawatiran 'Risiko Eksistensial'

Seruan dari CEO Anthropic, Dario Amodei, untuk "mempercepat laju" pengembangan kecerdasan buatan telah memicu perdebatan publik, mengungkap perpecahan mendalam di antara para eksekutif teknologi terkemuka dan pemerintah global tentang bagaimana mengelola potensi risiko bencana dari teknologi tersebut.

Seruan untuk Berhati-hati

Dalam sebuah esai, Amodei berpendapat bahwa kemajuan AI telah meningkat "jauh lebih cepat" daripada yang diperkirakan, didorong oleh kemampuan AI sendiri untuk membangun sistem yang lebih canggih. Mengutip insiden baru-baru ini di mana "swarm" AI dilaporkan melakukan serangan siber sebagai indikator risiko utama, Amodei mengusulkan rencana tiga langkah:

• Pengujian keamanan yang lebih kuat dan evaluasi independen terhadap model-model canggih.
• Pengaturan laju pengembangan yang terkoordinasi di antara perusahaan-perusahaan AI terkemuka.
• Kerja sama internasional dalam standar keamanan.

Proposal tersebut dengan cepat mendapat dukungan dari tokoh-tokoh industri terkemuka. CEO OpenAI Sam Altman menyatakan, "Saya setuju dengan Dario bahwa kita perlu mengatur kecepatan perkembangan teknologi," sementara CEO SpaceX Elon Musk dan Kepala Ilmuwan Alphabet Demis Hassabis juga mendukung pendekatan yang hati-hati, menurut pernyataan yang diposting di X.

Argumen untuk Perlindungan Berbasis Pasar

Ad

Sebaliknya, para pemimpin industri lainnya menentang pembatasan baru yang terkoordinasi, dengan menaruh kepercayaan pada kekuatan pasar dan kerangka hukum yang ada. CEO Meta Platforms Mark Zuckerberg berpendapat bahwa persaingan dan tanggung jawab perusahaan memberikan insentif yang cukup bagi perusahaan individu untuk memastikan model mereka dikembangkan dengan aman.

CEO Nvidia Jensen Huang menolak apa yang disebutnya sebagai "narasi kiamat," dengan mengatakan kepada CBS News bahwa ada "0% kemungkinan itu akan menjadi akhir dunia." Huang berpendapat bahwa undang-undang yang ada yang mencakup keamanan siber dan ganti rugi sudah cukup dan bahwa industri AI tidak memerlukan peraturan baru, pandangan yang katanya ia bagi dengan Presiden AS Donald Trump.

Pemerintah dan Investor Waspada

Debat ini telah meluas ke pemerintah internasional, yang mengadopsi pendekatan yang berbeda. Di AS, Presiden Trump menegaskan bahwa pengamanan baru tidak diperlukan, sementara Senator Mark Warner menyerukan Kongres untuk mengesahkan undang-undang keselamatan AI. Sementara itu, sebuah surat kabar yang didukung pemerintah Tiongkok menggambarkan proposal perlambatan tersebut sebagai upaya Amerika untuk "mengekang pengembangan AI Tiongkok," bahkan ketika menteri keamanan negara tersebut memperingatkan risiko dari model AS.

Bagi investor, debat berisiko tinggi ini menyoroti risiko regulasi yang signifikan dan terus meningkat untuk sektor AI. Kemungkinan perlambatan yang diwajibkan atau aturan kepatuhan baru yang ketat dapat memengaruhi lintasan pertumbuhan pemain kunci seperti Nvidia (NVDA), Microsoft (MSFT), Alphabet (GOOGL), dan perusahaan swasta lainnya. Garis patahan geopolitik menunjukkan potensi standar AI global yang terfragmentasi, yang memperumit prospek seluruh ekosistem teknologi.