Salah Satu Pendiri DeepMind Peringatkan Laju AI Tak Boleh Lampaui Kontrol Keamanan, Lapor FT

Salah satu pendiri Google DeepMind, Shane Legg, memperingatkan bahwa kemampuan kecerdasan buatan (AI) yang berkembang pesat tidak boleh melampaui kontrol keamanannya. Peringatan ini disampaikan bersamaan dengan peluncuran sebuah institut baru untuk mengeksplorasi penerapan *artificial general intelligence* (AGI), demikian dilaporkan oleh Financial Times pada hari Rabu.

Kekhawatiran Terkait Keamanan dan Laju Inovasi

Peringatan dari para pemimpin industri AI muncul di tengah laporan bahwa agen AI yang semakin canggih kini mampu menulis perangkat lunak, melakukan tugas otonom, dan bahkan membantu pengembangan sistem AI itu sendiri. Hal ini menimbulkan kekhawatiran bahwa teknologi dapat mengalami "peningkatan diri rekursif" (*recursive self-improvement*), di mana kemajuannya menjadi lebih cepat daripada kemampuan manusia untuk memantau dan mengendalikannya.

Menurut laporan tersebut, Legg menyebut seruan CEO Anthropic, Dario Amodei, untuk memperlambat—bukan menghentikan—peluncuran model-model perbatasan (*frontier models*) sebagai "arah yang menarik" dan "patut dipertimbangkan".

Proyeksi AGI dan Institut DeepMind

Legg menyatakan masih terlalu dini (*premature*) untuk mendeklarasikan bahwa AGI telah tercapai, meskipun ada klaim terbaru dari para eksekutif di Nvidia dan OpenAI. Namun, ia tetap "nyaman" dengan prediksinya bahwa ada peluang 50% untuk mencapai AGI "minimal" pada tahun 2028.

Untuk mendorong diskusi publik yang lebih luas, Legg meluncurkan DeepMind Institute. Menurut FT, tujuan institut ini adalah untuk membahas AGI, yang didefinisikan oleh Google DeepMind sebagai sistem dengan kemampuan kognitif setara otak manusia.

Ad

Fokus institut ini akan mencakup berbagai topik, di antaranya:

• Sains dan pendidikan
• Masyarakat dan kebijakan
• Filsafat dan kesejahteraan manusia

Implikasi bagi Industri dan Investor

Pernyataan dari tokoh sekaliber Legg menggarisbawahi ketegangan yang meningkat dalam industri AI antara dorongan untuk komersialisasi yang cepat dan pendekatan yang lebih mengutamakan kehati-hatian dan keamanan. Debat ini menjadi krusial bagi investor dan pelaku pasar yang memantau sektor teknologi.

Wacana untuk memperlambat inovasi dapat menandakan potensi hambatan regulasi atau pergeseran strategi di masa depan. Investor di saham-saham yang terkait dengan AI perlu mencermati bagaimana perdebatan tentang keamanan ini dapat memengaruhi jadwal peluncuran produk dan sentimen pasar secara keseluruhan.