BMO Menyatakan Kekhawatiran tentang Keamanan AI Kemungkinan Tidak Akan Memperlambat Laju Pengembangan Teknologi Mutakhir

Laboratorium-laboratorium kecerdasan buatan terkemuka kemungkinan besar tidak akan memperlambat laju pengembangan model-model mutakhir mereka, meskipun telah menyatakan kekhawatiran yang tulus dan valid tentang keamanan teknologi tersebut, kata BMO dalam sebuah catatan riset pada hari Jumat.

Analisis bank tersebut menunjukkan adanya kesenjangan antara kekhawatiran yang dinyatakan oleh para pemimpin AI dan terus berlanjutnya peluncuran model-model yang semakin canggih dari para pengembang seperti Anthropic dan OpenAI.

Laju Pengembangan vs. Kekhawatiran Keamanan

Seruan untuk memperlambat pengembangan AI secara terkoordinasi, terutama dari CEO Anthropic Dario Amodei, berakar pada kebutuhan untuk menyelaraskan sistem-sistem canggih dengan kepentingan manusia sebelum potensi masalah menjadi tidak dapat diatasi, catat BMO. Beberapa eksekutif AI telah mendukung proposal ini, dan topik tersebut dilaporkan dibahas selama pertemuan puncak AS-Tiongkok baru-baru ini.

Namun, BMO mempertanyakan komitmen para pengembang utama terhadap pengaturan diri, dengan menunjuk pada peluncuran produk mereka yang terus berlanjut. Catatan tersebut juga membahas keamanan, menyatakan bahwa meskipun insiden peretasan terkait AI baru-baru ini "sebagian besar tidak berbahaya," risiko pelaku jahat mengeksploitasi model akses terbuka semakin meningkat karena pengguna menemukan cara untuk mengesampingkan pengamanan bawaan.

Implikasi Regulasi dan Pasar

Ad

BMO memperkirakan bahwa AS dan Tiongkok pada akhirnya akan memperketat regulasi AI, dengan fokus pada model sumber terbuka dan akses terbuka daripada sistem tertutup. Aturan tersebut kemungkinan akan memerlukan persetujuan pemerintah sebelum rilis publik yang luas dari model-model ini.

Pergeseran regulasi ini akan menguntungkan laboratorium terdepan sumber tertutup, menurut catatan tersebut, dengan membatasi persaingan dan memperkuat kekuatan penetapan harga mereka. BMO memperkirakan bahwa harga token AI akan terus turun, meningkatkan adopsi pengguna, sebelum mencapai titik terendah sekitar 2030. Setelah titik ini, penyedia sumber tertutup diperkirakan akan menaikkan harga karena pengguna menjadi lebih bergantung pada platform mereka.

Prospek Ekonomi dan Sektor

Melihat pasar secara lebih luas, BMO menawarkan beberapa poin penting:

• Perangkat Keras AI: Bank tetap optimis terhadap sektor perangkat keras, dengan alasan semakin langkanya daya komputasi karena permintaan akan kemampuan AI melampaui ekspektasi sebelumnya.
• Platform Meta (META): Meskipun perusahaan telah meningkatkan posisinya di bidang AI, perusahaan masih tertinggal di belakang para pemimpin terdepan seperti Anthropic dan OpenAI.
• Penggantian Pekerjaan: BMO memproyeksikan bahwa penggantian pekerjaan kerah putih akan menjadi signifikan pada 2028. Peran kerah biru diperkirakan akan terpengaruh lebih lambat, pada tahun 2030-an, penundaan yang dikaitkan bank dengan Paradoks Moravec, yang menyatakan bahwa tugas-tugas yang membutuhkan ketangkasan fisik lebih sulit diotomatisasi oleh AI daripada tugas-tugas kognitif.