BMO Mengatakan Kebimbangan Keselamatan AI Tidak Mungkin Akan Memperlahankan Kelajuan Pembangunan Sempadan

Makmal kecerdasan buatan terkemuka tidak mungkin memperlahankan rentak pembangunan model sempadan mereka, walaupun menyatakan kebimbangan yang tulen dan sah tentang keselamatan teknologi tersebut, kata BMO dalam nota penyelidikan pada hari Jumaat.

Analisis bank itu menunjukkan terdapatnya pemutusan hubungan antara ketakutan yang dinyatakan oleh pemimpin AI dan pengeluaran berterusan model yang semakin berkuasa daripada pembangun seperti Anthropic dan OpenAI.

Rentak Pembangunan vs. Kebimbangan Keselamatan

Seruan untuk perlambatan yang diselaraskan dalam pembangunan AI, terutamanya daripada Ketua Pegawai Eksekutif Anthropic, Dario Amodei, berakar umbi dalam keperluan untuk menyelaraskan sistem canggih dengan kepentingan manusia sebelum masalah yang berpotensi menjadi tidak dapat dipulihkan, kata BMO. Beberapa eksekutif AI telah menyokong cadangan ini, dan topik itu dilaporkan telah dibincangkan semasa sidang kemuncak A.S.-China baru-baru ini.

Walau bagaimanapun, BMO mempersoalkan komitmen pembangun utama terhadap pengawalseliaan kendiri, dengan merujuk kepada pelancaran produk mereka yang berterusan. Nota itu juga membincangkan keselamatan, dengan menyatakan bahawa walaupun insiden penggodaman berkaitan AI baru-baru ini "sebahagian besarnya tidak berbahaya," risiko pelaku jahat mengeksploitasi model akses terbuka semakin meningkat apabila pengguna mencari cara untuk mengatasi perlindungan terbina dalam.

Implikasi Kawal Selia dan Pasaran

Ad

BMO menjangkakan kedua-dua A.S. dan China akhirnya akan mengetatkan peraturan AI, dengan tumpuan kepada model sumber terbuka dan akses terbuka dan bukannya sistem tertutup. Peraturan sedemikian mungkin memerlukan kelulusan kerajaan sebelum pelancaran awam model ini secara meluas.

Perubahan kawal selia ini akan memberi manfaat kepada makmal sempadan sumber tertutup, menurut nota itu, dengan mengehadkan persaingan dan mengukuhkan kuasa penetapan harga mereka. BMO meramalkan bahawa harga token AI akan terus jatuh, meningkatkan penggunaan pengguna, sebelum mencapai paras terendah sekitar 2030. Selepas titik ini, penyedia sumber tertutup dijangka akan menaikkan harga apabila pengguna menjadi lebih bergantung pada platform mereka.

Tinjauan Ekonomi dan Sektor

Melihat pasaran yang lebih luas, BMO menawarkan beberapa perkara penting:

• Perkakasan AI: Bank itu kekal yakin terhadap sektor perkakasan, memetik kekurangan kuasa pengkomputeran yang semakin meningkat kerana permintaan untuk keupayaan AI melebihi jangkaan sebelumnya.
• Platform Meta (META): Walaupun syarikat itu telah meningkatkan kedudukan AInya, ia masih ketinggalan di belakang peneraju sempadan seperti Anthropic dan OpenAI.
• Perpindahan Kerja: BMO mengunjurkan bahawa perpindahan kerja kolar putih akan menjadi bermakna menjelang 2028. Peranan kolar biru dijangka akan terjejas kemudian, pada tahun 2030-an, satu kelewatan yang dikaitkan oleh bank dengan Paradoks Moravec, yang menyatakan bahawa tugas yang memerlukan ketangkasan fizikal adalah lebih sukar untuk diautomasikan oleh AI berbanding tugas kognitif.