Risiko AI Mythos Adalah 'Isu Sebenar', Kata CEO JPMorgan Jamie Dimon

Ketua Pegawai Eksekutif JPMorgan Chase, Jamie Dimon, telah menyuarakan kebimbangan serius terhadap model kecerdasan buatan (AI) Mythos daripada Anthropic, menyifatkan risiko yang dibawanya sebagai "isu sebenar" yang kini sedang ditangani oleh kerajaan Amerika Syarikat. Komen beliau menekankan kebimbangan yang semakin meningkat mengenai keselamatan dan kawalan ke atas teknologi AI yang sangat berkuasa.

Amaran Keras Mengenai Kebolehcapaian AI

Bercakap di Sidang Kemuncak Pertahanan dan Inovasi Pennsylvania anjuran Senator Dave McCormick, Dimon menegaskan bahawa akses kepada keupayaan AI termaju perlu dikawal dengan ketat. Beliau membuat perbandingan yang tajam dengan menyatakan, "anda memberikan peluru berpandu balistik kepada individu dengan Mythos."

Kenyataan ini menggariskan potensi penyalahgunaan teknologi tersebut jika ia jatuh ke tangan yang salah, mencerminkan pandangan bahawa sesetengah sistem AI mempunyai keupayaan dwi-guna yang memerlukan pengawasan rapi.

Konteks Model Mythos dan Campur Tangan Kerajaan

Anthropic, sebuah syarikat yang berpangkalan di A.S., melancarkan model Mythos pada bulan April kepada kumpulan terpilih, termasuk JPMorgan. Model ini menarik minat institusi kewangan kerana keupayaannya yang canggih dalam mengenal pasti kerentanan keselamatan siber, membolehkan syarikat mengesan dan memperbaiki kelemahan dengan lebih pantas.

Ad

Walau bagaimanapun, kebimbangan keselamatan negara mendorong kerajaan A.S. untuk campur tangan pada bulan Jun. Pihak berkuasa mengarahkan Anthropic untuk menyekat akses kepada model AI utamanya, Fable 5 dan Mythos 5, kepada warga asing. Sekatan tersebut kemudiannya ditarik balik selepas Anthropic melaksanakan langkah-langkah perlindungan baharu.

Pengawasan Dipertingkat Terhadap AI

Insiden ini adalah sebahagian daripada trend yang lebih besar di mana kerajaan dan syarikat teknologi sedang bergelut dengan isu keselamatan AI. Washington telah meningkatkan pengawasan terhadap pelancaran model-model baharu di tengah-tengah kebimbangan bahawa AI termaju boleh dieksploitasi oleh perisikan tentera di China, Rusia, atau negara lain yang menjadi kebimbangan.

Perdebatan ini menumpukan pada bagaimana untuk mengimbangi inovasi teknologi dengan keperluan untuk mencegah penyalahgunaan yang boleh mengancam keselamatan negara dan global. Pihak Anthropic tidak dapat dihubungi untuk mendapatkan komen mengenai kenyataan Dimon di luar waktu perniagaan biasa.