Story
Pengasas Bersama DeepMind Beri Amaran Kawalan Keselamatan AI Mesti Seiring Kemajuan Teknologi - Laporan FT
Summary
Shane Legg, pengasas bersama Google DeepMind, memberi amaran bahawa kemajuan pesat dalam kecerdasan buatan (AI) tidak boleh mengatasi kawalan keselamatan, sambil melancarkan sebuah institut baharu untuk meneroka topik kecerdasan buatan umum (AGI).
Pengasas bersama Google DeepMind, Shane Legg, telah memberi amaran bahawa keupayaan kecerdasan buatan (AI) yang berkembang pesat tidak boleh mengatasi kawalan keselamatannya. Amaran ini dikeluarkan serentak dengan pelancaran sebuah institut baharu untuk meneroka penggunaan kecerdasan buatan umum (AGI), menurut laporan Financial Times (FT).
Kebimbangan Terhadap Peningkatan Kendiri AI
Komen Legg menyusuli kebimbangan yang semakin meningkat dalam industri mengenai 'peningkatan kendiri berulang'—satu senario di mana AI menjadi begitu maju sehingga ia boleh menambah baik dirinya sendiri pada kadar yang lebih pantas daripada yang boleh dipantau atau dikawal oleh manusia. Ini menjadi lebih relevan apabila penyelidik melaporkan bahawa ejen AI yang semakin berkeupayaan kini boleh menulis perisian, melaksanakan tugas autonomi dan membantu dalam pembangunan sistem AI yang lain.
Menurut laporan FT, Legg menyifatkan gesaan CEO Anthropic, Dario Amodei, untuk memperlahankan tetapi tidak menghentikan pengeluaran model AI perbatasan sebagai "menarik dari segi hala tuju" dan "wajar dipertimbangkan".
Pandangan Mengenai Pencapaian AGI
Walaupun terdapat dakwaan baru-baru ini daripada eksekutif di Nvidia dan OpenAI, Legg menyatakan adalah terlalu awal untuk mengisytiharkan bahawa AGI telah dicapai. Beliau bagaimanapun kekal "selesa" dengan ramalannya sebelum ini mengenai kemungkinan 50% untuk mencapai AGI "minimum" menjelang 2028.
AdGoogle DeepMind mentakrifkan AGI sebagai sistem yang mempunyai keupayaan kognitif setanding dengan otak manusia. Kebimbangan utama adalah untuk memastikan rangka kerja keselamatan yang mantap diwujudkan sebelum teknologi tersebut mencapai tahap kematangan ini.
Institut DeepMind Untuk Perbincangan Awam
Untuk menangani isu-isu ini, Institut DeepMind yang baru dilancarkan bertujuan untuk meluaskan perbincangan awam mengenai AGI. Institut ini akan merangkumi pelbagai topik penting, termasuk:
- Sains dan pendidikan
- Masyarakat dan dasar awam
- Falsafah dan kemakmuran manusia
Sebagai permulaan, laporan itu menambah bahawa tiga esei pertamanya akan membincangkan keselamatan AI, dasar ekonomi dan prinsip-prinsip untuk "utopianisme baharu".