DeepMind联合创始人警告：AI能力发展不应超越安全控制

据《金融时报》周三报道，谷歌DeepMind联合创始人Shane Legg发出警告，称快速发展的人工智能（AI）能力绝不能超越其安全控制措施。与此同时，他宣布成立一个新研究所，旨在深入探讨通用人工智能（AGI）的部署问题。

核心观点：AI安全须与能力同步

随着AI技术日益强大，业界对于其潜在风险的担忧也在加剧。研究人员指出，当前先进的AI智能体已具备编写软件、执行自主任务甚至协助开发新AI系统的能力。这引发了关于“递归式自我改进”的担忧，即技术可能以快于人类监控和控制措施的速度进行自我迭代和演进。

Legg在报道中表示，对于Anthropic首席执行官Dario Amodei提出的“放缓而非暂停前沿模型发布”的呼吁，他认为这“在方向上很有趣”且“值得考虑”。这表明，在AI发展的速度与安全之间寻求平衡已成为行业领导者的一个核心议题。

对AGI的审慎预测

尽管英伟达（Nvidia）和OpenAI的高管近期声称AGI已经实现，但Legg认为现在下此定论“为时过早”。AGI通常被定义为具备与人类大脑相当的认知能力的系统。

Legg重申了他对AGI发展时间表的预测，表示对自己先前作出的“到2028年实现‘最低限度’AGI的可能性为50%”的预测仍然“感到安心”。这一审慎的立场与市场上一些更为激进的观点形成了对比。

Ad

成立DeepMind研究所

为了推动相关讨论，Legg发起了DeepMind研究所（The DeepMind Institute）。该机构旨在扩大公众对AGI的讨论范围，不仅限于技术层面，还将涵盖更广泛的社会影响。

根据《金融时报》的报道，该研究所将探讨的议题包括：

• 科学与教育
• 社会与政策
• 哲学与人类繁荣

据悉，该研究所发表的首批三篇文章分别探讨了AI安全、经济政策以及“新乌托邦主义”的原则，为其未来的研究方向奠定了基础。