英国国王查尔斯将与AI巨头会晤，商讨技术风险与监管原则

据路透社报道，英国国王查尔斯将于本周主持一场与全球主要人工智能公司领导人的会议，旨在探讨是否需要为这项引发日益严重生存威胁警告的技术制定一套共同的指导原则。

会议议程与关键参与者

随着人工智能领域一些最重要的人物呼吁放缓技术发展步伐，查尔斯国王将召集多位行业领袖进行讨论。白金汉宫表示，此次会议旨在探讨如何利用人工智能造福社会，并为“人类与地球的共同繁荣”做出贡献。

与会者包括来自多家顶尖AI公司的代表以及政府官员：

• 英伟达 (Nvidia)
• 谷歌 DeepMind (Google DeepMind)
• OpenAI
• Anthropic
• 英国人工智能事务部长

安全担忧日益加剧

Ad

此次会议的背景是，业界对AI潜在风险的担忧正不断升级。近期，两名Anthropic研究人员发出警告，称快速发展的人工智能技术可能在“不远的将来”导致人类灭绝，这使得相关辩论再次成为焦点。

Anthropic首席执行官Dario Amodei上周六表示，各大公司必须减缓AI模型的推进速度。该公司上周发布的一份威胁情报报告详细说明了多个行为者如何利用其Claude AI模型从事武器开发、网络行动、监视和欺诈等活动。

国际分歧与英国的立场

然而，就AI监管达成全球共识将面临挑战。据报道，美国总统特朗普周日拒绝了任何关于放缓发展的说法，而中国官方媒体则称这实际上是针对北京的“冷战剧本”。

英国作为欧洲在AI资金和初创企业方面的领先者，倾向于采取“轻触式”的监管方法，与美国的立场更为接近，而非欧盟。在2023年人工智能安全峰会后成立的英国人工智能安全研究所，已通过与主要AI公司的自愿协议，获得了在模型部署前进行评估的权限，使其能够评估其能力和风险，为前沿AI发展提供了一个重要的观察窗口。