科技巨头员工联合呼吁美国支持全球合作，共管先进人工智能风险

来自 Meta、Anthropic、OpenAI 和 Alphabet 旗下谷歌等顶尖科技公司的 1,100多名员工周二联合发布声明，敦促美国政府支持一项国际性努力，旨在开发用于管理先进人工智能（AI）发展步伐的工具。

此举正值AI公司竞相开发更强大系统之际，引发了市场对技术发展可能超越现有安全、治理和监督机制的担忧。

声明核心诉求

这项名为“Pacing the Frontier”（为前沿发展定速）的倡议，得到了非营利组织 Guidelight AI Standards 和 Encode AI 的支持。该倡议的核心诉求是希望解决AI发展速度失控的风险。

• 声明指出：“我们请求美国政府支持一项国际努力，开发必要的技术和治理工具，以审慎地调整自动化AI前沿发展的步伐。”
• 签署者阵容强大，包括Anthropic首席执行官Dario Amodei及其多位联合创始人、Meta人工智能研究副总裁Dawn Song以及OpenAI首席科学家Jakub Pachocki。

Ad

行业巨头的回应与背景

该声明反映了AI行业内部日益增长的自我反思和对潜在风险的警惕。主要参与公司也对此表示了认同。

OpenAI在社交平台X上回应称：“我们相信，在未来的某个时刻，前沿模型开发的AI加速可能会非常快，届时世界将需要调整AI进步的速度。” Anthropic也表示，其自身关于“递归式自我改进”的研究表明，需要工具来审慎控制AI前沿发展的步伐，以便社会能为此做好准备。

此前，Anthropic已于上月呼吁主要AI实验室考虑协同暂停开发，警告技术进步可能很快使AI系统自我完善的速度超过社会管理风险的能力。与此同时，英伟达（Nvidia）周一宣布已与Adobe、CrowdStrike等公司组成联盟，共同开发AI安全和网络安全工具，这进一步凸显了整个行业对AI安全问题的重视。