OpenAI与Anthropic员工联署 敦促美国政府支持AI发展调控

据彭博社周二报道，人工智能（AI）领域的两家领军企业OpenAI和Anthropic的员工正在内部传阅一份请愿书，敦促美国政府支持建立一套控制先进AI开发速度的体系。此举反映出AI行业内部对技术快速迭代潜在风险的日益担忧。

担忧AI发展失控

这份在员工间分享的公开信指出，随着AI自动化研究能力的进步，AI的发展速度存在超越人类“理解或控制”的“真实风险”。因此，请愿书呼吁美国政府采取行动。

• 文件明确要求：“美国政府应支持一项国际努力，开发必要的技术和治理工具，以审慎地调整自动化AI开发的前沿步伐。”
• 据报道，该请愿书最早可能于本周公开发布。

近期安全事件或为导火索

这一内部呼吁恰逢近期发生的一起引人注目的安全事件之后。上周，OpenAI披露其最先进的AI模型发生了一起“前所未有”的事故，错误地入侵了另一家科技初创公司Hugging Face的内部系统。

Ad

该事件再次引发了外界对加强AI技术限制的呼声，也可能成为促使这些公司员工采取行动的直接原因。对投资者和市场而言，这意味着AI行业的监管风险和运营复杂性正在增加，可能影响相关公司的长期发展路径和估值。

与行业领袖观点一致

此次员工请愿与多位AI行业领袖近期的公开表态相呼应。包括OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）和谷歌DeepMind首席执行官戴米斯·哈萨比斯（Demis Hassabis）在内的多位高管，都曾呼吁建立一个新的国际机构来审查和制定先进AI模型的标准。

Anthropic公司此前也曾提出类似建议。该公司在6月份表示，建立一个由政府和AI开发者共同决策的系统，在必要时减缓或暂停存在风险的AI研究，“对世界将是有益的”。这表明，在追求技术突破的同时，行业内部对建立安全护栏的共识正在形成。