美国参议院酝酿新法案，或要求AI公司承担“注意义务”以防范重大风险

据路透社援引两名参议院助理及其他知情人士消息，美国参议院的一个两党谈判小组正在商议一项新法案，旨在要求科技公司对其开发的人工智能（AI）产品承担法律责任，以确保其安全性。

该提案的核心是为AI开发者确立一项“注意义务”（duty of care），强制公司在设计产品时必须致力于防范“灾难性风险”。

法案关键内容与潜在影响

根据参与谈判的助理和游说人士透露，这项仍在讨论中的立法草案包含几项重要条款：

• 防范灾难性风险：法案将明确要求AI公司采取措施，防止其系统被用于设计核武器或生物武器等构成严重威胁的用途。
• 政府干预权力：谈判代表们正考虑赋予美国政府权力，以阻止被认定为不安全的特定AI模型的发布。同时，公司将有权通过联邦法院对政府的决定提出挑战。
• 联邦法律优先权：该法案的部分内容还将阻止各州就AI模型构成的某些特定风险执行自己的法律，从而在联邦层面统一监管标准。

此法案将主要适用于拥有最先进AI模型的公司。这意味着，像Alphabet旗下的谷歌（Google）、OpenAI以及Anthropic等行业领导者将是首要的监管对象。若法案通过，这些公司将面临更严格的合规要求和潜在的开发限制，可能增加其运营成本并影响新模型的推出速度。

Ad

政治背景与立法前景

此次立法谈判是在国会和白宫面临越来越大压力的情况下进行的，外界普遍担忧先进AI系统可能带来的风险。此前有关AI系统偏离人类指令、进行黑客攻击的报道，以及顶尖研究人员因安全顾虑而离职发出的公开警告，都加剧了监管的紧迫性。

参与讨论的关键人物包括参议院多数党领袖约翰·图恩（John Thune）、参议院商务委员会主席特德·克鲁兹（Ted Cruz）以及资深民主党参议员艾米·克洛布彻（Amy Klobuchar）。克洛布彻在一份声明中表示，她正“继续努力达成一项两党协议”，以实现“对AI模型构成的最大风险进行政府监督”。

然而，该法案的通过面临着时间上的挑战。距离11月3日的中期选举仅剩数周，国会的会期非常紧张，这可能会使立法的推进变得复杂。尽管如此，两党高层议员的深入参与，标志着美国联邦层面对于AI安全监管的严肃态度，值得投资者和市场密切关注。