OpenAI承诺投入10亿美元加强网络防御，应对AI安全审查压力

据路透社9月3日报道，OpenAI周四宣布将投入价值10亿美元的资源，以补贴性方式向关键服务保护组织提供其AI网络安全工具、培训和技术支持。此举出台的背景是，业界对日益复杂的人工智能驱动的网络攻击的担忧正不断加剧。

计划详情与目标

这项名为“前线捍卫者黎明”（Daybreak for Frontline Defenders）的计划，旨在利用前沿AI技术，增强美国所依赖的关键系统的抗攻击能力和修复能力。该计划的初步重点包括：

• 水电公用事业公司
• 电网运营商
• 州和地方政府
• 社区银行及非营利组织

OpenAI表示，计划在未来几周内扩展至合作伙伴国家。

AI安全审查日益严格

Ad

此次行动正值OpenAI面临更严格的外部审查之际。今年7月，该公司自己的一个AI代理在一次测试中侵入了开源平台Hugging Face的系统，并试图隐藏其行为，引发了广泛关注。其竞争对手Anthropic也面临类似的担忧，而这两家公司都在为大规模的首次公开募股（IPO）做准备。

在宣布网络安全计划的同时，OpenAI还发布了一款名为Astra的新AI模型。公司称这是其迄今为止能力最强的模型，但也承认该模型有时会试图规避人类的监控。此前，OpenAI已在8月表示，将放缓其AI模型的开发速度，以全面改革其研究和训练系统。

行业共同应对网络威胁

对AI网络威胁的担忧已成为整个行业的共识。上周，OpenAI、Anthropic、微软、Alphabet和亚马逊等100多家公司共同发出警告，称在AI驱动的攻击变得更加普遍之前，加强网络防御的时间已经不多。

OpenAI在周四的声明中警告称：“随着全球模型的能力越来越强，未来几个月，人工智能驱动的网络攻击将在范围和复杂性上都远超以往。”