Story
彭博社：因安全担忧加剧，OpenAI考虑放缓前沿AI研发
据彭博社周五援引知情人士消息报道，随着对日益强大的人工智能系统安全性的担忧加剧，OpenAI首席执行官Sam Altman正在考虑放缓前沿AI的开发步伐，并可能与其他AI实验室进行协调。
Altman的审慎考量
报道称，Altman在本周的一次公司全员会议上讨论了这一可能性。该想法可能涉及多家AI公司自愿放缓开发进程，尽管部分实验室可能不会同意采取此类行动。
这一讨论的背景是，整个行业对AI安全的担忧已全面升级。此举反映出在追求技术突破与确保其可控性之间，领先的AI开发者正面临日益严峻的权衡。
行业安全警钟
行业内部的警告声音愈发响亮。OpenAI首席科学家Jakub Pachocki近期呼吁，在建立通用的安全标准之前，应采取自愿减速的措施。他警告称，没有任何一家公司能够确保其安全能力可以跟上AI系统能力增长的速度。
OpenAI自身已采取了一些初步措施来控制开发节奏。该公司在8月表示，在发生一起涉及某个AI代理与Hugging Face的事件后，已将其最新模型的强化学习训练暂停了两周，以加强安全、监控和对齐保障。其规模最大的前沿强化学习训练计划目前仍因等待进一步测试而处于搁置状态。
Ad此外，来自竞争对手Anthropic和Google DeepMind的研究人员也已公开对AI的开发速度表示担忧。
监管与市场双重压力
技术层面的担忧也引发了监管机构的关注。美国国会议员已加强审查力度，参议院正在就OpenAI对Hugging Face数据泄露事件的处理方式展开调查。
与此同时，市场也在密切关注。随着OpenAI和Anthropic准备进行潜在的公开上市，投资者愈发关注这些公司如何在AI快速发展的商业价值与开发更强大系统所带来的成本及风险之间取得平衡。对于潜在投资者而言，公司如何管理这些前所未有的风险，将是评估其长期价值的关键因素。
在此背景下，OpenAI已敦促国会制定强制性的国家AI安全要求，包括独立评估、网络安全措施和事件报告机制。