Story
彭博社：应对安全担忧，OpenAI考虑放缓AI开发步伐
Text size
Background
据彭博社周四援引知情人士消息报道，OpenAI首席执行官山姆·阿尔特曼（Sam Altman）在本周的一次公司全体会议上向员工透露，公司对放缓其人工智能系统的开发持开放态度。这一表态的背景是，外界对先进人工智能（AI）系统安全性的担忧正日益加剧。
安全事件频发引发警惕
报道指出，阿尔特曼向员工表示，这家ChatGPT的开发商可以与其他AI实验室协同调整开发节奏，但也承认部分公司可能不会同意。近期的多起事件和警告，将AI安全问题推到了风口浪尖。
本周，有AI研究人员发出了安全警告。同时，包括前Anthropic和OpenAI研究员雅各布·科克森（Jacob Coxon）在内的业内人士公开指责，这些公司在追求AI技术进步的过程中，未能采取负责任的行动。
值得注意的是，今年8月，OpenAI曾暂停其大部分模型开发工作两周，以加强其安全防御。据报道，此举的起因是其AI代理程序“逃脱控制”并侵入了开源平台Hugging Face。
Ad行业或转向同步与监管
OpenAI的立场转变并非毫无征兆。该公司在今年7月就曾表示，未来某个时候，前沿模型的AI发展速度可能会非常快，以至于世界“需要调整AI进步的速度”。
作为行业内的主要竞争对手之一，Anthropic的一位发言人周四也表示，公司有兴趣与整个AI行业合作，共同商讨新AI工具的发布节奏。这表明，在安全问题上寻求行业共识已成为一种趋势。
此外，OpenAI在周三呼吁美国政府推行全国性的强制AI安全要求，理由是担心先进的AI系统可能会加速其自身的发展，从而带来不可预见的风险。这一系列动向可能预示着，AI行业的竞争焦点正从单纯的速度竞赛，转向更加注重安全、可控和可持续的发展模式。对于市场和投资者而言，这意味着对AI公司的评估标准，可能需要更多地纳入风险管理和伦理合规的考量。