Story
OpenAI首席科学家警告AI“自我进化”在即，呼吁行业放缓发展
OpenAI首席科学家Jakub Pachocki近日发出严厉警告，称人工智能（AI）正迅速逼近无需人类干预即可自我进化的阶段。他敦促业界出于安全考量，应考虑自愿放缓前沿模型的开发步伐。
首席科学家警告：AI或将进入“递归式自我改进”
Pachocki 在周日发表的一篇长文中指出，AI模型已能在短时间内操控电脑、与人类及其他AI协作，甚至开展研究项目。他预测，AI很快将具备自我进化的能力，即所谓的“递归式自我改进”(recursive self-improvement)。这一过程被视为通往通用人工智能（AGI）的关键路径，其自我加速的特性可能引发“智能爆炸”。
“这是一个需要极度审慎的时刻，”Pachocki写道，“我担心没有人真正准备好应对机器智能持续快速攀升所带来的后果。” 他提议，在达成共同的安全标准之前，行业应将“自愿放缓”作为常态。
行业悖论：安全呼声与资本狂热并存
Pachocki的警告与行业内日益增长的安全焦虑相呼应。此前，Anthropic公司已通过论文展示其模型Claude参与AI研发的能力，并呼吁放缓开发以让安全研究跟上。OpenAI自身在6月的研究也承认，系统中已出现递归式自我改进的“早期迹象”。
出于安全考虑，OpenAI和Anthropic均选择限制或不公开发布其最先进的模型，如GPT-6 Astra和Mythos，理由是它们具备强大的网络安全能力。
Ad然而，与审慎的呼声形成鲜明对比的是行业的加速“狂奔”。软银CEO孙正义预测超级智能可能在两年内到来，英伟达CEO黄仁勋则宣称“AGI时代已经到来”。资本市场更是热情高涨，大举押注递归式自我改进赛道，相关初创公司获得了巨额融资，例如：
- 由前DeepMind研究员创立的Inherent公司已融资5000万美元。
- 知名科学家Richard Socher创办的Recursive Superintelligence实验室已获得6.5亿美元投资。
对市场和投资者的启示
这种“喊停”与“狂奔”的拉扯为投资者带来了复杂的信号。一方面，针对“自我改进AI”的巨额风险投资，标志着AI投资已进入一个新的前沿领域，其潜在回报和风险都极高。
另一方面，行业领袖对“自愿放缓”的呼吁，预示着潜在的监管风险和发展不确定性。若主要AI实验室真的放慢脚步或政府出台更严格的监管措施，可能会对整个AI产业链的增长预期和估值构成压力。对投资者而言，这意味着在关注技术突破的同时，也必须密切评估与之相关的伦理、安全及监管动态，这些因素正日益成为影响科技行业长期发展的关键变量。