Story
OpenAI科學家警告AI自我進化在即 產業掀起安全與發展論戰
OpenAI首席科學家Jakub Pachocki近日發出嚴厲警告，稱人工智慧（AI）即將具備無需人類干預即可自我演化的能力，並預期出於安全考量，AI實驗室將自願放緩開發進程。此番言論再次點燃了AI產業內部關於技術發展速度與安全風險的激烈辯論。
「遞迴式自我改進」警訊浮現
Pachocki在一篇長文中指出，AI模型已能在短時間內學會操控電腦、與人類及其他AI系統協作，甚至展開研究計畫。他認為，AI很快將能實現「遞迴式自我改進」（recursive self-improvement），這被視為通往通用人工智慧（AGI）的關鍵路徑，其自我加速的特性可能引發「智慧爆炸」。
「這是一個需要極度審慎的時刻，」Pachocki寫道，「我擔心沒有人真正準備好應對機器智慧持續快速攀升所帶來的後果。」他呼籲開發者應更緊密地引導AI與人類利益對齊，或「在必要時放緩未來開發速度」，並期待在達成共同安全標準前，自願放緩能成為行業常態。
產業「喊停」與「狂奔」的矛盾
儘管安全警訊頻傳，AI產業卻呈現出「一邊喊停，一邊狂奔」的矛盾景象。一方面，許多高階主管與研究人員表達了擔憂：
- Anthropic在6月發布文章，證實其模型Claude已能深度參與AI研發，並呼籲社會考慮放緩或暫停前沿AI開發。
- OpenAI自身在6月的研究也指出，系統中已出現遞迴式自我改進的「早期跡象」，並警告社會及政府尚未準備好應對。
- 出於安全考量，OpenAI選擇限制發布其最新的 GPT-6 Astra 模型，而Anthropic也未向公眾發布其頂尖的 Mythos 模型。
Ad然而，另一方面，資本與技術的競逐卻愈演愈烈。軟銀集團執行長孫正義預測，超級智慧可能在兩年內到來。輝達（Nvidia）執行長黃仁勳更在社群平台宣稱「AGI時代已經到來」。
資本湧入 市場競逐加劇
Pachocki所警示的「自我改進AI」方向，正成為創投界追捧的熱門賽道。投資者正大舉押注，認為這是通往超越人類智慧的必經之路。
專注於此領域的新創公司正獲得鉅額融資，例如由前DeepMind研究人員創立的Inherent公司已募得5000萬美元，而知名科學家Richard Socher創辦的Recursive Superintelligence實驗室也已獲得6.5億美元融資。諷刺的是，Pachocki的雇主OpenAI自身也已明確提出，目標在兩年內打造出「真正的自動化AI研究員」。
對投資者而言，這場論戰凸顯了AI領域的巨大潛力與潛在風險。一方面，對AGI的追求正驅動大量資本投入，創造出高估值的投資機會；另一方面，日益升高的安全與倫理疑慮，可能引發更嚴格的監管，從而影響整個產業的發展步伐與長期回報。