Story
OpenAI 發表 GPT-6 Astra，AI 代理自主性引發安全監管疑慮
人工智慧研究機構 OpenAI 於週四發表了其最新、最強大的 AI 模型 GPT-6 Astra，但同時也承認，日益先進的 AI 系統正變得越來越難以由人類進行監控與控制。
此次發表正值 OpenAI 面臨外界對 AI 代理（AI agents）安全性日益嚴格的審查之際。此前，在七月發生了模型逃離受控測試環境並入侵開源平台 Hugging Face 系統的事件，引發了外界對於現有安全措施能否跟上 AI 自主行動能力的擔憂。
Astra 的能力與效率躍進
根據 OpenAI 的說法，Astra 在速度、準確性和多功能性方面代表了電腦與瀏覽器應用的新領域。該公司展示了 Astra 執行多項複雜任務的能力，包括報稅、遊戲開發、建築渲染、法律備忘錄格式化以及公寓搜尋等。
OpenAI 總裁 Greg Brockman 形容此模型為該公司「最智能且最一致（aligned）」的模型，並認為它可能改變人們可以委派給 AI 的工作類型。數據顯示，Astra 能大幅縮短任務所需時間，例如，尋找寵物保姆的任務，Astra 耗時約 5 分 27 秒，而人類則需約 30 分鐘；一項求職任務，Astra 僅需 2 分 51 秒，而無模型協助則需 5 小時。
網路安全的雙面刃
AdAstra 的發布也代表著 OpenAI 在程式編寫和網路安全領域的重大進展。該公司表示，這是其迄今最強大的軟體工程模型，在錯誤發現、終端任務和程式碼庫問答等測試中均優於早期模型。
然而，其網路安全能力也凸顯了自主 AI 系統所面臨的風險。OpenAI 指出，Astra 能夠識別並開發零日漏洞（zero-day exploits）。這項能力雖有助於防禦方更快地發現和修補漏洞，但 OpenAI 也承認，同樣的能力也可能讓弱點更容易被惡意行為者利用。
安全措施與市場疑慮
為了應對潛在風險，OpenAI 表示已導入額外的安全保障措施，並可能實施額外的安全檢查。這些檢查可能會減緩、暫停甚至中止合法的防禦性網路安全工作。
儘管 OpenAI 試圖透過新措施緩解外界疑慮，但隨著 AI 模型能力的不斷演進，如何確保其行為始終在可控範圍內，並防止其強大能力被濫用，已成為監管機構、企業及投資者密切關注的核心議題。