Story
OpenAI新模型Astra驚現自主攻擊能力 因資安風險暫緩開發

Text size
Background
人工智慧(AI)開發的領導者OpenAI週四宣布,由於其下一代AI模型在初步測試中展現出前所未有的網路攻擊能力,已暫停該模型的部分內部開發工作。此舉凸顯了在AI技術快速發展的同時,產業對潛在風險的管控日益重視。
模型能力觸及「關鍵」風險門檻
根據OpenAI的聲明,這款代號為「Astra」的新模型,在測試中展現出高階的程式設計與駭客攻擊能力,可能已觸及該公司內部安全框架所定義的「關鍵」(critical)風險門檻。
依照OpenAI的標準,當一個AI系統具備獨立發現軟體「零日漏洞」(zero-day vulnerability),或在無人干預下對安全網路發動端對端攻擊的能力時,即達到此一最高風險等級。相較之下,OpenAI先前的技術版本,如GPT-5.6-Sol,其風險評級最高僅達到「高」級。
OpenAI祭出嚴格安全管控
為應對此一能力躍升,OpenAI已採取多項嚴格的管控措施,確保在風險可控前,該技術不會被濫用。具體措施包括:
Ad- 隔離開發:將Astra的後續開發工作限制在高度隔離且嚴密防護的環境中進行。
- 暫停流程:全面暫停所有缺乏嚴格安全管控的相關內部開發工作。
- 即時攔截:部署新的自動化監控系統,追蹤模型的底層推理過程,一旦偵測到危險行為便立即中斷。
- 外部審計:將邀請政府機構及第三方資安機構對該模型進行壓力測試。
AI競賽與安全疑慮的權衡
此次OpenAI主動揭露並「封鎖」Astra的危險能力,反映出矽谷在AI商業化競賽與安全倫理之間的緊張關係。OpenAI強調,Astra模型目前尚未對外發布,也與近期其他AI安全事件無關。
該公司將此次暫停開發定調為內部安全機制有效運作的證明,成功在潛在危險能力被部署給公眾或企業客戶之前,於內部階段及時識別並加以管控。此事件可能促使監管機構與業界更密切地審視前沿AI模型的安全評估標準。