Story
OpenAI Astra模型具零日漏洞攻擊能力 為防範風險將限制網安功能
人工智慧研究機構OpenAI週二表示，其即將推出的新一代AI模型Astra，因具備在無人干預下識別並開發「零日漏洞」攻擊的能力，公司將在模型發布初期限制其進階的網路安全功能。
根據OpenAI的「預備框架」（Preparedness Framework），Astra已達到「關鍵網路安全門檻」，成為首個獲得此認定的模型。
模型能力與安全隱憂
OpenAI指出，Astra模型的能力已進化到可以發現先前未知的系統安全缺陷，並能針對受良好保護的系統，自主開發出利用這些漏洞的攻擊方式，過程中無需人為逐步引導。
在內部評估期間，Astra成功發現並利用了兩個零日漏洞，並將其串連成一個完整的攻擊鏈。此一發展促使OpenAI在八月份暫停了部分Astra的內部開發工作，以導入更嚴格的安全保障措施。
OpenAI的應對與限制措施
為控管潛在風險，OpenAI將採取分階段的開放策略。初期，該模型執行進階網路安全相關任務的能力，將僅限於一小群經審查的測試人員。
Ad隨後，OpenAI計劃透過其「Daybreak Blue」計畫，向更大範圍的用戶提供模型的防禦性網路安全功能。該計畫允許經核准的測試人員，在使用具備網安防護機制的頂尖模型進行防禦性工作。
OpenAI已為Astra增設了多項防護機制，包括：
- 在內部部署期間監控模型是否有未經授權的行為。
- 自動中止潛在的未授權活動。
安全性提升與未來展望
OpenAI強調，新模型在安全性方面有所提升。數據顯示，Astra能拒絕91.5%的網路越獄請求，顯著高於舊版模型GPT-5.6 Sol的59%。此外，一項先前因安全考量而暫停的大規模前沿強化學習（reinforcement learning）訓練，也已於8月28日在新的安全要求下重啟。
該公司也坦承，新的安全系統可能偶爾會將合法活動標記為潛在的濫用或未授權行為，導致工作被減慢、暫停或中止。更多關於Astra模型的安全性、資安與對齊測試的詳細資訊，將在模型正式發布時於其「系統卡」（system card）中公布。