Story

OpenAI新模型Astra具備自主駭客能力,因網路安全風險暫停部分開發

ENTHMSVIIDZHZH-TWJAKOHI
Aug 7, 20261 min read
OpenAI新模型Astra具備自主駭客能力,因網路安全風險暫停部分開發
Text size
Background

人工智慧巨擘OpenAI週四宣布,由於其開發中的下一代模型Astra在初步測試中,展現出能自主執行複雜網路攻擊的潛力,已觸發內部最高的「嚴重」(Critical)風險級別,公司已暫停部分相關的內部開發工作。

模型能力觸發安全紅線

根據OpenAI自行設定的安全框架,當一個AI系統能夠獨立發現「零時差」(zero-day)軟體漏洞,或在無人為指導下對安全網路發動端到端的攻擊時,其風險便達到「嚴重」等級。這次代號為Astra的新模型,其展現的進階編碼與駭客技能,可能已跨越此門檻。

此一能力躍進,凸顯了新一代AI模型的強大潛力與潛在風險。相較之下,OpenAI先前的技術迭代,包括GPT-5.6-Sol模型,其最高風險評級僅為「高」(High)級,並未達到「嚴重」級別。

OpenAI祭出嚴格應對措施

為應對此一重大能力躍升,OpenAI已採取多項預防性措施,將Astra的開發限制在受到嚴密保護的隔離環境中。該公司表示,此舉證明其內部安全護欄正在發揮預期作用,在技術部署於公眾或企業客戶前,成功捕捉到危險能力。

Sample IUX Markets – In-articleAd

具體應對措施包括:

  • 暫停工作流程:已暫停所有缺乏嚴格安全控制的內部開發工作。
  • 即時攔截:導入新的自動化監控系統,追蹤模型的底層推理步驟,以便在出現異常或危險行為時立即中止。
  • 外部審計:邀請政府機構和第三方安全研究機構對模型進行壓力測試。

對產業的意涵

此次事件凸顯了矽谷在競相商業化更強大AI技術與必須控制其風險之間的緊張關係。OpenAI強調,Astra模型尚未發布,也與近期備受關注的AI安全漏洞(如Hugging Face遭利用事件)無關。

對投資者與市場觀察家而言,這項發展一方面顯示AI能力的快速演進,另一方面也突顯了頂尖開發商在安全與風險控管方面面臨的挑戰。未來,監管機構與企業客戶可能會更加關注AI模型的安全評估與部署前的審核流程。

Back to latest news

LATEST