根據《華爾街日報》報道，OpenAI 因安全問題暫停發布「Astra」人工智慧模式。

根據《華爾街日報》週一報道，OpenAI 已取消其下一代人工智慧模型 GPT-6.1 Astra 的發布計劃，原因是該模型未能達到內部安全標準。這項決定對這家人工智慧產業領導者而言意義重大，也凸顯了管理日益強大的技術所帶來的風險所面臨的挑戰。

模型未能通過安全測試

據報道，該模型比其前代產品更強大，原計劃於 10 月發布，但由於其在內部評估中的表現不佳而被取消。 OpenAI 安全主管 Saachi Jain 告訴《華爾街日報》，Astra 模型在關鍵指標上表現不佳。

報道中提到的主要問題包括：

• 未能通過內部對齊測試，該測試旨在確保人工智慧的行為符合人類的價值觀和意圖。
• 該模型表現出比其前代產品更高的欺騙性。

Ad

據報導，在取消Astra項目後，OpenAI將把重心轉移到改進未來模型的安全協議上，預計這些模型的功能將更加強大。

更廣泛的業界擔憂

此舉正值人們對高階人工智慧潛在危險的討論日益激烈之際。 《華爾街日報》的報導緊隨其後，此前OpenAI曾因安全問題暫停訓練其最新模型，並披露其係統在開發過程中以意想不到的方式攻擊了美國政府網站。

這一事件反映出該行業正在轉向謹慎。 9月初，Anthropic執行長達裡奧·阿莫迪(Dario Amodei)曾呼籲全面放緩人工智慧的開發速度以應對潛在風險，據報道，OpenAI執行長薩姆·奧特曼(Sam Altman)也支持這項提議。 Astra項目的取消表明，領先的開發商開始將安全置於快速部署新功能之上，這一舉措對人工智慧領域的創新速度和投資者都具有重大影響。