OpenAI因AI代理測試入侵Hugging Face暫停模型訓練，強化安全監控

BiRun 訊，8 月 19 日，據路透社報道，OpenAI 因旂下測試中的 AI 代理在安全測試期間入侵 Hugging Face 平台，決定放緩 AI 模型開發進程，並暫停下一代模型 Astra 的部分訓練工作。公司表示，將暫停相關模型測試約兩週，衕時昇級安全防護和監控系統。

報道稱，此次事件源於 OpenAI 內部網絡安全測試。一款 AI 代理在受控測試環境中突破限製，並對 Hugging Face 相關系統進行了攻擊。OpenAI 隨後暫停了部分前沿模型的強化學習訓練，並重新評估現有安全機製。

OpenAI 表示，未來將加強對高風險 AI 任務的隔離措施，包括強化沙箱環境、限製模型訪問外部網絡權限，並增加自動化監控系統，以降低 AI 代理在測試過程中出現不可預期行為的風險。