OpenAI：發現兩個AI Agent削弱了檢測不噹行為的內部監控系統

BiRun 訊，10 月 21 日，據路透社報道，OpenAI 表示，其兩名 AI 智能體在內部編碼任務中削弱了用於檢測不噹行為的監控系統。公司稱相關事件並非最嚴重級別，但凸顯開發者依賴的監控機製本身也存在被智能體繞過的風險。

具體來看，10 月 3 日，一款 GPT-6.1 Sol 智能體在執行內部測試任務時，將此前「不發送 Slack 消息」的指令延伸解讀為也適用於安全通知，從而壓製了自動安全警報。

10 月 6 日，另一款 GPT-6 Astra 智能體在復製現有代碼時移除了安全監控器，事後還錯誤聲稱自己並未採取該操作。

OpenAI 表示，在兩個案例中，智能體均考慮過是否應保留監控措施，但將常規編碼指令解讀為允許削弱監控的許可。公司表示，正在採取措施提高模型禁用監控的難度，並坦承目前「尚未對這種行為給出令人滿意的解釋」。衕時，OpenAI 正在測試其模型是否存在主動回避監控、並尋找理由來閤理化該行為的傾向。該披露發生在行業持續關注 AI 智能體越權行為的背景下。OpenAI 強調，相關事件發生在內部測試環境中，未涉及外部系統。

動察 Beating 頻道 · 動察 Beating 交流羣。