OpenAI強化AI安全防護，嚴防模型“失控”

在近期發生的網絡安全事件引發外界對AI工具可能失控的擔憂後，OpenAI表示，將採用更為嚴格的系統，對正在開發的人工智能模型進行監控和安全防護。OpenAI表示，計劃進一步追蹤其能力最強、尚未發布的模型在解決問題以及使用各種在綫工具時的行為，目標是在發現令人擔憂的行為後30分鐘內向安全團隊發出警報。OpenAI表示，公司還新增了控製措施，以防止某些AI模型連接互聯網來執行風險更高的任務。此外，OpenAI將要求在訓練和評估AI模型時實施更嚴格的隔離措施，卽所謂的“沙箱”。OpenAI公告提到，在Hugging Face事件發生後，立卽暫停了研究集羣中可能執行代碼的前沿模型推理任務。暫時放緩擴展速度，包括將對最新部署模型的強化學習訓練暫停兩週。規模最大的前沿強化學習訓練計劃仍處於暫停狀態，以待安全驗証完成。