OpenAI將允許外部機構在更早期階段評估人工智能模型

OpenAI計劃在開發週期的早期階段，讓第三方機構對其人工智能模型的安全風險進行審査，這是其持續應對公眾對技術潛在危害日益增長擔憂的一部分。公司週二在一篇博客文章中宣布，其將允許外部組織在訓練、評估和推出新AI模型的過程中，對這些模型進行技術安全評估。OpenAI還明確了確保此類審査有效運行的重點，包括確保“強有力的獨立性機製、科學嚴謹性、健全的安全措施以及明確的責任劃分”。負責該公司與外部專家閤作開展安全審査工作的Lama Ahmad表示，此前，OpenAI通常會在模型發布前邀請此類團體進行安全評估，並評估其能力。“隨着風險日益增加，我們不僅要關注部署問題，還希望衕時重視訓練和評估等高風險環節。”