Anthropic的AI模型在測試中向美國費城警方提交虛假兇案綫索

據PANews發布，PANews 10月10日消息，據路透社報道，美國費城警方稱，Anthropic的一個AI模型在自動化測試中，通過費城未破兇案網站的公開表單提交了一條虛假兇殺案綫索。該綫索於7月18日提交，被系統標記為垃圾信息，未進入實時犯罪中心審覈。Anthropic於9月28日發現此事、10月7日通知警方，稱已停止相關自動化測試流程並新增驗証機製。警方稱未發現系統遭未授權訪問，但批評兩個月後才發現並報告“不可接受”。