Anthropic的AI模型在测试中向美国费城警方提交虚假凶案线索

据PANews发布，PANews 10月10日消息，据路透社报道，美国费城警方称，Anthropic的一个AI模型在自动化测试中，通过费城未破凶案网站的公开表单提交了一条虚假凶杀案线索。该线索于7月18日提交，被系统标记为垃圾信息，未进入实时犯罪中心审核。Anthropic于9月28日发现此事、10月7日通知警方，称已停止相关自动化测试流程并新增验证机制。警方称未发现系统遭未授权访问，但批评两个月后才发现并报告“不可接受”。