重要 Anthropic让6名外部研究员驻场查AI安全：报告无需审批，但公司仍保留删改权

BiRun 讯，Anthropic 宣布，已让独立 AI 评测机构 METR 的 6 名研究员进入公司，提供办公空间、工作电脑，以及与内部安全评估团队大致相当的系统权限。他们不再只是从外部测试 Claude，还能接触内部工具，调查模型的危险行为、安全事故和防护措施。Anthropic 将这种安排比作银行监管机构派驻银行的常驻检查员。

METR 可以自行公开风险评估和调查结论，Anthropic 无权阻止报告发表。不过，涉及客户数据、受法律保密保护的材料和模型架构时，公司仍能要求删除相关内容。如果 METR 认为删改不合理，可以公开提出异议，但不能披露被删的原文。

Anthropic 将外部评测分成 3 个等级，METR 已进入权限最高的一级。另一家非营利机构 SecureBio 正审查其生化武器风险，埃森哲旗下 Faculty 也在推进模型红队测试和安全评估。METR 明确表示，不接受前沿 AI 公司的报酬或捐款，而 Anthropic 此前宣布直接出资支持埃森哲的评测工作。

METR 在 10 月 14 日发布的说明中承认，目前的合作仍依赖 AI 公司自愿提供信息，评测员可能拿不到关键证据，厂商也能通过限制访问和删改报告影响公众看到的内容。

信源

动察 Beating 频道 · 动察 Beating 交流群。