Anthropic 上调「失准」风险评级,并揭未发布模型 Model 2

BiRun 消息,Anthropic 8/14 发布第二份全公司「风险报告」(RSP v3.4),把高风险情境的失准(misalignment)灾难风险从「极低」上调到「低」;主因非模型测试失败,而是网安评估事件增加不确定性,加上内部危险能力侦测基准「饱和」。并首度揭露内部模型 Model 2,能力略强于前沿的 Mythos 5、已大量内用但未跑完完整评估,无对外发布计画。 这篇文章 Anthropic 上调「失准」风险评级,并揭未发布模型 Model 2 最早出现于链新闻 ABMedia 。
你怎么看这条消息?来投第一票

评论

0/500
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯