Anthropic 发布新防御措施，将模型蒸馏攻击数据窃取量减少 90% 至 99%

据深潮 TechFlow发布，深潮 TechFlow 消息，10 月 13 日，据 Anthropic 官方披露，该公司近期部署了新型防御机制，使针对其 Claude 模型的蒸馏攻击数据获取量减少了 90% 至 99% 。非法蒸馏攻击主要通过虚假账户网络隐蔽提取前沿模型能力以低成本复制模型，已构成网络安全与国家安全风险。 为应对攻击，Anthropic 实施了三项核心举措：一是通过“保留思维”（preserved thinking）等机制严格限制推理过程的流向与访问权限；二是引入双阶段分类器系统，拦截率达到类似生物武器防范的安全级别，误报率低于 0.1% ；三是提高攻击门槛，封禁数万个违规账户并对被拦截的恶意请求恢复收费。官方数据显示，新措施使被窃取的推理标记（token）数量减少至原先的十分之一到百分之一以下。Anthropic 呼吁全行业开发者与云平台协同行动，共同防范模型能力的非法提取。