加强对蒸馏攻击的防御

加强对蒸馏攻击的防御

Anthropic 发文称已通过新方法将 Claude 遭蒸馏攻击的数据采集量减少约 90% 至 99%。

具体内容

Anthropic 发文称已通过新方法将 Claude 遭蒸馏攻击的数据采集量减少约 90% 至 99%。文章将非法蒸馏描述为利用欺诈账户网络大规模提取模型能力的行为，并称其带来安全和国家风险。Anthropic 介绍了防御措施，包括对推理内容进行摘要、检测提取隐藏推理的请求，以及在 Claude Fable 5.1 和 Opus 5.5 中引入 preserved thinking 等。文章也承认这些措施对合法用户和公司收入存在取舍。

• Anthropic 称新方法将蒸馏攻击的数据采集量减少约 90% 至 99%。
• 防御重点在于让蒸馏者更难获取 Claude 的推理记录。
• 公司承认防御措施对合法用户和自身收入存在取舍。

依据官方原始发布记录整理；当时的推出范围和限制请以原文为准。

用户标记：未标记

固定编号：e83881cc90c53dae