通过与美英 AI 安全机构合作强化防护措施
Anthropic 表示，过去一年与美国 CAISI 和英国 AISI 合作，向政府红队提供模型开发各阶段的系统访问权限，重点测试用于识别和阻止越狱的 Constitutional Classifiers。
具体内容
Anthropic 表示，过去一年与美国 CAISI 和英国 AISI 合作，向政府红队提供模型开发各阶段的系统访问权限，重点测试用于识别和阻止越狱的 Constitutional Classifiers。政府红队在 Claude Opus 4 和 4.1 部署前后发现多种漏洞，技术团队据此加强防护。原文还总结：更全面的模型访问有助于红队发现漏洞，持续迭代测试能挖掘复杂问题，政府评估与漏洞赏金等外部途径形成互补。
- 向美英政府红队开放模型开发各阶段系统访问
- 红队测试 Constitutional Classifiers 并发现部署前后漏洞
- 反馈用于加强防护，并强调持续迭代与多途径评估互补
依据官方原始发布记录整理；当时的推出范围和限制请以原文为准。
用户标记：未标记
固定编号：589646875ce92eaf
原文来源