自动化对齐研究员：利用大语言模型扩展可扩展监督
Anthropic研究员开展实验，让九个Claude Opus 4.6实例作为自动化对齐研究员（AAR），在五天内自主研究弱到强监督问题。
具体内容
Anthropic研究员开展实验，让九个Claude Opus 4.6实例作为自动化对齐研究员（AAR），在五天内自主研究弱到强监督问题。在测试的开源模型上，人类基线恢复23%性能差距，而AAR累计800小时研究后将PGR提升至0.97，成本约1.8万美元。作者称AAR方法在数学任务上泛化较好，但在生产规模Claude Sonnet 4上未获统计显著提升，提示当前能力局限。
- 九个Claude实例自主研究五天，PGR从人类基线0.23提升至0.97。
- AAR最佳方法在数学任务PGR达0.94，编码任务0.47。
- 生产规模测试未获统计显著提升，作者归因于早期试验局限。
依据官方原始发布记录整理；当时的推出范围和限制请以原文为准。
用户标记：未标记
固定编号：b8caf0174d79fe3a
原文来源