推出 Bloom：一款用于自动化行为评估的开源工具
发布方推出开源智能体框架 Bloom，用于生成前沿 AI 模型的行为评估。
具体内容
发布方推出开源智能体框架 Bloom，用于生成前沿 AI 模型的行为评估。Bloom 接收研究者指定的行为，自动生成大量场景，量化该行为出现的频率与严重程度。发布方称其评估与人工标注判断相关性较强，并能区分基线模型与故意失准模型；同时发布四种对齐相关行为在 16 个模型上的基准结果。Bloom 分四个自动化阶段，支持 Weights & Biases 集成与 Inspect 兼容记录导出，并可通过种子配置保证可复现性。
- Bloom 接收单一行为描述，自动生成多场景评估并量化出现频率与严重程度
- 发布方称在十项怪癖中九项成功区分模型生物与生产模型
- 发布四种对齐相关行为在 16 个模型上的基准结果
依据官方原始发布记录整理；当时的推出范围和限制请以原文为准。
用户标记：未标记
固定编号：aa598dba0a588ea0
原文来源