拓展关于前沿 AI 的对话
Anthropic 表示，过去数月其与工作与传统涉及 AI 所引发问题的群体组织对话，首轮对象为智慧传统相关人士，包括来自 15 个以上宗教与跨文化群体的学者、神职人员、哲学家和伦理学家。
具体内容
Anthropic 表示，过去数月其与工作与传统涉及 AI 所引发问题的群体组织对话，首轮对象为智慧传统相关人士，包括来自 15 个以上宗教与跨文化群体的学者、神职人员、哲学家和伦理学家。公司称构建安全有益的 AI 既需要对齐、可解释性、防护与评估等技术工作，也需要多元视角，因此希望了解哲学、宗教、法律、写作、心理学与公民领导领域对相关问题的长期思考，同时分享其对前沿 AI 开发、社会影响与风险缓解的看法。这些对话处于早期阶段，但可能影响 Claude 的开发实践，例如 Claude 宪章的内容、训练 Claude 体现的价值观以及选择评估的行为范围。文中还举例称，受导师作为“外部良知”的启发，团队试验让 Claude 在任务中调用返回自身伦理承诺提醒的工具，内部对齐评估中错位行为比例明显下降，但提醒本身与暂停反思各自的作用仍在分析。
- 首轮对话覆盖 15 个以上宗教与跨文化群体的学者、神职人员和伦理学家。
- 对话可能影响 Claude 宪章内容、训练价值观与评估行为范围。
- 试验中 Claude 可在关键行动前调用伦理承诺提醒工具，内部评估错位行为下降。
依据官方原始发布记录整理；当时的推出范围和限制请以原文为准。
用户标记：未标记
固定编号：b220b6cebd9c5ddd
原文来源