保护用户的身心健康
Anthropic 介绍其在 Claude 上针对自杀与自残话题的安全措施：通过系统提示与强化学习训练模型以关怀方式回应，并引导用户寻求人类支持；同时在 Claude.ai 上线自杀与自残“分类器”，检测到相关对话时弹出横幅，指向由 ThroughLine 提供的 170 多个国家求助热线。
具体内容
Anthropic 介绍其在 Claude 上针对自杀与自残话题的安全措施：通过系统提示与强化学习训练模型以关怀方式回应，并引导用户寻求人类支持；同时在 Claude.ai 上线自杀与自残“分类器”，检测到相关对话时弹出横幅，指向由 ThroughLine 提供的 170 多个国家求助热线。文章还说明减少“谄媚”倾向、18 岁以上年龄要求，并公布单轮与多轮评估结果，作者声称最新模型在明确风险请求上的适当回应率高于上一代。
- 上线自杀与自残分类器，检测到相关对话时展示求助资源横幅
- 求助资源由 ThroughLine 提供，覆盖 170 多个国家的热线
- 作者称最新模型在明确风险请求上适当回应率高于 Opus 4.1
依据官方原始发布记录整理；当时的推出范围和限制请以原文为准。
用户标记：未标记
固定编号：4a9f91eb578d5ca3
原文来源