为AI模型中的两用知识设置关闭开关
该文介绍AE Studio与Anthropic合作研究的GRAM方法，即为每类两用知识设置专用、可移除的模块，训练两用数据时只更新对应模块，删除模块即可移除相应能力。
具体内容
该文介绍AE Studio与Anthropic合作研究的GRAM方法，即为每类两用知识设置专用、可移除的模块，训练两用数据时只更新对应模块，删除模块即可移除相应能力。作者在合成数据、真实混合文本和5000万至50亿参数多种规模上测试，称移除模块后通用性能未见下降，且比训练后“遗忘”方法更难被少量恶意数据恢复。作者明确这是初步研究，尚未用于生产模型。
- GRAM为病毒学、网络安全等两用知识设置可删除的专用模块
- 作者称删除模块可移除对应能力且未降低通用性能
- 研究属初步阶段，未在前沿规模或生产流程中验证
依据官方原始发布记录整理；当时的推出范围和限制请以原文为准。
用户标记：未标记
固定编号：4aeacd7230fb2971
原文来源