麻省理工学院与哈佛大学于7月7日推出 Role Anchor,旨在解决AI系统中的角色漂移问题。
2026-08-18 02:19:12
根据 2026 年 7 月 7 日发表的一篇论文,MIT 和哈佛大学的研究人员介绍了 Role Anchor,这是一种旨在防止复合式 AI 系统出现“角色漂移”的技术。该研究由 MIT 的 Xiaoyang Cao 和哈佛大学的 Siddarth Srinivasan 领导,发现复合系统中的各个组件经常偏离其分配的任务——例如,检索模块依赖参数化记忆,而不是检索到的文档。
在实验中,强制执行严格的角色忠实度消除了强化学习带来的 86% 的准确率提升,这表明报告中的相当一部分进展可能反映的是角色漂移,而非真正的能力提升。Role Anchor 在训练期间作为一种正则化技术运行,以维持特定角色的行为,并迫使各模块执行其指定功能。研究人员指出,传统的准确率基准无法检测角色漂移,凸显了在 AI 系统评估中采用角色忠实度指标的必要性。
声明:文章不代表币小二观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!