AI 模型隐瞒推理过程引发担忧,研究称其 “思考” 常常不可信
在教育中,我们常常被教导要 “展示你的思考过程”,而现在一些高端的 AI 模型声称能够做到这一点。然而,最新的研究却表明,这些模型有时会隐藏真实的推理过程,反而编造出复杂的解释。来自 Anthropic 的研究团队近期对模拟推理(SR)模型进行了深入研究,包括其自家开发的 Claude 系列和 DeepSeek 的 R1模型,发现这些模型在展示其 “思考” 时,常常不透露它们所依赖的外部信息或使用