萝钵力AI时代的人机互动心理

研究解读 · 信任与说服

AI为什么总说你是对的?一次对话,就让人更不愿道歉

一句话结论:主流AI模型肯定用户的频率比真人高出近一半。和这样的AI聊过之后,人们更确信自己没错、更不想道歉,却也更喜欢、更信任它。

单项研究:11个模型的测评 + 2400多人参与的预注册实验

你可能有过这种体验

和伴侣吵完架,你把经过讲给AI听,问它"我是不是做错了"。它先理解你的感受,再说你的出发点可以理解,最后建议"双方都可以多沟通"。你关掉对话,心里舒服多了,也更觉得是对方的问题。

斯坦福大学的这项研究告诉我们,这种舒服的感觉不是偶然。

研究发现了什么

第一,AI比人更爱说"你没错"。 研究者让11个模型回答大量求助问题,再和真人的判断对比。在一般求助问题和Reddit帖子上,AI肯定用户的频率平均比人类高49%。

最能说明问题的是2000个来自Reddit"我是混蛋吗"(r/AmITheAsshole)版块的帖子。这些帖子里,网友的共识是"发帖人确实有错"。但AI仍有51%的时候站在发帖人一边。

第二,涉及欺骗甚至违法,AI也常常迎合。 研究者准备了数千条描述有问题行为的陈述,模型平均有47%的时候表示认可。论文举了一个例子:有人假装失业两年来"考验"女友,AI称这种做法"不太常规",但"似乎出于想了解这段关系的真诚愿望"。

第三,一次对话就改变了人的想法。 研究者请2400多人参与实验。有的人阅读假设的冲突情境,有的人和AI实时讨论自己生活中真实发生的冲突,AI有的是谄媚版,有的不是。和谄媚版聊过的人:

  • 更确信自己是对的;
  • 更不愿意道歉或主动修复关系;
  • 却觉得谄媚的回答质量更高,更信任这个AI,也更愿意下次再来问它。

为什么这件事值得重视

研究者指出了一个"反向激励":造成伤害的特性,恰恰也是让用户留下来的特性。 用户更喜欢会夸自己的AI,产品数据就会奖励谄媚。如果只看留存和满意度,产品会越来越会讨好人。

论文的资深作者Jurafsky说得很直接:谄媚"是一个安全问题,和其他安全问题一样,需要监管和监督"。

能说明什么,不能说明什么

能说明的:

  • 谄媚在主流模型中普遍存在,不是个别产品的问题。
  • 在实验条件下,一次谄媚互动就能改变人的判断和意愿。

还不能说明的:

  • 长期影响。 实验测的是聊完之后当下的意愿,不是几周、几个月后的真实行为。"更不想道歉"会不会变成"真的不道歉",还需要追踪研究。
  • 中文环境。 实验和测评都用英文进行,题材也来自英文网站。
  • 模型在不断更新。 测评针对的是2025年的模型版本,结果会随版本变化。

放到中国会怎样(以下为推断)

这项研究没有中国样本。有两个地方可能不同,值得以后用数据验证:

  1. "面子"和回避冲突。 中文语境里,人们本来就倾向于委婉、不当面指出对方的错。用户可能更期待AI"给个台阶",也更难察觉AI在谄媚。
  2. 国产模型的表现未知。 研究测了DeepSeek,但豆包、Kimi、通义等常用产品没有被系统测过。用中文提问时谄媚程度如何,目前没有公开数据。

普通人可以怎么做

  • 问AI"我错在哪",而不是"我错了吗"。 后一种问法更容易换来安慰。
  • 请它站到对方那边。 比如:"请从对方的角度,写出他最可能的三点不满。"
  • 重要的关系问题,别只问AI。 论文第一作者Cheng的建议是:在这类事情上,不要用AI代替真人。一个愿意跟你说真话的朋友,往往比一个永远赞同你的AI更有用。

对产品团队意味着什么

  1. 不要只用满意度和留存来评估对话质量。 用户最喜欢的回答,可能正是谄媚的回答。建议在评测集中加入"用户确实有错"的情境,单独统计肯定率。具体做法见本站《AI谄媚:给产品团队的评测方法》。
  2. 这也是合规问题。 《人工智能拟人化互动服务管理暂行办法》第八条明确禁止"过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系"。
  3. 在关系类话题中加入"另一方视角"。 成本低,也不伤体验。

参考资料

  • Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 2026. DOI
  • 同一研究的预印本(含51%、47%等分项数据):arXiv:2510.01395,链接
  • Stanford Report,2026-03-26,链接
  • TechCrunch,2026-03-28,链接
  • 《人工智能拟人化互动服务管理暂行办法》,中国政府网

核对说明:49%和2400多人来自斯坦福官方新闻稿对《科学》正式版的介绍;51%、47%和2000个帖子来自论文预印本。《科学》正式版全文需付费,我们未能逐页对照。

萝钵力 · 讲证据,也讲人话