它怎么想理论

AI 为什么会一本正经地骗你?

预测≠检索,格式完美≠内容真实。

这篇学什么:一分钟说清 AI 生成内容的真实机制——读完你再也不会把它的输出当成搜索结果。

三句话讲明白

  1. AI 不是在帮你"查资料",它从头到尾没查过任何数据库。
  2. 它只在做一件事:猜下一个词。
  3. 猜的原则是"接得顺",不是"说得对"。

讲清楚

先说一件真事。

一位老师让 AI 帮忙列"直播带货中主播口播风格对消费者购买意愿的影响"这个方向的参考文献。AI 秒回五条:作者、年份、期刊、卷期页码,一应俱全,格式漂亮得能直接贴进开题报告。他去逐条核对——五条里,两条根本不存在。

他的第一反应是"AI 在骗我"。冤枉它了,它真没有"骗"这个意图。

要理解为什么,你得先换掉脑子里的那个想象。多数人以为 AI 是个加强版搜索引擎:你提问,它去一个巨大的资料库里翻,翻到答案递给你。不是的。它更像一位读过所有书、但从不需要出示出处的老教授——你抛个问题,他张口就来,头头是道;可他"记得"的东西里有一部分是当年读书时脑补的,他自己也分不清哪句是记的、哪句是补的。关键是:他说的时候,一样自信。

AI 干的事,术语上叫"预测":读完你的问题,算出"接下来接哪个词最通顺",然后一个词一个词往外蹦。它优化的目标从头到尾是顺,不是准。

这一个机制,同时解释了你的两个日常体验:

  • 为什么它写总结、套话、通知、格式文本特别强——这些东西有套路,猜起来准;
  • 为什么越具体的事实越容易翻车——某篇文献、某个数据、某条规定,猜不出来的时候,它就按"最像的样子"补一个。

那条不存在的文献,不是它使坏,是它把"一条像样的参考文献长什么样"猜得实在太好了。

所以从今天起,给 AI 的每一条输出做一件事:问自己——这是它查到的,还是它猜的? 具体事实,核一下再用;它自己生成的论述,反倒可以放心让它发挥。这一条,是后面所有方法的地基。

回看与自测

试一试

先选出你的判断,再提交查看答案和解释。

Q1 你让 AI 推荐五篇文献,下一步?
Q2 “AI 读过全世界的文献,它说的肯定对”错在哪里?

延伸阅读

国内外主流大模型有哪些

继续阅读相关资料。

延伸阅读

用 AI 学,而不是让 AI 替你学

继续阅读相关资料。

延伸阅读

信息核查与来源分级

继续阅读相关资料。

进阶挑战

情境:同事把 AI 生成的文献综述直接放进开题报告,导师抽查时查出一条文献根本不存在,报告被打回。同事来问你:“AI 是不是存心骗我?”

先自己写下你的判断或指令,再看下面的参考思路。

参考思路(先做再看)
  1. 一句话解释机制:AI 从头到尾没查过数据库,它只是在“猜下一个词”——那条文献是它按“一条像样的参考文献长什么样”补出来的,不是存心骗你。
  2. 给同事的指令:“把综述里每条引用重新附上可点击的来源链接,逐一点开,标题、作者、年份对得上才保留;对不上的删掉,自己进数据库重新检索补齐。”

知道了它在"猜",问题就变成:

怎么让它在你自己的课题里少猜、猜到点子上?

下一篇从你刚用过的那一招开始——要它附来源。

其实就是把需求说清楚的第一个例子。我们把它变成一套完整方法。

📎 延伸阅读:《国内外主流大模型有哪些》 · 《用 AI 学,而不是让 AI 替你学》 · 《信息核查与来源分级》

下一课

把需求说成它能听懂的任务

AI 为什么会一本正经地骗你? | bo老师