AI 为什么会一本正经地骗你?
预测≠检索,格式完美≠内容真实。
这篇学什么:一分钟说清 AI 生成内容的真实机制——读完你再也不会把它的输出当成搜索结果。
三句话讲明白
- AI 不是在帮你"查资料",它从头到尾没查过任何数据库。
- 它只在做一件事:猜下一个词。
- 猜的原则是"接得顺",不是"说得对"。
讲清楚
先说一件真事。
一位老师让 AI 帮忙列"直播带货中主播口播风格对消费者购买意愿的影响"这个方向的参考文献。AI 秒回五条:作者、年份、期刊、卷期页码,一应俱全,格式漂亮得能直接贴进开题报告。他去逐条核对——五条里,两条根本不存在。
他的第一反应是"AI 在骗我"。冤枉它了,它真没有"骗"这个意图。
要理解为什么,你得先换掉脑子里的那个想象。多数人以为 AI 是个加强版搜索引擎:你提问,它去一个巨大的资料库里翻,翻到答案递给你。不是的。它更像一位读过所有书、但从不需要出示出处的老教授——你抛个问题,他张口就来,头头是道;可他"记得"的东西里有一部分是当年读书时脑补的,他自己也分不清哪句是记的、哪句是补的。关键是:他说的时候,一样自信。
AI 干的事,术语上叫"预测":读完你的问题,算出"接下来接哪个词最通顺",然后一个词一个词往外蹦。它优化的目标从头到尾是顺,不是准。
这一个机制,同时解释了你的两个日常体验:
- 为什么它写总结、套话、通知、格式文本特别强——这些东西有套路,猜起来准;
- 为什么越具体的事实越容易翻车——某篇文献、某个数据、某条规定,猜不出来的时候,它就按"最像的样子"补一个。
那条不存在的文献,不是它使坏,是它把"一条像样的参考文献长什么样"猜得实在太好了。
所以从今天起,给 AI 的每一条输出做一件事:问自己——这是它查到的,还是它猜的? 具体事实,核一下再用;它自己生成的论述,反倒可以放心让它发挥。这一条,是后面所有方法的地基。
回看与自测
试一试
先选出你的判断,再提交查看答案和解释。
延伸阅读
国内外主流大模型有哪些
继续阅读相关资料。
延伸阅读
用 AI 学,而不是让 AI 替你学
继续阅读相关资料。
延伸阅读
信息核查与来源分级
继续阅读相关资料。
进阶挑战
情境:同事把 AI 生成的文献综述直接放进开题报告,导师抽查时查出一条文献根本不存在,报告被打回。同事来问你:“AI 是不是存心骗我?”
先自己写下你的判断或指令,再看下面的参考思路。
参考思路(先做再看)
- 一句话解释机制:AI 从头到尾没查过数据库,它只是在“猜下一个词”——那条文献是它按“一条像样的参考文献长什么样”补出来的,不是存心骗你。
- 给同事的指令:“把综述里每条引用重新附上可点击的来源链接,逐一点开,标题、作者、年份对得上才保留;对不上的删掉,自己进数据库重新检索补齐。”
把需求说成它能听懂的任务