← 术语图鉴

幻觉

Hallucination · 也叫 一本正经地胡说 / 编造 / 自信地错

模型把不存在或不成立的东西,说得像真的一样:流畅、具体、语气笃定。

你可能会说:

  • “AI 说得有鼻子有眼,结果那个函数根本不存在?”
  • “它引用的文档链接,点开是 404?”

它是什么

模型的任务是写出通顺、像样的下一句,而不是核实事实。当它缺少信息时,最"像样"的续写往往是一个看起来合理的细节:一个不存在的配置项、一个没安装的库、一条杜撰的链接。

幻觉最危险的地方在于它不带任何警告。错误的说法和正确的说法,语气一模一样,写进代码注释或文档之后,还会被下一个人(或下一个 AI)当成事实继续引用。

对付它的办法不是"让 AI 别编",而是让结论可验证:要求它给出文件路径、命令输出、链接,然后你自己点开、跑一遍。

打个比方

像一个从不说"我不知道"的导游:没去过的景点,他也能讲得绘声绘色,连开放时间都报得出来。

在这个网站里

兄弟项目 E2E Review 的转发脚本里有一行 AI 写的注释:"SPA 路由回退:react-router 的前端路由需要 index.html 兜底"。可这个项目从来没装过 react-router,写这行注释时前端连网址路由都还没有。它就这样在代码里留了两个月。

容易搞混的地方

常见误解

幻觉只会出现在冷门问题上

正确理解

越是贴近你的项目的细节,模型越可能在缺信息时顺手编一个:它没读过你的代码,却会写出"你的代码里有……"。

你可以这样告诉 AI

复制下面这段,贴给你的 AI

你刚才提到的每个文件、函数、配置项和链接,请逐一给出它在项目里的位置或出处;找不到出处的,明确标出"推测",不要写进代码或文档。

先知道

  • 大模型——一个读过海量文字的续写程序:给它一段开头,它按概率一个词一个词地往下写。

接着看

  • 需求说明——动手之前写下来的"做成什么样":目标、范围、参考、限制、以及怎样才算完成。
  • 检索增强生成——先从资料里找出相关的片段,再让模型只根据这些片段作答。"找"的办法不止向量检索一种。

在这些课里出现