Hallucination

**第 1 章 · 现象：错，也错得理直气壮。**举个最常见的场面——你让它列一份产品参数。它一秒没停：十几行摆出来，数字带着小数点，排得整整齐齐。你照着单子去官网核对，往往有那么几处对不上，还有两项，这个产品压根就没有。再让它推荐几本书，书名、作者，一样不缺，真去找，一本都找不到。全程它没卡过壳。没犹豫过一秒。

**第 2 章 · 本质：它干的活，叫接话。**你写上半句，它挑一个听起来最顺的词摆上去，再挑下一个——它不查证，只往下接。跟手机输入法猜你下一句话，一个路数。只是它读过的东西多，接得像模像样。可它手边什么凭据都没有，也没有「不知道」这个出口：接不上的地方，它就编一个，接上再说。大家管这个场面叫「幻觉」：话是顺的，事是假的。

**第 3 章 · 为什么：没人教过它停下来。**先别急着骂它骗人。骗人得先有个存心，它没有。打个比方，它被训练的时候像在赶一场大考：判分只看话说得顺不顺、完不完整；说一句「这个查不到」，不加分。于是它宁可把话编圆，也不肯停在半路。说到底，从小到大没人告诉过它一句话：答不上来，可以停。

**第 4 章 · 防法：有，三步就够。**这个毛病挡得住，用不着什么高深办法，就三步：先喂，再问；关键数字，自己对一遍；查不到，就让它认。具体怎么做，下面一条条写好了。为什么第一步要先喂？因为它编，编的就是空缺——你先把说明书、文件、网页递到它手边，空缺先被真材料占住，它能下手的地方一下就少了。数字最经不起顺眼：价格、日期、证书编号，看着越像真的，越可能是它顺手编的，所以凡是你要拿去用的，一定回到原处看一眼。最后一步最省事：提问时把话说在前头——「查不到就写查不到。」它缺的就是这个选项；你把选项递过去，它多半就照做。

防法三步

1. **先喂，再问。**把说明书、文件、网页先给它看，再让它开口。有材料垫在底下，它能编的空子一下就小了。
2. **关键数字，自己对一遍。**价格、日期、参数、书名、证书编号——凡是你要拿去用的，回到原来的出处看一眼，再用。
3. **查不到，就让它认。**提问时先加一句：「查不到就写查不到，不许猜。」答不上来不丢人，编一个才坏事。

这一集的出处

选题来自刘艺的「AI 小知识」专栏里讲 AI 幻觉的一期：题目和要点取自专栏，歌词与解说全部由本站另行原创。这一集没有引用任何外部统计数字。歌里唱的编参数、编认证头衔、编书目，是这类回答里最常见的三种样子——示意而已，不对应任何一次实测记录。你手边那一次回答是真是假，用上面那三步，自己核对。

录的时候

词定稿之后，这首歌前后录了两个版本。我们把 32 行词逐行听、逐行对：第一个版本里，副歌那句「顺，不等于真」唱了三遍，三遍都糊成一团，听不清，只能放弃；第二个版本里有一遍，这五个字单独停住、字字清楚，就定了它。还有两个老大难：「参数规格」和「认证头衔」，两个版本都唱得含混——词太硬，连着排就绊嘴。记一笔，以后写词避开这种硬词连排。画面原先是按 80 秒做的，歌一唱长，八个场景只好逐个重新对位、拉长。