AI 幻觉怎么发现？三个能被你抓到的破绽（附判断方法）

它错的时候，句子通常比对的还顺。

AI 幻觉是什么？指模型凭空生成不存在的信息。 它的机制不神秘：大模型做的是接着上文往下写，写出一段"最像答案"的文本——目标是"像"，不是"对"。所以幻觉不是故障，是这种工作方式的副产品。这类输出已经进了正式工作流：研报、纪要、合同、法律文书。而它没有可信度标记——一段编出来的话，和一段查证过的话，长得一模一样。幻觉消不掉。换更大的模型、接上检索，只能压低比例，压不到零。既然消不掉，剩下的问题就只有一个：怎么发现。

AI 编东西的时候，会留下三种它自己抹不掉的痕迹。你不需要查证任何资料，读的时候就能看见。查证是起疑之后的事。本文多数时候就叫它"编"。 因为这个行为和人编假话没有区别：不是记错，是现造。至于怎么判断一段输出有没有编，看三个破绽就够。另外，"看得出"它对不对，是[金融 AI 使用指南：三个条件决定你的 AI 项目能否从试点走向日常]里的第三个条件，本文把"看得出"展开讲。

拦不住 的AI 幻觉：大模型幻觉检测的局限

拿到一段 AI 生成的内容，多数人的做法是通读一遍，凭感觉。这个做法有效：语病、常识错误、前后矛盾，读一遍基本能看出来。但 AI 编的东西恰恰没有语病，也不违反常识。它句子通顺、格式标准、语气笃定，读起来比不少人写的还顺。你凭感觉要找的那些毛病，它一个都没有。

所以不能只靠感觉，要看痕迹。下面三个破绽，按检查成本从低到高排：数字零秒，引用三十秒，语气要读完全文。

破绽一：数字干净得可疑

读的时候能看见什么。 精确到不合理的位数，比如"转化率提升 37.42%"；整数得反常，比如"市场规模恰好 500 亿"；通篇没有一个数字带口径、带取数时间。

数字为什么会露出毛边。 真实的数字是从系统里取出来的，身上带着三样东西：零头，因为业务不按整数发生；口径，因为同一个指标有不止一种算法；取数时间，因为数据每天在变。编出来的数字是"生成"的，生成器知道数字应该长什么样，不知道真实的数字具体是多少，于是给出一个光滑的结果。开头那个 99.8% 就是标准长相：精确、孤立、无处可查。当然，整数本身不是罪证——整数加上没有口径，才是。

起疑后 30 秒：问它数从哪来

挑一个最关键的数字，问它这个数是哪来的。答得出取数路径——哪张表、什么时间、什么口径——可以继续谈；答不出，或者只回一句"根据公开数据"，这个数字按不存在处理。

一个数字都不用查，留意位数和口径，怀疑就完成了。这是三个破绽里成本最低的一个。把活交出去时也一样。第二层叫"整理成表"，分水岭只有一条：来源敢不敢把取数路径摊开，见[AI 金融助手都在做什么？从一次性提问到每日服务]。

破绽二：AI 给的参考文献是假的，格式却完美

这类东西长什么样。 期刊名、卷号、页码一应俱全，作者名字听起来就是这个领域的人；但链接点不开，DOI 无效，按标题搜，查无此文。

它学的是引用长什么样，不是引用存不存在。 训练时它见过大量文献条目：期刊名配年份、作者配标题、卷号配页码。这套格式它学会了，哪份引用真的存在，它没有学会。所以生成的条目格式完美，指向虚无。

起疑后 30 秒：复制，搜一次

把它给过的任何一条出处原样复制，搜一次。三十秒以内出结果：搜得到，这一条过；搜不到，全文存疑。不是只有引用存疑，是全文。编引用和编数字是同一只手。这不是逻辑证明，是一条经验规则：一个来源在一个地方编，你在别的地方就得替它多花时间。

到这里，检查的代价从零秒涨到三十秒。下一个更贵。

破绽三：它从来不说"不知道"

一句话就能试出来。 你问什么它都有答案。陈述一件可查的事实时是这种语气，预测明年、评价一家名不见经传的公司、给一个业内有争议的口径下结论时，还是这种语气。该犹豫的地方，它一处都不犹豫。

这道防线怎么建，另一篇讲过。这里只讲一件事：它已经写完了，你怎么从字面上看出来。

为什么它没有"不知道"这个选项。 它被训练成"给出回答"，不被奖励"承认不知道"，至少在多数面向普通用户的产品里是这样。一个真正懂行的人知道边界在哪里：哪些问题有定论，哪些只有观点，哪些连数据都没有。一个从不说"不知道"的作者，不是因为全知道，是因为没有"不知道"这个选项。

AI 幻觉的典型表现：三个破绽一张表

三个破绽分别长什么样、起疑之后花多少时间验证，看这张表。手上有带小数点的数字，先看第一列；手上有引用，先看第二列；要判断这个来源还能不能信，看第三列。

顺序不能反。先查引用再问语气，你会先花掉三十秒；先读语气再看数字，你会读完全文才发现第一句话的数就是编的。便宜的先做，做的过程里你会越来越不信它。这个"越来越不信"，比任何单个动作都有用。

换到季报点评上：AI 幻觉的三个破绽长什么样

换到金融，三个破绽更具体。

破绽一，在点评第一段。 "公司三季度营收 1,324.67 亿元，毛利率 28.35%，同比提升 1.2 个百分点。"精确到小数点后两位，看上去认真算过。但通篇没写含税不含税，没写是否追溯调整口径，没写哪一天取的数。麻烦在于同比增速照着这个数算，整篇自洽，读起来严丝合缝。抽三个数字——营收、毛利率、那个 1.2 个百分点——逐个问取数路径；答不出，全篇按待核处理。

破绽二，在行业对比那一段。 "据某券商 2026 年 7 月《XX 行业深度》，行业集中度已升至……"作者、标题、页码齐全，像翻过原文。复制标题搜一次，搜不到就是编的。动作只有一个：搜；搜不到，全文存疑。

破绽三，在你多问一句的时候。 "这家公司明年营收多少？"它给一个数，还带同比增速。明年的数还不存在，它答得和今年一样确定。此后它所有笃定的判断，都要降一级。

同一套动作，换到研报、招股书、投委会材料上

换场景，AI 幻觉的痕迹不变。研报摘要里那句"据某券商测算，2027 年渗透率将达 34.2%"，招股书摘录里的"行业规模 1,850 亿元"，投委会材料里的"可比公司平均毛利率 41.6%"——都按同一顺序过：先问口径，再搜一次出处，最后问一个明年才有的数。

三个动作，成本不到两分钟。省掉任何一个，签字的都是一份你自己复核不了的稿子。

AutoClaw 在这三处做了什么，没做什么

破绽一，靠的是每个数字能指回去。财报 PDF 的三张表，行名各家写法不同，"营业收入""营业总收入"混着来，第一步是把行名映射到同一套口径；映射错了，后面算出来的同比全是错的。这件事有唯一答案，跟原表一对就知道对不对。再往上一层，每个数字能指到哪张表、哪一行、什么时候取的——这是"整理成表"敢不敢交出去的硬前提。AutoClaw 的材料读取做的正是这一段：三张表和关键段落先读出来，口径对齐之后才谈同比。

破绽二，靠的是出处跟着稿子一起留下。引用不该只活在模型的回答里：你点一下，看到的是原文那一页，不是它复述的一句话。定时交付把初稿送到你手上的时候，出处跟着一起走，你不用另外去翻。这一步做到，"搜一次"才从动作变成习惯。

破绽三，能做的只有一件：没数据时说没有。

AutoClaw 的位置画在这条线上：取数、整理、成稿、按时交付，这些有可校验终点的交给流程；假设成不成立、结论敢不敢署名，留给签字的人。参数和结果留下来方便复核，但留痕不是核验，核验是你签字前的最后一步。这条线具体怎么划，[AI 会取代金融分析师吗：它能写研报，但签不了字]拆过。

工具能做到成稿，做不到签字。放到金融的日常里，AI 幻觉出现的地方很具体：季报点评、定期跟踪、同业对比，这三类活有可校验的终点——数字指得回原表、出处点得开、没数据时它说没有。终点之前的交给 AutoClaw，终点之后的交给你。三种活里，最容易被当成"随便写写"的是季报点评，最容易出事也是它，因为它看起来最像有人认真算过。

AI 幻觉识别失效的五种情况

• 它改写你亲手给的材料时，不灵。 数字是你喂的，出处是你给的，三个破绽一个都不会出现。这时候要核对的是它有没有改错你的数字，那是另一套防法。
• 逻辑层面的错，不灵。 每一步都对、结论不成立，把同时发生当成因为所以，这是判断问题，不是痕迹问题，只能靠你的专业。
• 源头数据本身就错，不灵。 上游数据有误，它照实引用，错得"有据可查"，三个破绽全部失效。

前三条是它管不到的。下面两条不一样，那不是管不到，是用反了。

• 用另一个 AI 来检测，别。 检测器自己也是模型，同样会编。开头那个自称准确率 99.8% 的工具就是证据：它用来证明自己可靠的数字，恰恰符合本文教你的第一个破绽。我后来没点进去。真要用检测器，看三件事：样本量、测试集是什么内容、方法是否公开。三个都没有，那个数字按不存在处理。
• 接了检索，不等于不编。 检索能压住一部分凭空生成，压不住"取回来了但读错""引用了但张冠李戴"。上面那份实测测的正是带检索的产品。

AI 幻觉怎么发现，答案不在“更准的检测”里，在“能被你抓住的痕迹”里。 三个破绽有一个共同点——它们都长在文本表面，不需要你手上有任何外部资料：数字精确到可疑、出处查不到、什么都答得出来。这也是它比检测工具可靠的地方：检测器要多一层信任，读文本不用。代价是它只管“像不像编的”，不管“对不对”——逻辑错、上游数据错、改写你亲手给的材料，三个破绽全部失效。

所以正确的用法不是“信或不信”，是分层：有可校验终点的活交给流程，判断和署名留给自己。识别之后，把它放到正确的位置上——金融 AI 怎么用讲的是这个。