它不是偶尔说错,是本来就在补全

很多人以为模型偶尔出错,大部分时候是准确的,所以只需要抽查。这是对工作方式的一个误解:它并不在检索一个事实库然后偶尔翻错,而是在根据已学到的语言规律补全最可能的下一段内容。当某个细节它没真正掌握时,它依然会给出一个读起来非常合理的答案。所以问题不是「会不会出错」,而是「出错的地方看起来和正确的地方一样」。

来源一:资料本身没有或过时

第一种来源是它的知识边界。训练资料里没有的信息、发布之后才发生的事、以及没公开的内部数据,它都无法真正知道。遇到这类问题,它不会说不知道,而是按相似内容的模式给出一个答案。这也是为什么越新、越具体、越冷门的细节越危险——恰好是读者最想核实也最难核实的部分。

来源二:把相似的东西混起来

第二种来源是混淆。名称相近的两个产品、时间接近的两个事件、同名的两个人物、以及同一个概念在不同标准下的两种定义,都是高频混淆点。它给出的往往是「和正确答案很像但不完全对」的版本,比如把某个功能的版本归类错、把某条规定的生效时间说错。这类错误最难发现,因为整体叙述依然通顺。

来源三:顺着你的暗示往下补

第三种来源常被忽略:你的提问方式会影响它的补全方向。当你带着倾向提问时,比如「某某方案是不是效率最高」,它倾向于顺着这个方向给出支持性内容,而不是先质疑前提。同样,当你给出一个错误前提,它可能默认前提成立继续推演。这不是它在迎合,而是语言补全的自然结果。

最容易中招的四类内容

实践中出错代价最大的通常是四类:数字与时间(金额、比例、年份、生效日期)、来源与引文(报告名称、原话、作者)、专有名词与对应关系(谁负责什么、哪个版本有什么功能)、以及流程性描述(步骤顺序、前置条件)。这四类的共同点是「错一点就足以误导」,也是核对时应该逐项确认的部分。

一套五步核对流程

第一步,把所有硬事实单独摘出来列成清单:数字、时间、名称、来源。第二步,逐项找原始出处核对,不看二手转述。第三步,检查引文是不是真的支持你的论点,而不是被改写后走了样。第四步,确认限定条件有没有丢失,比如适用前提、例外情况。第五步,让另一个人或不带预设地重问一次同一件事,看结论是否一致。五步做完,绝大多数问题能被拦住。

一个案例

某人用 AI 起草一份行业说明,文字流畅、数据齐全,他只改了几处表述就发出去。事后被指出三处问题:一个比例数字把「约三成」写成了「超过半数」、一条规定的生效年份早了一年、引用的报告名称是对的但结论未被该报告支持。三处都来自同一批补全,而且都是「看起来完全合理」的那种错误。核对省不掉,因为错误和正确长得很像。

容易走偏的地方

一是通篇通读一遍觉得通顺就发布,通顺和准确是两回事;二是只核对明显的声称,放过隐含的前提;三是发现自己对了几次之后放松警惕,因为错误分布是随机的;四是让 AI 自查自己的内容,它往往看不出自己补全出来的细节有什么问题。核对必须落到外部来源。

什么时候可以降低核对强度

如果输出不涉及可验证的事实——比如纯粹的思路整理、表达改写、风格调整——核对强度可以很低。判断标准是:这份内容里有没有别人可以用来反驳你的具体断言。没有,就只看逻辑;有,就逐条核。把核对精力集中在真正会被验证的部分,效率最高。

局限声明

不同工具在事实性上的表现差异明显,且随版本迭代变化,本文基于通用使用经验。具体核对程度请以你的实际用途为准,重要对外内容建议逐条核实原始来源,本文不替代产品说明与实测结论。