小白起步路径 · 第 7 / 10 步

这台设备已完成 0 / 10
事实核验与幻觉治理·理解·10 分钟
正文已完成

一句话很像答案,不等于它来自事实

理解模型为何会在缺证据时生成连贯但错误的名称、数字和出处。

L058
为什么现在学

分清生成与检索后,再理解为什么一段很流畅、很具体的话仍可能不是事实。

本课会用什么
  • 一个含具体名称、数字或出处的 AI 回答
  • 能打开原始来源的浏览器
新词先用人话说
  • 幻觉

    AI 在缺少可靠证据时,仍生成看似合理但错误或不存在的内容。

  • 证据责任

    谁提出具体事实,谁就要能给出可回到原文的支持材料。

模型的任务是延续当前上下文,而不是在每句话前自动查询事实数据库。材料不足时,它仍可能补出形式完整的名称、日期和引用。

这一课的结果

能用生成机制解释幻觉,并区分流畅度与事实可靠性。

核心概念

先把关键判断说清楚

01

概率合适不等于事实为真

一个词在语境中很自然,只说明语言模式匹配,不证明现实中存在对应事件。

02

空白会被合理化补齐

问题预设了不存在的论文或人物时,模型可能顺着前提生成细节。

03

细节越具体越要证据

精确数字、日期、链接和原话应能回到来源,具体感不能替代出处。

案例拆解

不存在的行业报告有了页码

用户询问一份并不存在的“2026 全球智能物流白皮书”,模型给出发布机构和第 38 页结论。

  1. 01

    先核对报告名称、机构官网和出版目录,均无记录。

  2. 02

    发现问题本身预设报告存在,模型沿用了该前提。

  3. 03

    正确回答应说明未找到原始报告,并请求链接或改查真实资料。

案例结果

看似专业的页码和机构名没有任何原始来源,属于事实性幻觉。

提交前练习

现在轮到你

找一段包含具体事实的 AI 回答,拆开它的证据责任。

选做练习:本节练习可用于加速你巩固,但不影响继续学习。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

某报告声称效率提升 37%,但只给出报告名,没有链接和发布页。这条主张尚未证实,找到机构原文后才能引用。

评分标准

  • 主张可逐项核对
  • 没有把措辞当证据
  • 不确定状态明确

本课收口 · 理解检查

用 30 秒确认你理解了

用 30 秒理解检查确认你抓住了重点;阅读标记、练习和总结都不设硬门槛。

0 / 1
02完成练习(选做)0 / 3 项已填写,不影响完成03通过理解检查点此去回答,约 30 秒
04补一句总结(可选)可以留空,不影响完成本课。
模型给出完整报告名、机构和页码,最可靠的下一步是?
你现在更接近哪一种状态?
尚有必填项未完成,请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。