本章进度 10 / 19
53%
正文已完成
L048模型怎样按概率一步步续写
用候选词分布理解生成过程，分清语言上的可能性与事实上的正确性。
先用本课建立“概率生成”的基本直觉，后面的判断和练习才不会只靠记结论。
建议按完整课程顺序先看上一课；如果术语陌生，可以随时回补。
- 无需安装新工具
- 直接阅读并完成本页理解检查
模型每一步都在当前上下文下给后续候选分配概率，再选出一个继续。这个机制擅长生成连贯文字，却没有自带事实核验。
能用非数学语言解释一次逐步生成，并指出高概率输出为什么仍可能错误。
核心概念
先把关键判断说清楚
条件概率
候选分布取决于已经输入和生成的内容；上下文变化，同一个位置的候选也会变化。
逐步生成
模型选出一个后续单位后，把它加入上下文，再计算下一步，直到停止条件出现。
流畅不等于真实
训练数据中常见的表达可能获得较高概率，但高概率只说明语言匹配，不保证事实经过核对。
停止也是选择
结束标记、长度限制或外部停止规则决定回答何时收口，生成不是无限延伸。
案例拆解
未知内部价格也能被说得很像
员工问模型一项尚未公开的公司服务价格。上下文没有价格表，模型却按照常见套餐文案补出一个具体数字。
- 01
识别上下文中没有可核对价格
- 02
把流畅数字视为概率生成而非数据库查询结果
- 03
改为要求模型暴露未知，并在提供权威价格表后再回答
案例结果
团队不再把自然的语气当成事实证据，并为缺少依据的回答设置停止条件。
提交前练习
现在轮到你
用一句未完成的话模拟两步概率生成，并标出事实核验应发生在哪里。
选做练习：本节练习可用于加速你巩固，但不影响继续学习。
内容会自动保存在当前设备
查看参考答案与评分标准
参考答案
起始句“雨开始下了，我拿起”；第一步候选雨伞高、手机中、火车低，选雨伞；第二步候选走出门高、挡雨中、查天气中。若续写为具体降雨量，必须查询气象来源，不能从候选概率推断。
评分标准
- 候选会随已选内容变化
- 明确概率与事实不是同一件事
- 核验点指向外部证据
本课收口 · 理解检查
用 30 秒确认你理解了
用 30 秒理解检查确认你抓住了重点；阅读标记、练习和总结都不设硬门槛。
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。
资料来源
继续核对与延伸阅读
本课内容最近更新于 。
- Attention Is All You Need↗paper · 核对日期 2026-08-23
- Prompt Engineering↗official-docs · 核对日期 2026-08-23