本章进度 11 / 19
58%
大模型怎样工作·判断·13 分钟
正文已完成

温度和采样怎样改变候选选择

比较低随机、高多样和受约束生成,按任务风险选择采样策略。

L049
为什么现在学

把“概率生成”从听懂变成会判断,避免遇到真实任务时仍靠感觉选择。

本课会用什么
  • 无需安装新工具
  • 准备一个可对照的真实问题或样本

候选分布形成后,还要决定怎样选。采样设置会改变输出的稳定与多样,但不能替代事实来源、格式校验或安全控制。

这一课的结果

能根据任务对稳定性、多样性和风险的要求选择采样策略,而不把温度当成准确率旋钮。

核心概念

先把关键判断说清楚

01

温度重塑分布

较低温度让高概率候选更占优势,较高温度让更多候选有机会被选中;它不直接衡量答案真假。

02

候选集合裁剪

top-p 等策略只在累计概率覆盖一定范围的候选中采样,用来减少极低概率分支。

03

任务决定策略

结构化抽取重视稳定与约束,创意发散需要多样性,同一设置不应覆盖所有任务。

04

可复现有边界

固定输入与采样种子有助于调试,但服务版本、并行计算或后端变化仍可能造成差异。

案例拆解

报销抽取被当成广告脑暴

团队沿用创意文案的高随机设置提取发票字段,同一张票多次得到不同类别,后端又没有 schema 校验。

  1. 01

    把抽取任务切换到更稳定的生成策略

  2. 02

    用结构约束限定字段与类型

  3. 03

    把无法确认的类别返回为待人工核对,而不是增加随机尝试

案例结果

输出差异减少,剩余不确定性被显式交给校验与人工处理。

提交前练习

现在轮到你

为三个任务分别选择生成策略,字段抽取、品牌口号脑暴、合规问答。

完成本课需要:完成以下内容用于本课收口。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

字段抽取采用低随机并用 schema 校验;口号先以较高多样性生成候选,再由品牌规则筛选;合规问答采用稳定生成、限定权威资料并让高风险结论人工复核。每类固定样本运行多次比较一致性、覆盖与错误。

评分标准

  • 策略与任务目标匹配
  • 没有把采样设置当事实保证
  • 包含独立于模型的控制与比较

本课收口 · 应用检查

完成一次应用,再检查理解

完成一次必填练习,再通过理解检查;阅读标记和总结不设硬门槛。

0 / 2
02完成本课必填练习0 / 4 项必填内容已填写03通过理解检查点此去回答,约 30 秒
04补一句总结(可选)可以留空,不影响完成本课。
哪个说法最准确?
你现在更接近哪一种状态?
尚有必填项未完成,请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。