本章进度 11 / 19
58%
正文已完成
L049温度和采样怎样改变候选选择
比较低随机、高多样和受约束生成,按任务风险选择采样策略。
把“概率生成”从听懂变成会判断,避免遇到真实任务时仍靠感觉选择。
建议先理解同主题上一课的核心概念,再完成本课判断练习。
- 无需安装新工具
- 准备一个可对照的真实问题或样本
候选分布形成后,还要决定怎样选。采样设置会改变输出的稳定与多样,但不能替代事实来源、格式校验或安全控制。
能根据任务对稳定性、多样性和风险的要求选择采样策略,而不把温度当成准确率旋钮。
核心概念
先把关键判断说清楚
温度重塑分布
较低温度让高概率候选更占优势,较高温度让更多候选有机会被选中;它不直接衡量答案真假。
候选集合裁剪
top-p 等策略只在累计概率覆盖一定范围的候选中采样,用来减少极低概率分支。
任务决定策略
结构化抽取重视稳定与约束,创意发散需要多样性,同一设置不应覆盖所有任务。
可复现有边界
固定输入与采样种子有助于调试,但服务版本、并行计算或后端变化仍可能造成差异。
案例拆解
报销抽取被当成广告脑暴
团队沿用创意文案的高随机设置提取发票字段,同一张票多次得到不同类别,后端又没有 schema 校验。
- 01
把抽取任务切换到更稳定的生成策略
- 02
用结构约束限定字段与类型
- 03
把无法确认的类别返回为待人工核对,而不是增加随机尝试
案例结果
输出差异减少,剩余不确定性被显式交给校验与人工处理。
提交前练习
现在轮到你
为三个任务分别选择生成策略,字段抽取、品牌口号脑暴、合规问答。
完成本课需要:完成以下内容用于本课收口。
内容会自动保存在当前设备
查看参考答案与评分标准
参考答案
字段抽取采用低随机并用 schema 校验;口号先以较高多样性生成候选,再由品牌规则筛选;合规问答采用稳定生成、限定权威资料并让高风险结论人工复核。每类固定样本运行多次比较一致性、覆盖与错误。
评分标准
- 策略与任务目标匹配
- 没有把采样设置当事实保证
- 包含独立于模型的控制与比较
本课收口 · 应用检查
完成一次应用,再检查理解
完成一次必填练习,再通过理解检查;阅读标记和总结不设硬门槛。
你现在更接近哪一种状态?
尚有必填项未完成,请补齐后再继续。
资料来源
继续核对与延伸阅读
本课内容最近更新于 。
- llama.cpp↗official-docs · 核对日期 2026-08-23
- Prompt Engineering↗official-docs · 核对日期 2026-08-23