本章进度 3 / 19
16%
大模型怎样工作·练习·18 分钟
正文已完成

做一次任务级 Token 预算

实测系统指令、资料、对话与输出的 Token 占用,为长任务留出安全余量。

L041
为什么现在学

现在把“Token 与分词”用于一次具体操作,检查你能否独立做出并修正结果。

本课会用什么
  • 按本课练习说明准备真实材料
  • 保留练习与复盘记录

预算不能只看用户刚输入的一句话。系统规则、工具定义、历史记录、检索资料和预计输出都共享同一个上下文空间。

这一课的结果

能为一项真实任务制作 Token 预算表并验证压缩前后变化。

核心概念

先把关键判断说清楚

01

按组成部分计量

分别记录固定开销、动态输入、检索结果、工具schema、历史和输出上限。

02

留出生成空间

输入占满窗口后模型没有足够空间输出,需为目标交付物预留预算。

03

用代表性极端样本

平均请求不够,至少测试长文、长历史和工具结果膨胀等高位情况。

案例拆解

长报告总结在结论前被截断

系统允许上传整份报告却没有预留输出,模型在生成到风险结论前达到上限。

  1. 01

    测量系统指令与全文占用

  2. 02

    按章节检索而非整篇塞入

  3. 03

    为摘要、风险和引用各留输出预算

案例结果

输入缩短且证据定位保留,完整交付不再在末尾被截断。

提交前练习

现在轮到你

为一项报告问答任务做 Token 预算并尝试一次压缩。

完成本课需要:完成以下内容用于本课收口。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

固定指令2k、报告24k、历史4k、输出4k;用40页报告压力测;改为检索6个相关段落降至12k;核对关键风险与页码引用未丢。

评分标准

  • 预算覆盖输出
  • 压力样本非平均值
  • 压缩后检查信息损失

本课收口 · 学习证据

留下完整学习证据

读完内容、完成练习、通过理解检查并留下 12 字以上总结,才记为已验证。

0 / 4
02完成本课必填练习0 / 4 项必填内容已填写03通过理解检查点此去回答,约 30 秒
04写下 12 字以上总结还差 12 字
为什么 Token 预算要单独预留输出空间?
你现在更接近哪一种状态?
尚有必填项未完成,请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。