本章进度 14 / 19
74%
大模型怎样工作·判断·13 分钟
正文已完成

把有限窗口分给重要信息

按指令、任务状态、证据和输出分配上下文预算,用检索与摘要控制损失。

L052
为什么现在学

把“上下文窗口”从听懂变成会判断,避免遇到真实任务时仍靠感觉选择。

本课会用什么
  • 无需安装新工具
  • 准备一个可对照的真实问题或样本

上下文管理优先保护会改变结果的信息,其余内容按需压缩或取回。

这一课的结果

能为一个长任务制定上下文预算表,并为不同信息选择保留、压缩、检索或丢弃策略。

核心概念

先把关键判断说清楚

01

按作用分区

稳定规则、当前任务、状态、证据和输出空间用途不同,应分别预算与更新。

02

保真度分级

金额、条款和用户决定通常保留原文;过程叙述可以摘要;可查资料按需检索。

03

摘要不是无损压缩

摘要会选择性丢失细节,需要保存来源指针并对关键事实做结构化记录。

04

给输出留空间

输入占满窗口可能迫使回答过早停止;预算必须包含预期交付物长度和校验余量。

案例拆解

八十轮项目对话压垮当前任务

项目助手每次重放八十轮聊天,既浪费窗口,又把早已废弃的方案混进当前决策。

  1. 01

    把已确认目标、约束和决定写成结构化状态

  2. 02

    保留最近相关对话,旧讨论仅存摘要与原消息指针

  3. 03

    根据当前问题检索附件,并为最终方案预留固定输出空间

案例结果

请求更短且决策状态更清楚,过期讨论不再与当前规则竞争。

提交前练习

现在轮到你

为一个跨多轮的项目助手分配上下文预算,不要求使用某个模型的固定上限。

完成本课需要:完成以下内容用于本课收口。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

稳定规则最高优先;当前目标和已确认状态保留结构化原文;旧讨论摘要并链接消息ID;附件按当前问题检索且保留页码;先删重复闲聊,再缩短低相关证据,绝不静默删除权限与金额,并预留约四分之一给输出。

评分标准

  • 预算包含输出空间
  • 关键信息与可压缩信息有区别
  • 检索和摘要都保留追溯入口

本课收口 · 应用检查

完成一次应用,再检查理解

完成一次必填练习,再通过理解检查;阅读标记和总结不设硬门槛。

0 / 2
02完成本课必填练习0 / 4 项必填内容已填写03通过理解检查点此去回答,约 30 秒
04补一句总结(可选)可以留空,不影响完成本课。
上下文空间不足时,哪种处理最合理?
你现在更接近哪一种状态?
尚有必填项未完成,请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。