AIAI学习站
继续学习
本章进度 13 / 19
68%
大模型怎样工作·理解·10 分钟
正文已完成

上下文窗口是工作台，不是永久记忆

理解窗口容量、输入输出共享和截断风险，分清当前可见信息与长期保存。

L051
为什么现在学

先用本课建立“上下文窗口”的基本直觉，后面的判断和练习才不会只靠记结论。

本课会用什么
  • 无需安装新工具
  • 直接阅读并完成本页理解检查

模型生成时只能依据本次调用中可见的内容。上下文窗口像有限工作台，指令、对话、资料和新输出都要占位置。

这一课的结果

能画出一次请求的上下文组成，并解释为什么聊天记录存在不等于模型当前都能使用。

核心概念

先把关键判断说清楚

01

窗口按 Token 计量

容量以模型处理单位计算，不等于固定字数；语言、代码和格式都会影响占用。

02

输入与输出共享预算

系统指令、历史消息、检索资料和待生成回答共同受调用上限约束。

03

保存不等于可见

聊天或文档可以存储在系统里，但只有被选中并放入当前请求的部分才进入模型工作台。

04

超限必须有策略

截断、摘要、检索或缩短输出会产生不同信息损失，产品不能静默丢弃关键条件。

案例拆解

长对话中消失的退款上限

客服助手前几轮收到退款不得超过500元的规则，后续堆入大量工单历史时，系统从头部截断，最终给出680元退款建议。

  1. 01

    确认规则未进入实际请求而非归因于模型遗忘

  2. 02

    把稳定政策放入受控指令区

  3. 03

    历史对话压缩为状态摘要，并在提交前校验退款上限

案例结果

关键规则不再依赖偶然保留的聊天位置，超限处理也变得可观察。

提交前练习

现在轮到你

拆解一次知识问答调用的上下文工作台。

选做练习：本节练习可用于加速你巩固，但不影响继续学习。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

工作台含权限规则、当前问题、会话状态、三段检索证据和回答空间；权限与日期不可丢；闲聊删除、旧进度摘要、资料按问题检索；通过请求追踪记录所选片段ID和规则版本。

评分标准

  • 区分存储内容和本次可见内容
  • 明确输入输出共享预算
  • 关键条件有实际请求读回

本课收口 · 理解检查

用 30 秒确认你理解了

用 30 秒理解检查确认你抓住了重点；阅读标记、练习和总结都不设硬门槛。

0 / 1
02完成练习（选做）0 / 4 项已填写，不影响完成03通过理解检查点此去回答，约 30 秒
04补一句总结（可选）可以留空，不影响完成本课。
一条规则曾出现在早期聊天中，但没有进入当前请求，会发生什么？
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。