本章进度 6 / 19
32%
大模型怎样工作·练习·18 分钟
正文已完成

画清一次请求在哪些阶段发生了什么

把离线训练、模型发布和在线推理放进同一时间线,避免把数据流与参数流混为一谈。

L044
为什么现在学

现在把“训练和推理”用于一次具体操作,检查你能否独立做出并修正结果。

本课会用什么
  • 按本课练习说明准备真实材料
  • 保留练习与复盘记录

本课用一张图连接概念,训练数据怎样参与优化、模型版本怎样发布、用户输入怎样在推理时产生输出。

这一课的结果

能画出从训练数据到一次线上回答的简化流程,并标明哪些环节会更新参数。

核心概念

先把关键判断说清楚

01

离线训练产出版本

训练或微调读取数据并更新参数,完成后形成可标识、可评测的模型版本。

02

部署加载参数

推理服务加载指定版本及配置,版本切换是受控发布动作,不是每次请求临时训练。

03

在线请求不混入训练

记录请求用于观测或未来数据流程,不代表它已经即时进入当前模型参数。

案例拆解

线上回答变化被误判为模型重新训练

同一问题隔天答案不同,团队直接归因于‘模型学了新知识’,却忽略提示版本和检索资料已改变。

  1. 01

    记录模型版本、提示版本和检索快照

  2. 02

    确认参数版本未变

  3. 03

    定位变化来自知识库更新与随机采样

案例结果

团队用真实版本链解释差异,不再把所有变化归因于训练。

提交前练习

现在轮到你

画一张训练到线上推理的五节点流程图。

完成本课需要:完成以下内容用于本课收口。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

训练数据→优化训练→模型v3→线上请求加提示与检索→输出;参数只在训练环节更新;排查差异需核对模型、提示、检索和采样配置。

评分标准

  • 训练与推理分开
  • 参数更新点正确
  • 变化归因包含多个版本因素

本课收口 · 学习证据

留下完整学习证据

读完内容、完成练习、通过理解检查并留下 12 字以上总结,才记为已验证。

0 / 4
02完成本课必填练习0 / 4 项必填内容已填写03通过理解检查点此去回答,约 30 秒
04写下 12 字以上总结还差 12 字
同一模型版本对同一问题答案不同,首先还应检查什么?
你现在更接近哪一种状态?
尚有必填项未完成,请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。