本章进度 19 / 19
100%
大模型怎样工作·项目·35 分钟
正文已完成

画出一次模型调用的完整链路

把输入编码、上下文组装、概率生成、输出还原与外部校验画成一条可讲清的链路。

L057
为什么现在学

项目课把本章方法合到一个真实任务中,需要留下过程与结果,才能判断是否真正会用。

本课会用什么
  • 按项目说明准备真实材料
  • 保留输入、过程、结果与核验记录

本章项目不要求画神经网络内部全部数学细节,而是把最容易混淆的边界画清,训练与调用不同,输入与参数不同,概率生成与事实核验也不同。

这一课的结果

能用自己的话完成一张一次模型调用图,并用真实例子解释每个节点的输入、输出和限制。

核心概念

先把关键判断说清楚

01

调用前先组装输入

系统规则、用户任务、可见历史与多模态资料先被选择和编码,形成有限上下文。

02

参数参与计算但不被本次提示改写

训练形成的参数用于计算当前候选分布;普通推理调用不会因为一句新提示就永久更新模型。

03

生成是重复选择

模型计算下一步候选,解码策略选择一个结果并放回上下文,循环直到停止。

04

输出后仍需系统工作

解码、结构校验、证据核对、安全检查和用户确认发生在模型生成之外,共同决定结果能否使用。

05

每条箭头写数据变化

图中的连线要说明传递的是原始文件、Token、内部表示、候选概率还是最终字段,避免只画神秘方框。

案例拆解

把一次发票抽取调用拆成八个节点

学习者最初画成“上传发票→AI 思考→返回金额”,无法解释 OCR 错误、上下文超限或金额为何需要校验。

  1. 01

    输入层编号发票图像、任务规则与输出 schema

  2. 02

    编码并组装有限上下文,标出参数只参与推理

  3. 03

    逐步生成结构化候选,解码后用金额关系和原图区域校验

案例结果

新图能定位错误发生在输入质量、上下文选择、概率生成还是外部校验,而不是全部归因于“AI 不聪明”。

提交前练习

现在轮到你

选择一个真实任务,画出一次模型调用并提交配套讲解。

完成本课需要:完成以下内容用于本课收口。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

任务为发票抽取,系统规则、图片I1和JSON schema进入输入包;图片编码为视觉表示,文字变为Token,按预算组装上下文;模型参数计算下一字段候选,低随机选择并回填,生成结束标记后停止;解析JSON并核对总额、税额及I1区域。另一人误以为提示会更新参数,因此在图中把“训练更新参数”和“推理读取参数”分成两条不同路径。

评分标准

  • 图中至少包含输入、编码、上下文、参数计算、生成循环和校验
  • 明确训练不属于本次调用
  • 每种关键信息能沿箭头追踪
  • 根据他人复述完成一次实际修订

本课收口 · 学习证据

留下完整学习证据

读完内容、完成练习、通过理解检查并留下 12 字以上总结,才记为已验证。

0 / 4
02完成本课必填练习0 / 5 项必填内容已填写03通过理解检查点此去回答,约 30 秒
04写下 12 字以上总结还差 12 字
下面哪条箭头不应出现在普通的一次推理调用主链路中?
你现在更接近哪一种状态?
尚有必填项未完成,请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。