本章进度 17 / 18
94%
成本、速度与模型选择·判断·13 分钟
正文已完成

并行、流式与减少调用各解决不同的慢

根据依赖图选择并行执行、提前展示或删除无价值步骤,避免伪优化。

L256
为什么现在学

把“延迟优化”从听懂变成会判断,避免遇到真实任务时仍靠感觉选择。

本课会用什么
  • 无需安装新工具
  • 准备一个可对照的真实问题或样本

流式只能让用户更早看到结果,不一定缩短总耗时;并行只能用于没有依赖的步骤;最快的调用是被证明不需要的调用。

这一课的结果

能判断一个慢流程应减少工作、并行独立步骤还是改善感知等待。

核心概念

先把关键判断说清楚

01

先删除无价值工作

重复分类、无用解释和串行重算如果不影响验收,应优先移除或复用。

02

只并行独立节点

后一步依赖前一步结果时强行并行会制造错误或返工;先画依赖图。

03

流式改善首响应

适合中间结果可消费的任务,但总计算量和最终完成时间可能不变。

案例拆解

三个检索串行执行

系统按三个互不依赖的数据源顺序检索,再统一汇总,总等待由三段相加。

  1. 01

    确认三个检索没有先后依赖

  2. 02

    并行发起并分别设置超时

  3. 03

    汇总时标明缺失来源,不让一个慢源无限阻塞

案例结果

总等待接近最慢单源,而不是三段之和。

提交前练习

现在轮到你

分析一个五步 AI 流程,选择删除、并行、缓存或流式。

完成本课需要:完成以下内容用于本课收口。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

删除重复语言检测;缓存稳定模板;三个独立资料源并行;先流式显示已确认摘要,最终引用核验后标记完成。

评分标准

  • 并行有依赖依据
  • 区分总耗时与感知等待
  • 至少移除或复用一段无价值工作

本课收口 · 应用检查

完成一次应用,再检查理解

完成一次必填练习,再通过理解检查;阅读标记和总结不设硬门槛。

0 / 2
02完成本课必填练习0 / 4 项必填内容已填写03通过理解检查点此去回答,约 30 秒
04补一句总结(可选)可以留空,不影响完成本课。
流式输出通常直接改善哪个指标?
你现在更接近哪一种状态?
尚有必填项未完成,请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。