本章进度 16 / 18
89%
评测与可观测性·理解·10 分钟
正文已完成

没有 Trace,失败只能靠猜

理解一次 AI 请求如何串联模型、检索、工具和验证事件。

L183
为什么现在学

先用本课建立“日志与追踪”的基本直觉,后面的判断和练习才不会只靠记结论。

本课会用什么
  • 无需安装新工具
  • 直接阅读并完成本页理解检查

最终答案错误时,需要知道请求经过了哪些组件、每步输入输出版本和耗时。Trace 串联一次运行,日志解释事件,指标展示总体趋势。

这一课的结果

能说明日志、指标和 Trace 各自回答什么问题。

核心概念

先把关键判断说清楚

01

Trace 连接因果链

同一 trace_id 下的模型、检索、工具和校验 span 能显示先后与依赖。

02

日志保留离散事件

权限拒绝、Schema 失败和人工批准用结构化字段记录。

03

指标观察总体健康

错误率、P95 延迟和单位成本用于发现趋势,不能替代单次复盘。

案例拆解

回答慢了 8 秒,模型只占 1 秒

团队准备换更快模型,但 Trace 显示检索重试占 6 秒。

  1. 01

    根 span 显示总时长 9 秒。

  2. 02

    检索 span 两次超时共 6 秒,模型 span 1 秒。

  3. 03

    优化检索超时和缓存,而非升级模型。

案例结果

可观测性把体验问题定位到真实瓶颈。

提交前练习

现在轮到你

为一次 AI 请求列出最小可观测信号。

选做练习:本节练习可用于加速你巩固,但不影响继续学习。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

trace 含 retrieve/generate/validate/tool;日志记录 source_ids、error_code、approval_id;指标含 P50/P95、工具错误率、校验失败率和单次 Token。

评分标准

  • 三类信号职责不同
  • 能关联同一请求
  • 指标覆盖体验和可靠性

本课收口 · 理解检查

用 30 秒确认你理解了

用 30 秒理解检查确认你抓住了重点;阅读标记、练习和总结都不设硬门槛。

0 / 1
02完成练习(选做)0 / 3 项已填写,不影响完成03通过理解检查点此去回答,约 30 秒
04补一句总结(可选)可以留空,不影响完成本课。
要定位单次请求哪一步最慢,首选什么?
你现在更接近哪一种状态?
尚有必填项未完成,请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。