本章进度 10 / 18
56%
正文已完成
L141审批点应该放在错误还能被阻止的地方
根据可逆性、影响范围和证据成熟度选择人工检查位置。
先用本课建立“人工检查点”的基本直觉,后面的判断和练习才不会只靠记结论。
建议按完整课程顺序先看上一课;如果术语陌生,可以随时回补。
- 无需安装新工具
- 直接阅读并完成本页理解检查
审批并非越靠前越安全。信息尚未形成时,人只能盲批;动作已经执行后再审核又太晚。最佳位置是决策证据齐全、外部副作用尚未发生的时刻。
能解释为什么审批过早、过晚或缺少证据都会失效。
核心概念
先把关键判断说清楚
证据成熟再审
审批界面应展示候选动作、影响对象、差异和来源,而不是只展示原始请求。
副作用发生前审
发送、删除、转账和公开发布必须在工具执行前获批。
批次风险决定粒度
同规则低风险变更可批量审,高风险或异常项逐条审。
案例拆解
审批在草稿前,用户只能猜
系统先问“是否允许发送邮件”,批准后才生成收件人和正文。
- 01
将审批移动到草稿生成和收件人解析之后。
- 02
展示收件人、主题、正文差异和附件列表。
- 03
批准绑定草稿哈希,任何修改触发重新确认。
案例结果
用户基于具体动作批准,且批准发生在实际发送之前。
提交前练习
现在轮到你
为一个写操作选择最佳审批点。
选做练习:本节练习可用于加速你巩固,但不影响继续学习。
内容会自动保存在当前设备
查看参考答案与评分标准
参考答案
批量改客户标签,先生成 120 条 diff 与异常 7 条;普通项批次批准,异常逐条;批准绑定 selection_hash;随后调用更新工具。
评分标准
- 审批时信息足够
- 审批后才发生副作用
- 批准不能复用于变化后的对象
本课收口 · 理解检查
用 30 秒确认你理解了
用 30 秒理解检查确认你抓住了重点;阅读标记、练习和总结都不设硬门槛。
你现在更接近哪一种状态?
尚有必填项未完成,请补齐后再继续。
资料来源
继续核对与延伸阅读
本课内容最近更新于 。
- NIST AI Risk Management Framework↗standard · 核对日期 2026-08-23
- Trustworthy agents in practice↗paper · 核对日期 2026-08-23