本章进度 17 / 18
94%
正文已完成
L130人工检查点放太多也会失效
根据错误后果和可逆性设置少而关键的审批，避免确认疲劳。
把“停止与人工接管”从听懂变成会判断，避免遇到真实任务时仍靠感觉选择。
建议先理解同主题上一课的核心概念，再完成本课判断练习。
- 无需安装新工具
- 准备一个可对照的真实问题或样本
每一步都弹确认会让人机械点击，最终降低安全性。有效人工接管应聚焦不可逆、高权限、高金额或证据冲突节点，其余步骤通过日志和抽查控制。
能判断哪些节点应自动、抽查或逐次审批，并解释理由。
核心概念
先把关键判断说清楚
审批强度按风险分层
低风险只读查询自动执行；中风险变更可批量预览；高风险动作逐次确认。
检查点展示决策所需信息
批准界面应显示差异、影响范围和证据，不只问“是否继续”。
拒绝后路径要明确
拒绝可能返回修改、取消或交专家，不能让 Agent 换工具绕过。
案例拆解
每天 60 次确认导致全部点通过
数据整理 Agent 连只读查询也要确认，用户形成机械点击习惯。
- 01
只读、同项目内查询改为自动并记录日志。
- 02
批量字段更新先展示 diff，由负责人一次批准整批。
- 03
外发、删除和跨项目访问保持逐次审批。
案例结果
确认次数显著下降，注意力集中到会改变外部状态的节点。
提交前练习
现在轮到你
把一个 Agent 的动作分为自动、抽查、批量批准和逐次批准。
完成本课需要：完成以下内容用于本课收口。
内容会自动保存在当前设备
查看参考答案与评分标准
参考答案
读取本项目文档自动；低风险标签更新抽查；100 条以内批量改名展示 diff 后批准；删除/公开发送逐次批准；拒绝后只能修改草稿或取消。
评分标准
- 分层依据风险和可逆性
- 高风险批准信息具体
- 拒绝不能被替代路径绕过
本课收口 · 应用检查
完成一次应用，再检查理解
完成一次必填练习，再通过理解检查；阅读标记和总结不设硬门槛。
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。
资料来源
继续核对与延伸阅读
本课内容最近更新于 。
- NIST AI Risk Management Framework↗standard · 核对日期 2026-08-23
- Trustworthy agents in practice↗paper · 核对日期 2026-08-23