本章进度 11 / 19
58%
正文已完成
L011用错误后果决定检查强度
按影响范围、可逆性和证据质量，为任务选择轻检、复核或禁止自动化。
把“能力边界”从听懂变成会判断，避免遇到真实任务时仍靠感觉选择。
建议先理解同主题上一课的核心概念，再完成本课判断练习。
- 无需安装新工具
- 准备一个可对照的真实问题或样本
给内部草稿起标题和向客户承诺退款都可能出错，但后果不在一个量级。检查强度应跟随风险，而不是跟随模型给人的聪明印象。
能根据错误后果把 AI 任务分为低、中、高风险，并配置相应检查。
核心概念
先把关键判断说清楚
影响范围
错误只影响自己、一个团队还是外部客户，会改变审批与监控要求。
可逆性
能快速撤回的草稿可轻量试错；付款、删除、公开发布等动作需要更严格保护。
证据质量
输入完整、结果可对照时更易验收；没有可靠来源或判断标准时应降低自动化程度。
案例拆解
三项任务的风险分级
团队要自动生成内部标题、整理库存预警、批准供应商付款。
- 01
内部标题低风险，由使用者快速浏览即可。
- 02
库存预警影响补货，要求回查原始库存并由运营复核异常。
- 03
付款不可逆且涉及金额，只生成审核材料，不允许模型批准或执行。
案例结果
同一个模型在三项任务中获得了不同权限和检查强度。
提交前练习
现在轮到你
给三个 AI 使用场景做风险分级并安排检查。
完成本课需要：完成以下内容用于本课收口。
内容会自动保存在当前设备
查看参考答案与评分标准
参考答案
社媒标题低风险，发布前浏览；库存异常中风险，逐项回查原表；付款审批高风险，只生成候选，财务批准；来源缺失或金额冲突时停止。
评分标准
- 分级依据包含后果和可逆性
- 检查强度随风险提高
- 高风险场景有停止条件
本课收口 · 应用检查
完成一次应用，再检查理解
完成一次必填练习，再通过理解检查；阅读标记和总结不设硬门槛。
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。
资料来源
继续核对与延伸阅读
本课内容最近更新于 。
- NIST AI Risk Management Framework↗standard · 核对日期 2026-08-23
- Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile↗standard · 核对日期 2026-08-23