本章进度 14 / 19
74%
正文已完成
L014人工复核也会失效
识别自动化偏见、复核疲劳和证据缺失，设计真正有效的人工检查点。
把“人与 AI 的分工”从听懂变成会判断，避免遇到真实任务时仍靠感觉选择。
建议先理解同主题上一课的核心概念，再完成本课判断练习。
- 无需安装新工具
- 准备一个可对照的真实问题或样本
流程里出现“人工确认”四个字，不代表风险已经解决。复核人可能只看到模型结论、一次要点几百个确认，或者根本没有拒绝按钮。
能判断一个人工复核环节是否具有足够信息、时间和改变结果的权力。
核心概念
先把关键判断说清楚
复核人需要原始证据
只展示模型摘要会放大自动化偏见。关键判断应能回到输入、来源和变更记录。
检查量要可承受
连续确认大量相似结果会形成点击疲劳。系统应筛出高风险和低置信异常，而不是把所有项目同等堆给人。
复核必须能改变结果
复核人需要修改、拒绝、暂停和升级权限；只能点“知道了”的环节没有实际控制力。
案例拆解
每天五百次的形式确认
内容审核员每天收到五百条模型分类，只见结果标签和一个确认按钮。
- 01
增加原文、触发规则和模型理由的并排查看。
- 02
高风险与冲突样本优先，低风险样本改为随机抽查。
- 03
提供改判、暂停批次和提交规则缺陷的入口。
案例结果
人工检查从形式签字变成能够发现并纠正系统问题的控制点。
提交前练习
现在轮到你
审计一个现有“人工确认”步骤。
完成本课需要：完成以下内容用于本课收口。
内容会自动保存在当前设备
查看参考答案与评分标准
参考答案
合同预检只显示风险等级；改造为并排展示条款原文与规则，优先处理高风险和冲突项，法务可改判并暂停自动流转。
评分标准
- 识别至少一个形式复核问题
- 改造包含证据或负荷设计
- 复核人拥有真实改变权
本课收口 · 应用检查
完成一次应用，再检查理解
完成一次必填练习，再通过理解检查；阅读标记和总结不设硬门槛。
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。
资料来源
继续核对与延伸阅读
本课内容最近更新于 。
- NIST AI Risk Management Framework↗standard · 核对日期 2026-08-23
- Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile↗standard · 核对日期 2026-08-23