本章进度 14 / 19
74%
正文已完成
L071高风险任务需要限制 AI 的使用方式
在建议、预筛、草稿、批准和自动执行之间选择合适自主级别。
把“高风险场景”从听懂变成会判断，避免遇到真实任务时仍靠感觉选择。
建议先理解同主题上一课的核心概念，再完成本课判断练习。
- 无需安装新工具
- 准备一个可对照的真实问题或样本
高风险场景可以使用 AI 提取、排序和提示，但决策权、授权和不可逆动作必须根据证据另行控制。
能为高风险任务选择证据整理或草稿角色，而不是直接执行。
核心概念
先把关键判断说清楚
降级为决策支持
让 AI 整理证据与问题，不让它替授权角色作最终决定。
先自动检查再人工判断
确定规则交代码，语义候选交模型，最终高风险结论交人。
不确定必须可见
置信不足、来源冲突和未知字段应触发升级，而非强制给答案。
案例拆解
合同风险助手不直接判可签
团队原想让模型输出“可以签／不能签”。
- 01
改为提取条款、引用页码并匹配风险清单。
- 02
缺页、冲突和高风险条款进入法务队列。
- 03
签署决定仍由授权人员作出并记录依据。
案例结果
AI 减少整理负担，却不承担超出证据和授权的结论。
提交前练习
现在轮到你
把一项高风险任务拆成四个自主等级。
完成本课需要：完成以下内容用于本课收口。
内容会自动保存在当前设备
查看参考答案与评分标准
参考答案
退款流程由代码核对订单，模型归纳原因。金额异常或政策冲突时交给客服主管，获批后再用固定工具执行并回读回执。
评分标准
- 逐步分配自主权
- 最终责任清楚
- 不确定有升级路径
本课收口 · 应用检查
完成一次应用，再检查理解
完成一次必填练习，再通过理解检查；阅读标记和总结不设硬门槛。
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。
资料来源
继续核对与延伸阅读
本课内容最近更新于 。
- NIST AI Risk Management Framework↗standard · 核对日期 2026-08-23
- Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile↗standard · 核对日期 2026-08-23