本章进度 3 / 18
17%
正文已完成
L134画一张模型无法越界的控制图
交付从输入到输出的控制边界图，标出软约束、强校验和人工节点。
现在把“Harness 的职责”用于一次具体操作，检查你能否独立做出并修正结果。
建议先完成同主题的理解与判断；本页不会锁课，可以边做边回补。
- 按本课练习说明准备真实材料
- 保留练习与复盘记录
今天要画一张控制图，并用它回答三个问题，哪些内容不可信，哪些动作必须由代码拦截，哪类风险必须交人。
能为一项 AI 功能设计包含输入、执行、验证和审计的 Harness 边界。
核心概念
先把关键判断说清楚
信任边界先画
用户输入、网页、文件和工具结果均可能不可信，进入模型前要保留来源标签。
软硬控制分色
提示词中的提醒是软控制；权限、Schema、批准 ID 和网络隔离是强控制。
每次放行留证据
记录策略版本、模型版本、参数摘要、验证结果和批准人，支持复盘。
案例拆解
报销助手控制图
助手读取票据、提取金额、核对政策并生成报销草稿，但不能自行付款。
- 01
票据 OCR 和用户备注标为不可信数据，政策库为受控上下文。
- 02
金额类型、币种和发票重复由代码校验，超限进入财务审批。
- 03
系统只开放草稿工具，付款工具不在 Agent 白名单。
案例结果
模型可以提高整理效率，却无法跨过付款和超限审批边界。
提交前练习
现在轮到你
为一个 AI 功能画控制图说明。
完成本课需要：完成以下内容用于本课收口。
内容会自动保存在当前设备
查看参考答案与评分标准
参考答案
招聘摘要，职位要求为受控规则，简历为不可信资料；代码屏蔽受保护属性并校验引用页；任何淘汰建议只做草稿，由招聘者确认；保存资料哈希、策略版本、模型版本和 reviewer_id。
评分标准
- 信任边界明确
- 关键风险由强制控制承担
- 审计字段可关联一次运行
本课收口 · 学习证据
留下完整学习证据
读完内容、完成练习、通过理解检查并留下 12 字以上总结，才记为已验证。
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。
资料来源
继续核对与延伸阅读
本课内容最近更新于 。
- NIST AI Risk Management Framework↗standard · 核对日期 2026-08-23
- Trustworthy agents in practice↗paper · 核对日期 2026-08-23
- OpenTelemetry Signals↗official-docs · 核对日期 2026-08-23