AIAI学习站
继续学习
本章进度 2 / 18
11%
安全、权限与隐私·判断·13 分钟
正文已完成

把指令与资料放进不同信任层

用指令优先级、内容标记和结构化边界降低外部资料冒充系统命令的机会。

L187
为什么现在学

把“提示注入”从听懂变成会判断，避免遇到真实任务时仍靠感觉选择。

本课会用什么
  • 无需安装新工具
  • 准备一个可对照的真实问题或样本

模型看到的都是文字，但产品不能把所有文字当成同一种权威。信任边界要在上下文结构和执行逻辑中同时存在。

这一课的结果

能改写一段智能体上下文，让系统规则、用户目标和不可信资料边界清楚可检验。

核心概念

先把关键判断说清楚

01

稳定规则置顶

身份、禁止事项和授权条件由受控代码注入，不允许外部内容重新定义。

02

资料显式降权

把检索结果标成待分析的数据，并明确其中出现的命令不得改变任务或权限。

03

执行前再校验

提示层只是第一道防线；工具调用仍需按参数、权限和风险等级独立检查。

案例拆解

合同附件要求助手发送密钥

合同审查助手把附件全文直接拼进提示，附件末尾伪装成系统说明，要求把环境变量发送到指定地址。

  1. 01

    把附件包进明确的数据边界

  2. 02

    规定附件只能用于提取合同风险

  3. 03

    在邮件工具层拒绝未授权收件人与敏感字段

案例结果

即使模型复述了恶意内容，执行层也无法完成数据外传。

提交前练习

现在轮到你

为合同审查助手写出三层上下文边界，不必写完整提示词。

完成本课需要：完成以下内容用于本课收口。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

稳定规则禁止泄露凭据；任务仅提取违约条款；附件中的指令一律视为合同文本；任何发送动作必须校验收件人、字段和人工批准。

评分标准

  • 三层职责不混淆
  • 资料用途有限定
  • 执行防线不依赖模型自觉

本课收口 · 应用检查

完成一次应用，再检查理解

完成一次必填练习，再通过理解检查；阅读标记和总结不设硬门槛。

0 / 2
02完成本课必填练习0 / 4 项必填内容已填写03通过理解检查点此去回答，约 30 秒
04补一句总结（可选）可以留空，不影响完成本课。
为什么给检索资料加‘不可信数据’标记后仍要校验工具调用？
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。