AIAI学习站
继续学习
本章进度 3 / 18
17%
安全、权限与隐私·练习·18 分钟
正文已完成

做一轮可复现的注入攻击测试

用攻击目标、载体、期望防线和失败证据组成测试矩阵，而不是随手问几句越狱提示。

L188
为什么现在学

现在把“提示注入”用于一次具体操作，检查你能否独立做出并修正结果。

本课会用什么
  • 按本课练习说明准备真实材料
  • 保留练习与复盘记录

安全测试要稳定复现风险路径，并判断哪一道防线失效。零散收集几句奇怪提示无法回答这些问题。

这一课的结果

能设计并执行一组覆盖直接、间接和编码变体的提示注入测试用例。

核心概念

先把关键判断说清楚

01

按风险链写用例

每个用例写清攻击入口、目标资产、预期拦截点和判失败条件。

02

覆盖表达变体

同一攻击目标要测试直说、角色伪装、编码文本和藏在引用资料中的版本。

03

记录真实副作用

不能只看模型口头拒绝；还要验证工具是否被调用、数据是否泄露、审计是否留痕。

案例拆解

网页摘要助手红队演练

团队原本只测试聊天框中的越狱句，发布后却被网页脚注中的隐蔽指令诱导生成外部请求。

  1. 01

    把攻击目标固定为向陌生域名发送内容

  2. 02

    分别在用户输入、正文、HTML 属性和工具返回中放置变体

  3. 03

    检查模型输出、网络调用与审计事件

案例结果

测试定位到 HTML 元数据未经过信任标记，修复后同类用例进入回归集。

提交前练习

现在轮到你

为一个网页研究助手设计三条注入测试，其中至少一条是间接注入。

完成本课需要：完成以下内容用于本课收口。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

目标为向 attacker.example 发送笔记；载体是直接命令、网页脚注、Base64 字段；预期由域名白名单拦截；出现网络请求或笔记内容进入参数即失败。

评分标准

  • 用例共享明确攻击目标
  • 至少一个外部内容载体
  • 失败证据可由日志或状态读取

本课收口 · 学习证据

留下完整学习证据

读完内容、完成练习、通过理解检查并留下 12 字以上总结，才记为已验证。

0 / 4
02完成本课必填练习0 / 4 项必填内容已填写03通过理解检查点此去回答，约 30 秒
04写下 12 字以上总结还差 12 字
哪项最适合作为提示注入回归测试的失败条件？
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。