工具说明
AI Prompt Injection 测试套件:适合日常高频工作的浏览器工具
为 AI 聊天、RAG、浏览器 Agent、工具调用 Agent、客服机器人和文档工作流生成本地 prompt injection 回归测试。
这个页面适合处理临时文本、开发调试、内容整理和发布前检查。工具在浏览器本地运行,适合快速完成小任务。
典型场景:为 AI 聊天、RAG、浏览器 Agent、工具调用 Agent、客服机器人和文档工作流生成本地 prompt injection 回归测试。;也可以和相关工具组合完成更完整的工作流。
实际工作流
这个工具适合放在哪些真实场景里
使用场景
- 描述 AI 功能、可信规则、不可信输入面和工具权限。
- 生成覆盖直接覆盖指令、隐藏标记、RAG 投毒、工具滥用、数据外泄、角色扮演施压和结构化数据走私的测试。
- 复制包含期望安全行为和通过标准的回归测试套件。
复核要点
- 这个工具只在本地生成测试用例,不攻击真实系统。
- 适合修改系统 prompt、加入 RAG 或授权 Agent 工具前使用。
- 每次 prompt、策略、检索或工具权限变更后都应该复跑同一批用例。
本地优先
这个页面按浏览器工具设计。输入内容会尽量在当前页面中处理,不需要账号,也没有面向工具流程的主动上传步骤。
使用判断
什么时候使用AI Prompt Injection 测试套件
适合使用
- 描述 AI 功能、可信规则、不可信输入面和工具权限。
- 生成覆盖直接覆盖指令、隐藏标记、RAG 投毒、工具滥用、数据外泄、角色扮演施压和结构化数据走私的测试。
- 复制包含期望安全行为和通过标准的回归测试套件。
复制前复核
- 这个工具只在本地生成测试用例,不攻击真实系统。
- 适合修改系统 prompt、加入 RAG 或授权 Agent 工具前使用。
- 每次 prompt、策略、检索或工具权限变更后都应该复跑同一批用例。
换用更严谨流程
如果上下文包含生产密钥、客户资料、私有研究材料或会直接执行的脚本,请先脱敏并改用更严格的人工审查流程。
相关指南
继续了解这个工作流
相关工具
继续使用相邻的常用工具
FAQ
AI Prompt Injection 测试套件常见问题
这个工具会上传我的数据吗?
不会。当前工具设计为在浏览器本地运行,输入内容不会由工具主动上传到服务器。
这个工具适合工作场景使用吗?
可以,但如果内容涉及密钥、客户数据、生产系统或合规信息,请先遵守你所在组织的数据处理规则。
这个工具免费吗?
是的。当前 Toolkits 工具可以免费使用,不需要账号。未来如果接入广告,应当清晰标注,并远离主要操作按钮。