AI系统红队安全评估
提供模型接口、知识库流程、智能体配置或模型文件,检测注入、越权与数据泄露风险,输出测试记录和安全发现。
功能与用途
面向大模型应用上线前的安全测试与专项审计。输入模型接口、知识库检索流程、智能体工具配置或下载的模型文件,可开展提示注入与多轮越狱测试、知识库投毒评估、工具权限审计和模型文件风险扫描,也可评估模型提取与训练数据暴露风险。结果包括安全发现记录、测试样例及扫描输出,便于整理报告和安排修复。使用者需具备安全测试基础,准备可访问的测试环境,并安装对应脚本所需依赖。
适用场景
- 客服机器人上线验收:对客服模型接口开展提示注入与多轮越狱测试,记录系统提示泄露和异常指令执行风险。
- 企业知识库检索安全评估:检查外部文档能否干扰检索与回答,并评估不同租户之间的数据访问隔离。
- 智能体工具权限审计:检查MCP配置和工具描述,定位工具投毒、权限过大及命令注入风险。
- 下载模型入库检查:在加载模型前扫描文件,识别可疑反序列化行为,形成模型入库审查记录。
适用人群
- AI应用安全工程师
- 红队测试人员
- 大模型平台安全负责人
- 智能体开发团队
- 模型供应链审计人员
使用步骤
- 提供测试对象,并说明测试范围与关注风险。
- 选择接口测试、知识库评估、工具审计或文件扫描。
- 准备访问配置,安装对应脚本依赖。
- 执行测试,保存响应、扫描结果和复现记录。
- 汇总安全发现,整理报告并复测修复项。
开始使用
将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。
技术信息
- 分类
- IT运维与安全
- 适用工具
- Codex、Claude Code、OpenClaw、Hermes Agent、国内 Agent
- 使用难度
- 专业
- 版本
- main
- 最近更新
- 2026-11-03
- 文件数
- 3
- 安装包大小
- 自动生成 ZIP
- 安全检查
- 基础检查通过
Use when attacking an AI/ML system or model — prompt injection & jailbreaks (Crescendo, Skeleton Key, Best-of-N), RAG/vector poisoning, agentic/MCP exploitation (CVE-2025-54136), ML supply-chain RCE (pickle CVE-2025-32434), model extraction / membership inference / adversarial suffixes (GCG)
使用前准备
- 具备模型接口调用、命令行操作和基础安全测试经验。
- 准备授权测试范围内的模型接口、知识库环境、MCP配置或模型文件。
- 使用相关功能需取得仓库脚本及引用资料,并安装对应扫描或测试依赖。
- 调用接口测试脚本前需配置TARGET_URL及目标接口所需的访问凭据。
依赖与权限
- TARGET_URL