AI模型与智能体安全评估
输入模型来源、训练部署流程或智能体权限配置,梳理供应链、隐私与越权风险,形成测试清单和加固建议。
功能与用途
适合在引入外部模型、上线机器学习接口或部署智能体前开展安全评估。提供模型来源与格式、训练数据说明、接口返回内容或工具权限配置,即可梳理模型文件加载、数据投毒、对抗样本、模型窃取、隐私泄露及智能体越权等风险,获得对应的检查清单、测试思路和防护建议。实际验证需要可访问的模型、测试接口或隔离环境;涉及大语言模型提示注入的深入测试时,需要配合相关专项技能。
适用场景
- 外部模型引入审查:检查模型仓库、文件格式与加载配置,识别反序列化、远程代码及依赖来源风险。
- 分类模型上线测试:结合模型或接口访问条件,制定对抗样本与训练数据投毒测试方案。
- 敏感训练数据隐私评估:分析预测输出或共享梯度,规划成员推断、模型反演与梯度泄露风险验证。
- 智能体权限审查:检查工具权限和多智能体通信,定位外部输入引发的越权操作与数据外泄路径。
适用人群
- AI安全测试工程师
- 机器学习平台工程师
- 模型部署负责人
- 智能体应用开发者
使用步骤
- 说明待评估模型或智能体的用途与测试范围。
- 提供模型来源、加载流程、接口或权限配置。
- 按系统特点梳理风险并选择测试方法。
- 在测试环境验证,结合结果整理加固措施。
开始使用
将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。
技术信息
- 分类
- IT运维与安全
- 适用工具
- Codex、Claude Code、OpenClaw、Hermes Agent、国内 Agent
- 使用难度
- 专业
- 版本
- main
- 最近更新
- 2026-11-03
- 文件数
- 3
- 安装包大小
- 自动生成 ZIP
- 安全检查
- 基础检查通过
>-
使用前准备
- 具备机器学习模型训练、部署或安全测试的基础知识。
- 提供待评估系统的模型来源、加载代码、接口说明或智能体权限配置。
- 实际运行验证需具备相应模型或接口的测试权限,以及所选框架和隔离环境。
依赖与权限
- REPEAT_TOKEN