AI Skill 大全

AI模型与智能体安全评估

输入模型来源、训练部署流程或智能体权限配置,梳理供应链、隐私与越权风险,形成测试清单和加固建议。

功能与用途

适合在引入外部模型、上线机器学习接口或部署智能体前开展安全评估。提供模型来源与格式、训练数据说明、接口返回内容或工具权限配置,即可梳理模型文件加载、数据投毒、对抗样本、模型窃取、隐私泄露及智能体越权等风险,获得对应的检查清单、测试思路和防护建议。实际验证需要可访问的模型、测试接口或隔离环境;涉及大语言模型提示注入的深入测试时,需要配合相关专项技能。

适用场景

  • 外部模型引入审查:检查模型仓库、文件格式与加载配置,识别反序列化、远程代码及依赖来源风险。
  • 分类模型上线测试:结合模型或接口访问条件,制定对抗样本与训练数据投毒测试方案。
  • 敏感训练数据隐私评估:分析预测输出或共享梯度,规划成员推断、模型反演与梯度泄露风险验证。
  • 智能体权限审查:检查工具权限和多智能体通信,定位外部输入引发的越权操作与数据外泄路径。

适用人群

  • AI安全测试工程师
  • 机器学习平台工程师
  • 模型部署负责人
  • 智能体应用开发者

使用步骤

  1. 说明待评估模型或智能体的用途与测试范围。
  2. 提供模型来源、加载流程、接口或权限配置。
  3. 按系统特点梳理风险并选择测试方法。
  4. 在测试环境验证,结合结果整理加固措施。

开始使用

将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。

查看 MCP 接入说明

技术信息

分类
IT运维与安全
适用工具
Codex、Claude Code、OpenClaw、Hermes Agent、国内 Agent
使用难度
专业
版本
main
最近更新
2026-11-03
文件数
3
安装包大小
自动生成 ZIP
安全检查
基础检查通过

>-

使用前准备

  • 具备机器学习模型训练、部署或安全测试的基础知识。
  • 提供待评估系统的模型来源、加载代码、接口说明或智能体权限配置。
  • 实际运行验证需具备相应模型或接口的测试权限,以及所选框架和隔离环境。

依赖与权限

  • REPEAT_TOKEN

同类 Skill