AI模型投毒与后门信号分析
输入数据集描述、模型异常行为或训练指标,分析投毒与后门迹象,获得风险状态、攻击假设及验证建议。
功能与用途
用于初步排查模型训练数据和模型行为中可能存在的投毒或后门信号。用户可提供数据集标签情况、干净样本与触发样本的测试结果、模型置信度,或权重和激活异常的文字描述。分析结果包括风险状态、发现的可疑指标、可能的攻击方式和后续验证建议。输入应尽量包含具体数值、样本条件和对照结果;该能力基于提供的信息进行分析,不能替代实际测试。
适用场景
- 排查图像模型触发器:对比干净图片和带特定像素图片的预测结果,判断是否存在视觉后门信号。
- 检查训练集标签异常:分析少量样本标签与内容不一致的情况,评估是否存在定向标签翻转。
- 分析模型置信度异常:结合关键词触发条件和预测概率,排查模型是否对特定输入异常自信。
- 研判神经元激活异常:根据权重或激活统计,检查无关输入模式是否引发异常响应。
适用人群
- AI安全分析师
- 机器学习工程师
- 模型评估人员
- 数据安全研究人员
使用步骤
- 说明模型任务、数据来源和发现异常的场景。
- 提供干净样本与可疑样本的结果或统计数据。
- 描述标签、置信度、权重或激活方面的异常。
- 查看风险状态、可疑指标和可能的攻击方式。
- 按照验证建议补充测试并复核结果。
开始使用
将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。
技术信息
- 分类
- IT运维与安全
- 适用工具
- Codex、Claude Code、OpenClaw、Hermes Agent、国内 Agent
- 使用难度
- 进阶
- 版本
- 1.0.0
- 最近更新
- 2026-09-21
- 文件数
- 3
- 安装包大小
- 自动生成 ZIP
- 安全检查
- 基础检查通过
Use this to analyze descriptions of datasets, anomalous model behaviors, or training metrics, looking for signals of AI supply chain compromise