AI Skill 大全

MAX模型输出偏差排查

输入可运行的MAX模型与可信参考实现,通过逐层张量和生成链路对比,定位乱码、错词及生成分歧并验证修复。

功能与用途

适用于MAX模型已经能够加载、编译和生成,却出现乱码、选词错误或生成中途偏离参考结果的情况。提供模型代码、同一检查点、测试提示词及可运行的PyTorch参考实现,即可对比逐层张量和生成结果,定位计算偏差、解码缓存或服务链路问题,并验证修复效果。也适合架构移植、量化、多GPU转换及版本升级后的回归排查。使用前需准备装有MAX的pixi环境、GPU,以及访问Hugging Face Hub的网络。

适用场景

  • 架构移植后生成乱码:对比新移植MAX模型与PyTorch参考的逐层张量,定位首次出现计算偏差的位置并验证修复。
  • 量化或多GPU转换后选词异常:检查转换后模型与可信参考的数值和首选词差异,排查输出错误或生成逐步偏离的问题。
  • 张量一致但服务输出不同:比较参考实现、增量解码与服务输出,区分解码缓存、分词器和聊天模板引起的差异。
  • MAX升级后生成回归:复用同一检查点与提示词,对比升级后模型的逐层结果和生成链路,定位回归来源。

适用人群

  • 模型架构移植工程师
  • 模型量化工程师
  • 推理框架开发者
  • 多GPU推理工程师

使用步骤

  1. 提供MAX模型、参考实现和复现提示词。
  2. 确认参考输出正常,建立并校验张量对比脚本。
  3. 对比逐层结果,定位首次偏差或生成链路问题。
  4. 用已导出的张量验证修复假设,再修改代码。
  5. 重新运行张量对比与生成测试,确认修复效果。

开始使用

将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。

查看 MCP 接入说明

技术信息

分类
编程
适用工具
Codex、Claude Code、OpenClaw、Hermes Agent、国内 Agent
使用难度
专业
版本
main
最近更新
2026-11-03
文件数
3
安装包大小
自动生成 ZIP
安全检查
基础检查通过

>

使用前准备

  • 模型已能在MAX中加载、编译并生成词元。
  • 具备可运行并可提取中间张量的可信PyTorch参考实现。
  • 提供模型代码、同一检查点及可复现问题的提示词。
  • 准备安装MAX的pixi环境、可用GPU及访问Hugging Face Hub的网络。

同类 Skill