AI Skill 大全

Dynamo 互联检查

给已部署的 Dynamo disagg 服务,只读检查 NIXL/UCX 传输与 InfiniBand、GPUDirect、NVLink 是否就绪,给出是否可信的结论。

功能与用途

多节点或分离式部署的推理服务,常常接口冒烟测试能过,但 KV 传输其实已经悄悄退化到慢路径,基准数字全是假的。这个 Skill 用只读方式去查 recipe 里的传输环境变量、worker pod 节点的 InfiniBand/RDMA/NVLink 能力和 NIXL 可达性,每项给 ok/warn/fail/skipped,最后汇总说明这套 disagg 到底能不能信。它不动集群、不打印密钥,但需要你能 kubectl exec 到 worker pod。

适用场景

  • 刚用 recipe-runner 把多节点 disagg r:刚用 recipe-runner 把多节点 disagg recipe 拉起来,要在对外报吞吐前先确认 KV 传输走的是 RDMA 而不是退化路径
  • aggregated 模式跑得好好的,一切到 disagg :aggregated 模式跑得好好的,一切到 disagg 就变慢、卡住或输出错乱,怀疑是网络结构而不是模型的问题
  • 准备做分离式推理压测,需要先确认底层 fabric 和 NI:准备做分离式推理压测,需要先确认底层 fabric 和 NIXL 可达性没问题,免得采到一堆废数据
  • 上生产前做一次只读巡检,核查集群 side 的 Infini:上生产前做一次只读巡检,核查集群 side 的 InfiniBand Active 链路和 nvidia_peermem 模块是否满足分离式服务要求

适用人群

  • GPU 集群运维工程师
  • 推理服务部署工程师
  • 大模型基础设施研发

使用步骤

  1. 先跑 env 子命令指向你的 recipe 目录,看 NIXL/UCX/NCCL 传输变量哪些设置了、disagg 关键项(如 UCX_TLS、UCX_NET_DEVICES、NCCL_IB_HCA)哪些缺失。
  2. 在 GPU 节点上或 worker pod 内跑 node 子命令,逐项探测 InfiniBand 设备与 Active 链路、GPUDirect RDMA、GDRCopy 和 NVLink 拓扑,缺工具的项会标 skipped。
  3. 跑 nixl 子命令检查 pod 里有没有 NIXL 测试工具,拿到下一步做 pairwise prefill↔decode 传输测试的确切命令。
  4. 汇总三项结果,对照输出契约判断 disagg 传输能不能信,或者先按提示修哪一项(例如让管理员加载 nvidia-peermem)。

开始使用

将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。

查看 MCP 接入说明

技术信息

分类
IT运维与安全
适用工具
Codex、Claude Code、OpenClaw、Hermes、国内 Agent
使用难度
专业
版本
main
最近更新
2026-09-18
文件数
3
安装包大小
自动生成 ZIP
安全检查
基础检查通过

使用前准备

  • 操作机需 Python 3.10+,并有目标 Dynamo 部署 worker pod 的 kubectl exec 权限与 recipe 目录读权限。

依赖与权限

  • 读取用户主动提供的内容

同类 Skill