系统性能优化
围绕推理加速、检索提速和内存下降三个目标做基准测试与优化。
功能与用途
这个技能做的是带明确数字目标的性能验证与优化。三个主攻方向:推理注意力部分要做到数倍加速并把显存占用降一半以上;检索部分要从线性扫描改成向量索引,目标提升可达几个数量级,并在百万级条目下保持百毫秒内响应;整体内存占用要显著下降。它强调先建立基线再优化——先测出旧版本各项指标,然后针对每个目标分头验证,最后用一套完整的基准测试持续跟踪,覆盖启动、检索、推理等关键路径。适合已经进入打磨阶段、需要把性能数字坐实的团队,避免只靠感觉说「好像快了」。
适用场景
- 模型推理注意力机制加速:通过 Flash Attention 技术优化多序列注意力计算,大幅削减推理耗时与显存消耗。
- 海量数据检索基准验证:针对线性查找瓶颈构建对比压测用例,验证 HNSW 向量索引在海量数据下的性能提升。
- 多智能体协同吞吐调优:对任务分解与共识协商等协同链路进行耗时采样,消除并发执行时的阻塞瓶颈。
适用人群
- 性能工程师
- 后端开发
- 技术负责人
使用步骤
- 先测量旧版本各项性能基线
- 分头验证推理加速、检索提速与内存下降
- 对不达标项定位瓶颈并优化
- 用完整基准套件持续跟踪
- 对比优化前后数字并留档
开始使用
将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。
技术信息
- 分类
- 编程
- 适用工具
- Codex、Claude Code、OpenClaw、Hermes、国内 Agent
- 使用难度
- 专业
- 版本
- main
- 最近更新
- 2026-09-17
- 文件数
- 3
- 安装包大小
- 自动生成 ZIP
- 安全检查
- 基础检查通过
Achieve aggressive v3 performance targets: 2.49x-7.47x Flash Attention speedup, 150x-12,500x search improvements, 50-75% memory reduction. Comprehensive benchmarking and optimization suite.
使用前准备
- 可运行的系统与测试环境
- 可复现的负载与数据规模
依赖与权限
- 读取用户主动提供的内容