批量推理任务提交与结果下载
将本地推理请求文件提交为批处理任务,在命令行跟踪执行状态,并下载处理结果与错误记录。
功能与用途
适合需要集中运行大量模型请求的开发者。提供本地 JSONL 请求文件,或已上传文件的编号,即可提交批量推理任务、查看任务列表与详情、等待执行完成,并将结果和错误记录保存到本地。还可上传、查看和删除批处理文件,取消不再需要的任务。相关命令可用于编写持续集成与交付流水线中的批处理脚本。使用前需具备命令行基础,安装或临时运行 OmniRoute,并准备符合目标接口要求的请求文件及可用服务连接。
适用场景
- 集中运行模型评测请求:提交准备好的评测请求 JSONL 文件,等待批处理结束并下载输出,用于后续比较模型表现。
- 排查批处理失败记录:按任务编号查询执行详情,导出错误记录,定位需要修改的请求。
- 接入持续集成流水线:将提交、等待和下载命令串入流水线脚本,在任务结束后保存结果文件。
- 清理过期任务与文件:查看批处理任务和上传文件,取消不再需要的任务,并删除过期输入文件。
适用人群
- 模型应用开发者
- 批量数据处理工程师
- 模型评测工程师
- 维护推理流水线的开发运维工程师
使用步骤
- 安装或临时运行 OmniRoute,确认命令可用。
- 准备 JSONL 请求文件并确定目标接口。
- 提交本地文件,或用已上传文件编号创建任务。
- 查询任务状态,或设置等待完成与超时时间。
- 下载结果和错误记录,按需清理任务与文件。
开始使用
将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。
技术信息
- 分类
- AI工作流
- 适用工具
- Codex、Claude Code、OpenClaw、Hermes Agent、国内 Agent
- 使用难度
- 进阶
- 版本
- main
- 最近更新
- 2026-11-03
- 文件数
- 3
- 安装包大小
- 自动生成 ZIP
- 安全检查
- 基础检查通过
Submit and monitor batch inference jobs from the CLI. Upload and manage files for batch processing, retrieve results, and integrate batch pipelines with CI/CD workflows.
使用前准备
- 具备命令行操作基础。
- 能够通过 npm 安装 OmniRoute,或通过 npx 临时运行。
- 准备符合目标接口要求的 JSONL 请求文件,或已有上传文件编号。
- 具备可用的 OmniRoute 服务连接及所需访问凭据。
依赖与权限
- YOUR_OMNIROUTE_KEY
- YOUR_KEY
- PORT
- CONTAINER_HOST