批处理推理任务管理
通过终端命令行上传批处理文件、提交大模型异步推理任务并下载返回结果与错误日志。
功能与用途
该能力为开发者和运维人员提供了基于 OmniRoute CLI 的批处理推理全流程操作。用户可以在终端中管理输入数据文件(上传、查看、下载与删除),创建并提交模型批量推理作业,轮询任务执行状态,以及在任务完成后直接将推理输出和错误报告导出至本地文件,便于与自动化脚本或 CI/CD 流水线集成。
适用场景
- 离线输入文件集中管理:在终端中上传大规模数据集文件供批处理使用,按需查看内容详情或清理历史文件。
- 异步模型推理作业调度:指定模型端点与完成时限提交批量推理任务,支持挂起等待或定时轮询作业进展。
- 批量结果导出与流水线集成:推理完成后将输出数据或错误日志导出至指定文件路径,无缝对接自动化工作流。
适用人群
- AI 应用开发者
- 大模型算法工程师
- DevOps 自动化运维工程师
使用步骤
- 使用 `omniroute files upload <path>` 将本地准备好的批量请求数据文件上传到服务器
- 运行 `omniroute batches submit` 或 `batches create` 指定端点与参数提交异步批处理任务
- 使用 `omniroute batches wait <batchId>` 等待任务处理完毕
- 执行 `omniroute batches output <batchId> --out <path>` 将最终推理结果保存到本地
开始使用
将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。
技术信息
- 分类
- AI工作流
- 适用工具
- Codex、Claude Code、OpenClaw、Hermes、国内 Agent
- 使用难度
- 进阶
- 版本
- main
- 最近更新
- 2026-09-23
- 文件数
- 3
- 安装包大小
- 自动生成 ZIP
- 安全检查
- 基础检查通过
Submit and monitor batch inference jobs from the CLI. Upload and manage files for batch processing, retrieve results, and integrate batch pipelines with CI/CD workflows.
依赖与权限
- 读取用户主动提供的内容