AI模型网关
用一个统一入口调一百多个模型,可配供应商故障转移、响应缓存、按用户限流和成本归因。
功能与用途
项目接了好几家模型供应商后,密钥要各管一套,某家挂了要手写重试,月底还搞不清钱花在哪个功能上。AI Gateway 用一个 provider/model 字符串就把请求路由到对应供应商,并在中间做故障转移、缓存和用量追踪。鉴权默认走 OIDC,在 Vercel 项目里拉一次环境变量就有;模型名变化很快,所以动手前一定要先查当前可用模型列表。
适用场景
- 线上跑着的一家模型供应商偶尔超时,想让请求自动切到备用家而用:线上跑着的一家模型供应商偶尔超时,想让请求自动切到备用家而用户无感
- 月底想按功能、团队和环境拆开看 AI 调用花了多少钱,而不是:月底想按功能、团队和环境拆开看 AI 调用花了多少钱,而不是一笔糊涂账
- 产品上线后个别用户在刷接口,需要在网关层按用户限制每分钟请求:产品上线后个别用户在刷接口,需要在网关层按用户限制每分钟请求数和每日 token 用量
适用人群
- 在 Vercel 上做 AI 应用的全栈工程师
- 要管多家模型供应商与成本分摊的架构负责人
- 给 AI 功能加限流和预算控制的后端开发
使用步骤
- 确认项目装了 ai@^6.0.0,并在 Vercel 控制台为项目开启 AI Gateway
- 跑 vercel link 连到项目,再用 vercel env pull 把 OIDC token 写进本地环境变量
- 动手写代码前去官方文档和 getAvailableModels 核对当前模型 ID,别照旧记忆硬编
- 模型名用 provider/model 字符串让它自动路由,要精细控制时再用 gateway() 配 order、only、models
- 按场景补上响应缓存、按用户限流和成本标签,并在控制台设好预算阈值与告警
开始使用
将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。
技术信息
- 分类
- 编程
- 适用工具
- Codex、Claude Code、OpenClaw、Hermes、国内 Agent
- 使用难度
- 进阶
- 版本
- main
- 最近更新
- 2026-09-18
- 文件数
- 3
- 安装包大小
- 自动生成 ZIP
- 安全检查
- 基础检查通过
Vercel AI Gateway expert guidance. Use when configuring model routing, provider failover, cost tracking, or managing multiple AI providers through a unified API.
使用前准备
- 需要 Node 与命令行环境、Vercel 账号和项目(或准备 AI_GATEWAY_API_KEY 作为替代鉴权),并具备 TypeScript 与 AI SDK 经验
依赖与权限
- VERCEL_OIDC_TOKEN
- AI_GATEWAY_API_KEY
- ANTHROPIC_API_KEY
- VERCEL_TOKEN
- 读取用户主动提供的内容