AI Skill 大全

Azure AI 网关治理配置

输入 Azure OpenAI 后端与访问凭据,配置语义缓存、Token 限流和内容安全策略,生成受控且高可用的 AI API 网关访问端点。

功能与用途

该功能基于 Azure API Management(APIM)构建企业级 GenAI 网关。通过标准化 Azure CLI 命令与 APIM 入站策略编排,支持接入 Azure OpenAI 与 AI Foundry 模型后端,集成语义缓存以降低调用成本,配置每分钟 Token 配额限流防止成本超支,并接入内容安全与越狱检测策略,统一管理大模型、Agent 与 MCP 工具的流量与访问安全。

适用场景

  • 大模型调用降本与语义缓存:为内部知识库或客户问答应用配置 APIM 语义缓存策略,命中的重复提问直接返回缓存结果,节省 60% 至 80% 的模型调用 Token 费用。
  • 多团队大模型 Token 配额限流:按照业务部门或订阅密钥配置 azure-openai-token-limit 规则,实现分钟级或日级 Token 消耗限流与指标打点,避免非预期的高额账单。
  • Agent 与 MCP 工具流量安全防护:在 AI Agent 调用 MCP 工具和第三方接口前,挂载 llm-content-safety 与 rate-limit-by-key 策略,阻断越狱注入攻击并防止工具接口被恶意刷量。

适用人群

  • 云架构师
  • DevOps 运维工程师
  • AI 平台工程师
  • 后端开发工程师

使用步骤

  1. 使用 az 命令获取 APIM 网关地址并列出已有的 AI 后端资源
  2. 通过 az apim backend create 创建指向 Azure OpenAI 或 AI Foundry 的后端配置,并赋予托管身份权限
  3. 在 APIM API 的 inbound 阶段依次添加身份认证、语义缓存、Token 限额和内容安全策略
  4. 调用 APIM 网关暴露的 OpenAI 兼容端点进行请求测试并验证限流与缓存命中情况

开始使用

将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。

查看 MCP 接入说明

技术信息

分类
IT运维与安全
适用工具
Codex、Claude Code、OpenClaw、Hermes、国内 Agent
使用难度
进阶
版本
main
最近更新
2026-09-23
文件数
3
安装包大小
自动生成 ZIP
安全检查
基础检查通过

Configure Azure API Management as an AI Gateway for AI models, MCP tools, and agents. WHEN: semantic caching, token limit, content safety, load balancing, AI model governance, MCP rate limiting, jailbreak detection, add Azure OpenAI backend, add AI Foundry model, test AI gateway, LLM policies, configure AI backend, token metrics, AI cost control, convert API to MCP, import OpenAPI to gateway.

依赖与权限

  • GATEWAY_URL
  • 读取用户主动提供的内容

同类 Skill