AI Skill 大全

应用集成离线本地AI

将现有应用的云端AI接口改接为随应用打包的本地推理服务,让用户无需单独安装或填写云端密钥即可使用聊天、语音、图像等AI能力。

功能与用途

适用于已经通过 HTTP 调用 OpenAI、Anthropic 或 Ollama 等 AI 服务的应用,目标是把推理迁移到用户自己的电脑上运行。提供应用代码和目标平台后,可梳理现有接口与使用的 AI 模态,选择合适的模型和后端,集成 Embeddable Lemonade 启动程序、客户端配置、首次模型下载、运行状态提示与进程回收。完成后,应用可在 Windows x64 或 Linux x64 上启动本地 AI 服务,并沿用现有客户端调用方式。需要具备应用代码修改和构建能力。

适用场景

  • 桌面聊天应用支持本地模型:将现有 OpenAI 聊天接口改接本地服务,随应用打包运行所需程序和模型。
  • 语音应用增加离线转写:为已有语音流程配置本地语音识别模型,并处理首次下载、启动状态和结果验证。
  • 减少应用对云端密钥的依赖:改造客户端配置与密钥校验,让本地模式不再要求用户提供云端 API 密钥。
  • 为应用加入本地文生图:选择适用的图像生成模型与后端,将本地推理接入现有应用调用流程。

适用人群

  • 希望将云端AI迁移到本地运行的应用开发者
  • 需要为桌面应用集成离线AI能力的工程师
  • 维护 OpenAI、Anthropic 或 Ollama 接口的产品研发团队

使用步骤

  1. 提供应用代码、目标平台及当前 AI 接口和使用模态。
  2. 梳理现有客户端配置,确定模型、推理后端和打包方式。
  3. 加入本地服务程序、启动器及客户端地址、密钥和超时配置。
  4. 实现健康检查、后端安装、模型下载、状态提示和退出回收。
  5. 运行应用验证本地推理结果、错误恢复和进程清理。

开始使用

将需求和 Skill 名称发送给已连接 SkillPX MCP 的 AI 助手,核对适用工具和安装要求。

查看 MCP 接入说明

技术信息

分类
编程
适用工具
Codex、Claude Code、OpenClaw、Hermes Agent、国内 Agent
使用难度
专业
版本
main
最近更新
2026-11-03
文件数
3
安装包大小
自动生成 ZIP
安全检查
基础检查通过

>-

依赖与权限

  • PORT
  • OPENAI_API_KEY
  • ANTHROPIC_API_KEY
  • LEMONADE_API_KEY

同类 Skill