ServBay AI 网关(AI Gateway)介绍
ServBay AI 网关(AI Gateway)是内置在 ServBay 中的一个本地统一 AI 供应商网关。它在你的机器上运行一个代理端点,把发往各家大模型供应商(OpenAI、Anthropic、DeepSeek、通义千问等近 20 家)的请求统一收拢到一个入口,帮助你集中管理密钥、统计用量与成本,并把 Claude Code、Codex、Gemini CLI 等 AI 编程工具一键指向本地网关。
本文档介绍 AI 网关是什么、能解决什么问题,以及它的整体架构。具体操作请参阅:
- 管理渠道 — 添加与配置各家供应商
- 虚拟密钥 — 创建、限权、轮换与吊销密钥
- 一键接管 AI 编程工具 — 把 Claude Code 等 CLI 指向网关
- 统计与监控 — 用量、成本与预算
- 端点与环境变量 — 在自己的代码中调用网关
概述
在日常 AI 开发中,你可能同时持有多家供应商的 API Key,分散在不同项目、不同工具的配置文件里,既难以统计花费,也难以统一切换。ServBay AI 网关把这些问题收拢到一处:
- 一个入口,接入多家供应商 — 配置好各家渠道后,所有请求都通过本地的
http://127.0.0.1:11580转发,你的应用只需面对一个地址。 - 虚拟密钥代替真实密钥 — 网关签发「虚拟密钥」下发给应用与工具,真实的供应商 API Key 只保存在网关一侧,不再散落在各处。虚拟密钥可随时限权、轮换、吊销。
- 统一的用量与成本视图 — 所有经过网关的请求都会被记录,网关提供请求数、Token 用量、成本、延迟、多模态用量等统计,并支持预算管理。
- 一键接管主流 AI 编程工具 — 无需手动改配置文件,网关可一键把 Claude Code、Codex、Gemini CLI、Qwen Code、Kimi CLI、CodeBuddy、opencode、Crush 等工具指向本地网关。
架构与端口
AI 网关由两个本地服务组成,均只监听回环地址(127.0.0.1):
| 端口 | 用途 | 说明 |
|---|---|---|
11580 | 代理端口 | 面向应用的统一入口。你的代码与被接管的 AI 工具都把请求发到这里,网关按虚拟密钥的权限路由到对应供应商渠道。 |
11581 | 管理端口 | 供 ServBay 应用内部管理渠道、密钥、统计数据使用,一般无需直接访问。 |
代理端口同时提供多种兼容格式的端点(OpenAI 兼容、Anthropic 兼容、Gemini 兼容),详见端点与环境变量。
支持的供应商渠道
AI 网关内置了近 20 个供应商预设,按类别分组,添加渠道时可直接选择:
- 主流(Mainstream):OpenAI、Anthropic、Google Gemini、Azure OpenAI、AWS Bedrock、OpenRouter。
- 中国(China):DeepSeek、通义千问、智谱 GLM、Kimi(月之暗面)、豆包·火山、文心一言、混元、MiniMax、零一万物、阶跃星辰。其中通义千问、智谱 GLM、Kimi、豆包·火山、混元、MiniMax、阶跃星辰等支持国内 / 全球双区域端点切换。
- 本地(Local):Ollama(默认
127.0.0.1:11434)、LM Studio(默认127.0.0.1:1234)。 - 自定义(Custom):OpenAI Compatible(任意 OpenAI 兼容服务)、Custom(完全自定义)。
完整的添加与配置流程见管理渠道。
前提条件
- 已在 macOS 或 Windows 上安装并运行 ServBay。
- AI 网关是 ServBay 的增值功能,添加渠道 / 密钥前需要先登录 ServBay 账号。若未登录,界面会引导你完成登录。
TIP
AI 网关在 ServBay for macOS 与 ServBay for Windows 上功能一致,代理端口(11580)、管理端口(11581)以及被接管工具的配置文件路径均相同。文档中如有平台差异会单独说明。
账号与套餐
AI 网关的部分能力与 ServBay 账号套餐关联:
- 渠道数 / 密钥数上限 — 免费与付费套餐可创建的渠道、虚拟密钥数量不同。达到上限时界面会提示升级。
- 额度与预算管理 — 按额度(Token / 请求数 / 金额)限制和预算仪表盘属于 VIP / 付费能力,未订阅时对应区域会锁定并提示升级。
关于套餐详情,请参阅 ServBay Pro 与 ServBay Team。
数据存储
- 渠道配置、虚拟密钥、用量统计等数据由网关后端服务在本地维护。
- 虚拟密钥的明文只在创建(或轮换)时一次性显示,之后网关只保留前缀用于识别,务必在创建时立即复制保存。
- 一键接管各工具时,网关会先把目标工具的原配置文件备份为
.bak后缀,再写入指向本地网关的配置,方便随时还原。
典型使用流程
- 登录 ServBay 账号,进入 AI 网关。
- 在 渠道 页添加至少一个供应商渠道(如 OpenAI 或 DeepSeek),填入真实 API Key 并测试连通性。
- 在 虚拟密钥 页创建一个虚拟密钥,按需限制可用模型 / 渠道与速率。
- 在 端点 页把虚拟密钥填入你的应用,或在同页 一键接管 你常用的 AI 编程工具。
- 在 统计与监控 页观察用量、成本与延迟,必要时设置预算。
总结
ServBay AI 网关把「多家供应商、多个密钥、多个工具」的碎片化 AI 开发现状,收拢成「一个本地入口、一套虚拟密钥、一处用量视图」。它让你在本地就能安全地集中管理 AI 能力、精确掌握成本,并以最小的成本把各类 AI 编程工具接入统一网关,是 ServBay 面向 AI-native 开发的核心能力之一。
