ServBay AI 網關(AI Gateway)介紹
ServBay AI 網關(AI Gateway)是內建於 ServBay 的本地統一 AI 供應商閘道。它會在你的電腦上運作一個代理端點,將發往各大模型供應商(OpenAI、Anthropic、DeepSeek、通義千問等接近 20 家)的請求集中至單一入口,協助你統一管理金鑰、統計用量和成本,並可讓 Claude Code、Codex、Gemini CLI 等 AI 程式開發工具一鍵指向本地閘道。
本文檔將介紹什麼是 AI 網關、它能解決的問題,以及其整體架構。具體操作請參考:
- 管理渠道 — 新增與設定各家供應商
- 虛擬金鑰 — 建立、限權、輪替與註銷金鑰
- 一鍵接管 AI 編程工具 — 讓 Claude Code 等 CLI 指向本地閘道
- 統計與監控 — 查看用量、成本與預算
- 端點與環境變數 — 在你的程式碼中呼叫閘道
概述
在日常 AI 開發時,你可能同時持有多家供應商的 API 金鑰,分散在不同專案、工具的設定檔中,不易統計花費,也很難統一切換。ServBay AI 網關將這些問題匯集到同一處:
- 單一入口,連接多家供應商 — 各渠道設定完成後,所有請求都以本地
http://127.0.0.1:11580為唯一門戶,你的應用僅需對接一個地址。 - 虛擬金鑰取代實體金鑰 — 閘道會發放「虛擬金鑰」給應用程式與工具,實際的供應商 API 金鑰只會保留在閘道本身,不再零散存放各處。虛擬金鑰可隨時限制權限、輪替、註銷。
- 統一用量與成本檢視 — 所有經由閘道發出的請求都會被紀錄,閘道可提供請求次數、Token 用量、花費、延遲、多模態用量等數據分析,並支援預算管理。
- 一鍵接管主流 AI 編程工具 — 無需手動修改設定檔,閘道可一鍵讓 Claude Code、Codex、Gemini CLI、Qwen Code、Kimi CLI、CodeBuddy、opencode、Crush 等工具自動對接本地閘道。
架構與埠號
AI 網關由兩個本地服務組成,僅監聽回圈位址(127.0.0.1):
| 埠號 | 用途 | 說明 |
|---|---|---|
11580 | 代理埠號 | 面向應用程式的統一入口。你的程式與已被接管的 AI 工具都將請求送到這裡,閘道依照虛擬金鑰權限路由至對應供應商。 |
11581 | 管理埠號 | 提供給 ServBay 內部操作渠道、金鑰、統計數據使用,一般用戶無需直接存取。 |
代理埠號同時支援多種兼容格式的端點(OpenAI 兼容、Anthropic 兼容、Gemini 兼容),詳情見 端點與環境變數。
支援的供應商渠道
AI 網關預設內建近 20 家供應商,依類別分組,新增渠道時可直接挑選:
- 主流平台:OpenAI、Anthropic、Google Gemini、Azure OpenAI、AWS Bedrock、OpenRouter。
- 中國供應商:DeepSeek、通義千問、智譜 GLM、Kimi(月之暗面)、豆包·火山、文心一言、混元、MiniMax、零一萬物、階躍星辰。其中,通義千問、智譜 GLM、Kimi、豆包·火山、混元、MiniMax、階躍星辰等支援國內 / 全球雙區域端點切換。
- 本地部署:Ollama(預設
127.0.0.1:11434)、LM Studio(預設127.0.0.1:1234)。 - 自訂:OpenAI Compatible(任意 OpenAI 兼容服務)、Custom(完全自訂義)。
完整設定流程見 管理渠道。
前置條件
- 已於 macOS 或 Windows 安裝並啟動 ServBay。
- AI 網關為 ServBay 進階功能,新增渠道 / 金鑰前必須先登入 ServBay 帳號。如尚未登入,介面會引導完成登入程序。
TIP
AI 網關於 ServBay for macOS 及 ServBay for Windows 的功能一致,代理埠(11580)、管理埠(11581)及被接管工具的設定檔路徑完全相同。如文檔遇有平台差異,將特別標註說明。
帳號方案與權限
AI 網關部分功能與 ServBay 帳號方案相關:
- 渠道 / 金鑰數量上限 — 免費與付費方案可創建的渠道、虛擬金鑰數量有所不同。達到上限時介面會提示升級。
- 額度與預算控制 — 依據額度(Token / 請求數 / 金額)設限及預算儀表板屬 VIP / 付費功能,未訂閱時相關區域會顯示鎖定圖示並提示升級。
詳見 ServBay Pro 與 ServBay Team。
資料存儲
- 渠道設定、虛擬金鑰、用量統計等資料由閘道後端服務在本地維護。
- 虛擬金鑰的明碼僅於創建(或輪替)時顯示一次,之後僅會保留前綴作為識別,請務必於創建時立即複製保存。
- 一鍵接管各工具時,閘道會先將原設定檔備份為
.bak副檔名,再寫入指向本地閘道的新設定,以利隨時還原。
典型使用流程
- 登入 ServBay 帳號,進入 AI 網關頁面。
- 在 渠道 中新增至少一家供應商(如 OpenAI 或 DeepSeek),輸入實際 API 金鑰並測試連線。
- 在 虛擬金鑰 頁建立一組虛擬金鑰,依需求限制可用模型 / 渠道及速率。
- 前往 端點 頁,將虛擬金鑰填入你的應用程式,或於同頁 一鍵接管 常用的 AI 編程工具。
- 在 統計與監控 頁即時查看用量、成本與延遲,必要時設定預算上限。
總結
ServBay AI 網關將「多家供應商、多組金鑰、多個工具」的碎片化 AI 開發流程,整合為「單一在地入口、一套虛擬金鑰、一站式用量檢視」。你可在本地集中安全管理 AI 能力、精確掌控成本,並以最小改動快速讓各式 AI 編程工具接入統一閘道,是 ServBay 針對 AI 原生開發者打造的核心特色之一。
