ServBay AI 閘道(AI Gateway)介紹
ServBay AI 閘道(AI Gateway)是內建於 ServBay 的本機統一 AI 供應商閘道。它會在你的機器上執行一個代理端點,把送往各家大型語言模型供應商(OpenAI、Anthropic、DeepSeek、通義千問等近 20 家)的請求統一收攏到單一入口,協助你集中管理金鑰、統計用量與成本,並將 Claude Code、Codex 等 AI 程式設計工具一鍵指向本機閘道。
本文件說明 AI 閘道是什麼、能解決哪些問題,以及它的整體架構。具體操作請參閱:
- 管理渠道 — 新增與設定各家供應商
- 虛擬金鑰 — 建立、限權、輪換與撤銷金鑰
- 一鍵接管 AI 程式設計工具 — 將 Claude Code 等 CLI 指向閘道
- 統計與監控 — 用量、成本與預算
- 端點與環境變數 — 在自己的程式碼中呼叫閘道
概述
在日常 AI 開發過程中,你可能同時持有多家供應商的 API Key,散落在不同專案、不同工具的設定檔裡,既難以統計花費,也難以統一切換。ServBay AI 閘道把這些問題收攏到一處:
- 一個入口,接入多家供應商 — 設定好各家渠道後,所有請求都會經由本機的
http://127.0.0.1:11580轉發,你的應用程式只需面對一個位址。 - 虛擬金鑰取代真實金鑰 — 閘道核發「虛擬金鑰」給應用程式與工具,真實的供應商 API Key 只保存在閘道端,不再散落各處。虛擬金鑰可隨時限權、輪換、撤銷。
- 統一的用量與成本檢視 — 所有經過閘道的請求都會被記錄,閘道提供請求數、Token 用量、成本、延遲、多模態用量等統計,並支援預算管理。
- 一鍵接管主流 AI 程式設計工具 — 無需手動修改設定檔,閘道可一鍵把 Claude Code、Codex、Qwen Code、Kimi CLI、CodeBuddy、opencode、Crush 等工具指向本機閘道。
- 訂閱帳戶與額度追蹤 — 支援綁定訂閱型供應商帳戶(例如 Claude Pro / Max 的 OAuth 授權),在閘道內以視覺化方式呈現方案資訊、可用端點、輸出長度限制,並即時追蹤多視窗額度(已用 / 剩餘百分比、額度耗盡狀態、重設時間),讓你隨時掌握訂閱餘額。
- 渠道能力偵測與智慧路由 — 新增渠道時,閘道會自動偵測供應商能力(OAuth 授權型 / 程式設計方案型 / 檔位模型型),確認後依偵測結果自動寫入三檔閘道對應,無需手動猜測模型相容性。
架構與連接埠
AI 閘道由兩個本機服務組成,均僅監聽回送位址(127.0.0.1):
| 連接埠 | 用途 | 說明 |
|---|---|---|
11580 | 代理連接埠 | 面向應用程式的統一入口。你的程式碼與被接管的 AI 工具都把請求送到這裡,閘道會依虛擬金鑰的權限路由到對應的供應商渠道。 |
11581 | 管理連接埠 | 供 ServBay 應用程式內部管理渠道、金鑰、統計資料使用,一般無需直接存取。 |
代理連接埠同時提供多種相容格式的端點(OpenAI 相容、Anthropic 相容、Gemini 相容),詳見端點與環境變數。
支援的供應商渠道
AI 閘道內建近 20 個供應商預設集,並依類別分組,新增渠道時可直接選擇:
- 主流(Mainstream):OpenAI、Anthropic、Google Gemini、Azure OpenAI、AWS Bedrock、OpenRouter。
- 中國(China):DeepSeek、通義千問、智譜 GLM、Kimi(月之暗面)、豆包·火山、文心一言、混元、MiniMax、零一萬物、階躍星辰。其中通義千問、智譜 GLM、Kimi、豆包·火山、混元、MiniMax、階躍星辰等支援國內 / 全球雙區域端點切換。
- 本機(Local):Ollama(預設
127.0.0.1:11434)、LM Studio(預設127.0.0.1:1234)。 - 自訂(Custom):OpenAI Compatible(任意 OpenAI 相容服務)、Custom(完全自訂)。
完整的新增與設定流程請參閱管理渠道。
前提條件
- 已在 macOS 或 Windows 上安裝並執行 ServBay。
- AI 閘道是 ServBay 的加值功能,新增渠道 / 金鑰前需要先登入 ServBay 帳號。若尚未登入,介面會引導你完成登入。
TIP
AI 閘道在 ServBay for macOS 與 ServBay for Windows 上功能一致,代理連接埠(11580)、管理連接埠(11581)以及被接管工具的設定檔路徑均相同。文件中如有平台差異會另行說明。
帳號與方案
AI 閘道的部分能力與 ServBay 帳號方案相關:
- 渠道數 / 金鑰數上限 — 免費與付費方案可建立的渠道、虛擬金鑰數量不同。達到上限時,介面會提示升級。
- 額度與預算管理 — 依額度(Token / 請求數 / 金額)限制與預算儀表板屬於 VIP / 付費功能,未訂閱時對應區域會鎖定並提示升級。
關於方案詳情,請參閱 ServBay Pro 與 ServBay Team。
訂閱帳戶與額度追蹤
AI 閘道支援綁定訂閱型供應商帳戶(例如透過 OAuth 授權接入的 Claude Pro / Max 等),讓你在本機閘道內直接查看與管理這些訂閱資源,而不必登入各家供應商的網頁主控台。
訂閱帳戶能做什麼
- 方案資訊一目了然 — 顯示訂閱方案名稱、計費結構、有效期限。
- 可用端點與輸出限制 — 查看該訂閱帳戶可呼叫的端點清單,以及各模型的最大輸出長度限制。
- 多視窗額度追蹤 — 以視覺化方式呈現已用 / 剩餘額度百分比、目前是否已耗盡,以及額度重設時間,協助你合理分配訂閱資源。
- 憑證失效可見 — 當訂閱帳戶的授權憑證過期或失效時,介面上會明確標記,提醒你重新授權。
實驗性功能
訂閱帳戶的 OAuth 授權接入目前為實驗性功能,支援的供應商會逐步擴充。授權時需要你在瀏覽器中完成供應商的 OAuth 流程,授權權杖僅儲存於本機。
資料儲存
- 渠道設定、虛擬金鑰、用量統計等資料由閘道後端服務在本機維護。
- 虛擬金鑰的明文只在建立(或輪換)時一次性顯示,之後閘道只保留前綴用於識別,請務必在建立時立即複製並妥善儲存。
- 一鍵接管各工具時,閘道會先把目標工具的原設定檔備份為
.bak後綴,再寫入指向本機閘道的設定,方便隨時還原。
典型使用流程
- 登入 ServBay 帳號,進入 AI 閘道。
- 在 渠道 頁新增至少一個供應商渠道(例如 OpenAI 或 DeepSeek),填入真實 API Key 並測試連線。
- 在 虛擬金鑰 頁建立一個虛擬金鑰,視需要限制可用的模型 / 渠道與速率。
- 在 端點 頁把虛擬金鑰填入你的應用程式,或在同頁一鍵接管你常用的 AI 程式設計工具。
- 在 統計與監控 頁觀察用量、成本與延遲,必要時設定預算。
總結
ServBay AI 閘道把「多家供應商、多把金鑰、多個工具」的碎片化 AI 開發現況,收攏成「一個本機入口、一套虛擬金鑰、一處用量檢視」。它讓你在本機就能安全地集中管理 AI 能力、精確掌握成本,並以最低的成本把各類 AI 程式設計工具接入統一閘道,是 ServBay 針對 AI-native 開發的核心能力之一。
