AI 閘道端點與環境變數
除了一鍵接管現成的 AI 工具,你也可以在自己的應用程式、腳本或任意 AI 工具中直接呼叫 AI 閘道。本文介紹閘道對外提供的端點格式,以及如何用虛擬金鑰接入。
代理端點
AI 閘道的代理服務監聽 http://127.0.0.1:11580。為相容不同供應商的 SDK 與工具,閘道在同一連接埠上提供多種協定格式的端點:
| 協定格式 | 端點路徑 | 適用情境 |
|---|---|---|
| OpenAI 相容 | http://127.0.0.1:11580/v1 | 任何走 OpenAI API 格式的 SDK / 工具(如 /v1/chat/completions) |
| Anthropic 相容 | http://127.0.0.1:11580/v1/messages | Anthropic SDK 與 Claude Code 等 |
| Gemini 相容 | http://127.0.0.1:11580/v1beta | Google Gemini SDK 等 |
你只需按所用 SDK 的協定選擇對應格式,並把請求指向閘道位址,閘道會依據虛擬金鑰的權限把請求路由到對應供應商通道。
鑑權:使用虛擬金鑰
所有對閘道的請求都使用虛擬金鑰鑑權,而非供應商真實 Key。請先在 金鑰 頁建立一個虛擬金鑰並複製其明文。
在 AI 閘道 → 端點(Endpoints) 頁,你可以選擇一個虛擬金鑰,閘道會為常用工具直接產生可複製的環境變數片段。
環境變數範例
以下範例假設你已取得一個虛擬金鑰(記為 <你的虛擬金鑰>)。
OpenAI 相容 SDK / 工具
bash
export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<你的虛擬金鑰>"1
2
2
Claude Code / Anthropic
bash
# 注意:Anthropic 協定使用閘道根位址,不帶 /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<你的虛擬金鑰>"1
2
3
2
3
Gemini
bash
export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<你的虛擬金鑰>"1
2
2
呼叫範例(OpenAI 相容)
bash
curl http://127.0.0.1:11580/v1/chat/completions \
-H "Authorization: Bearer <你的虛擬金鑰>" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "你好"}]
}'1
2
3
4
5
6
7
2
3
4
5
6
7
其中 model 需是你在通道中已設定、且該虛擬金鑰被允許呼叫的模型。
前提條件
- AI 閘道代理服務正在執行。
- 已設定至少一個健康的通道,並建立了具備對應模型 / 通道權限的虛擬金鑰。
常見問題(FAQ)
- Q:請求傳回鑑權失敗?
- A:確認使用的是虛擬金鑰(而非供應商真實 Key),且該金鑰未過期、未被吊銷。
- Q:提示模型無法使用或無權限?
- A:確認該
model已在某個通道中設定,且目前虛擬金鑰的「允許的模型 / 通道」包含它。
- A:確認該
- Q:該用哪種端點格式?
- A:按你所用 SDK 的協定選擇——OpenAI 風格用
/v1,Anthropic 風格用/v1/messages(Base URL 不帶/v1),Gemini 風格用/v1beta。
- A:按你所用 SDK 的協定選擇——OpenAI 風格用
- Q:區域網路內其他裝置能存取閘道嗎?
- A:閘道預設只監聽
127.0.0.1(僅本機)。這是出於安全考量的建議設定。
- A:閘道預設只監聽
總結
AI 閘道以 OpenAI / Anthropic / Gemini 三種相容格式對外提供統一的本地端點,配合虛擬金鑰鑑權,你可以把任何應用程式或 AI 工具接入閘道,享受統一的金鑰管理與用量統計。對於常見 CLI 工具,直接使用一鍵接管會更省事。
