AI 网关端点与环境变量
除了一键接管现成的 AI 工具,你也可以在自己的应用、脚本或任意 AI 工具中直接调用 AI 网关。本文介绍网关暴露的端点格式,以及如何用虚拟密钥接入。
代理端点
AI 网关的代理服务监听 http://127.0.0.1:11580。为兼容不同供应商的 SDK 与工具,网关在同一端口上提供多种协议格式的端点:
| 协议格式 | 端点路径 | 适用场景 |
|---|---|---|
| OpenAI 兼容 | http://127.0.0.1:11580/v1 | 任何走 OpenAI API 格式的 SDK / 工具(如 /v1/chat/completions) |
| Anthropic 兼容 | http://127.0.0.1:11580/v1/messages | Anthropic SDK 与 Claude Code 等 |
| Gemini 兼容 | http://127.0.0.1:11580/v1beta | Google Gemini SDK 与 Gemini CLI 等 |
你只需按所用 SDK 的协议选择对应格式,并把请求指向网关地址,网关会依据虚拟密钥的权限把请求路由到对应供应商渠道。
鉴权:使用虚拟密钥
所有对网关的请求都使用虚拟密钥鉴权,而非供应商真实 Key。请先在 密钥 页创建一个虚拟密钥并复制其明文。
在 AI 网关 → 端点(Endpoints) 页,你可以选择一个虚拟密钥,网关会为常用工具直接生成可复制的环境变量片段。
环境变量示例
以下示例假设你已获得一个虚拟密钥(记为 <你的虚拟密钥>)。
OpenAI 兼容 SDK / 工具
bash
export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<你的虚拟密钥>"1
2
2
Claude Code / Anthropic
bash
# 注意:Anthropic 协议使用网关根地址,不带 /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<你的虚拟密钥>"1
2
3
2
3
Gemini
bash
export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<你的虚拟密钥>"1
2
2
调用示例(OpenAI 兼容)
bash
curl http://127.0.0.1:11580/v1/chat/completions \
-H "Authorization: Bearer <你的虚拟密钥>" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "你好"}]
}'1
2
3
4
5
6
7
2
3
4
5
6
7
其中 model 需是你在渠道中已配置、且该虚拟密钥被允许调用的模型。
前提条件
- AI 网关代理服务正在运行。
- 已配置至少一个健康的渠道,并创建了具备相应模型 / 渠道权限的虚拟密钥。
常见问题(FAQ)
- Q:请求返回鉴权失败?
- A:确认使用的是虚拟密钥(而非供应商真实 Key),且该密钥未过期、未被吊销。
- Q:提示模型不可用或无权限?
- A:确认该
model已在某个渠道中配置,且当前虚拟密钥的「允许的模型 / 渠道」包含它。
- A:确认该
- Q:该用哪种端点格式?
- A:按你所用 SDK 的协议选择——OpenAI 风格用
/v1,Anthropic 风格用/v1/messages(Base URL 不带/v1),Gemini 风格用/v1beta。
- A:按你所用 SDK 的协议选择——OpenAI 风格用
- Q:局域网内其它设备能访问网关吗?
- A:网关默认只监听
127.0.0.1(仅本机)。这是出于安全考虑的推荐设置。
- A:网关默认只监听
总结
AI 网关以 OpenAI / Anthropic / Gemini 三种兼容格式对外提供统一的本地端点,配合虚拟密钥鉴权,你可以把任何应用或 AI 工具接入网关,享受统一的密钥管理与用量统计。对于常见 CLI 工具,直接使用一键接管会更省事。
