Эндпоинты AI-шлюза и переменные окружения
Помимо подключения в один клик к готовым AI-инструментам, вы можете обращаться к AI-шлюзу напрямую из собственных приложений, скриптов или любых AI-инструментов. В этой статье описаны форматы эндпоинтов, предоставляемых шлюзом, и способы подключения с помощью виртуальных ключей.
Прокси-эндпоинты
Прокси-сервис AI-шлюза прослушивает http://127.0.0.1:11580. Для совместимости с SDK и инструментами разных поставщиков шлюз предоставляет эндпоинты нескольких протокольных форматов на одном порту:
| Формат протокола | Путь эндпоинта | Сценарий использования |
|---|---|---|
| Совместимость с OpenAI | http://127.0.0.1:11580/v1 | Любые SDK / инструменты, работающие по формату OpenAI API (например, /v1/chat/completions) |
| Совместимость с Anthropic | http://127.0.0.1:11580/v1/messages | Anthropic SDK, Claude Code и др. |
| Совместимость с Gemini | http://127.0.0.1:11580/v1beta | Google Gemini SDK и др. |
Вам достаточно выбрать формат, соответствующий протоколу используемого SDK, и направить запросы на адрес шлюза. Шлюз на основании прав виртуального ключа маршрутизирует запросы к соответствующему каналу поставщика.
Аутентификация: использование виртуальных ключей
Все запросы к шлюзу аутентифицируются с помощью виртуальных ключей, а не реальных ключей поставщиков. Сначала создайте виртуальный ключ на странице Ключи и скопируйте его открытое значение.
На странице AI-шлюз → Эндпоинты (Endpoints) вы можете выбрать виртуальный ключ — шлюз сгенерирует готовые к копированию фрагменты переменных окружения для распространённых инструментов.
Примеры переменных окружения
В примерах ниже предполагается, что у вас уже есть виртуальный ключ (обозначим его как <ваш виртуальный ключ>).
SDK / инструменты, совместимые с OpenAI
bash
export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<ваш виртуальный ключ>"1
2
2
Claude Code / Anthropic
bash
# Внимание: протокол Anthropic использует корневой адрес шлюза, без /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<ваш виртуальный ключ>"1
2
3
2
3
Gemini
bash
export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<ваш виртуальный ключ>"1
2
2
Пример вызова (совместимость с OpenAI)
bash
curl http://127.0.0.1:11580/v1/chat/completions \
-H "Authorization: Bearer <ваш виртуальный ключ>" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "你好"}]
}'1
2
3
4
5
6
7
2
3
4
5
6
7
При этом model должен быть моделью, уже настроенной в каналах и разрешённой для вызова данным виртуальным ключом.
Предварительные условия
- Прокси-сервис AI-шлюза запущен.
- Настроен хотя бы один работоспособный канал и создан виртуальный ключ с соответствующими правами на модели / каналы.
Часто задаваемые вопросы (FAQ)
- Вопрос: запрос возвращает ошибку аутентификации?
- Ответ: убедитесь, что используется виртуальный ключ (а не реальный ключ поставщика), и что он не истёк и не был отозван.
- Вопрос: сообщается, что модель недоступна или нет прав?
- Ответ: убедитесь, что данная
modelнастроена в каком-либо канале, и что текущий виртуальный ключ включает её в список «разрешённых моделей / каналов».
- Ответ: убедитесь, что данная
- Вопрос: какой формат эндпоинта использовать?
- Ответ: выбирайте по протоколу используемого SDK — для стиля OpenAI используйте
/v1, для стиля Anthropic —/v1/messages(Base URL без/v1), для стиля Gemini —/v1beta.
- Ответ: выбирайте по протоколу используемого SDK — для стиля OpenAI используйте
- Вопрос: могут ли другие устройства в локальной сети обращаться к шлюзу?
- Ответ: по умолчанию шлюз прослушивает только
127.0.0.1(только локальная машина). Это рекомендуемая настройка с точки зрения безопасности.
- Ответ: по умолчанию шлюз прослушивает только
Итог
AI-шлюз предоставляет единые локальные эндпоинты в трёх совместимых форматах — OpenAI / Anthropic / Gemini. В сочетании с аутентификацией по виртуальным ключам вы можете подключить к шлюзу любое приложение или AI-инструмент и получить централизованное управление ключами и статистику использования. Для распространённых CLI-инструментов проще всего воспользоваться подключением в один клик.
