Эндпоинты AI-шлюза и переменные окружения

Помимо автоматического перехвата встроенных AI-инструментов, вы также можете подключаться к AI-шлюзу напрямую из своих приложений, скриптов или любых AI-утилит. В этой статье описываются форматы эндпоинтов, предоставляемых шлюзом, а также способы подключения с использованием виртуального ключа.

Прокси-эндпоинты

Прокси-сервис AI-шлюза слушает по адресу http://127.0.0.1:11580. Для совместимости с различными SDK и инструментами провайдеров на одном и том же порту шлюз реализует несколько форматов эндпоинтов:

Формат протокола	Путь эндпоинта	Сценарии использования
OpenAI-совместимый	http://127.0.0.1:11580/v1	Любые SDK/инструменты, использующие формат OpenAI API (например, /v1/chat/completions)
Anthropic-совместимый	http://127.0.0.1:11580/v1/messages	Anthropic SDK, Claude Code и другие
Gemini-совместимый	http://127.0.0.1:11580/v1beta	Google Gemini SDK, Gemini CLI и прочие

Достаточно выбрать формат, соответствующий используемому SDK, и направить запросы на соответствующий адрес шлюза. Шлюз автоматически маршрутизирует запросы к нужному провайдеру через подходящий канал, исходя из прав виртуального ключа.

Аутентификация: использование виртуального ключа

Все запросы к шлюзу требуют виртуального ключа для аутентификации — использовать нужно не реальный ключ провайдера, а именно виртуальный. Получите открытый текст ключа на странице Ключи, предварительно создав его.

На странице AI-шлюз → Endpoints вы можете выбрать виртуальный ключ, и шлюз предложит готовые для копирования фрагменты переменных окружения для популярных инструментов.

Примеры переменных окружения

Предположим, у вас уже есть виртуальный ключ (обозначим его как <ваш_виртуальный_ключ>).

OpenAI-совместимые SDK и утилиты

export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<ваш_виртуальный_ключ>"

Claude Code / Anthropic

# Важно: протокол Anthropic использует корневой адрес шлюза, без /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<ваш_виртуальный_ключ>"

Gemini

export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<ваш_виртуальный_ключ>"

Пример запроса (OpenAI-совместимый)

curl http://127.0.0.1:11580/v1/chat/completions \
  -H "Authorization: Bearer <ваш_виртуальный_ключ>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "你好"}]
  }'

Параметр model должен быть моделью, которую вы предварительно настроили в разделе Каналы, и доступ к которой разрешен вашему виртуальному ключу.

Предварительные условия

• Прокси-сервис AI-шлюза должен быть запущен.
• Как минимум один канал настроен корректно, и создан виртуальный ключ с нужными правами доступа к моделям/каналам.

Часто задаваемые вопросы (FAQ)

• Вопрос: Возвращается ошибка аутентификации?
  • Ответ: Проверьте, что вы используете виртуальный ключ (НЕ настоящий ключ провайдера), и что ключ не истек и не отозван.
• Вопрос: Сообщение о недоступности модели или отсутствии прав?
  • Ответ: Убедитесь, что нужная модель настроена в каком-либо канале и текущий виртуальный ключ разрешает ее использование.
• Вопрос: Какой формат эндпоинта использовать?
  • Ответ: Выбирайте по протоколу SDK — для OpenAI используйте /v1, для Anthropic — /v1/messages (Base URL — без /v1), для Gemini — /v1beta.
• Вопрос: Могут ли другие устройства в локальной сети получить доступ к шлюзу?
  • Ответ: По умолчанию шлюз слушает только на 127.0.0.1 (т.е. только локально). Это рекомендуемая настройка по соображениям безопасности.

Заключение

AI-шлюз предоставляет единые локальные эндпоинты в трех популярных форматах: OpenAI, Anthropic и Gemini. Используя аутентификацию через виртуальные ключи, вы можете интегрировать любые приложения или AI-инструменты с шлюзом — и при этом получать централизованное управление ключами и статистику использования. В случае популярных CLI-инструментов проще всего воспользоваться автоматическим перехватом.