Обзор ServBay AI Gateway (AI Шлюз)

ServBay AI Gateway — это локальный унифицированный шлюз AI-поставщиков, встроенный в ServBay. Он запускает прокси-сервер на вашем компьютере, который объединяет запросы к ведущим провайдерам больших языковых моделей (OpenAI, Anthropic, DeepSeek, Qwen и др., всего почти 20 сервисов) через одну локальную точку доступа. Это позволяет централизовано управлять ключами, отслеживать использование и затраты, а также легко перенаправлять такие инструменты, как Claude Code, Codex, Gemini CLI и другие на локальный шлюз в один клик.

В этом документе объясняется, что такое AI Gateway, какие задачи он решает и какова его общая архитектура. Подробные инструкции по использованию см. в разделах:

• Управление каналами — добавление и настройка различных поставщиков
• Виртуальные ключи — создание, ограничение, ротация и отзыв ключей
• Интеграция AI-инструментов в один клик — перенаправление CLI инструментов, таких как Claude Code, на шлюз
• Статистика и мониторинг — учет использования, стоимости и бюджета
• Эндпоинты и переменные окружения — вызов шлюза из вашего кода

Обзор

В процессе ежедневной работы с AI у вас могут одновременно использоваться API-ключи разных провайдеров, которые разбросаны по настройкам различных проектов и инструментов. Это затрудняет анализ затрат и усложняет переключение между сервисами. ServBay AI Gateway решает эти задачи:

• Единая точка входа ко многим провайдерам — после настройки каналов все запросы направляются через локальный прокси http://127.0.0.1:11580. Вашему приложению нужно работать только с одним адресом.
• Виртуальные ключи вместо реальных — шлюз выдает приложениям «виртуальные ключи», а настоящие API-ключи хранятся только на стороне шлюза и не распространяются. Виртуальные ключи можно в любой момент ограничить, перевыпустить или отозвать.
• Единый просмотр статистики по использованию и стоимости — шлюз регистрирует все проходящие через него запросы, ведет учет количества, использования токенов, затрат, задержек, а также мультимодальных данных. Поддерживается настройка бюджета.
• Интеграция популярных AI-инструментов одним кликом — без ручной правки конфигов инструменты вроде Claude Code, Codex, Gemini CLI, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush и др. можно одним действием направить на локальный шлюз.

Архитектура и порты

AI Gateway состоит из двух локальных сервисов, которые прослушивают только loopback-адрес (127.0.0.1):

Порт	Назначение	Описание
11580	Прокси-порт	Унифицированная точка входа для приложений. Весь ваш код и интегрированные AI-инструменты делают запросы сюда, а шлюз маршрутизирует их к нужным провайдерам на основе разрешений виртуального ключа.
11581	Порт управления	Используется внутренним интерфейсом ServBay для управления каналами, ключами и статистикой. Обычно прямой доступ не требуется.

Прокси-порт поддерживает несколько форматов эндпоинтов (совместимых с OpenAI, Anthropic, Gemini). Подробнее — в разделе Эндпоинты и переменные окружения.

Поддерживаемые поставщики

AI Gateway включает почти 20 предустановленных поставщиков, сгруппированных по категориям и доступных для быстрого выбора:

• Основные (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• Китай (China): DeepSeek, Qwen, Zhipu GLM, Kimi (Moonshot AI), Doubao·Volcano, Wenxin Yiyan, Hunyuan, MiniMax, Zero One, StepFun. Для Qwen, Zhipu GLM, Kimi, Doubao·Volcano, Hunyuan, MiniMax и StepFun поддерживается переключение между китайским и глобальным регионами.
• Локальные (Local): Ollama (по умолчанию 127.0.0.1:11434), LM Studio (по умолчанию 127.0.0.1:1234).
• Пользовательские (Custom): OpenAI Compatible (любой OpenAI-совместимый сервис), Custom (полностью кастомный).

Полная инструкция по добавлению и настройке каналов приведена в Управлении каналами.

Предварительные требования

• Установлен и запущен ServBay на macOS или Windows.
• AI Gateway является платной функцией ServBay, для добавления каналов и ключей требуется авторизация в аккаунте ServBay. Если вы не вошли, интерфейс подскажет, как это сделать.

TIP

AI Gateway одинаково работает в ServBay для macOS и для Windows — прокси-порт (11580), порт управления (11581) и пути к файлам конфигураций интегрируемых инструментов идентичны. Особенности по платформам отдельно оговариваются в документации.

Аккаунт и тарифы

Некоторые возможности AI Gateway зависят от типа аккаунта в ServBay:

• Лимит каналов / ключей — в бесплатных и платных тарифах различается максимальное число каналов и виртуальных ключей. После достижения лимита появляется подсказка об обновлении тарифа.
• Лимиты и бюджет — лимитирование токенов, запросов и стоимости, бюджетная панель доступны только в VIP/платных тарифах. При отсутствии подписки соответствующие разделы заблокированы с подсказкой о необходимости обновления.

Подробнее о тарифах см. ServBay Pro и ServBay Team.

Хранение данных

• Настройки каналов, виртуальные ключи, статистика использования — все данные хранятся локально в бекэнде шлюза.
• Виртуальный ключ отображается полностью только один раз при создании (или ротации). Далее доступен лишь префикс для идентификации, поэтому сохраните ключ сразу после создания.
• При интеграции инструментов в один клик шлюз автоматически создает резервную копию исходного конфигурационного файла с суффиксом .bak, после чего прописывает данные шлюза. Это позволяет быстро откатиться к прежним настройкам.

Типовой сценарий использования

1. Войти в аккаунт ServBay и перейти в AI Gateway.
2. На странице Каналы добавить хотя бы одного поставщика (например, OpenAI или DeepSeek), внести реальный API-ключ и проверить соединение.
3. На странице Виртуальные ключи создать ключ, при необходимости ограничить доступные модели/каналы и скорость.
4. На странице Эндпоинты добавить виртуальный ключ в приложение, либо через интеграцию в один клик привязать часто используемые инструменты.
5. На странице Статистика и мониторинг отслеживать использование, стоимость и задержки, а при необходимости настроить бюджет.

Заключение

ServBay AI Gateway переводит фрагментированный процесс AI-разработки с «многими поставщиками, ключами и инструментами» в единую систему с «одной локальной точкой доступа, виртуальными ключами и централизованным учетом использования». Теперь вы можете безопасно и централизованно управлять AI-возможностями и расходами прямо на своем компьютере, легко включать различные AI-инструменты через шлюз, и с минимальными издержками интегрировать их для эффективной работы. Это одна из ключевых возможностей ServBay для AI-native разработки.