Введение в AI-шлюз ServBay (AI Gateway)

AI-шлюз ServBay (AI Gateway) — это встроенный в ServBay локальный унифицированный шлюз для AI-поставщиков. Он запускает на вашей машине прокси-эндпоинт, объединяя запросы к различным поставщикам больших моделей (OpenAI, Anthropic, DeepSeek, Qwen и почти 20 другим) в одной точке входа. Это помогает централизованно управлять ключами, вести статистику использования и затрат, а также в один клик направлять такие AI-инструменты программирования, как Claude Code и Codex, на локальный шлюз.

В этом документе рассказывается, что такое AI-шлюз, какие задачи он решает и какова его общая архитектура. За конкретными инструкциями обращайтесь к разделам:

• Управление каналами — добавление и настройка поставщиков
• Виртуальные ключи — создание, ограничение прав, ротация и отзыв ключей
• Подключение AI-инструментов программирования в один клик — направление Claude Code и других CLI на шлюз
• Статистика и мониторинг — использование, затраты и бюджет
• Эндпоинты и переменные окружения — вызов шлюза из собственного кода

Обзор

В повседневной AI-разработке вы можете одновременно использовать API-ключи нескольких поставщиков, разбросанные по конфигурационным файлам разных проектов и инструментов. Это затрудняет подсчёт расходов и унифицированное переключение. AI-шлюз ServBay объединяет эти проблемы в одном месте:

• Одна точка входа, подключение нескольких поставщиков — после настройки каналов всех поставщиков все запросы перенаправляются через локальный http://127.0.0.1:11580, и вашему приложению достаточно работать с одним адресом.
• Виртуальные ключи вместо реальных ключей — шлюз выпускает «виртуальные ключи» и выдаёт их приложениям и инструментам, а реальные API-ключи поставщиков хранятся только на стороне шлюза и больше не разбросаны повсюду. Виртуальные ключи можно в любой момент ограничивать по правам, ротировать и отзывать.
• Единый обзор использования и затрат — все запросы, проходящие через шлюз, записываются; шлюз предоставляет статистику по количеству запросов, использованию токенов, затратам, задержке, мультимодальному использованию и т. д., а также поддерживает управление бюджетом.
• Подключение популярных AI-инструментов программирования в один клик — без ручного изменения файлов конфигурации шлюз в один клик направляет такие инструменты, как Claude Code, Codex, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush, на локальный шлюз.
• Отслеживание подписок и квот — поддерживается привязка аккаунтов поставщиков по подписке (например, OAuth-авторизация Claude Pro / Max): в шлюзе наглядно отображаются информация о тарифе, доступные эндпоинты и ограничения длины вывода, а также отслеживаются многоконные квоты в реальном времени (использовано / осталось в процентах, статус исчерпания квоты, время сброса), позволяя вам в любой момент видеть остаток по подписке.
• Определение возможностей канала и интеллектуальная маршрутизация — при добавлении канала шлюз автоматически определяет возможности поставщика (с OAuth-авторизацией / с тарифом для программирования / с уровневыми моделями), после подтверждения автоматически создаёт трехуровневое сопоставление шлюза на основе результатов определения, без необходимости вручную угадывать совместимость моделей.

Архитектура и порты

AI-шлюз состоит из двух локальных служб, которые прослушивают только адрес обратной петли (127.0.0.1):

Порт	Назначение	Описание
11580	Порт прокси	Унифицированная точка входа для приложений. Ваш код и подключённые AI-инструменты отправляют запросы сюда, а шлюз маршрутизирует их к соответствующему каналу поставщика в соответствии с правами виртуального ключа.
11581	Порт управления	Используется внутри приложения ServBay для управления каналами, ключами и статистикой; обычно не требует прямого доступа.

Порт прокси также предоставляет эндпоинты в нескольких совместимых форматах (совместимые с OpenAI, Anthropic, Gemini). Подробнее см. в разделе Эндпоинты и переменные окружения.

Поддерживаемые каналы поставщиков

AI-шлюз включает почти 20 предустановок поставщиков, сгруппированных по категориям; при добавлении канала их можно выбрать напрямую:

• Основные (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• Китай (China): DeepSeek, Qwen (Tongyi Qianwen), Zhipu GLM, Kimi (Moonshot), Doubao · Volcano, ERNIE Bot (Wenxin Yiyan), Hunyuan, MiniMax, 01.AI, StepFun. Среди них Qwen (Tongyi Qianwen), Zhipu GLM, Kimi, Doubao · Volcano, Hunyuan, MiniMax, StepFun и другие поддерживают переключение между китайскими и глобальными эндпоинтами.
• Локальные (Local): Ollama (по умолчанию 127.0.0.1:11434), LM Studio (по умолчанию 127.0.0.1:1234).
• Пользовательские (Custom): OpenAI Compatible (любой OpenAI-совместимый сервис), Custom (полностью настраиваемый).

Полный процесс добавления и настройки см. в разделе Управление каналами.

Предварительные требования

• ServBay установлен и запущен на macOS или Windows.
• AI-шлюз — это дополнительная функция ServBay; перед добавлением каналов / ключей необходимо войти в аккаунт ServBay. Если вы не вошли, интерфейс предложит выполнить вход.

TIP

AI-шлюз одинаково работает в ServBay for macOS и ServBay for Windows; порт прокси (11580), порт управления (11581) и пути к файлам конфигурации подключаемых инструментов совпадают. Если в документации есть различия между платформами, они указаны отдельно.

Аккаунт и тарифы

Некоторые возможности AI-шлюза зависят от тарифа аккаунта ServBay:

• Лимит количества каналов / ключей — в бесплатных и платных тарифах можно создать разное количество каналов и виртуальных ключей. При достижении лимита интерфейс предложит перейти на более высокий тариф.
• Управление квотами и бюджетом — ограничения по квотам (токены / количество запросов / сумма) и панель бюджета относятся к возможностям VIP / платных тарифов; без подписки соответствующие разделы блокируются и предлагают обновление.

Подробнее о тарифах см. в разделах ServBay Pro и ServBay Team.

Аккаунты по подписке и отслеживание квот

AI-шлюз поддерживает привязку аккаунтов поставщиков по подписке (например, Claude Pro / Max, подключаемых через OAuth-авторизацию), позволяя просматривать и управлять этими подписочными ресурсами прямо в локальном шлюзе без входа в веб-консоли поставщиков.

Что можно делать с аккаунтами по подписке

• Наглядная информация о тарифе — отображаются название подписки, структура тарификации и срок действия.
• Доступные эндпоинты и ограничения вывода — просмотр списка эндпоинтов, доступных для этого аккаунта по подписке, и ограничений максимальной длины вывода для каждой модели.
• Отслеживание многоконных квот — визуальное отображение процента использованной / оставшейся квоты, текущего статуса исчерпания и времени сброса квоты, помогающее рационально распределять ресурсы подписки.
• Видимость недействительных учётных данных — когда авторизационные данные аккаунта по подписке истекают или становятся недействительными, интерфейс явно помечает это и предлагает повторно авторизоваться.

Экспериментальная функция

Подключение аккаунтов по подписке через OAuth-авторизацию в настоящее время является экспериментальной функцией; список поддерживаемых поставщиков будет постепенно расширяться. Для авторизации необходимо пройти OAuth-процесс поставщика в браузере; токен авторизации хранится только локально.

Хранение данных

• Конфигурации каналов, виртуальные ключи, статистика использования и другие данные поддерживаются локально серверной службой шлюза.
• Открытый текст виртуального ключа отображается только один раз при создании (или ротации); в дальнейшем шлюз сохраняет только префикс для идентификации. Обязательно скопируйте и сохраните его сразу после создания.
• При подключении инструментов в один клик шлюз сначала создаёт резервную копию исходного файла конфигурации целевого инструмента с суффиксом .bak, а затем записывает конфигурацию, указывающую на локальный шлюз, чтобы её можно было в любой момент восстановить.

Типичный сценарий использования

1. Войдите в аккаунт ServBay и перейдите в AI-шлюз.
2. На странице Каналы добавьте хотя бы один канал поставщика (например, OpenAI или DeepSeek), укажите реальный API-ключ и проверьте подключение.
3. На странице Виртуальные ключи создайте виртуальный ключ и при необходимости ограничьте доступные модели / каналы и скорость.
4. На странице Эндпоинты укажите виртуальный ключ в вашем приложении или на той же странице выполните подключение в один клик для часто используемых AI-инструментов программирования.
5. На странице Статистика и мониторинг следите за использованием, затратами и задержкой, при необходимости настройте бюджет.

Заключение

AI-шлюз ServBay объединяет фрагментированную картину AI-разработки «много поставщиков, много ключей, много инструментов» в «одну локальную точку входа, один набор виртуальных ключей, один обзор использования». Он позволяет безопасно централизованно управлять AI-возможностями локально, точно контролировать затраты и с минимальными усилиями подключать различные AI-инструменты программирования к единому шлюзу. Это одна из ключевых возможностей ServBay для AI-native разработки.