Управление каналами в AI-шлюзе

Канал (Channel) — это конфигурация точки подключения поставщика в AI-шлюзе, которая хранит адрес поставщика, настоящий API-ключ, доступные модели, а также информацию о тарификации и лимитах. Именно с помощью этих каналов шлюз маршрутизирует входящие от приложений запросы к соответствующим поставщикам. В этой статье рассказывается, как добавить, настроить, протестировать и управлять каналами.

Предварительные требования

• Установлен и запущен ServBay, выполнен вход в учетную запись (каналы можно добавить только после авторизации).
• На руках настоящий API-ключ поставщика, к которому планируется подключение (для локальных поставщиков, таких как Ollama или LM Studio, можно оставить поле пустым).
• Если вы не знакомы с архитектурой AI-шлюза, рекомендуем сначала ознакомиться с введением в AI-шлюз.

Добавление канала

Перейдите на страницу AI-шлюз → Каналы (Channels) и нажмите Добавить (Add), чтобы открыть мастер. Мастер состоит из трех шагов.

Шаг 1: Выбор поставщика

Поставщики сгруппированы по категориям. Для выбора нажмите соответствующую карточку:

• Основные (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• Китай (China): DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi, Doubao Volcano, Wenxin Yiyan, Hunyuan, MiniMax, ZeroOne, StepStar.
• Локальные (Local): Ollama, LM Studio.
• Пользовательские (Custom): OpenAI Compatible, Custom.

После выбора поставщика шлюз автоматически подставит его базовый адрес (Base URL) по умолчанию.

Переключение регионов

Такие китайские поставщики, как Tongyi Qianwen, Zhipu GLM, Kimi, Doubao Volcano, Hunyuan, MiniMax, StepStar и др., предоставляют две серии эндпоинтов: для Китая и глобальные. При выборе такого поставщика в мастере появляется переключатель «Регион» (🇨🇳 Китай / 🌐 Глобальный), смена которого автоматически обновляет Base URL.

Шаг 2: Заполнение конфигурации

• Название канала (обязательно) — для идентификации канала в списке, можно задать самостоятельно.
• Base URL (обязательно) — адрес API поставщика. Для большинства поставщиков подставляется автоматически; для Azure OpenAI и Custom — вводится вручную.
• API Key (необязательно) — настоящий секретный ключ поставщика. Если оставить пустым, тестируется только доступность эндпоинта, проверить корректность ключа нельзя; для локальных каналов (Ollama/LM Studio) обычно не требуется.
• Модели — выбрать один из способов:
  • Автоматическое обнаружение: после нажатия кнопки шлюз вызовет API получения списка моделей поставщика, можно выбрать несколько через теги.
  • Вручную: введите название модели вручную. Для Azure нужно указывать deployment name (имя развертывания), а не название модели.
• Приоритет / Вес — если несколько каналов поддерживают одну и ту же модель, шлюз будет использовать эту настройку для маршрутизации и распределения нагрузки.

Особенности Azure OpenAI

В Azure в поле «Модели» требуется указывать имя развертывания (Deployment name) из портала Azure, а не техническое название модели. Base URL нужно также указать вручную, используя адрес вашего ресурса Azure.

Шаг 3: Подтверждение и отправка

Проверьте итоговую конфигурацию и отправьте. После успешного добавления новый канал появится в списке каналов с отображением текущего состояния.

Тестирование доступности

В списке каналов можно протестировать любой канал на доступность. Тест проводится по двум критериям:

• Доступность эндпоинта (reachable): проверяется возможность соединения по Base URL (корректность адреса и сеть).
• Валидность ключа (authenticated): делается реальный запрос к API поставщика для проверки действительности API-ключа. Проверка проходит только, если ключ введён.

В результатах отображаются время отклика (мс), статус и возможные ошибки.

TIP

В мастере при добавлении, если эндпоинт недоступен — следующий шаг недоступен; если ключ невалидный, будет показано предупреждение, но продолжить можно (например, если ключ планируется добавить позже).

Расширенные настройки

При добавлении или редактировании канала можно раскрыть расширенные параметры для контроля затрат и лимитов:

• Коэффициент тарификации (Rate Multiplier) — множитель к официальной цене поставщика, для расчета своих реальных затрат или наценки, по умолчанию 1.0.
• Структура тарификации — способ оплаты для канала: поминутная оплата (pay as you go), подписка (subscription), пакет (package).
• Баланс — может быть фиксированным, настраиваться вручную или интегрироваться с OSS-отчетами; для OSS можно также выбрать тип отчета. Баланс и время обновления отображаются только для чтения в деталях канала.
• Дата окончания подписки — для подписочных/пакетных каналов позволяет фиксировать дату завершения.
• Лимиты (VIP) — можно установить ограничения по токенам, количеству запросов или сумме, выбрать период (день / неделя / месяц / произвольный) и включить опцию «разрешить перерасход» (незначительное превышение лимита). Управление лимитами доступно в платной версии.

Редактирование и удаление каналов

• Редактировать — открыть канал в списке и изменить название, Base URL, API Key, модели и расширенные параметры.
• Удалить — после удаления канала все виртуальные ключи, привязанные к нему, перестанут работать; удаляйте канал осторожно.

Мониторинг состояния

В списке каналов и на странице обзора в реальном времени отображается состояние каждого канала (нормально / деградировано / не работает) для быстрого выявления проблем с поставщиками.

Часто задаваемые вопросы (FAQ)

• Вопрос: Почему при добавлении канала требуется вход?
  • Ответ: AI-шлюз — платная функция ServBay. Для добавления канала/ключа требуется авторизация. Просто войдите в сервис по инструкции на экране.
• Вопрос: Почему пишет, что превышен лимит каналов?
  • Ответ: Максимальное количество каналов зависит от вашего тарифного плана. Если лимит достигнут — удалите ненужные каналы или повысьте тариф.
• Вопрос: Не отображается список моделей при автоматическом обнаружении?
  • Ответ: Убедитесь, что Base URL указан верно и ключ API рабочий (можно использовать тест на валидность). Некоторые поставщики показывают список моделей только при валидном ключе. Попробуйте указать модели вручную.
• Вопрос: Нужно ли указывать ключ для локальных Ollama / LM Studio?
  • Ответ: Обычно нет. Достаточно, чтобы локальный сервис был запущен и слушал порт по умолчанию (Ollama 11434, LM Studio 1234).

Итоги

Каналы — основа маршрутизации запросов в AI-шлюзе. С помощью трехшагового мастера можно быстро подключить до 20 поставщиков, при этом двойное переключение регионов, автоматическое обнаружение моделей и двустороннее тестирование доступности гарантируют корректную конфигурацию. Механизмы тарификации и лимитов позволяют точно контролировать расходы. После настройки каналов вы можете создавать виртуальные ключи для использования в приложениях и инструментах.