Маршрутизація та вибір моделей: зв’язок між каналами, моделями та клієнтами
Під час роботи з AI-шлюзом найлегше сплутати три поняття: канал, модель і клієнт. Розуміння зв’язків між ними допоможе вам правильно налаштувати маршрутизацію та уникнути плутанини на кшталт «чому мій запит не пішов через канал, який я очікував».
Три базові поняття
- Канал — це одне upstream-з’єднання: екземпляр Ollama або обліковий запис хмарного провайдера.
- Модель — це можливість, доступна на каналі: наприклад, конкретна назва моделі на кшталт
qwen3:8b. - Клієнт — це AI-інструменти, якими ви користуєтеся щодня: Claude Code, Codex, opencode тощо.
Зв’язок між ними — це односторонній ланцюжок:
Клієнт → (віртуальний ключ) → Шлюз (політика маршрутизації) → Канал → Модель
У кожному запиті клієнт вказує назву моделі, а шлюз за цією назвою знаходить канал, здатний її обслугувати, і переспрямовує запит до нього.
Що означає «model (назва каналу)» у списку моделей
У селекторі моделей клієнтів на кшталт Claude Code чи opencode ви побачите записи виду qwen3:8b (Ollama Qwen3). Назва в дужках означає канал-джерело цієї моделі, а не «окреме з’єднання»:
- Між вашим клієнтом і шлюзом завжди існує лише одне з’єднання (одна адреса + один віртуальний ключ).
- Ту саму модель можна налаштувати на кількох каналах. У такому разі в селекторі все одно показуватиметься лише один рядок (у дужках — один із каналів-джерел), а те, який канал фактично обслуговуватиме кожен окремий запит, визначає політика маршрутизації (див. нижче).
Три режими маршрутизації: Fixed, Failover, Balanced
Політика маршрутизації відповідає на питання: коли одну й ту саму модель здатні обслуговувати кілька каналів, який із них використати?
| Режим | Поведінка | Коли підходить |
|---|---|---|
| Fixed (фіксований) | Завжди використовується той самий канал | Стабільна якість каналу, потреба зафіксувати джерело |
| Failover (основний/резервний) | Послідовне перемикання на резервні канали у разі збою основного або вичерпання ліміту | Конфігурації з основним і резервними каналами |
| Balanced (балансований) | Запити по черзі розподіляються між доступними каналами | Розподіл навантаження між кількома однорідними каналами |
Дві ключові межі:
- Маршрутизація перемикає лише канали, але не моделі. Яку модель запитати — завжди вирішує ваш клієнт; шлюз не міняє модель за вас.
- Різні моделі й так проходять через власні канали. Balanced не працює за принципом «цього разу — модель з каналу A, наступного — з каналу B»: він чергує лише канали однієї й тієї ж моделі.
Модель визначає клієнт: як перемикати моделі
Шлюз лише переспрямовує запити: ваш інструмент додає назву моделі до кожного запиту, а шлюз виконує маршрутизацію відповідно до неї. Перемикання моделей відбувається на боці клієнта:
- opencode: виберіть модель, ввівши
/modelsу TUI; або налаштуйтеmodel(основна модель) таsmall_model(для легких завдань на кшталт генерації заголовків) у файліopencode.json. - Claude Code: перемикайте моделі командою
/model. - Codex: вкажіть модель параметром
-m <model>або в конфігураційному файлі.
Безпечне підключення повсякденних інструментів до шлюзу
Побоюєтеся зашкодити повсякденній роботі? Дійте за таким порядком:
- Спочатку протестуйте на другорядному проєкті: виконайте підключення в один клік у каталозі неважливого проєкту та переконайтеся, що робочий процес функціонує належно.
- Перевірка одним запитом: надішліть тестовий запит і на сторінці «Журнал використання» подивіться, до якої моделі та якого каналу він потрапив і скільки коштував.
- Відкотити можна будь-коли: зупиніть перехоплення на сторінці «Керування підключеннями». Після зупинки: конфігурації, записані ServBay, буде вилучено, а віртуальні ключі, створені для перехоплення, — анульовано; ваші попередні власні конфігурації не буде відновлено автоматично — за потреби налаштуйте їх вручну; зміни набудуть чинності після перезапуску клієнта.
Підсумок
- Канал = upstream-з’єднання; модель = можливість на каналі; назву моделі в кожному запиті вказує клієнт.
- Політика маршрутизації обирає лише між «каналами однієї й тієї ж моделі»: Fixed — фіксований канал, Failover — основний/резервний, Balanced — почергово.
- Перемикайте моделі в селекторі моделей клієнта; на сторінці «Журнал використання» перевіряйте, куди пішов кожен запит і скільки він коштував.
