Zarządzanie kanałami w bramie AI

Kanał (Channel) to konfiguracja punktu dostępu dostawcy w bramie AI – przechowuje adres dostawcy, prawdziwy klucz API, dostępne modele oraz informacje o wycenie i limitach. Brama, na podstawie tych kanałów, kieruje żądania nadsyłane przez aplikacje do odpowiednich dostawców. W tym artykule opisujemy, jak dodać, skonfigurować, przetestować i zarządzać kanałami.

Wymagania wstępne

• ServBay jest zainstalowany i uruchomiony, a użytkownik zalogowany na konto ServBay (dodawanie kanałów wymaga logowania).
• Przygotowany prawdziwy klucz API od wybranego dostawcy (w przypadku lokalnych dostawców, np. Ollama / LM Studio, pole może pozostać puste).
• Jeśli nie znasz ogólnej architektury bramy AI, zalecamy najpierw przeczytać Wprowadzenie do bramy AI.

Dodawanie kanału

Przejdź do AI Gateway → Kanały (Channels) i kliknij Dodaj (Add), aby uruchomić kreator. Kreator składa się z trzech kroków.

Krok 1: Wybierz dostawcę

Dostawcy są pogrupowani według kategorii, wybierz klikając odpowiednią kartę:

• Popularni (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• Chiny (China): DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi, Doubao Volcengine, Wenxin Yiyan, Hunyuan, MiniMax, ZeroOne, StepStar.
• Lokalni (Local): Ollama, LM Studio.
• Niestandardowi (Custom): OpenAI Compatible, Custom.

Po wybraniu dostawcy brama automatycznie uzupełni domyślny Base URL.

Przełączanie podwójnych regionów

Dostawcy tacy jak Tongyi Qianwen, Zhipu GLM, Kimi, Doubao Volcengine, Hunyuan, MiniMax, StepStar oferują dwa rodzaje punktów końcowych – krajowe oraz globalne. Przy wyborze tych dostawców pojawi się przełącznik „Region” (🇨🇳 Krajowy / 🌐 Globalny), a Base URL zostanie automatycznie zaktualizowany do wybranego regionu.

Krok 2: Uzupełnij konfigurację

• Nazwa kanału (wymagane) – identyfikator kanału na liście, dowolny.
• Base URL (wymagane) – adres API dostawcy. W większości przypadków domyślnie uzupełniony. Dla Azure OpenAI oraz Custom musisz wprowadzić ręcznie.
• API Key (opcjonalne) – prawdziwy klucz API. Jeśli pozostawisz puste, możesz tylko sprawdzić dostępność punktu końcowego, nie zweryfikujesz poprawności klucza; lokalni dostawcy (Ollama / LM Studio) zwykle nie wymagają wypełniania.
• Modele – dwie możliwości (wybierz jedną):
  • Automatycznie – kliknij, aby wykryć, brama pobierze dostępne modele i pozwoli wybrać kilka z listy (w formie chipa).
  • Ręcznie – wpisz nazwę modelu. W kanale Azure należy podać Deployment name (nazwę wdrożenia) zamiast nazwy modelu.
• Priorytet / waga – jeśli kilka kanałów obsługuje ten sam model, brama wykorzystuje to ustawienie do rozdziału ruchu i decyduje, który kanał obsłuży żądanie.

Uwaga Azure OpenAI

W polu „Modele” dla kanału Azure należy podać Deployment name (nazwę wdrożenia) utworzoną w panelu Azure, a nie nazwę modelu bazowego. Base URL także musi być ustawiony na Twój punkt końcowy zasobu Azure.

Krok 3: Potwierdź i wyślij

Sprawdź podsumowanie konfiguracji i wyślij. Po sukcesie nowy kanał pojawi się na liście, pokazując bieżący stan zdrowia.

Testowanie łączności

Na liście kanałów możesz uruchomić test łączności dla wybranego kanału. Test obejmuje dwa aspekty:

• Dostępność punktu końcowego (reachable) – sprawdza, czy Base URL jest osiągalny (czy sieć i adres są poprawne).
• Ważność klucza (authenticated) – rzeczywiste wywołanie API dostawcy w celu weryfikacji poprawności API Key. Wykonywane tylko, jeśli podano API Key.

Wyświetlane są: opóźnienie (ms), status oraz ewentualne komunikaty o błędach.

TIP

W kreatorze dodawania, jeśli punkt końcowy nie jest osiągalny, nie przejdziesz dalej; jeśli punkt końcowy działa, ale klucz jest błędny, pojawi się ostrzeżenie – możesz jednak kontynuować (np. planując uzupełnić klucz później).

Zaawansowana konfiguracja

Podczas dodawania lub edytowania kanału możesz rozwinąć ustawienia zaawansowane, które pozwalają na kontrolę kosztów i limitów:

• Mnożnik wyceny (Rate Multiplier) – mnoży cenę oficjalną dostawcy przez wybraną wartość, co pozwala precyzyjnie wyliczać rzeczywiste koszty lub ceny odsprzedaży; domyślnie 1.0.
• Struktura rozliczania – informacja o rozliczaniu użycia tego kanału, np. pay-as-you-go, subskrypcja (abonament) czy pakiet.
• Saldo – źródłem salda może być wartość stała, rozliczenie OSS lub ręczne uzupełnianie; dla OSS można wybrać rodzaj rachunku. Saldo i czas ostatniej aktualizacji wyświetlane są tylko do odczytu.
• Termin wygasania subskrypcji – przy kanałach typu subskrypcyjnego możesz określić datę końca.
• Limity (VIP) – możesz ustawić limity wg liczby tokenów, żądań lub kwoty pieniężnej, wybierając cykl (dzienny/tygodniowy/miesięczny/niestandardowy) oraz możliwość „dopuszczenia przekroczenia” do pewnego poziomu. Limity są funkcją płatną.

Edycja i usuwanie kanałów

• Edycja – na liście kanałów kliknij na kanał, aby zmienić nazwę, Base URL, API Key, modele i ustawienia zaawansowane.
• Usuń – po usunięciu kanału, powiązane z nim wirtualne klucze nie będą mogły z niego korzystać; zachowaj ostrożność.

Stan zdrowia kanału

Na liście kanałów oraz na stronie głównej wyświetlany jest bieżący stan zdrowia każdego kanału (OK / Degradowany / Niedostępny), co pozwala szybko zidentyfikować niesprawne konfiguracje dostawców.

Najczęstsze pytania (FAQ)

• Q: Pojawia się komunikat o konieczności zalogowania podczas dodawania kanału?
  • A: Brama AI to płatna funkcja ServBay. Podczas dodawania kanału/API Key należy najpierw się zalogować – postępuj zgodnie z instrukcjami na ekranie.
• Q: Liczba kanałów przekroczyła limit?
  • A: Liczba możliwych do utworzenia kanałów zależy od Twojego planu konta. Po osiągnięciu limitu możesz usunąć nieużywane kanały lub rozszerzyć plan.
• Q: Automatyczne wykrywanie modeli nie działa?
  • A: Sprawdź poprawność Base URL i ważność API Key (możesz użyć testu łączności z weryfikacją klucza). U niektórych dostawców do zwrócenia listy modeli wymagany jest ważny klucz. Alternatywnie wpisz nazwę modelu ręcznie.
• Q: Czy dla lokalnych kanałów (Ollama / LM Studio) trzeba podawać API Key?
  • A: Zwykle nie. Wystarczy, że lokalna usługa jest uruchomiona i nasłuchuje na domyślnym porcie (Ollama 11434, LM Studio 1234).

Podsumowanie

Kanały są podstawą routingu żądań w bramie AI. Dzięki trzyetapowemu kreatorowi możesz łatwo podłączyć niemal 20 dostawców, korzystać z przełączania regionów, automatycznego wykrywania modeli i dwuetapowych testów łączności, by upewnić się, że wszystko działa poprawnie. Zaawansowane ustawienia wyceny i limitów umożliwiają precyzyjną kontrolę kosztów. Po skonfigurowaniu kanałów możesz tworzyć wirtualne klucze do użytku przez aplikacje i narzędzia.