Wprowadzenie do ServBay AI Gateway
ServBay AI Gateway to lokalna zunifikowana bramka dostawców AI wbudowana w ServBay. Na Twoim komputerze działa jako lokalny endpoint proxy, który zbiera wszystkie zapytania kierowane do głównych dostawców modeli AI (takich jak OpenAI, Anthropic, DeepSeek, i niemal 20 innych) w jednym miejscu. Umożliwia centralne zarządzanie kluczami API, monitorowanie zużycia i kosztów oraz kierowanie narzędzi CLI do programowania AI, takich jak Claude Code, Codex czy Gemini, bezpośrednio do lokalnej bramki za pomocą jednego kliknięcia.
Ten dokument wyjaśnia, czym jest AI Gateway, jakie problemy rozwiązuje oraz opisuje jego architekturę. Szczegółowe instrukcje znajdziesz tutaj:
- Zarządzanie kanałami — dodawanie i konfigurowanie dostawców
- Wirtualne klucze — tworzenie, ograniczanie, rotacja i unieważnianie kluczy
- Jednolite przechwytywanie narzędzi AI CLI — kierowanie CLI typu Claude Code na bramkę
- Statystyki i monitoring — zużycie, koszty i budżetowanie
- Endpointy i zmienne środowiskowe — integracja bramki z własnym kodem
Przegląd
W codziennej pracy z AI często posiadasz wiele kluczy API od różnych dostawców, rozproszonych w plikach konfiguracyjnych w różnych projektach i narzędziach. To utrudnia kontrolę nad wydatkami i sprawia, że zarządzanie jest nieefektywne. ServBay AI Gateway rozwiązuje te problemy w następujący sposób:
- Jeden punkt dostępu do wielu dostawców — Po skonfigurowaniu kanałów, wszystkie żądania przechodzą przez lokalny adres
http://127.0.0.1:11580, dzięki czemu aplikacje korzystają tylko z jednego endpointu. - Wirtualne klucze zamiast prawdziwych — Bramka wydaje „wirtualne klucze” dla aplikacji i narzędzi, podczas gdy rzeczywiste klucze dostawców przechowywane są tylko po stronie bramki. Wirtualne klucze można w każdej chwili ograniczyć, rotować lub unieważnić.
- Zunifikowany widok zużycia i kosztów — Wszystkie zapytania przechodzące przez bramkę są rejestrowane, a Ty masz dostęp do statystyk dotyczących liczby żądań, zużycia tokenów, kosztów, opóźnień oraz obciążenia multimodalnego. Dostępne są także funkcje zarządzania budżetem.
- Jednoklikowe przechwytywanie narzędzi programistycznych AI — Nie musisz ręcznie zmieniać plików konfiguracyjnych; bramka może jednym kliknięciem skierować takie narzędzia jak Claude Code, Codex, Gemini CLI, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush i inne na lokalny gateway.
Architektura i porty
AI Gateway składa się z dwóch lokalnych usług, obie nasłuchują wyłącznie na adresie pętli zwrotnej (127.0.0.1):
| Port | Przeznaczenie | Opis |
|---|---|---|
11580 | Port proxy | Uniwersalny punkt dostępu dla aplikacji. Twój kod i przechwycone narzędzia AI wysyłają żądania tutaj, a gateway routuje je do odpowiedniego dostawcy na podstawie uprawnień wirtualnego klucza. |
11581 | Port zarządzania | Służy do wewnętrznego zarządzania kanałami, kluczami oraz danymi statystycznymi w aplikacji ServBay; zazwyczaj nie jest bezpośrednio dostępny. |
Port proxy obsługuje jednocześnie endpointy w różnych zgodnych formatach (kompatybilne z OpenAI, Anthropic i Gemini). Szczegóły znajdziesz w sekcji Endpointy i zmienne środowiskowe.
Obsługiwani dostawcy AI
AI Gateway oferuje wstępnie skonfigurowane kanały dla niemal 20 dostawców, podzielonych na kategorie:
- Główni (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
- Chiny (China): DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi (Moonshot AI), Doubao·Volcano, Wenxin Yiyan, Hunyuan, MiniMax, Lingyi Wanwu, StepStar. Wielu z nich, jak Tongyi Qianwen, Zhipu GLM, Kimi, Doubao·Volcano, Hunyuan, MiniMax, StepStar, obsługuje przełączanie regionu Chiny/Global.
- Lokalni (Local): Ollama (domyślnie
127.0.0.1:11434), LM Studio (domyślnie127.0.0.1:1234). - Niestandardowi (Custom): OpenAI Compatible (dowolny zgodny endpoint OpenAI), Custom (w pełni konfigurowalny).
Pełny proces dodawania i konfiguracji znajdziesz w Zarządzanie kanałami.
Wymagania wstępne
- ServBay musi być zainstalowany i uruchomiony na macOS lub Windows.
- AI Gateway to funkcja premium ServBay, dodanie kanałów/kluczy wymaga zalogowania się na konto ServBay. W razie braku zalogowania interfejs poprowadzi Cię przez logowanie.
TIP
AI Gateway działa identycznie w ServBay for macOS i ServBay for Windows — porty proxy (11580), zarządzania (11581) oraz ścieżki plików konfiguracyjnych przejętych narzędzi są takie same na obu platformach. Ewentualne różnice platformowe są zaznaczone w dokumentacji.
Konto i plany abonamentowe
Część funkcji AI Gateway uzależniona jest od planu konta ServBay:
- Limit liczby kanałów/kluczy — W zależności od planu (bezpłatny lub płatny) możesz utworzyć różną liczbę kanałów i wirtualnych kluczy. Po osiągnięciu limitu interfejs podpowie konieczność aktualizacji planu.
- Limity i budżetowanie — Limity (tokeny/żądania/kwoty) oraz panel budżetowania są dostępne w planach VIP/płatnych; bez subskrypcji te funkcje są zablokowane z informacją o możliwości ulepszenia planu.
Szczegóły oferty znajdziesz na stronach ServBay Pro i ServBay Team.
Przechowywanie danych
- Konfiguracje kanałów, wirtualne klucze i statystyki zużycia przechowywane są lokalnie przez backend bramki.
- Wartość wirtualnego klucza w postaci jawnej pokazywana jest tylko raz – przy tworzeniu (lub rotacji). Później bramka trzyma tylko prefiks do identyfikacji; skopiuj klucz od razu przy tworzeniu!
- Podczas przechwytywania narzędzi bramka najpierw wykonuje backup oryginalnych plików konfiguracyjnych z rozszerzeniem
.bak, a następnie zapisuje ustawienia kierujące narzędzie na lokalny endpoint, co pozwala łatwo przywrócić stan początkowy.
Typowy przepływ użytkowania
- Zaloguj się na konto ServBay i przejdź do AI Gateway.
- Na stronie kanały dodaj przynajmniej jednego dostawcę (np. OpenAI lub DeepSeek), wpisz prawdziwy klucz API i przetestuj połączenie.
- W sekcji wirtualne klucze utwórz nowy klucz, opcjonalnie ograniczając dostępne modele/kanały lub szybkość.
- Na stronie endpointy wprowadź wirtualny klucz do swojej aplikacji lub użyj funkcji jednolitego przechwytywania dla ulubionych narzędzi programistycznych AI.
- W zakładce statystyki i monitoring śledź zużycie, koszty i opóźnienia oraz skonfiguruj budżet, jeśli potrzebujesz.
Podsumowanie
ServBay AI Gateway zamienia rozproszone środowisko AI z wieloma dostawcami, kluczami i narzędziami w jedno, lokalne wejście – z jednym zestawem wirtualnych kluczy oraz zcentralizowanym widokiem statystyk zużycia. Pozwala to bezpiecznie i wygodnie zarządzać usługami AI, precyzyjnie kontrolować koszty oraz w prosty sposób integrować różne narzędzia programistyczne z uniwersalną bramką. To jedna z kluczowych funkcji ServBay skierowana do developerów pracujących z AI.
