Introductie tot ServBay AI Gateway (AI Gateway)
De ServBay AI Gateway (AI Gateway) is een lokale uniforme AI-providersgateway die in ServBay is ingebouwd. De gateway draait een proxy-endpoint op je machine en bundelt verzoeken naar diverse LLM-providers (OpenAI, Anthropic, DeepSeek, Qwen en bijna 20 andere) op één toegangspunt. Zo beheer je sleutels centraal, houd je verbruik en kosten bij en wijs je AI-programmeertools zoals Claude Code en Codex met één klik naar de lokale gateway.
Deze documentatie legt uit wat de AI Gateway is, welke problemen deze oplost en wat de algemene architectuur is. Zie voor specifieke stappen:
- Kanalen beheren — providers toevoegen en configureren
- Virtuele sleutels — sleutels aanmaken, rechten beperken, roteren en intrekken
- AI-programmeertools met één klik overnemen — CLI's zoals Claude Code naar de gateway verwijzen
- Statistieken en monitoring — verbruik, kosten en budget
- Endpoints en omgevingsvariabelen — de gateway vanuit je eigen code aanroepen
Overzicht
In het dagelijkse AI-ontwikkelwerk heb je misschien API-sleutels van meerdere providers, verspreid over configuratiebestanden van verschillende projecten en tools. Dat maakt het lastig om kosten te overzien en om centraal te wisselen. De ServBay AI Gateway brengt deze problemen samen op één plek:
- Eén toegangspunt, meerdere providers — Nadat je de kanalen hebt geconfigureerd, worden alle verzoeken via het lokale adres
http://127.0.0.1:11580doorgestuurd. Je applicatie heeft slechts één adres nodig. - Virtuele sleutels in plaats van echte sleutels — De gateway geeft "virtuele sleutels" uit aan applicaties en tools. De echte API-sleutels van providers blijven alleen aan de gatewayzijde opgeslagen en liggen niet langer verspreid rond. Virtuele sleutels kun je op elk moment beperken, roteren en intrekken.
- Eén uniform overzicht van verbruik en kosten — Alle verzoeken via de gateway worden geregistreerd. De gateway biedt statistieken over aantallen verzoeken, tokenverbruik, kosten, latentie en multimodaal verbruik, en ondersteunt budgetbeheer.
- Populaire AI-programmeertools met één klik overnemen — Je hoeft configuratiebestanden niet handmatig aan te passen. De gateway kan tools zoals Claude Code, Codex, Qwen Code, Kimi CLI, CodeBuddy, opencode en Crush met één klik naar de lokale gateway verwijzen.
- Abonnementsaccounts en quotatracking — Ondersteunt het koppelen van abonnementsaccounts van providers (zoals OAuth-autorisatie voor Claude Pro / Max). In de gateway zie je visueel de pakketinformatie, beschikbare endpoints en uitvoerlengtelimieten, en worden quota's over meerdere tijdvensters realtime gevolgd (gebruikt / resterend percentage, status bij uitgeput quotum, resettijd). Zo weet je altijd waar je abonnementssaldo staat.
- Detectie van kanaalmogelijkheden en slimme routing — Bij het toevoegen van een kanaal detecteert de gateway automatisch de mogelijkheden van de provider (OAuth-autorisatietype / coderingabonnementstype / modelniveautype). Na bevestiging worden op basis van de detectie automatisch drie gateway-mappings weggeschreven. Je hoeft niet handmatig de modelcompatibiliteit te raden.
Architectuur en poorten
De AI Gateway bestaat uit twee lokale services die alleen naar het loopbackadres (127.0.0.1) luisteren:
| Poort | Doel | Beschrijving |
|---|---|---|
11580 | Proxypoort | Uniform toegangspunt voor applicaties. Je code en overgenomen AI-tools sturen hun verzoeken hierheen; de gateway routeert op basis van de rechten van de virtuele sleutel naar het bijbehorende providerkanaal. |
11581 | Beheerpoort | Wordt intern door de ServBay-app gebruikt voor het beheren van kanalen, sleutels en statistieken. Je hoeft deze doorgaans niet rechtstreeks te benaderen. |
De proxypoort biedt tegelijk endpoints in meerdere compatibele formaten (OpenAI-compatibel, Anthropic-compatibel, Gemini-compatibel). Zie Endpoints en omgevingsvariabelen voor meer informatie.
Ondersteunde providerkanalen
De AI Gateway bevat bijna 20 providerpresets, gegroepeerd per categorie. Bij het toevoegen van een kanaal kun je deze direct selecteren:
- Mainstream: OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
- China: DeepSeek, Qwen, Zhipu GLM, Kimi (Moonshot AI), Doubao (Volcano Engine), ERNIE Bot, Hunyuan, MiniMax, 01.AI, StepFun. Daarvan ondersteunen Qwen, Zhipu GLM, Kimi, Doubao (Volcano Engine), Hunyuan, MiniMax en StepFun het wisselen tussen dual-regio-endpoints voor China en wereldwijd.
- Lokaal (Local): Ollama (standaard
127.0.0.1:11434), LM Studio (standaard127.0.0.1:1234). - Aangepast (Custom): OpenAI Compatible (elke OpenAI-compatibele service), Custom (volledig aangepast).
Zie Kanalen beheren voor het volledige proces voor toevoegen en configureren.
Vereisten
- Je hebt ServBay geïnstalleerd en draaiend op macOS of Windows.
- De AI Gateway is een premiumfunctie van ServBay. Voordat je kanalen of sleutels toevoegt, moet je zijn ingelogd op je ServBay-account. Als je niet bent ingelogd, leidt de interface je door het inlogproces.
TIP
De AI Gateway heeft dezelfde functionaliteit in ServBay voor macOS en ServBay voor Windows. De proxypoort (11580), beheerpoort (11581) en configuratiebestandpaden van overgenomen tools zijn identiek. Eventuele platformverschillen worden in de documentatie apart vermeld.
Account en abonnement
Sommige mogelijkheden van de AI Gateway zijn gekoppeld aan je ServBay-accountabonnement:
- Limieten voor aantal kanalen / sleutels — Het aantal kanalen en virtuele sleutels dat je kunt aanmaken, verschilt tussen gratis en betaalde abonnementen. Wanneer je de limiet bereikt, vraagt de interface je om te upgraden.
- Quota- en budgetbeheer — Limieten op basis van quota (tokens / aantal verzoeken / bedrag) en het budgetdashboard vallen onder VIP-/betaalde functionaliteit. Zonder abonnement zijn de betreffende onderdelen vergrendeld en wordt een upgrade voorgesteld.
Zie ServBay Pro en ServBay Team voor meer informatie over de abonnementen.
Abonnementsaccounts en quotatracking
De AI Gateway ondersteunt het koppelen van abonnementsaccounts van providers (zoals Claude Pro / Max via OAuth-autorisatie). Zo kun je deze abonnementsresources rechtstreeks vanuit de lokale gateway bekijken en beheren, zonder in te loggen op de webconsoles van de afzonderlijke providers.
Wat kun je met een abonnementsaccount?
- Pakketinformatie in één oogopslag — Toont de naam van het abonnementspakket, de factureringsstructuur en de geldigheidsduur.
- Beschikbare endpoints en uitvoerlimieten — Bekijk de lijst met endpoints die dit abonnementsaccount kan aanroepen en de maximale uitvoerlengte per model.
- Quotatracking over meerdere tijdvensters — Toont visueel het percentage gebruikt / resterend quotum, of het quotum momenteel is uitgeput en wanneer het wordt gereset. Zo kun je abonnementsresources beter verdelen.
- Zichtbaar wanneer referenties ongeldig zijn — Wanneer de autorisatiereferenties van het abonnementsaccount verlopen of ongeldig worden, wordt dit duidelijk in de interface gemarkeerd, zodat je opnieuw kunt autoriseren.
Experimentele functie
De OAuth-autorisatiekoppeling voor abonnementsaccounts is momenteel een experimentele functie. Het aantal ondersteunde providers wordt geleidelijk uitgebreid. Tijdens de autorisatie moet je de OAuth-flow van de provider in je browser doorlopen. Autorisatietokens worden alleen lokaal opgeslagen.
Gegevensopslag
- Kanaalconfiguraties, virtuele sleutels, verbruiksstatistieken en andere gegevens worden lokaal door de backend-service van de gateway onderhouden.
- De platte tekst van een virtuele sleutel wordt alleen eenmalig getoond bij het aanmaken (of roteren). Daarna bewaart de gateway alleen het voorvoegsel voor identificatie. Kopieer en bewaar de sleutel daarom onmiddellijk bij het aanmaken.
- Bij het met één klik overnemen van tools maakt de gateway eerst een back-up van het oorspronkelijke configuratiebestand van de doeltool met de extensie
.bak, en schrijft daarna de configuratie die naar de lokale gateway verwijst. Zo kun je op elk moment terugdraaien.
Typische gebruiksworkflow
- Log in op je ServBay-account en open de AI Gateway.
- Voeg op de pagina Kanalen ten minste één providerkanaal toe (bijvoorbeeld OpenAI of DeepSeek), vul de echte API-sleutel in en test de verbinding.
- Maak op de pagina Virtuele sleutels een virtuele sleutel aan en beperk indien nodig de beschikbare modellen / kanalen en snelheid.
- Vul op de pagina Endpoints de virtuele sleutel in je applicatie in, of gebruik op dezelfde pagina Met één klik overnemen voor je favoriete AI-programmeertools.
- Bekijk op de pagina Statistieken en monitoring het verbruik, de kosten en de latentie, en stel indien nodig een budget in.
Samenvatting
De ServBay AI Gateway bundelt de gefragmenteerde AI-ontwikkelpraktijk van "meerdere providers, meerdere sleutels, meerdere tools" tot "één lokaal toegangspunt, één set virtuele sleutels, één verbruiksoverzicht". Zo beheer je AI-mogelijkheden veilig en centraal op je eigen machine, houd je de kosten nauwkeurig in de hand en sluit je allerlei AI-programmeertools met minimale inspanning aan op een uniforme gateway. Het is een van de kernmogelijkheden van ServBay voor AI-native ontwikkeling.
