Einführung in das ServBay AI Gateway

Das ServBay AI Gateway ist ein lokales, einheitliches KI-Anbieter-Gateway, das direkt in ServBay integriert ist. Es betreibt auf Ihrem Computer einen Proxy-Endpunkt, der Anfragen an verschiedene große KI-Modellanbieter (wie OpenAI, Anthropic, DeepSeek und viele weitere) bündelt und über einen zentralen Zugang leitet. Dies ermöglicht die zentrale Verwaltung Ihrer API-Schlüssel, eine Übersicht und Kontrolle über Nutzung und Kosten und ermöglicht es Ihnen, Tools wie Claude Code, Codex, Gemini CLI u. v. m. mit nur einem Klick auf das lokale Gateway umzuleiten.

In dieser Dokumentation erfahren Sie, was das AI Gateway ist, welche Probleme es löst und wie seine Architektur aussieht. Für detaillierte Anleitungen beachten Sie bitte:

• Kanäle verwalten — Anbieter hinzufügen und konfigurieren
• Virtuelle Schlüssel — Schlüssel erstellen, Rechte festlegen, rotieren und widerrufen
• KI-Programmierwerkzeuge übernehmen — CLI-Tools wie Claude Code auf das Gateway umleiten
• Statistik & Monitoring — Nutzung, Kosten und Budgets überwachen
• Endpunkte & Umgebungsvariablen — Anwendung des Gateways in Ihrer eigenen Software

Übersicht

Im Alltag der KI-Entwicklung besitzen Sie vielleicht mehrere API-Keys unterschiedlicher Anbieter, die über verschiedene Projekte und Tools verstreut sind. Das macht es schwer, die Kosten nachzuvollziehen oder schnell zwischen Anbietern zu wechseln. Das ServBay AI Gateway löst diese Herausforderungen zentral:

• Ein zentraler Zugang für viele Anbieter – Nachdem Sie Ihre Kanäle konfiguriert haben, werden alle Anfragen über http://127.0.0.1:11580 geleitet. Ihre Anwendung muss nur noch mit dieser Adresse kommunizieren.
• Virtuelle Schlüssel statt realer Schlüssel – Das Gateway erstellt „virtuelle Schlüssel“, die Sie an Ihre Anwendungen und Tools weitergeben. Die echten Anbieter-API-Keys bleiben allein im Gateway, liegen also nicht mehr dezentral verteilt vor. Virtuelle Schlüssel können jederzeit mit Rechten versehen, rotiert oder widerrufen werden.
• Einheitliche Übersicht zu Nutzung und Kosten – Jede Anfrage über das Gateway wird protokolliert. Sie erhalten Statistiken zu Anfragen, Token-Verbrauch, Kosten, Latenzen und multimodalen Nutzungen sowie Unterstützung beim Budgetmanagement.
• Gängige KI-Programmierwerkzeuge mit nur einem Klick anbinden – Sie müssen keine Konfigurationsdateien manuell bearbeiten. Das Gateway leitet Tools wie Claude Code, Codex, Gemini CLI, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush und viele mehr direkt auf das lokale Gateway um.

Architektur & Ports

Das AI Gateway besteht aus zwei lokalen Diensten, die beide ausschließlich auf der Loopback-Adresse (127.0.0.1) lauschen:

Port	Zweck	Beschreibung
11580	Proxy-Port	Zentraler Endpunkt für Anwendungen. Ihr Code und die übernommenen KI-Werkzeuge senden alle Anfragen hierher; das Gateway leitet sie gemäß Rechte des virtuellen Schlüssels zum jeweiligen Anbieterkonto weiter.
11581	Management-Port	Für interne Verwaltungsaufgaben von ServBay: Kanäle, Schlüssel und Nutzungsstatistiken. In der Regel braucht dieser Port nicht manuell angesprochen zu werden.

Der Proxy-Port bietet verschiedene kompatible Endpunkte (OpenAI-kompatibel, Anthropic-kompatibel, Gemini-kompatibel). Details finden Sie unter Endpunkte & Umgebungsvariablen.

Unterstützte Anbieterkanäle

Das AI Gateway enthält vorkonfigurierte Kanäle für fast 20 Anbieter, die nach Kategorien gruppiert sind und direkt ausgewählt werden können:

• Mainstream: OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• China: DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi (Moonshot), Doubao (Volcano), Wenxin Yiyan, Hunyuan, MiniMax, Zero One, Step Star. Anbieter wie Tongyi Qianwen, Zhipu GLM, Kimi, Doubao (Volcano), Hunyuan, MiniMax, Step Star unterstützen regionale Umschaltung zwischen China und global.
• Lokal: Ollama (Standard 127.0.0.1:11434), LM Studio (Standard 127.0.0.1:1234).
• Benutzerdefiniert: OpenAI-kompatibel (jeder mit OpenAI-Protokoll), vollständig individuell konfigurierbar.

Eine vollständige Anleitung zum Hinzufügen und Konfigurieren finden Sie unter Kanäle verwalten.

Voraussetzungen

• ServBay muss auf macOS oder Windows installiert und gestartet sein.
• Das AI Gateway ist eine Premium-Funktion von ServBay. Sie müssen sich in Ihrem ServBay-Konto anmelden, bevor Sie Kanäle oder Schlüssel hinzufügen können. Ist dies noch nicht geschehen, führt Sie die Oberfläche durch die Anmeldung.

TIP

Das AI Gateway funktioniert auf ServBay for macOS und Windows identisch: Die Ports (11580 für den Proxy, 11581 für Management) sowie die Pfade für Konfigurationsdateien übernommener Werkzeuge sind gleich. Sollten sich einzelne Abläufe je Plattform unterscheiden, ist dies separat dokumentiert.

Konto & Pakete

Bestimmte Funktionen des AI Gateways hängen von Ihrem ServBay-Konto und gebuchten Paket ab:

• Anzahl Kanäle & Schlüssel – Je nach kostenlosen oder kostenpflichtigen Paket variiert die Zahl der erstellbaren Kanäle und virtuellen Schlüssel. Bei Erreichen des Limits weist Sie die Oberfläche auf ein Upgrade hin.
• Limits & Budgetverwaltung – Einschränkung nach Token-/Anfrageverbrauch oder Kosten sowie die Budgetübersicht sind VIP-/Premium-Funktionen. Ohne Abonnement sind diese Bereiche gesperrt und es erscheint ein Upgrade-Hinweis.

Weitere Details finden Sie unter ServBay Pro und ServBay Team.

Datenspeicherung

• Kanalkonfigurationen, virtuelle Schlüssel und Nutzungsstatistiken werden lokal vom Gateway-Backend gespeichert und gepflegt.
• Die Klartextanzeige eines virtuellen Schlüssels erfolgt nur einmal bei der Erstellung (oder Rotation), danach speichert das Gateway nur noch das Präfix zur Identifizierung. Kopieren und sichern Sie den Schlüssel deshalb sofort bei Erstellung.
• Beim Übernehmen von Tools sichert das Gateway die Original-Konfigurationsdatei mit .bak-Endung, bevor es die Konfiguration auf das lokale Gateway anpasst – für eine einfache Wiederherstellung.

Typischer Ablauf

1. Melden Sie sich in Ihrem ServBay-Konto an und rufen Sie das AI Gateway auf.
2. Fügen Sie unter Kanäle mindestens einen Anbieter hinzu (z. B. OpenAI oder DeepSeek), geben Sie den echten API-Key ein und testen Sie die Verbindung.
3. Erstellen Sie unter Virtuelle Schlüssel einen neuen virtuellen Schlüssel und schränken Sie, falls gewünscht, die zugelassenen Modelle/Kanäle und Nutzung ein.
4. Tragen Sie unter Endpunkte den virtuellen Schlüssel in Ihre Anwendung ein oder übernehmen Sie dort via One-Click Ihre häufig genutzten KI-CLI-Tools.
5. Überwachen Sie unter Statistik & Monitoring Nutzung, Kosten und Latenz und legen Sie bei Bedarf Budgets fest.

Zusammenfassung

Das ServBay AI Gateway transformiert die fragmentierte KI-Entwicklung mit „mehreren Anbietern, Schlüsseln und Tools“ hin zu „einem lokalen Zugang, einer virtuellen Schlüsselverwaltung und einer zentralen Nutzungsauswertung“. Sie verwalten so KI-Ressourcen sicher und effizient auf Ihrem Rechner, behalten stets Kosten und Nutzung im Blick und binden mit minimalem Aufwand alle gängigen KI-Programmierwerkzeuge an ein einheitliches Gateway an – eine Kernfunktion von ServBay für AI-native Entwicklung.