Einführung in das ServBay AI Gateway

Das ServBay AI Gateway ist ein in ServBay integriertes lokales, einheitliches Gateway für KI-Anbieter. Es betreibt einen Proxy-Endpunkt auf Ihrem Rechner, bündelt Anfragen an verschiedene LLM-Anbieter (OpenAI, Anthropic, DeepSeek, Qwen und fast 20 weitere) an einem einzigen Einstiegspunkt, hilft Ihnen bei der zentralen Verwaltung von Schlüsseln, der Erfassung von Nutzung und Kosten und richtet KI-Programmierwerkzeuge wie Claude Code und Codex mit einem Klick auf das lokale Gateway aus.

In diesem Dokument erfahren Sie, was das AI Gateway ist, welche Probleme es löst und wie seine Gesamtarchitektur aussieht. Konkrete Schritte finden Sie unter:

• Kanäle verwalten — Anbieter hinzufügen und konfigurieren
• Virtuelle Schlüssel — Schlüssel erstellen, Berechtigungen festlegen, rotieren und widerrufen
• KI-Programmierwerkzeuge mit einem Klick übernehmen — CLI-Tools wie Claude Code auf das Gateway ausrichten
• Statistiken und Monitoring — Nutzung, Kosten und Budget
• Endpunkte und Umgebungsvariablen — das Gateway im eigenen Code aufrufen

Überblick

In der täglichen KI-Entwicklung kann es vorkommen, dass Sie API-Schlüssel mehrerer Anbieter besitzen, die über verschiedene Projekte und Konfigurationsdateien von Tools verteilt sind. Das erschwert sowohl die Kostenverfolgung als auch einen einheitlichen Wechsel. Das ServBay AI Gateway führt diese Probleme an einem Punkt zusammen:

• Ein Einstiegspunkt, Anbindung mehrerer Anbieter — Nach der Konfiguration der jeweiligen Kanäle werden alle Anfragen über das lokale http://127.0.0.1:11580 weitergeleitet; Ihre Anwendung muss nur eine Adresse ansprechen.
• Virtuelle Schlüssel statt echter Schlüssel — Das Gateway stellt „virtuelle Schlüssel“ für Anwendungen und Tools aus; die echten API-Schlüssel der Anbieter verbleiben ausschließlich auf der Gateway-Seite und liegen nicht mehr verstreut vor. Virtuelle Schlüssel können jederzeit in ihren Berechtigungen eingeschränkt, rotiert und widerrufen werden.
• Einheitliche Ansicht für Nutzung und Kosten — Alle über das Gateway laufenden Anfragen werden protokolliert. Das Gateway bietet Statistiken zu Anfragen, Token-Nutzung, Kosten, Latenz und multimodaler Nutzung und unterstützt die Budgetverwaltung.
• Ein-Klick-Übernahme gängiger KI-Programmierwerkzeuge — Ohne manuelles Bearbeiten von Konfigurationsdateien kann das Gateway Tools wie Claude Code, Codex, Qwen Code, Kimi CLI, CodeBuddy, opencode und Crush mit einem Klick auf das lokale Gateway ausrichten.
• Abonnementkonten und Kontingentverfolgung — Unterstützt die Verknüpfung von Abonnementkonten bei Anbietern (z. B. OAuth-Autorisierung für Claude Pro / Max), zeigt Paketinformationen, verfügbare Endpunkte und Ausgabelängenbegrenzungen im Gateway visuell an und verfolgt Kontingente über mehrere Zeitfenster in Echtzeit (verbraucht / verbleibend in Prozent, Status der Kontingenterschöpfung, Zurücksetzungszeit), damit Sie Ihren Abonnementstand jederzeit im Blick haben.
• Kanalfunktionserkennung und intelligentes Routing — Beim Hinzufügen eines Kanals erkennt das Gateway automatisch die Fähigkeiten des Anbieters (OAuth-Autorisierungstyp / Coding-Paket-Typ / Modell-Stufen-Typ). Nach der Bestätigung werden die erkannten Ergebnisse automatisch in die dreistufige Gateway-Zuordnung übernommen, sodass Sie die Modellkompatibilität nicht manuell erraten müssen.

Architektur und Ports

Das AI Gateway besteht aus zwei lokalen Diensten, die ausschließlich auf der Loopback-Adresse (127.0.0.1) lauschen:

Port	Zweck	Beschreibung
11580	Proxy-Port	Einheitlicher Einstiegspunkt für Anwendungen. Ihr Code und die übernommenen KI-Tools senden ihre Anfragen hierher; das Gateway leitet sie gemäß den Berechtigungen des virtuellen Schlüssels an den entsprechenden Anbieterkanal weiter.
11581	Verwaltungsport	Dient der ServBay-Anwendung intern zur Verwaltung von Kanälen, Schlüsseln und Statistikdaten; ein direkter Zugriff ist normalerweise nicht erforderlich.

Der Proxy-Port stellt gleichzeitig Endpunkte in mehreren kompatiblen Formaten bereit (OpenAI-kompatibel, Anthropic-kompatibel, Gemini-kompatibel). Weitere Details finden Sie unter Endpunkte und Umgebungsvariablen.

Unterstützte Anbieterkanäle

Das AI Gateway enthält fast 20 vordefinierte Anbieter, die nach Kategorien gruppiert sind und beim Hinzufügen eines Kanals direkt ausgewählt werden können:

• Mainstream: OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• China: DeepSeek, Qwen, Zhipu GLM, Kimi (Moonshot AI), Doubao (Volcano Engine), ERNIE Bot, Hunyuan, MiniMax, 01.AI, StepFun. Davon unterstützen Qwen, Zhipu GLM, Kimi, Doubao (Volcano Engine), Hunyuan, MiniMax, StepFun und weitere den Wechsel zwischen Inlands- und Global-Endpunkten (Dual-Region).
• Lokal: Ollama (Standard 127.0.0.1:11434), LM Studio (Standard 127.0.0.1:1234).
• Benutzerdefiniert: OpenAI Compatible (beliebiger OpenAI-kompatibler Dienst), Custom (vollständig benutzerdefiniert).

Den vollständigen Ablauf zum Hinzufügen und Konfigurieren finden Sie unter Kanäle verwalten.

Voraussetzungen

• ServBay ist auf macOS oder Windows installiert und wird ausgeführt.
• Das AI Gateway ist eine Zusatzfunktion von ServBay. Vor dem Hinzufügen von Kanälen / Schlüsseln müssen Sie sich bei Ihrem ServBay-Konto anmelden. Wenn Sie nicht angemeldet sind, führt Sie die Oberfläche durch die Anmeldung.

TIP

Das AI Gateway bietet auf ServBay for macOS und ServBay for Windows denselben Funktionsumfang. Proxy-Port (11580), Verwaltungsport (11581) sowie die Pfade der Konfigurationsdateien übernommener Tools sind identisch. Auf plattformspezifische Unterschiede wird in der Dokumentation gesondert hingewiesen.

Konto und Paket

Einige Funktionen des AI Gateway sind an das ServBay-Kontopaket gebunden:

• Obergrenzen für Kanäle / Schlüssel — Je nach kostenlosem oder kostenpflichtigem Paket können unterschiedlich viele Kanäle und virtuelle Schlüssel erstellt werden. Beim Erreichen der Obergrenze weist die Oberfläche auf ein Upgrade hin.
• Kontingent- und Budgetverwaltung — Limits nach Kontingent (Token / Anfragen / Betrag) und das Budget-Dashboard gehören zu den VIP- / kostenpflichtigen Funktionen. Ohne Abonnement werden die entsprechenden Bereiche gesperrt und ein Upgrade wird vorgeschlagen.

Weitere Details zu den Paketen finden Sie unter ServBay Pro und ServBay Team.

Abonnementkonten und Kontingentverfolgung

Das AI Gateway unterstützt die Verknüpfung von Abonnementkonten bei Anbietern (z. B. über OAuth autorisierte Claude Pro / Max usw.), sodass Sie diese Abonnementressourcen direkt im lokalen Gateway einsehen und verwalten können, ohne sich in den Webkonsolen der einzelnen Anbieter anzumelden.

Was Abonnementkonten ermöglichen

• Paketinformationen auf einen Blick — Zeigt den Namen des Abonnements, die Abrechnungsstruktur und die Laufzeit an.
• Verfügbare Endpunkte und Ausgabebegrenzungen — Zeigt die Liste der für das Abonnementkonto aufrufbaren Endpunkte und die maximale Ausgabelänge der einzelnen Modelle an.
• Kontingentverfolgung über mehrere Zeitfenster — Stellt den Prozentsatz des verbrauchten / verbleibenden Kontingents, den aktuellen Erschöpfungsstatus und die Kontingent-Zurücksetzungszeit visuell dar, damit Sie Ihre Abonnementressourcen sinnvoll aufteilen können.
• Sichtbarkeit abgelaufener Anmeldedaten — Wenn die Autorisierungsdaten eines Abonnementkontos ablaufen oder ungültig werden, werden sie in der Oberfläche eindeutig markiert, damit Sie die Autorisierung erneuern können.

Experimentelle Funktion

Die OAuth-Autorisierungsanbindung von Abonnementkonten ist derzeit experimentell; die unterstützten Anbieter werden schrittweise erweitert. Bei der Autorisierung müssen Sie den OAuth-Ablauf des Anbieters im Browser durchlaufen. Das Autorisierungstoken wird ausschließlich lokal gespeichert.

Datenspeicherung

• Kanal-Konfigurationen, virtuelle Schlüssel, Nutzungsstatistiken und andere Daten werden vom Backend-Dienst des Gateways lokal verwaltet.
• Der Klartext eines virtuellen Schlüssels wird nur einmal bei der Erstellung (oder Rotation) angezeigt. Danach speichert das Gateway nur noch das Präfix zur Identifizierung. Kopieren und speichern Sie den Schlüssel unbedingt sofort bei der Erstellung.
• Bei der Ein-Klick-Übernahme von Tools sichert das Gateway zunächst die ursprüngliche Konfigurationsdatei des Ziel-Tools mit der Endung .bak und schreibt dann die Konfiguration, die auf das lokale Gateway verweist, sodass jederzeit eine Wiederherstellung möglich ist.

Typischer Workflow

1. Melden Sie sich bei Ihrem ServBay-Konto an und öffnen Sie das AI Gateway.
2. Fügen Sie auf der Seite Kanäle mindestens einen Anbieterkanal hinzu (z. B. OpenAI oder DeepSeek), tragen Sie den echten API-Schlüssel ein und testen Sie die Verbindung.
3. Erstellen Sie auf der Seite Virtuelle Schlüssel einen virtuellen Schlüssel und beschränken Sie nach Bedarf die verfügbaren Modelle / Kanäle und die Rate.
4. Tragen Sie auf der Seite Endpunkte den virtuellen Schlüssel in Ihre Anwendung ein oder nutzen Sie auf derselben Seite die Ein-Klick-Übernahme für Ihre bevorzugten KI-Programmierwerkzeuge.
5. Beobachten Sie auf der Seite Statistiken und Monitoring Nutzung, Kosten und Latenz und legen Sie bei Bedarf ein Budget fest.

Zusammenfassung

Das ServBay AI Gateway bündelt die fragmentierte KI-Entwicklung mit „mehreren Anbietern, mehreren Schlüsseln und mehreren Tools“ zu „einem lokalen Einstiegspunkt, einem Satz virtueller Schlüssel und einer zentralen Nutzungsansicht“. Es ermöglicht Ihnen, KI-Funktionen lokal sicher zentral zu verwalten, Kosten präzise im Blick zu behalten und verschiedenste KI-Programmierwerkzeuge mit minimalem Aufwand an ein einheitliches Gateway anzubinden. Damit ist es eine der Kernfunktionen von ServBay für AI-native Entwicklung.