Kanäle im AI Gateway verwalten

Ein „Kanal (Channel)“ ist eine Konfiguration für den Zugangspunkt eines Anbieters im AI Gateway – sie speichert die Adresse, den echten API-Schlüssel, verfügbare Modelle, Preisgestaltung und Limit-Informationen des jeweiligen Anbieters. Das Gateway verwendet diese Kanäle, um Anfragen der Anwendungen an die passenden Anbieter weiterzuleiten. In diesem Artikel erfahren Sie, wie Sie Kanäle hinzufügen, konfigurieren, testen und verwalten.

Voraussetzungen

• ServBay ist installiert und läuft, und Sie sind mit Ihrem ServBay-Konto angemeldet (zum Hinzufügen eines Kanals ist eine Anmeldung erforderlich).
• Sie haben den echten API Key des gewünschten Anbieters zur Hand (für lokale Anbieter wie Ollama / LM Studio nicht erforderlich).
• Wenn Sie mit der Gesamtarchitektur des AI Gateways noch nicht vertraut sind, lesen Sie zuerst die Einführung zum AI Gateway.

Kanal hinzufügen

Gehen Sie auf die Seite AI Gateway → Kanäle (Channels) und klicken Sie auf Hinzufügen (Add), um den Assistenten zu starten. Der Assistent führt Sie in drei Schritten durch die Einrichtung.

Schritt 1: Anbieter auswählen

Die Anbieter sind nach Kategorie gruppiert dargestellt – wählen Sie einfach durch Klick auf die jeweilige Karte:

• Hauptanbieter (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• China: DeepSeek, Qwen (通义千问), Zhipu GLM, Kimi, Doubao Bytedance, Wenxin, Hunyuan, MiniMax, Zero One, StepStar.
• Lokal (Local): Ollama, LM Studio.
• Benutzerdefiniert (Custom): OpenAI kompatibel, Custom.

Nach Auswahl eines Anbieters trägt das Gateway automatisch die Standard-Base-URL des Anbieters ein.

Dual-Region-Umschaltung

Chinesische Anbieter wie Qwen, Zhipu GLM, Kimi, Doubao Bytedance, Hunyuan, MiniMax und StepStar bieten jeweils zwei Endpunkte für Festlandchina und den globalen Zugriff. Bei Auswahl solcher Anbieter erscheint ein „Region“-Selektor (🇨🇳 Festland / 🌐 Global); beim Umschalten wird die Base URL automatisch auf die entsprechende Region angepasst.

Schritt 2: Konfiguration ausfüllen

• Kanalname (Pflichtfeld): Dient zur Identifikation in der Liste und ist frei wählbar.
• Base URL (Pflichtfeld): API-Adresse des Anbieters. Bei den meisten Anbietern ist dies bereits vorausgefüllt; bei Azure OpenAI und Custom muss sie manuell angegeben werden.
• API Key (optional): Echter Schlüssel des Anbieters. Wird dieses Feld leer gelassen, lässt sich nur die Erreichbarkeit des Endpunkts testen, nicht jedoch die Gültigkeit des Schlüssels; für lokale Anbieter (Ollama / LM Studio) ist in der Regel kein Eintrag nötig.
• Modelle: Zwei Möglichkeiten, wählen Sie eine:
  • Automatische Erkennung: Nach Klick auf „Erkennen“ ruft das Gateway die Modellliste beim Anbieter ab und Sie können mehrere Modelle per Tag-Chip auswählen.
  • Manuell eintragen: Geben Sie den Modellnamen direkt ein. Bei Azure-Kanälen ist der Deployment Name und nicht der Modellname erforderlich.
• Priorität / Gewichtung: Wenn mehrere Kanäle denselben Modelltyp bedienen, entscheidet das Gateway anhand dieser Einstellung über Routing und Lastverteilung.

Azure OpenAI Hinweis

Für Azure-Kanäle muss im „Modelle“-Feld der in Ihrem Azure-Portal angelegte Deployment Name eingetragen werden – nicht der Modellname. Auch die Base URL muss Ihrem Azure-Ressourcenendpunkt entsprechen.

Schritt 3: Überprüfen und Absenden

Prüfen Sie die Zusammenfassung der Konfiguration und bestätigen Sie Ihre Eingaben. Nach erfolgreichem Absenden wird der neue Kanal in der Kanalliste angezeigt und der aktuelle Gesundheitsstatus dargestellt.

Verbindungstest

In der Kanalliste können Sie die Konnektivität eines einzelnen Kanals testen. Die Prüfung erfolgt zweistufig:

• Erreichbarkeit (reachable): Überprüft, ob die Base URL erreichbar ist (Netzwerk und Adresse korrekt).
• Schlüsselgültigkeit (authenticated): Testet, ob der API Key tatsächlich gültig ist, indem eine Anfrage an die Schnittstelle des Anbieters gesendet wird. Dies erfolgt nur, wenn ein API Key hinterlegt ist.

Die Testergebnisse zeigen die Roundtrip-Latenz (Millisekunden), Statussymbol und eventuelle Fehlermeldungen an.

TIP

Im Einrichtungsassistenten blockiert ein nicht erreichbarer Endpunkt den nächsten Schritt. Ist der Endpunkt erreichbar, aber der Schlüssel ungültig, erscheint nur eine Warnung – Sie können dennoch fortfahren (z. B. wenn Sie den Schlüssel später nachtragen möchten).

Erweiterte Konfiguration

Beim Hinzufügen oder Bearbeiten eines Kanals können Sie die erweiterten Einstellungen für Abrechnungs- und Limitkontrolle öffnen:

• Preisfaktor (Rate Multiplier): Multipliziert den offiziellen Preis des Anbieters um einen Faktor. Dies hilft bei exakter Abrechnung mit Ihrem eigenen Preis oder Weiterverkaufspreis. Standardwert ist 1.0.
• Abrechnungsmodell: Gibt an, wie dieser Kanal abgerechnet wird, z.B. nutzungsbasiert (pay as you go), Abo (subscription) oder Paket (package).
• Guthaben: Die Quelle des Guthabens kann als fester Wert, via OSS-Rechnung oder manuell gepflegt gewählt werden. Bei OSS-Rechnung kann zudem der Rechnungstyp angegeben werden. Guthaben und Aktualisierungszeit werden im Kanal-Detail angezeigt und sind schreibgeschützt.
• Ablaufdatum (Abo): Für Abonnements- oder Paket-Kanäle kann das Ablaufdatum eingetragen werden.
• Kontingentbegrenzung (VIP): Die Obergrenze kann nach Token-Anzahl, Anfragezahl oder Betrag festgelegt werden. Es kann ein Zyklus (täglich / wöchentlich / monatlich / benutzerdefiniert) gewählt und über „Drift erlauben“ eine gewisse Überschreitungstoleranz aktiviert werden. Limitierungen sind eine kostenpflichtige Funktion.

Kanäle bearbeiten und löschen

• Bearbeiten: Über die Kanalliste können Sie Kanalnamen, Base URL, API Key, Modelle und erweiterte Konfiguration anpassen.
• Löschen: Nach dem Löschen eines Kanals können virtuelle Schlüssel, die diesen Kanal nutzen, nicht mehr darauf zugreifen – gehen Sie hiermit vorsichtig um.

Gesundheitsstatus

Die Kanalliste sowie die Übersichtsseite zeigen stets den aktuellen Gesundheitsstatus jedes Kanals an (Normal / Degradiert / Nicht verfügbar), um frühzeitig fehlerhafte Anbieter-Konfigurationen zu erkennen.

Häufige Fragen (FAQ)

• F: Warum muss ich beim Hinzufügen eines Kanals angemeldet sein?
  • A: Das AI Gateway ist eine Premium-Funktion von ServBay. Zum Hinzufügen von Kanälen/Schlüsseln müssen Sie mit Ihrem ServBay-Konto angemeldet sein. Folgen Sie einfach der Benutzeroberfläche zur Anmeldung.
• F: Warum erhalte ich die Meldung, dass die maximale Kanalanzahl erreicht ist?
  • A: Die Anzahl der Kanäle hängt von Ihrem Kontopaket ab. Bei Erreichen des Limits löschen Sie nicht genutzte Kanäle oder upgraden Sie Ihr Paket.
• F: Warum funktioniert die automatische Modellerkennung nicht?
  • A: Überprüfen Sie erst die Base URL und die Gültigkeit des API Keys (nutzen Sie dafür den Verbindungstest mit „Schlüsselgültigkeit“). Bei manchen Anbietern ist ein gültiger Schlüssel erforderlich, um die Liste zu bekommen; Sie können den Modellnamen alternativ auch manuell eintragen.
• F: Muss ich für lokale Anbieter wie Ollama / LM Studio einen API Key angeben?
  • A: Meistens nicht. Vergewissern Sie sich, dass der lokale Dienst läuft und auf dem Standardport lauscht (Ollama 11434, LM Studio 1234).

Zusammenfassung

Kanäle sind Grundlage für das Routing von Anfragen im AI Gateway. Mit dem dreistufigen Einrichtungsassistenten können Sie in wenigen Minuten fast 20 Anbieter integrieren. Dank Dual-Region-Umschaltung, automatischer Modellerkennung und zweistufigem Verbindungstest stellen Sie eine korrekte Konfiguration sicher. Durch fortgeschrittene Einstellungen wie Preisfaktor und Limitierung behalten Sie die Kosten präzise im Griff. Nach dem Einrichten eines Kanals können Sie einen virtuellen Schlüssel erstellen und für Anwendungen oder Tools bereitstellen.