AI-Gateway-Endpunkte und Umgebungsvariablen

Neben der Nutzung von One-Click Takeover für bestehende AI-Tools, können Sie das AI-Gateway auch direkt in Ihren eigenen Anwendungen, Skripten oder beliebigen AI-Tools ansprechen. In diesem Leitfaden erfahren Sie, wie die Endpunkt-Formate des Gateways aussehen und wie Sie mit einem virtuellen Schlüssel Zugang erhalten.

Proxy-Endpunkte

Der Proxydienst des AI-Gateways lauscht auf http://127.0.0.1:11580. Um mit verschiedenen SDKs und Tools unterschiedlicher Anbieter kompatibel zu sein, stellt das Gateway auf demselben Port mehrere Protokollformate bereit:

Protokollformat	Endpunktpfad	Anwendungsfall
OpenAI-kompatibel	http://127.0.0.1:11580/v1	Für SDKs/Tools, die das OpenAI API-Format nutzen (z. B. /v1/chat/completions)
Anthropic-kompatibel	http://127.0.0.1:11580/v1/messages	Für Anthropic SDKs wie Claude Code etc.
Gemini-kompatibel	http://127.0.0.1:11580/v1beta	Für Google Gemini SDK, Gemini CLI und ähnliche Tools

Sie müssen lediglich das zum verwendeten SDK passende Protokoll wählen und Ihre Anfrage an die Gateway-Adresse richten. Das Gateway leitet die Anfrage basierend auf den Berechtigungen des virtuellen Schlüssels automatisch an den entsprechenden Kanal weiter.

Authentifizierung: Nutzung virtueller Schlüssel

Jede Anfrage an das Gateway wird mit einem virtuellen Schlüssel authentifiziert, nicht mit dem echten Schlüssel des Anbieters. Erstellen Sie zunächst unter Schlüssel einen virtuellen Schlüssel und kopieren Sie den Schlüsselwert.

Auf der Seite AI-Gateway → Endpunkte können Sie einen virtuellen Schlüssel auswählen. Das Gateway bietet Ihnen dann für gängige Tools vorgefertigte Umgebungsvariablen zum Kopieren an.

Beispiel für Umgebungsvariablen

Im folgenden Beispiel haben Sie bereits einen virtuellen Schlüssel erhalten (hier als <Ihr virtueller Schlüssel>).

OpenAI-kompatible SDKs/Tools

export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<Ihr virtueller Schlüssel>"

Claude Code / Anthropic

# Hinweis: Das Anthropic-Protokoll nutzt die Root-Adresse des Gateways, ohne /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<Ihr virtueller Schlüssel>"

Gemini

export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<Ihr virtueller Schlüssel>"

Beispiel für die Nutzung (OpenAI-kompatibel)

curl http://127.0.0.1:11580/v1/chat/completions \
  -H "Authorization: Bearer <Ihr virtueller Schlüssel>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "Hallo"}]
  }'

Das Feld model muss auf ein Modell eingestellt sein, das Sie unter Kanäle konfiguriert haben und für das Ihr virtueller Schlüssel zur Nutzung berechtigt ist.

Voraussetzungen

• Der Proxydienst des AI-Gateways läuft ordnungsgemäß.
• Es ist mindestens ein funktionsfähiger Kanal konfiguriert und ein virtueller Schlüssel mit den passenden Modell-/Kanal-Berechtigungen erstellt.

Häufig gestellte Fragen (FAQ)

• F: Die Anfrage wird aufgrund fehlgeschlagener Authentifizierung abgelehnt?
  • A: Stellen Sie sicher, dass Sie einen virtuellen Schlüssel (nicht den echten Anbieterschlüssel) verwenden und dieser nicht abgelaufen oder deaktiviert ist.
• F: Es erscheint eine Fehlermeldung bezüglich eines nicht verfügbaren Modells oder fehlender Berechtigungen?
  • A: Vergewissern Sie sich, dass das model in einem Kanal konfiguriert und Ihr virtueller Schlüssel explizit für dieses Modell/diesen Kanal berechtigt ist.
• F: Welches Endpunktformat sollte ich verwenden?
  • A: Wählen Sie das Format entsprechend dem Protokoll Ihres SDKs: OpenAI-Stil nutzt /v1, Anthropic-Stil verwendet /v1/messages (Base URL ohne /v1), Gemini-Stil nutzt /v1beta.
• F: Können andere Geräte im lokalen Netzwerk auf das Gateway zugreifen?
  • A: Das Gateway hört standardmäßig nur auf 127.0.0.1 (localhost). Dies ist aus Sicherheitsgründen die empfohlene Einstellungen.

Zusammenfassung

Das AI-Gateway stellt über die drei kompatiblen Formate OpenAI, Anthropic und Gemini einen zentralen lokalen Endpunkt bereit. In Kombination mit der Authentifizierung durch virtuelle Schlüssel können Sie jede beliebige Anwendung oder jedes AI-Tool mit dem Gateway verbinden und profitieren von einheitlichem Schlüsselmanagement und Nutzungsstatistiken. Für gängige CLI-Tools empfiehlt sich die Nutzung der One-Click Takeover-Funktion für besonders einfachen Einstieg.