AI-Gateway-Endpunkte und Umgebungsvariablen

Neben der Ein-Klick-Übernahme fertiger AI-Tools können Sie das AI-Gateway auch direkt in Ihren eigenen Anwendungen, Skripten oder beliebigen AI-Tools aufrufen. In diesem Artikel werden die Endpunktformate vorgestellt, die das Gateway bereitstellt, und wie Sie mit virtuellen Schlüsseln eine Verbindung herstellen.

Proxy-Endpunkte

Der Proxy-Dienst des AI-Gateways lauscht auf http://127.0.0.1:11580. Um mit den SDKs und Tools verschiedener Anbieter kompatibel zu sein, stellt das Gateway auf demselben Port Endpunkte in mehreren Protokollformaten bereit:

Protokollformat	Endpunktpfad	Anwendungsfall
OpenAI-kompatibel	http://127.0.0.1:11580/v1	Jedes SDK / Tool, das das OpenAI-API-Format verwendet (z. B. /v1/chat/completions)
Anthropic-kompatibel	http://127.0.0.1:11580/v1/messages	Anthropic SDK und Claude Code usw.
Gemini-kompatibel	http://127.0.0.1:11580/v1beta	Google Gemini SDK usw.

Sie müssen lediglich das zum Protokoll Ihres SDK passende Format auswählen und die Anfragen an die Gateway-Adresse richten. Das Gateway leitet die Anfragen auf Grundlage der Berechtigungen des virtuellen Schlüssels an die entsprechenden Anbieter-Kanäle weiter.

Authentifizierung: Virtuelle Schlüssel verwenden

Alle Anfragen an das Gateway werden mit einem virtuellen Schlüssel authentifiziert, nicht mit dem echten Schlüssel des Anbieters. Erstellen Sie zunächst auf der Seite Schlüssel einen virtuellen Schlüssel und kopieren Sie dessen Klartext.

Auf der Seite AI-Gateway → Endpunkte (Endpoints) können Sie einen virtuellen Schlüssel auswählen; das Gateway generiert dann für gängige Tools direkt kopierbare Umgebungsvariablen-Ausschnitte.

Beispiele für Umgebungsvariablen

Die folgenden Beispiele gehen davon aus, dass Sie bereits einen virtuellen Schlüssel erhalten haben (bezeichnet als <你的虚拟密钥>).

OpenAI-kompatibles SDK / Tool

export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<你的虚拟密钥>"

Claude Code / Anthropic

# Hinweis: Das Anthropic-Protokoll verwendet die Gateway-Basisadresse ohne /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<你的虚拟密钥>"

Gemini

export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<你的虚拟密钥>"

Aufrufbeispiel (OpenAI-kompatibel)

curl http://127.0.0.1:11580/v1/chat/completions \
  -H "Authorization: Bearer <你的虚拟密钥>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "你好"}]
  }'

Dabei muss model ein Modell sein, das Sie in den Kanälen konfiguriert haben und das mit dem virtuellen Schlüssel aufgerufen werden darf.

Voraussetzungen

• Der AI-Gateway-Proxy-Dienst läuft.
• Mindestens ein fehlerfreier Kanal wurde konfiguriert und ein virtueller Schlüssel mit den entsprechenden Modell-/Kanalberechtigungen erstellt.

Häufig gestellte Fragen (FAQ)

• F: Die Anfrage gibt einen Authentifizierungsfehler zurück?
  • A: Stellen Sie sicher, dass Sie den virtuellen Schlüssel verwenden (nicht den echten Schlüssel des Anbieters) und dass der Schlüssel nicht abgelaufen oder widerrufen wurde.
• F: Es wird gemeldet, dass das Modell nicht verfügbar ist oder keine Berechtigung hat?
  • A: Stellen Sie sicher, dass das model in einem Kanal konfiguriert ist und dass die „erlaubten Modelle / Kanäle“ des aktuellen virtuellen Schlüssels es enthalten.
• F: Welches Endpunktformat sollte verwendet werden?
  • A: Wählen Sie das Protokoll Ihres SDK – für OpenAI-Stil /v1, für Anthropic-Stil /v1/messages (Basis-URL ohne /v1), für Gemini-Stil /v1beta.
• F: Können andere Geräte im LAN auf das Gateway zugreifen?
  • A: Das Gateway lauscht standardmäßig nur auf 127.0.0.1 (nur lokal). Dies ist die aus Sicherheitsgründen empfohlene Einstellung.

Zusammenfassung

Das AI-Gateway bietet einheitliche lokale Endpunkte in den drei kompatiblen Formaten OpenAI / Anthropic / Gemini. In Kombination mit der Authentifizierung über virtuelle Schlüssel können Sie jede Anwendung oder jedes AI-Tool an das Gateway anbinden und profitieren von einer einheitlichen Schlüsselverwaltung und Nutzungsstatistik. Für gängige CLI-Tools ist die direkte Verwendung der Ein-Klick-Übernahme bequemer.