AI-gateway-eindpunten en omgevingsvariabelen

Naast het met één klik overnemen van bestaande AI-tools, kun je de AI-gateway ook rechtstreeks aanroepen vanuit je eigen applicaties, scripts of elke willekeurige AI-tool. Dit artikel beschrijft de eindpuntformaten die de gateway beschikbaar stelt en hoe je er verbinding mee maakt met behulp van virtuele sleutels.

Proxy-eindpunten

De proxyservice van de AI-gateway luistert op http://127.0.0.1:11580. Om compatibel te zijn met de SDK's en tools van verschillende leveranciers, biedt de gateway op dezelfde poort eindpunten in meerdere protocolformaten aan:

Protocolformaat	Eindpuntpad	Toepassingsscenario
OpenAI-compatibel	http://127.0.0.1:11580/v1	Elke SDK / tool die het OpenAI API-formaat gebruikt (zoals /v1/chat/completions)
Anthropic-compatibel	http://127.0.0.1:11580/v1/messages	Anthropic SDK en Claude Code, enz.
Gemini-compatibel	http://127.0.0.1:11580/v1beta	Google Gemini SDK, enz.

Je hoeft alleen maar het formaat te kiezen dat overeenkomt met het protocol van de SDK die je gebruikt, en je verzoeken naar het gateway-adres te richten. De gateway routeert de verzoeken vervolgens op basis van de rechten van de virtuele sleutel naar het bijbehorende leveranciers-kanaal.

Authenticatie: gebruik een virtuele sleutel

Alle verzoeken aan de gateway worden geauthenticeerd met een virtuele sleutel, niet met de echte sleutel van de leverancier. Maak eerst een virtuele sleutel aan op de pagina Sleutels en kopieer de leesbare tekst.

Op de pagina AI Gateway → Eindpunten (Endpoints) kun je een virtuele sleutel selecteren, waarna de gateway voor veelgebruikte tools direct kopieerbare omgevingsvariabelenfragmenten genereert.

Voorbeelden van omgevingsvariabelen

De onderstaande voorbeelden gaan ervan uit dat je een virtuele sleutel hebt verkregen (aangeduid als <je virtuele sleutel>).

OpenAI-compatibele SDK / tool

export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<je virtuele sleutel>"

Claude Code / Anthropic

# Let op: het Anthropic-protocol gebruikt het rootadres van de gateway, zonder /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<je virtuele sleutel>"

Gemini

export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<je virtuele sleutel>"

Aanroepvoorbeeld (OpenAI-compatibel)

curl http://127.0.0.1:11580/v1/chat/completions \
  -H "Authorization: Bearer <je virtuele sleutel>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "你好"}]
  }'

Hierbij moet model een model zijn dat je in een kanaal hebt geconfigureerd en dat de virtuele sleutel mag aanroepen.

Voorwaarden

• De proxyservice van de AI-gateway is actief.
• Er is ten minste één gezond kanaal geconfigureerd en er is een virtuele sleutel aangemaakt met de bijbehorende model- / kanaalrechten.

Veelgestelde vragen (FAQ)

• V: Het verzoek geeft een authenticatiefout terug?
  • A: Controleer of je een virtuele sleutel gebruikt (en niet de echte sleutel van de leverancier) en of deze sleutel niet is verlopen of ingetrokken.
• V: Er verschijnt een melding dat het model niet beschikbaar is of dat je geen rechten hebt?
  • A: Controleer of het betreffende model in een kanaal is geconfigureerd en of de 'toegestane modellen / kanalen' van de huidige virtuele sleutel dit model bevatten.
• V: Welk eindpuntformaat moet ik gebruiken?
  • A: Kies het formaat dat overeenkomt met het protocol van de SDK die je gebruikt: gebruik /v1 voor de OpenAI-stijl, /v1/messages voor de Anthropic-stijl (de Base URL zonder /v1) en /v1beta voor de Gemini-stijl.
• V: Kunnen andere apparaten in het lokale netwerk de gateway bereiken?
  • A: De gateway luistert standaard alleen op 127.0.0.1 (alleen de lokale machine). Dit is de aanbevolen instelling om veiligheidsredenen.

Samenvatting

De AI-gateway biedt een uniform lokaal eindpunt in drie compatibele formaten (OpenAI / Anthropic / Gemini). In combinatie met authenticatie via virtuele sleutels kun je elke applicatie of AI-tool verbinden met de gateway en profiteren van uniform sleutelbeheer en gebruiksstatistieken. Voor veelgebruikte CLI-tools is het eenvoudiger om direct met één klik over te nemen te gebruiken.