Punkty końcowe AI Gateway i zmienne środowiskowe
Oprócz przejmowania narzędzi AI jednym kliknięciem, możesz także bezpośrednio wywoływać AI Gateway ze swojej aplikacji, skryptów lub dowolnych narzędzi AI. Ten artykuł opisuje formaty endpointów udostępnianych przez bramkę oraz sposób integracji z wykorzystaniem wirtualnych kluczy.
Punkty końcowe proxy
Serwis proxy AI Gateway nasłuchuje pod adresem http://127.0.0.1:11580. Aby zapewnić kompatybilność z SDK oraz narzędziami różnych dostawców, bramka na tym samym porcie eksponuje endpointy w kilku formatach:
| Format protokołu | Ścieżka endpointu | Typowe zastosowania |
|---|---|---|
| Kompatybilny z OpenAI | http://127.0.0.1:11580/v1 | Dowolne SDK/narzędzia korzystające z formatu API OpenAI (np. /v1/chat/completions) |
| Kompatybilny z Anthropic | http://127.0.0.1:11580/v1/messages | SDK Anthropic, Claude Code itd. |
| Kompatybilny z Gemini | http://127.0.0.1:11580/v1beta | SDK Google Gemini, Gemini CLI itd. |
Wystarczy wybrać odpowiedni format dla wykorzystywanego SDK i skierować żądania do adresu bramki. Na podstawie uprawnień wirtualnego klucza żądania są kierowane do właściwego kanału dostawcy.
Autoryzacja: użycie wirtualnych kluczy
Wszystkie żądania do bramki wymagają wirtualnego klucza do autoryzacji – nie posługujesz się bezpośrednio prawdziwym kluczem dostawcy. Najpierw utwórz wirtualny klucz i skopiuj go w formie jawnej na stronie Wirtualne klucze.
Na stronie AI Gateway → Endpoints możesz wybrać wirtualny klucz, a bramka wygeneruje gotowe do skopiowania fragmenty zmiennych środowiskowych dla najczęściej używanych narzędzi.
Przykłady zmiennych środowiskowych
Poniższe przykłady zakładają, że masz już wirtualny klucz (oznaczymy go jako <twój_wirtualny_klucz>).
SDK / narzędzia kompatybilne z OpenAI
bash
export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<twój_wirtualny_klucz>"1
2
2
Claude Code / Anthropic
bash
# Uwaga: Protokół Anthropic używa podstawowego adresu bramki, bez /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<twój_wirtualny_klucz>"1
2
3
2
3
Gemini
bash
export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<twój_wirtualny_klucz>"1
2
2
Przykład wywołania (kompatybilny z OpenAI)
bash
curl http://127.0.0.1:11580/v1/chat/completions \
-H "Authorization: Bearer <twój_wirtualny_klucz>" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "你好"}]
}'1
2
3
4
5
6
7
2
3
4
5
6
7
Pole model musi odpowiadać modelowi skonfigurowanemu w kanałach, do którego aktualny wirtualny klucz ma dostęp.
Wymagania wstępne
- AI Gateway proxy jest uruchomione.
- Skonfigurowano co najmniej jeden działający kanał oraz utworzono wirtualny klucz z dostępem do odpowiednich modeli/kanałów.
Najczęstsze pytania (FAQ)
- Q: Autoryzacja żądania nie powiodła się?
- A: Upewnij się, że używasz wirtualnego klucza (nie prawdziwego klucza dostawcy) i że klucz jest aktualny oraz nie został odwołany.
- Q: Komunikat o niedostępnym modelu lub braku uprawnień?
- A: Upewnij się, że wybrany
modeljest skonfigurowany w jakimkolwiek kanale, a aktualny wirtualny klucz ma do niego dostęp.
- A: Upewnij się, że wybrany
- Q: Którego formatu endpointu użyć?
- A: Dobierz do protokołu Twojego SDK – styl OpenAI to
/v1, styl Anthropic to/v1/messages(adres podstawowy bez/v1), styl Gemini to/v1beta.
- A: Dobierz do protokołu Twojego SDK – styl OpenAI to
- Q: Czy inne urządzenia w sieci LAN mogą korzystać z bramki?
- A: Domyślnie bramka nasłuchuje tylko na
127.0.0.1(localhost) – to zalecane ustawienie ze względów bezpieczeństwa.
- A: Domyślnie bramka nasłuchuje tylko na
Podsumowanie
AI Gateway udostępnia zunifikowane lokalne endpointy w trzech kompatybilnych formatach: OpenAI, Anthropic i Gemini. Dzięki autoryzacji na podstawie wirtualnych kluczy możesz łatwo połączyć dowolną aplikację lub narzędzie AI, korzystając z jednolitego zarządzania kluczami i monitorowania wykorzystania. Dla najpopularniejszych narzędzi CLI zalecamy wygodne przejmowanie jednym kliknięciem.
