Ендпоінти AI Gateway та змінні середовища

Окрім використання миттєвого підключення готових AI-інструментів, ви також можете напряму звертатися до AI Gateway у власних додатках, скриптах чи будь-яких AI-інструментах. У цьому документі описані формати ендпоінтів шлюзу та спосіб підключення через віртуальні ключі.

Проксі-ендпоінти

Проксі-сервіс AI Gateway слухає на http://127.0.0.1:11580. Щоб забезпечити сумісність із різними SDK та інструментами, шлюз надає декілька протокольних форматів ендпоінтів на одному порту:

Формат протоколу	Шлях ендпоінту	Сценарій використання
Сумісний з OpenAI	http://127.0.0.1:11580/v1	Будь-які SDK/інструменти, що використовують API OpenAI (наприклад, /v1/chat/completions)
Сумісний з Anthropic	http://127.0.0.1:11580/v1/messages	SDK Anthropic, Claude Code тощо
Сумісний з Gemini	http://127.0.0.1:11580/v1beta	Google Gemini SDK, Gemini CLI та інші

Вам потрібно лише обрати відповідний формат залежно від використовуваного SDK і вказати адресу шлюзу. Шлюз самостійно маршрутизуватиме запит до відповідного постачальника через віртуальний ключ і згідно з його правами доступу до каналів.

Авторизація: використання віртуального ключа

Всі запити до шлюзу автентифікуються віртуальними ключами, а не справжніми ключами постачальників. Спочатку створіть віртуальний ключ на сторінці Ключі і скопіюйте його значення.

На сторінці AI Gateway → Ендпоінти (Endpoints) ви можете обрати віртуальний ключ, після чого шлюз згенерує готові для копіювання фрагменти змінних середовища для основних інструментів.

Приклад змінних середовища

У наступних прикладах вказується, що ви вже отримали віртуальний ключ (<ваш_віртуальний_ключ>).

SDK/інструменти, сумісні з OpenAI

export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<ваш_віртуальний_ключ>"

Claude Code / Anthropic

# Увага: Протокол Anthropic використовує кореневу адресу шлюзу без /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<ваш_віртуальний_ключ>"

Gemini

export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<ваш_віртуальний_ключ>"

Приклад виклику (OpenAI-сумісний)

curl http://127.0.0.1:11580/v1/chat/completions \
  -H "Authorization: Bearer <ваш_віртуальний_ключ>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "Привіт"}]
  }'

Тут параметр model повинен відповідати моделі, налаштованій у каналі, яку дозволено викликати даним віртуальним ключем.

Передумови

• Проксі-сервіс AI Gateway запущено.
• Налаштовано принаймні один активний канал і створено віртуальний ключ з необхідними правами на моделі/канали.

Часті питання (FAQ)

• Питання: Повертається помилка автентифікації?
  • Відповідь: Перевірте, що ви використовуєте саме віртуальний ключ (а не справжній ключ провайдера), і що він не прострочений чи відкликаний.
• Питання: Модель недоступна або немає доступу?
  • Відповідь: Впевніться, що model додано до одного з каналів і поточний віртуальний ключ має право доступу до цієї моделі або каналу.
• Питання: Який формат ендпоінту обрати?
  • Відповідь: Оберіть згідно з API у вашому SDK — стиль OpenAI з /v1, стиль Anthropic з /v1/messages (Base URL без /v1), стиль Gemini з /v1beta.
• Питання: Чи можуть інші пристрої у локальній мережі отримати доступ до шлюзу?
  • Відповідь: За замовчуванням шлюз слухає лише на 127.0.0.1 (локальний комп’ютер). Це рекомендовано для безпеки.

Висновок

AI Gateway надає локальні точки входу, сумісні з OpenAI / Anthropic / Gemini, автентифікацію через віртуальні ключі та уніфіковане управління доступом і статистикою використання. Ви можете легко інтегрувати будь-який додаток чи AI-інструмент із шлюзом. Для типових CLI-інструментів найзручнішим варіантом є миттєве підключення.