Кінцеві точки та змінні середовища AI-шлюзу

Окрім одноклікового перехоплення готових AI-інструментів, ви також можете напряму викликати AI-шлюз зі своїх застосунків, скриптів або будь-яких AI-інструментів. У цій статті описано формати ендпоінтів, які надає шлюз, і те, як підключитися до нього за допомогою віртуальних ключів.

Проксі-ендпоінти

Проксі-сервіс AI-шлюзу слухає http://127.0.0.1:11580. Для сумісності із SDK та інструментами різних постачальників шлюз надає на одному порту ендпоінти з кількома форматами протоколів:

Формат протоколу	Шлях ендпоінту	Сценарій використання
Сумісний з OpenAI	http://127.0.0.1:11580/v1	Будь-який SDK / інструмент, що використовує формат OpenAI API (наприклад, /v1/chat/completions)
Сумісний з Anthropic	http://127.0.0.1:11580/v1/messages	Anthropic SDK, Claude Code тощо
Сумісний з Gemini	http://127.0.0.1:11580/v1beta	Google Gemini SDK тощо

Вам достатньо вибрати формат відповідно до протоколу вашого SDK і спрямувати запити на адресу шлюзу. Шлюз, виходячи з прав віртуального ключа, маршрутизує запити до відповідного каналу постачальника.

Автентифікація: використання віртуальних ключів

Усі запити до шлюзу автентифікуються за допомогою віртуального ключа, а не справжнього ключа постачальника. Спершу створіть віртуальний ключ на сторінці Ключі і скопіюйте його відкритий текст.

На сторінці AI-шлюз → Ендпоінти (Endpoints) ви можете вибрати віртуальний ключ, і шлюз згенерує готові до копіювання фрагменти змінних середовища для поширених інструментів.

Приклади змінних середовища

Наведені нижче приклади припускають, що ви вже отримали віртуальний ключ (позначений як <ваш віртуальний ключ>).

SDK / інструменти, сумісні з OpenAI

export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<ваш віртуальний ключ>"

Claude Code / Anthropic

# Увага: протокол Anthropic використовує кореневу адресу шлюзу, без /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<ваш віртуальний ключ>"

Gemini

export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<ваш віртуальний ключ>"

Приклад виклику (сумісний з OpenAI)

curl http://127.0.0.1:11580/v1/chat/completions \
  -H "Authorization: Bearer <ваш віртуальний ключ>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "你好"}]
  }'

Тут model має бути моделлю, яку ви вже налаштували в каналах і яку дозволено викликати цим віртуальним ключем.

Попередні умови

• Проксі-сервіс AI-шлюзу запущено.
• Налаштовано щонайменше один робочий канал і створено віртуальний ключ із відповідними правами на моделі / канали.

Поширені запитання (FAQ)

• З: Запит повертає помилку автентифікації?
  • В: Переконайтеся, що використовується віртуальний ключ (а не справжній ключ постачальника), і що цей ключ не прострочений і не відкликаний.
• З: Повідомляє, що модель недоступна або немає прав?
  • В: Переконайтеся, що цю model налаштовано в якомусь каналі та що «Дозволені моделі / канали» поточного віртуального ключа містять її.
• З: Який формат ендпоінту використовувати?
  • В: Виберіть відповідно до протоколу вашого SDK — для стилю OpenAI використовуйте /v1, для стилю Anthropic — /v1/messages (Base URL без /v1), для стилю Gemini — /v1beta.
• З: Чи можуть інші пристрої в локальній мережі отримати доступ до шлюзу?
  • В: За замовчуванням шлюз слухає лише 127.0.0.1 (тільки локальний комп'ютер). Це рекомендоване налаштування з міркувань безпеки.

Підсумок

AI-шлюз надає уніфіковані локальні ендпоінти у трьох сумісних форматах — OpenAI / Anthropic / Gemini. Разом з автентифікацією за віртуальними ключами ви можете підключити будь-який застосунок або AI-інструмент до шлюзу та скористатися уніфікованим керуванням ключами й статистикою використання. Для поширених CLI-інструментів значно простіше скористатися однокліковим перехопленням.