Endpoint dan Variabel Lingkungan Gateway AI

Selain pengambilalihan satu klik alat AI yang sudah tersedia, Anda juga dapat memanggil Gateway AI secara langsung dari aplikasi, skrip, atau alat AI apa pun milik Anda. Artikel ini membahas format endpoint yang disediakan gateway, serta cara mengaksesnya menggunakan kunci virtual.

Endpoint Proxy

Layanan proxy Gateway AI mendengarkan di http://127.0.0.1:11580. Untuk kompatibilitas dengan SDK dan alat dari berbagai penyedia, gateway menyediakan endpoint dengan beberapa format protokol pada port yang sama:

Format Protokol	Jalur Endpoint	Skenario Penggunaan
Kompatibel OpenAI	http://127.0.0.1:11580/v1	SDK / alat apa pun yang menggunakan format OpenAI API (seperti /v1/chat/completions)
Kompatibel Anthropic	http://127.0.0.1:11580/v1/messages	Anthropic SDK dan Claude Code, dll.
Kompatibel Gemini	http://127.0.0.1:11580/v1beta	Google Gemini SDK, dll.

Anda cukup memilih format yang sesuai dengan protokol SDK yang digunakan, lalu mengarahkan permintaan ke alamat gateway. Gateway akan merutekan permintaan ke saluran penyedia yang sesuai berdasarkan izin kunci virtual.

Autentikasi: Menggunakan Kunci Virtual

Semua permintaan ke gateway menggunakan autentikasi kunci virtual, bukan kunci asli dari penyedia. Buat kunci virtual terlebih dahulu di halaman Kunci dan salin teks plaintext-nya.

Di halaman Gateway AI → Endpoint (Endpoints), Anda dapat memilih kunci virtual; gateway akan langsung membuat potongan variabel lingkungan yang dapat disalin untuk alat-alat umum.

Contoh Variabel Lingkungan

Contoh berikut mengasumsikan Anda sudah memiliki kunci virtual (disebut sebagai <你的虚拟密钥>).

SDK / Alat yang Kompatibel dengan OpenAI

export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<你的虚拟密钥>"

Claude Code / Anthropic

# Catatan: protokol Anthropic menggunakan alamat root gateway, tanpa /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<你的虚拟密钥>"

Gemini

export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<你的虚拟密钥>"

Contoh Pemanggilan (Kompatibel OpenAI)

curl http://127.0.0.1:11580/v1/chat/completions \
  -H "Authorization: Bearer <你的虚拟密钥>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "你好"}]
  }'

model harus merupakan model yang telah Anda konfigurasi di saluran dan diizinkan untuk dipanggil oleh kunci virtual tersebut.

Prasyarat

• Layanan proxy Gateway AI sedang berjalan.
• Setidaknya satu saluran yang sehat telah dikonfigurasi, dan kunci virtual dengan izin model / saluran yang sesuai telah dibuat.

Pertanyaan Umum (FAQ)

• T：Permintaan mengembalikan kegagalan autentikasi?
  • J：Pastikan Anda menggunakan kunci virtual (bukan kunci asli dari penyedia), dan kunci tersebut belum kedaluwarsa atau dicabut.
• T：Muncul pesan model tidak tersedia atau tidak memiliki izin?
  • J：Pastikan model tersebut telah dikonfigurasi di salah satu saluran, dan “model / saluran yang diizinkan” pada kunci virtual saat ini mencakup model tersebut.
• T：Format endpoint mana yang harus digunakan?
  • J：Pilih sesuai protokol SDK yang Anda gunakan——gaya OpenAI menggunakan /v1, gaya Anthropic menggunakan /v1/messages (Base URL tanpa /v1), gaya Gemini menggunakan /v1beta.
• T：Apakah perangkat lain di jaringan lokal dapat mengakses gateway?
  • J：Secara default gateway hanya mendengarkan 127.0.0.1 (hanya komputer lokal). Ini adalah pengaturan yang direkomendasikan demi keamanan.

Ringkasan

Gateway AI menyediakan endpoint lokal terpadu dalam tiga format kompatibel: OpenAI / Anthropic / Gemini. Dengan autentikasi kunci virtual, Anda dapat menghubungkan aplikasi atau alat AI apa pun ke gateway dan menikmati manajemen kunci serta statistik penggunaan yang terpadu. Untuk alat CLI umum, langsung menggunakan pengambilalihan satu klik akan lebih praktis.