Endpoint AI Gateway dan Variabel Lingkungan

Selain menggunakan One-Click Takeover untuk AI tools siap pakai, Anda juga dapat langsung mengakses AI Gateway dari aplikasi, skrip, atau alat AI Anda sendiri. Dokumen ini menjelaskan format endpoint yang tersedia dari gateway serta cara mengaksesnya menggunakan kunci virtual.

Endpoint Proxy

Layanan proxy AI Gateway berjalan pada http://127.0.0.1:11580. Untuk mendukung berbagai SDK dan alat dari penyedia yang berbeda, Gateway menawarkan beberapa format endpoint pada port yang sama:

Format Protokol	Jalur Endpoint	Penggunaan yang Disarankan
Kompatibel OpenAI	http://127.0.0.1:11580/v1	Untuk semua SDK/alatan berbasis API OpenAI (misal /v1/chat/completions)
Kompatibel Anthropic	http://127.0.0.1:11580/v1/messages	Untuk Anthropic SDK dan Claude Code
Kompatibel Gemini	http://127.0.0.1:11580/v1beta	Untuk Google Gemini SDK maupun Gemini CLI

Pilih format sesuai protokol SDK yang Anda gunakan, lalu arahkan permintaan API ke alamat gateway. Gateway akan meneruskan permintaan tersebut ke saluran penyedia terkait sesuai dengan hak akses kunci virtual Anda.

Autentikasi: Menggunakan Kunci Virtual

Semua permintaan ke gateway harus menggunakan kunci virtual untuk autentikasi, bukan API key asli dari penyedia. Buatlah kunci virtual di halaman Kunci dan salin nilainya.

Pada halaman AI Gateway → Endpoints, Anda dapat memilih kunci virtual dan gateway akan menghasilkan potongan variabel lingkungan siap pakai untuk tools populer.

Contoh Variabel Lingkungan

Contoh berikut ini mengasumsikan Anda sudah memperoleh kunci virtual (ditulis sebagai <kunci virtual Anda>).

OpenAI Compatible SDK / Alat

export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<kunci virtual Anda>"

Claude Code / Anthropic

# Catatan: Protokol Anthropic menggunakan alamat root gateway, tanpa /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<kunci virtual Anda>"

Gemini

export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<kunci virtual Anda>"

Contoh Pemanggilan (Kompatibel OpenAI)

curl http://127.0.0.1:11580/v1/chat/completions \
  -H "Authorization: Bearer <kunci virtual Anda>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "你好"}]
  }'

Parameter model harus merupakan model yang telah diatur dalam saluran Anda dan sudah diizinkan untuk kunci virtual terkait.

Prasyarat

• Layanan proxy AI Gateway telah berjalan.
• Setidaknya satu saluran telah dikonfigurasi dan ada kunci virtual dengan hak akses model/saluran yang sesuai.

Tanya Jawab (FAQ)

• Q: Permintaan gagal karena autentikasi?
  • A: Pastikan Anda menggunakan kunci virtual (bukan API key asli penyedia), dan kunci ini masih aktif serta belum dicabut.
• Q: Pesan model tidak tersedia atau tidak punya izin?
  • A: Pastikan model yang dipilih sudah diatur di salah satu saluran dan sudah masuk ke daftar model/saluran yang diizinkan untuk kunci virtual tersebut.
• Q: Harus memakai format endpoint yang mana?
  • A: Pilih sesuai protokol SDK Anda — gaya OpenAI menggunakan /v1, gaya Anthropic gunakan /v1/messages (Base URL tanpa /v1), dan gaya Gemini gunakan /v1beta.
• Q: Apakah perangkat lain di LAN bisa mengakses gateway?
  • A: Secara default, gateway hanya bind ke 127.0.0.1 (localhost saja). Ini adalah setelan yang direkomendasikan demi keamanan.

Ringkasan

AI Gateway menyediakan endpoint lokal terpadu dengan tiga format kompatibel (OpenAI, Anthropic, Gemini). Dengan autentikasi berbasis kunci virtual, Anda dapat menghubungkan aplikasi atau alat AI apa pun ke gateway, menikmati manajemen kunci dan statistik penggunaan yang terpusat. Untuk berbagai CLI tools populer, Anda bisa lebih praktis menggunakan fitur One-Click Takeover.