Endpoint AI Gateway & Pembolehubah Persekitaran

Selain menggunakan One-Click Takeover untuk alat AI sedia ada, anda juga boleh memanggil AI Gateway secara langsung dari aplikasi, skrip, atau apa-apa alat AI anda sendiri. Artikel ini memperkenalkan format endpoint yang didedahkan oleh gateway dan cara untuk menyambung menggunakan Kunci Maya.

Endpoint Proksi

Perkhidmatan proksi AI Gateway akan mendengar pada http://127.0.0.1:11580. Untuk serasi dengan SDK dan alat dari pelbagai pembekal, gateway membekalkan beberapa format endpoint protokol pada port yang sama:

Format Protokol	Laluan Endpoint	Senario Penggunaan
Serasi OpenAI	http://127.0.0.1:11580/v1	Mana-mana SDK / alat dengan format API OpenAI (cth. /v1/chat/completions)
Serasi Anthropic	http://127.0.0.1:11580/v1/messages	Anthropic SDK dan alat seperti Claude Code
Serasi Gemini	http://127.0.0.1:11580/v1beta	Google Gemini SDK dan Gemini CLI

Anda hanya perlu memilih format mengikut protokol SDK yang digunakan, dan hantar permintaan anda ke alamat gateway. AI Gateway akan mengarahkan permintaan anda ke Saluran pembekal berkaitan berdasarkan kebenaran Kunci Maya yang digunakan.

Pengesahan: Menggunakan Kunci Maya

Semua permintaan ke gateway ini disahkan menggunakan Kunci Maya, bukan kunci sebenar pembekal. Sila cipta dulu kunci maya di halaman Kunci Maya dan salin kuncinya.

Pada halaman AI Gateway → Endpoint, anda boleh memilih satu kunci maya, dan gateway akan menjana potongan pembolehubah persekitaran yang boleh disalin terus untuk alat popular.

Contoh Pembolehubah Persekitaran

Contoh di bawah mengandaikan anda telah memperoleh satu kunci maya (ditandakan sebagai <kunci maya anda>):

SDK / Alat Serasi OpenAI

export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<kunci maya anda>"

Claude Code / Anthropic

# Nota: Protokol Anthropic menggunakan alamat root gateway tanpa /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<kunci maya anda>"

Gemini

export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<kunci maya anda>"

Contoh Panggilan (Serasi OpenAI)

curl http://127.0.0.1:11580/v1/chat/completions \
  -H "Authorization: Bearer <kunci maya anda>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "你好"}]
  }'

Di mana model mestilah model yang telah anda konfigurasi dalam Saluran dan telah diluluskan untuk kunci maya tersebut.

Prasyarat

• Perkhidmatan proksi AI Gateway sedang berjalan.
• Sekurang-kurangnya satu saluran yang sihat telah dikonfigurasi dan kunci maya dengan kebenaran model / saluran yang sesuai telah dibuat.

Soalan Lazim (FAQ)

• S: Permintaan gagal pengesahan?
  • J: Pastikan anda menggunakan kunci maya (bukan kunci sebenar pembekal), dan kunci itu tidak tamat tempoh atau dibatalkan.
• S: Model tidak boleh digunakan atau tiada kebenaran?
  • J: Pastikan model tersebut telah dikonfigurasi dalam mana-mana saluran, dan kunci maya semasa mempunyai akses ke “Model / Saluran Dibenarkan”.
• S: Format endpoint mana patut digunakan?
  • J: Pilih mengikut protokol SDK anda—gaya OpenAI gunakan /v1, gaya Anthropic gunakan /v1/messages (Base URL tanpa /v1), gaya Gemini gunakan /v1beta.
• S: Bolehkah peranti lain dalam rangkaian setempat mengakses gateway?
  • J: Secara lalai, gateway hanya mendengar pada 127.0.0.1 (localhost sahaja). Ini adalah amalan terbaik untuk keselamatan.

Kesimpulan

AI Gateway membekalkan endpoint tempatan bersatu dalam tiga format serasi (OpenAI / Anthropic / Gemini). Digabung dengan pengesahan kunci maya, anda boleh menyambungkan sebarang aplikasi atau alat AI ke gateway, sambil menikmati pengurusan kunci dan statistik penggunaan yang seragam. Untuk CLI alat popular, anda boleh menjimatkan masa dengan terus menggunakan One-Click Takeover.