Pengenalan ServBay AI Gateway
ServBay AI Gateway ialah gerbang AI penyedia seragam berasaskan setempat yang dibina dalam ServBay. Ia menjalankan titik proksi pada komputer anda, menyatukan permintaan untuk hampir 20 penyedia model besar (OpenAI, Anthropic, DeepSeek, Tongyi Qianwen dan lain-lain) ke satu pintu masuk. Ini memudahkan pengurusan kunci, statistik penggunaan & kos, dan membolehkan anda mengarahkan alat pengaturcaraan AI seperti Claude Code, Codex, Gemini CLI terus ke gerbang setempat dengan satu klik.
Dokumen ini menerangkan apa itu AI Gateway, masalah yang diselesaikannya, serta seni bina keseluruhan. Untuk panduan operasi khusus, rujuk:
- Mengurus Saluran — Tambah dan konfigurasikan penyedia AI
- Kunci Maya — Cipta, hadkan, putar dan batal kunci maya
- Ambil Alih Alat AI dengan Satu Klik — Arahkan CLI seperti Claude Code ke gerbang ini
- Statistik & Pemantauan — Lihat penggunaan, kos & bajet
- Titik Akhir & Persekitaran — Guna gerbang dalam kod anda sendiri
Gambaran Keseluruhan
Dalam pembangunan AI harian, anda mungkin mempunyai banyak API Key dari pelbagai penyedia, berselerak pada pelbagai projek dan alat. Ini menyukarkan pengurusan kos dan pertukaran kunci. ServBay AI Gateway mengatasi cabaran ini:
- Satu pintu masuk untuk semua penyedia — Selepas konfigurasi, semua permintaan dialihkan ke
http://127.0.0.1:11580, aplikasi anda hanya perlu berkomunikasi dengan satu alamat setempat. - Kunci maya menggantikan kunci sebenar — Gateway mengeluarkan kunci maya untuk aplikasi dan alat, manakala kunci API penyedia sebenar hanya disimpan dalam gateway, bukan pada pelbagai lokasi. Kunci maya boleh dihadkan, diputarkan atau dibatalkan pada bila-bila masa.
- Paparan penggunaan & kos yang seragam — Semua permintaan melalui gateway akan direkodkan. Gateway menyediakan statistik seperti bilangan permintaan, penggunaan Token, kos, kependaman dan penggunaan multimodal, dengan sokongan pengurusan bajet.
- Ambil alih konfigurasi alat AI dengan satu klik — Tidak perlu sunting fail konfigurasi secara manual. Gateway boleh mengarahkan Claude Code, Codex, Gemini CLI, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush dan banyak lagi ke gateway setempat dengan mudah.
Seni Bina & Port
AI Gateway terdiri daripada dua servis setempat, kedua-duanya hanya mendengar pada alamat loopback (127.0.0.1):
| Port | Tujuan | Penerangan |
|---|---|---|
11580 | Port Proksi | Titik pintu masuk utama untuk aplikasi. Kod dan alat AI yang diambil alih akan menghantar permintaan ke sini. Gateway akan laluankan berdasarkan kebenaran kunci maya. |
11581 | Port Pengurusan | Untuk pengurusan, kunci, dan data statistik dalaman oleh aplikasi ServBay. Biasanya tidak perlu diakses secara langsung. |
Port proksi menyokong pelbagai titik akhir serasi (OpenAI, Anthropic, Gemini, dan lain-lain). Lihat Titik Akhir & Persekitaran untuk maklumat lanjut.
Saluran Penyedia yang Disokong
AI Gateway menyertakan hampir 20 penyedia pra-tetap, dikelaskan seperti berikut, anda boleh pilih terus sewaktu menambah saluran:
- Arus Perdana: OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
- China: DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi (Moonshot AI), Doubao Volcano, Wenxin Yiyan, Hunyuan, MiniMax, 01.AI, StepStar. Tongyi Qianwen, Zhipu GLM, Kimi, Doubao Volcano, Hunyuan, MiniMax, dan StepStar menyokong Pertukaran dua kawasan (China/Global).
- Setempat: Ollama (
127.0.0.1:11434lalai), LM Studio (127.0.0.1:1234lalai). - Tersuai: OpenAI Compatible (manapun penyesuaian OpenAI), Custom (sepenuhnya tersuai).
Untuk proses lengkap menambah dan mengkonfigurasi, rujuk Mengurus Saluran.
Prasyarat
- ServBay telah dipasang dan berjalan sama ada pada macOS atau Windows.
- AI Gateway ialah ciri premium ServBay: Anda perlu log masuk akaun ServBay sebelum boleh menambah saluran/kunci. Jika belum log masuk, antara muka akan membimbing anda.
TIP
Fungsi AI Gateway adalah sama untuk pengguna ServBay for macOS dan Windows: port proksi (11580), port pengurusan (11581), serta laluan fail konfigurasi alat AI semuanya seragam. Sebarang perbezaan pada platform akan dinyatakan secara jelas dalam dokumen.
Akaun & Pelan Langganan
Beberapa fungsi AI Gateway berkait dengan jenis langganan akaun ServBay anda:
- Had bilangan saluran/kunci — Bilangan saluran dan kunci maya yang boleh anda cipta bergantung pada pelan (percuma atau berbayar). Jika melebihi had, sistem akan mencadangkan untuk naik taraf.
- Pengurusan kuota & bajet — Had berdasarkan kuota (Token/permintaan/nilai wang) serta papan pemuka bajet tersedia untuk pelan VIP/berbayar. Bahagian ini akan dikunci jika tiada langganan.
Maklumat lanjut tentang pelan, lawati ServBay Pro dan ServBay Team.
Penyimpanan Data
- Konfigurasi saluran, kunci maya, dan statistik penggunaan semuanya disimpan secara setempat oleh servis backend gateway.
- Kunci maya penuh hanya dipaparkan sekali semasa penciptaan (atau putaran semula); selepas itu hanya prefiks disimpan untuk pengecaman. Pastikan disalin dan disimpan sewaktu penciptaan.
- Apabila mengambil alih alat, gateway akan menyimpan sandaran fail konfigurasi asal sebagai
.baksebelum menggantikan dengan konfigurasi gateway baharu, memudahkan pemulihan bila-bila masa.
Proses Penggunaan Tipikal
- Log masuk akaun ServBay dan akses AI Gateway.
- Pada halaman Saluran, tambah sekurang-kurangnya satu penyedia (cth OpenAI atau DeepSeek), masukkan kunci API sebenar dan uji sambungan.
- Pada halaman Kunci Maya, cipta kunci maya, tentukan model/saluran yang dibenarkan dan had kadar jika perlu.
- Pada halaman Titik Akhir, masukkan kunci maya ke dalam aplikasi anda, atau gunakan Ambil Alih Satu Klik untuk alat AI kegemaran anda.
- Pada halaman Statistik & Pemantauan, pantau penggunaan, kos dan kependaman, serta tetapkan bajet jika perlu.
Kesimpulan
ServBay AI Gateway merapatkan jurang pembangunan AI yang berselerak dengan penyedia, kunci dan alat berbeza, kepada “satu pintu masuk setempat, satu sistem kunci maya, satu paparan penggunaan”. Anda kini boleh mengurus semua keupayaan AI dengan selamat di setempat, memantau kos secara tepat, dan menyambungkan pelbagai alat pengaturcaraan AI secara seragam — menjadikan ia salah satu keupayaan teras ServBay untuk pembangunan AI-native.
