Pengenalan ServBay AI Gateway (Gateway AI)

ServBay AI Gateway (Gateway AI) adalah gateway penyedia AI terpadu lokal yang terpasang di dalam ServBay. Gateway ini menjalankan endpoint proksi di komputer Anda, mengumpulkan permintaan ke berbagai penyedia model AI (OpenAI, Anthropic, DeepSeek, Qwen, dan hampir 20 penyedia lainnya) ke dalam satu pintu masuk, membantu Anda mengelola kunci secara terpusat, menghitung penggunaan dan biaya, serta mengarahkan alat pemrograman AI seperti Claude Code dan Codex ke gateway lokal dengan sekali klik.

Dokumen ini menjelaskan apa itu Gateway AI, masalah apa yang dapat dipecahkan, dan arsitektur keseluruhannya. Untuk operasi spesifik, silakan lihat:

• Mengelola Saluran — Menambahkan dan mengonfigurasi berbagai penyedia
• Kunci Virtual — Membuat, membatasi hak akses, merotasi, dan mencabut kunci
• Pengambilalihan Sekali Klik Alat Pemrograman AI — Mengarahkan CLI seperti Claude Code ke gateway
• Statistik dan Pemantauan — Penggunaan, biaya, dan anggaran
• Endpoint dan Variabel Lingkungan — Memanggil gateway dalam kode Anda sendiri

Ringkasan

Dalam pengembangan AI sehari-hari, Anda mungkin memiliki kunci API dari beberapa penyedia sekaligus, tersebar di berbagai proyek dan file konfigurasi alat yang berbeda, sehingga sulit menghitung pengeluaran dan sulit beralih secara terpadu. ServBay AI Gateway menyatukan masalah-masalah ini ke satu tempat:

• Satu pintu masuk, terhubung ke banyak penyedia — Setelah mengonfigurasi setiap saluran, semua permintaan diteruskan melalui http://127.0.0.1:11580 lokal, aplikasi Anda hanya perlu menghadapi satu alamat.
• Kunci virtual menggantikan kunci asli — Gateway menerbitkan "kunci virtual" untuk dibagikan ke aplikasi dan alat, sedangkan kunci API penyedia asli hanya disimpan di sisi gateway, tidak lagi tersebar di mana-mana. Kunci virtual dapat dibatasi hak aksesnya, dirotasi, dan dicabut kapan saja.
• Tampilan penggunaan dan biaya yang terpadu — Semua permintaan yang melewati gateway akan dicatat; gateway menyediakan statistik jumlah permintaan, penggunaan Token, biaya, latensi, penggunaan multimodal, dan mendukung manajemen anggaran.
• Pengambilalihan sekali klik untuk alat pemrograman AI utama — Tanpa perlu mengubah file konfigurasi secara manual, gateway dapat mengarahkan alat seperti Claude Code, Codex, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush ke gateway lokal dengan sekali klik.
• Akun langganan dan pelacakan kuota — Mendukung penautan akun penyedia berbasis langganan (seperti otorisasi OAuth Claude Pro / Max), menampilkan informasi paket, endpoint yang tersedia, batas panjang output secara visual di dalam gateway, serta melacak kuota multi-jendela secara real-time (persentase terpakai / tersisa, status kuota habis, waktu reset), sehingga Anda dapat memantau saldo langganan kapan saja.
• Deteksi kemampuan saluran dan perutean cerdas — Saat menambahkan saluran, gateway secara otomatis mendeteksi kemampuan penyedia (tipe otorisasi OAuth / tipe paket kode / tipe model bertingkat), setelah dikonfirmasi akan secara otomatis menulis pemetaan gateway tiga tingkat sesuai hasil deteksi, tanpa perlu menebak kompatibilitas model secara manual.

Arsitektur dan Port

Gateway AI terdiri dari dua layanan lokal, keduanya hanya mendengarkan alamat loopback (127.0.0.1):

Port	Fungsi	Keterangan
11580	Port proksi	Pintu masuk terpadu untuk aplikasi. Kode Anda dan alat AI yang dialihkan mengirim permintaan ke sini; gateway merutekan ke saluran penyedia yang sesuai berdasarkan izin kunci virtual.
11581	Port manajemen	Digunakan oleh aplikasi ServBay untuk mengelola saluran, kunci, dan data statistik secara internal; biasanya tidak perlu diakses langsung.

Port proksi juga menyediakan endpoint dalam berbagai format yang kompatibel (kompatibel OpenAI, kompatibel Anthropic, kompatibel Gemini), lihat Endpoint dan Variabel Lingkungan.

Saluran Penyedia yang Didukung

Gateway AI dilengkapi dengan hampir 20 preset penyedia, dikelompokkan berdasarkan kategori, yang dapat langsung dipilih saat menambahkan saluran:

• Utama (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• Tiongkok (China): DeepSeek, Qwen, Zhipu GLM, Kimi (Moonshot), Doubao·Volcano, ERNIE Bot, Hunyuan, MiniMax, 01.AI, StepFun. Di antaranya Qwen, Zhipu GLM, Kimi, Doubao·Volcano, Hunyuan, MiniMax, StepFun, dan lainnya mendukung pengalihan endpoint dua wilayah: domestik / global.
• Lokal (Local): Ollama (default 127.0.0.1:11434), LM Studio (default 127.0.0.1:1234).
• Kustom (Custom): OpenAI Compatible (layanan apa pun yang kompatibel dengan OpenAI), Custom (sepenuhnya kustom).

Untuk alur penambahan dan konfigurasi lengkap, lihat Mengelola Saluran.

Prasyarat

• ServBay telah diinstal dan berjalan di macOS atau Windows.
• Gateway AI adalah fitur bernilai tambah ServBay; Anda perlu masuk ke akun ServBay terlebih dahulu sebelum menambahkan saluran / kunci. Jika belum masuk, antarmuka akan memandu Anda untuk menyelesaikan proses masuk.

TIP

Gateway AI memiliki fungsi yang sama di ServBay for macOS dan ServBay for Windows; port proksi (11580), port manajemen (11581), serta jalur file konfigurasi alat yang dialihkan semuanya sama. Jika ada perbedaan platform dalam dokumentasi, akan dijelaskan secara terpisah.

Akun dan Paket

Sebagian kemampuan Gateway AI terkait dengan paket akun ServBay:

• Batas jumlah saluran / kunci — Paket gratis dan berbayar memiliki jumlah saluran dan kunci virtual yang dapat dibuat berbeda. Saat mencapai batas, antarmuka akan menyarankan peningkatan paket.
• Manajemen kuota dan anggaran — Pembatasan berdasarkan kuota (Token / jumlah permintaan / nominal) dan dasbor anggaran termasuk kemampuan VIP / berbayar; jika belum berlangganan, area terkait akan terkunci dan menyarankan peningkatan paket.

Untuk detail paket, lihat ServBay Pro dan ServBay Team.

Akun Langganan dan Pelacakan Kuota

Gateway AI mendukung penautan akun penyedia berbasis langganan (seperti Claude Pro / Max yang terhubung melalui otorisasi OAuth), memungkinkan Anda melihat dan mengelola sumber daya langganan ini langsung di dalam gateway lokal, tanpa harus masuk ke konsol web masing-masing penyedia.

Apa yang Dapat Dilakukan Akun Langganan

• Informasi paket sekilas jelas — Menampilkan nama paket langganan, struktur penagihan, dan masa berlaku.
• Endpoint yang tersedia dan batas output — Melihat daftar endpoint yang dapat dipanggil oleh akun langganan tersebut serta batas panjang output maksimum tiap model.
• Pelacakan kuota multi-jendela — Menampilkan secara visual persentase kuota terpakai / tersisa, apakah saat ini sudah habis, serta waktu reset kuota, membantu Anda mengalokasikan sumber daya langganan secara wajar.
• Kredensial kedaluwarsa terlihat — Ketika kredensial otorisasi akun langganan kedaluwarsa atau tidak valid, antarmuka akan menandainya dengan jelas dan mengingatkan Anda untuk mengotorisasi ulang.

Fitur Eksperimental

Penautan otorisasi OAuth untuk akun langganan saat ini adalah fitur eksperimental; penyedia yang didukung akan diperluas secara bertahap. Saat otorisasi, Anda perlu menyelesaikan alur OAuth penyedia di browser; token otorisasi hanya disimpan secara lokal.

Penyimpanan Data

• Data seperti konfigurasi saluran, kunci virtual, dan statistik penggunaan dipelihara secara lokal oleh layanan backend gateway.
• Teks biasa kunci virtual hanya ditampilkan satu kali saat pembuatan (atau rotasi); setelah itu gateway hanya menyimpan awalan untuk identifikasi. Pastikan untuk segera menyalin dan menyimpannya saat dibuat.
• Saat melakukan pengambilalihan sekali klik untuk berbagai alat, gateway terlebih dahulu mencadangkan file konfigurasi asli alat target dengan akhiran .bak, lalu menulis konfigurasi yang mengarah ke gateway lokal, sehingga mudah dipulihkan kapan saja.

Alur Penggunaan Umum

1. Masuk ke akun ServBay, lalu buka Gateway AI.
2. Di halaman Saluran, tambahkan setidaknya satu saluran penyedia (seperti OpenAI atau DeepSeek), isi kunci API asli, dan uji konektivitasnya.
3. Di halaman Kunci Virtual, buat kunci virtual, batasi model / saluran dan laju yang tersedia sesuai kebutuhan.
4. Di halaman Endpoint, masukkan kunci virtual ke aplikasi Anda, atau di halaman yang sama lakukan Pengambilalihan Sekali Klik untuk alat pemrograman AI yang biasa Anda gunakan.
5. Di halaman Statistik dan Pemantauan, amati penggunaan, biaya, dan latensi, serta tetapkan anggaran jika perlu.

Kesimpulan

ServBay AI Gateway menyatukan kondisi pengembangan AI yang terfragmentasi dengan 'banyak penyedia, banyak kunci, banyak alat' menjadi 'satu pintu masuk lokal, satu set kunci virtual, satu tampilan penggunaan'. Ini memungkinkan Anda mengelola kemampuan AI secara terpusat dengan aman di lingkungan lokal, menguasai biaya secara akurat, dan menghubungkan berbagai alat pemrograman AI ke gateway terpadu dengan biaya minimal. Ini adalah salah satu kemampuan inti ServBay untuk pengembangan AI-native.