Pengenalan ServBay AI Gateway

ServBay AI Gateway adalah gerbang AI terpadu lokal yang terintegrasi di dalam ServBay. Layanan ini menjalankan endpoint proxy di komputer Anda, mengonsolidasikan permintaan ke hampir 20 penyedia model AI besar (seperti OpenAI, Anthropic, DeepSeek, Tongyi Qianwen, dan lainnya) menjadi satu pintu masuk. Dengan begitu, Anda dapat mengelola API key secara terpusat, memantau konsumsi dan biaya, serta mengarahkan berbagai alat pemrograman AI CLI (seperti Claude Code, Codex, Gemini CLI, dan lain-lain) ke gateway lokal hanya dengan satu klik.

Dokumen ini membahas apa itu AI Gateway, permasalahan yang diselesaikan, dan arsitektur umumnya. Untuk panduan lebih detail, silakan lihat:

• Manajemen Saluran — Menambah dan mengatur penyedia layanan
• Kunci Virtual — Membuat, membatasi, merotasi, dan mencabut kunci
• Integrasi Cepat Alat Pemrograman AI — Mengarahkan CLI seperti Claude Code ke gateway
• Statistik dan Pemantauan — Pengawasan penggunaan, biaya, dan anggaran
• Endpoint & Variabel Lingkungan — Mengakses gateway dari kode Anda sendiri

Gambaran Umum

Dalam pengembangan AI sehari-hari, sering kali Anda memiliki banyak API Key dari berbagai penyedia, tersebar di berbagai proyek maupun alat. Kondisi ini membuat pelacakan biaya dan pengelolaan menjadi sulit. ServBay AI Gateway hadir sebagai solusi terpadu untuk masalah tersebut:

• Satu Pintu Masuk untuk Banyak Penyedia — Setelah mengonfigurasi saluran, semua permintaan dialihkan melalui http://127.0.0.1:11580 yang berjalan di lokal. Aplikasi Anda hanya perlu berkomunikasi dengan satu alamat.
• Kunci Virtual Menggantikan Kunci Asli — Gateway menerbitkan “kunci virtual” yang digunakan aplikasi & alat, sementara API key asli penyedia disimpan aman di gateway. Kunci virtual bisa dibatasi, diganti, atau dicabut kapan saja.
• Visibilitas Penggunaan & Biaya yang Terpadu — Semua permintaan yang melewati gateway dicatat. Tersedia statistik terkait jumlah permintaan, penggunaan token, biaya, latensi, hingga pemakaian multimodal—plus dukungan fitur pengelolaan anggaran.
• Integrasi Cepat untuk Alat Pemrograman AI Populer — Tak perlu ubah file konfigurasi manual. Gateway memungkinkan satu klik mengarahkan Claude Code, Codex, Gemini CLI, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush, dan lainnya ke gateway lokal.

Arsitektur & Port

AI Gateway terdiri dari dua layanan lokal yang hanya mendengarkan alamat loopback (127.0.0.1):

Port	Fungsi	Penjelasan
11580	Port Proxy	Pintu masuk utama untuk aplikasi. Kode Anda dan alat AI yang terintegrasi mengirim permintaan ke sini, lalu gateway meneruskan sesuai izin kunci virtual ke penyedia terkait.
11581	Port Manajemen	Digunakan ServBay untuk manajemen saluran, kunci, dan data statistik. Umumnya tidak perlu diakses secara langsung.

Port proxy mendukung beberapa endpoint kompatibel (OpenAI, Anthropic, Gemini, dll). Detailnya lihat di Endpoint & Variabel Lingkungan.

Daftar Saluran Penyedia yang Didukung

AI Gateway telah menyediakan preset untuk hampir 20 penyedia, dikelompokkan berdasarkan kategori. Pilih sesuai kebutuhan saat menambah saluran:

• Mainstream: OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• China: DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi (Moonshot), Doubao·Volcano, Wenxin Yiyan, Hunyuan, MiniMax, Lingyi Wanwu, Step Star. Beberapa, seperti Tongyi Qianwen, Zhipu GLM, Kimi, Doubao·Volcano, Hunyuan, MiniMax, dan Step Star mendukung pergantian endpoint China/global.
• Lokal (Local): Ollama (default 127.0.0.1:11434), LM Studio (default 127.0.0.1:1234).
• Kustom: OpenAI Compatible (untuk service kompatibel), Custom (sepenuhnya kustom).

Untuk panduan lengkap penambahan & konfigurasi, lihat Manajemen Saluran.

Prasyarat

• Sudah menginstal dan menjalankan ServBay di macOS atau Windows.
• AI Gateway merupakan fitur premium ServBay, wajib login akun ServBay sebelum dapat menambahkan saluran/kunci. Jika belum login, akan muncul panduan otomatis di antarmuka.

TIP

Fitur AI Gateway pada ServBay for macOS dan ServBay for Windows sepenuhnya setara: port proxy (11580), port manajemen (11581), serta jalur file konfigurasi alat yang diintegrasikan adalah sama. Bila terdapat perbedaan platform, akan dijelaskan secara khusus di dokumentasi.

Akun & Paket Layanan

Beberapa kapabilitas AI Gateway berkaitan dengan jenis paket akun ServBay Anda:

• Kuota Saluran dan Kunci Virtual — Jumlah saluran dan kunci virtual yang bisa dibuat berbeda untuk paket gratis dan berbayar. Bila melebihi batas, Anda akan menerima notifikasi untuk upgrade.
• Pengelolaan Kuota & Anggaran — Fitur pembatasan kuota (token/permintaan/biaya) dan dashboard anggaran tersedia bagi pengguna VIP/berbayar. Jika belum berlangganan, fitur terkait akan terkunci dan muncul notifikasi upgrade.

Detail paket dapat dilihat di ServBay Pro dan ServBay Team.

Penyimpanan Data

• Data konfigurasi saluran, kunci virtual, serta statistik penggunaan semuanya dikelola lokal oleh layanan backend gateway.
• Kunci virtual hanya ditampilkan sekali dalam bentuk jelas saat pembuatan (atau rotasi). Setelah itu, gateway hanya menyimpan awalan sebagai identifikasi—pastikan untuk segera menyalin dan menyimpan saat dibuat.
• Saat melakukan integrasi alat pemrograman, gateway otomatis membackup file konfigurasi asli alat (dengan ekstensi .bak) sebelum menulis ulang pengaturan ke gateway lokal, sehingga mudah dikembalikan jika diperlukan.

Alur Penggunaan Tipikal

1. Login ke akun ServBay, masuk ke AI Gateway.
2. Di halaman Saluran, tambahkan setidaknya satu saluran penyedia (misal OpenAI atau DeepSeek), masukkan API Key asli, dan lakukan tes koneksi.
3. Di halaman Kunci Virtual, buat satu kunci virtual baru dan batasi model/saluran serta laju pemakaian sesuai kebutuhan.
4. Di halaman Endpoint, masukkan kunci virtual ke aplikasi Anda, atau pada sub-halaman Integrasi Cepat arahkan alat pemrograman AI favorit langsung ke gateway.
5. Di Statistik & Pemantauan, pantau penggunaan, biaya, dan latensi. Atur anggaran bila perlu.

Kesimpulan

ServBay AI Gateway memusatkan proses pengembangan AI yang semula terfragmentasi—dengan banyak penyedia, kunci, dan alat—menjadi satu pintu akses lokal, satu sistem kunci virtual, dan satu dashboard pemantauan penggunaan. Dengan solusi ini, Anda dapat mengelola kapabilitas AI secara aman dan terpusat, memantau biaya dengan akurat, dan menghubungkan berbagai alat pemrograman ke gateway terpadu dengan biaya minimal. Ini adalah fitur esensial ServBay untuk pengembangan AI-native di lingkungan lokal Anda.