Pengenalan kepada ServBay AI Gateway

ServBay AI Gateway ialah gerbang penyedia AI bersatu yang setempat terbina dalam ServBay. Ia menjalankan satu titik akhir proksi pada mesin anda, menyatukan permintaan yang dihantar kepada pelbagai penyedia model bahasa besar (OpenAI, Anthropic, DeepSeek, Tongyi Qianwen dan hampir 20 penyedia lain) ke dalam satu pintu masuk, membantu anda mengurus kunci secara berpusat, mengira penggunaan dan kos, serta mengarahkan alat pengaturcaraan AI seperti Claude Code, Codex dan lain-lain ke gerbang setempat dengan satu klik.

Dokumen ini menerangkan apa itu AI Gateway, masalah yang dapat diselesaikannya, serta seni bina keseluruhannya. Untuk langkah pengendalian khusus, sila rujuk:

• Mengurus Saluran — Tambah dan konfigurasi setiap penyedia
• Kunci Maya — Cipta, hadkan kebenaran, putar dan batalkan kunci
• Ambil Alih Alat Pengaturcaraan AI dengan Satu Klik — Arahkan CLI seperti Claude Code ke gerbang
• Statistik dan Pemantauan — Penggunaan, kos dan bajet
• Titik Akhir dan Pemboleh Ubah Persekitaran — Panggil gerbang dalam kod anda sendiri

Gambaran Keseluruhan

Dalam pembangunan AI harian, anda mungkin memegang kunci API daripada beberapa penyedia sekaligus, tersebar dalam fail konfigurasi projek dan alat yang berbeza, menyukarkan pengiraan perbelanjaan dan penukaran secara bersatu. ServBay AI Gateway menghimpunkan masalah-masalah ini ke satu tempat:

• Satu pintu masuk untuk pelbagai penyedia — Selepas mengkonfigurasi setiap saluran, semua permintaan dihantar melalui http://127.0.0.1:11580 secara setempat, aplikasi anda hanya perlu berdepan dengan satu alamat.
• Kunci maya menggantikan kunci sebenar — Gerbang mengeluarkan "kunci maya" untuk diberikan kepada aplikasi dan alat, manakala kunci API penyedia yang sebenar hanya disimpan di sisi gerbang, tidak lagi bertaburan di merata tempat. Kunci maya boleh dihadkan kebenarannya, diputar dan dibatalkan pada bila-bila masa.
• Pandangan penggunaan dan kos yang bersatu — Semua permintaan yang melalui gerbang akan direkodkan. Gerbang menyediakan statistik bilangan permintaan, penggunaan Token, kos, kependaman, penggunaan multimodal dan lain-lain, serta menyokong pengurusan bajet.
• Ambil alih alat pengaturcaraan AI utama dengan satu klik — Tanpa perlu mengubah fail konfigurasi secara manual, gerbang boleh mengarahkan alat seperti Claude Code, Codex, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush dan lain-lain ke gerbang setempat dengan satu klik.
• Penjejakan akaun langganan dan kuota — Menyokong pengikatan akaun penyedia berlangganan (seperti kebenaran OAuth Claude Pro / Max), memaparkan maklumat pakej, titik akhir tersedia, had panjang output secara visual dalam gerbang, serta menjejak kuota berbilang tetingkap secara masa nyata (peratusan telah guna / baki, status kuota habis, masa set semula), membolehkan anda mengetahui baki langganan pada bila-bila masa.
• Pengesanan keupayaan saluran dan penghalaan pintar — Semasa menambah saluran, gerbang secara automatik mengesan keupayaan penyedia (jenis kebenaran OAuth / jenis pakej pengaturcaraan / jenis model berperingkat). Selepas pengesahan, ia menulis pemetaan gerbang tiga peringkat secara automatik berdasarkan hasil pengesanan, tanpa perlu meneka keserasian model secara manual.

Seni Bina dan Port

AI Gateway terdiri daripada dua perkhidmatan setempat, kedua-duanya hanya mendengar alamat gelung balik (127.0.0.1):

Port	Kegunaan	Keterangan
11580	Port proksi	Pintu masuk bersatu untuk aplikasi. Kod anda dan alat AI yang diambil alih menghantar permintaan ke sini, dan gerbang menghalakan permintaan ke saluran penyedia yang sepadan mengikut kebenaran kunci maya.
11581	Port pengurusan	Digunakan oleh aplikasi ServBay secara dalaman untuk mengurus saluran, kunci dan data statistik, biasanya tidak perlu diakses secara langsung.

Port proksi turut menyediakan titik akhir dalam pelbagai format serasi (serasi OpenAI, serasi Anthropic, serasi Gemini), sila rujuk Titik Akhir dan Pemboleh Ubah Persekitaran.

Saluran Penyedia yang Disokong

AI Gateway dilengkapi dengan hampir 20 pratetap penyedia, dikelaskan mengikut kategori, boleh dipilih terus semasa menambah saluran:

• Utama (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• China (China): DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi (Moonshot AI), Doubao·Volcano, ERNIE Bot, Hunyuan, MiniMax, 01.AI, StepFun. Antaranya, Tongyi Qianwen, Zhipu GLM, Kimi, Doubao·Volcano, Hunyuan, MiniMax, StepFun dan lain-lain menyokong penukaran titik akhir dua wilayah domestik / global.
• Setempat (Local): Ollama (lalai 127.0.0.1:11434), LM Studio (lalai 127.0.0.1:1234).
• Tersuai (Custom): OpenAI Compatible (sebarang perkhidmatan serasi OpenAI), Custom (kustom sepenuhnya).

Untuk aliran penuh penambahan dan konfigurasi, sila rujuk Mengurus Saluran.

Prasyarat

• ServBay telah dipasang dan dijalankan pada macOS atau Windows.
• AI Gateway ialah ciri tambah nilai ServBay, anda perlu log masuk akaun ServBay terlebih dahulu sebelum menambah saluran / kunci. Jika belum log masuk, antara muka akan membimbing anda menyelesaikan proses log masuk.

TIP

AI Gateway mempunyai fungsi yang sama pada ServBay for macOS dan ServBay for Windows. Port proksi (11580), port pengurusan (11581) serta laluan fail konfigurasi alat yang diambil alih adalah sama. Jika terdapat perbezaan antara platform, dokumen ini akan menyatakannya secara berasingan.

Akaun dan Pakej

Sebahagian keupayaan AI Gateway berkait dengan pakej akaun ServBay:

• Had bilangan saluran / kunci — Pakej percuma dan berbayar mempunyai bilangan saluran dan kunci maya yang boleh dicipta berbeza. Apabila mencapai had, antara muka akan mengingatkan anda untuk naik taraf.
• Pengurusan kuota dan bajet — Had berasaskan kuota (Token / bilangan permintaan / jumlah wang) dan papan pemuka bajet ialah keupayaan VIP / berbayar. Apabila tidak melanggan, kawasan berkenaan akan dikunci dan mengingatkan anda untuk naik taraf.

Untuk maklumat lanjut mengenai pakej, sila rujuk ServBay Pro dan ServBay Team.

Akaun Langganan dan Penjejakan Kuota

AI Gateway menyokong pengikatan akaun penyedia berlangganan (seperti Claude Pro / Max yang disambung melalui kebenaran OAuth), membolehkan anda melihat dan mengurus sumber langganan ini terus dalam gerbang setempat, tanpa perlu log masuk ke konsol web setiap penyedia.

Apa yang Boleh Dilakukan dengan Akaun Langganan

• Maklumat pakej jelas sekilas pandang — Memaparkan nama pakej langganan, struktur pengebilan dan tempoh sah.
• Titik akhir tersedia dan had output — Melihat senarai titik akhir yang boleh dipanggil oleh akaun langganan tersebut serta had panjang output maksimum setiap model.
• Penjejakan kuota berbilang tetingkap — Memaparkan secara visual peratusan kuota telah guna / baki, sama ada telah habis pada masa ini, serta masa set semula kuota, membantu anda mengagihkan sumber langganan dengan wajar.
• Kredensial tidak sah kelihatan — Apabila kredensial kebenaran akaun langganan tamat tempoh atau tidak sah, antara muka akan menandakannya dengan jelas, mengingatkan anda untuk memberikan kebenaran semula.

Ciri Eksperimen

Penyambungan kebenaran OAuth untuk akaun langganan kini merupakan ciri eksperimen, penyedia yang disokong akan dikembangkan secara berperingkat. Semasa memberi kebenaran, anda perlu melengkapkan proses OAuth penyedia dalam pelayar, token kebenaran hanya disimpan secara setempat.

Penyimpanan Data

• Konfigurasi saluran, kunci maya, statistik penggunaan dan data lain dikekalkan secara setempat oleh perkhidmatan bahagian belakang gerbang.
• Teks biasa kunci maya hanya dipaparkan sekali sahaja semasa penciptaan (atau putaran), selepas itu gerbang hanya menyimpan awalan untuk tujuan pengenalan. Pastikan anda salin dan simpannya dengan segera semasa mencipta.
• Semasa mengambil alih pelbagai alat dengan satu klik, gerbang akan membuat sandaran fail konfigurasi asal alat sasaran dengan sambungan .bak terlebih dahulu, kemudian menulis konfigurasi yang menghala ke gerbang setempat, memudahkan pemulihan pada bila-bila masa.

Aliran Penggunaan Biasa

1. Log masuk akaun ServBay, masuk ke AI Gateway.
2. Di halaman Saluran, tambah sekurang-kurangnya satu saluran penyedia (seperti OpenAI atau DeepSeek), masukkan kunci API sebenar dan uji kesambungannya.
3. Di halaman Kunci Maya, cipta satu kunci maya, hadkan model / saluran yang boleh digunakan serta kadar mengikut keperluan.
4. Di halaman Titik Akhir, masukkan kunci maya ke dalam aplikasi anda, atau di halaman yang sama Ambil Alih dengan Satu Klik alat pengaturcaraan AI yang biasa anda gunakan.
5. Di halaman Statistik dan Pemantauan, perhatikan penggunaan, kos dan kependaman, tetapkan bajet jika perlu.

Kesimpulan

ServBay AI Gateway menghimpunkan keadaan pembangunan AI yang berselerak dengan "pelbagai penyedia, pelbagai kunci, pelbagai alat" menjadi "satu pintu masuk setempat, satu set kunci maya, satu pandangan penggunaan". Ia membolehkan anda mengurus keupayaan AI secara berpusat dengan selamat di peringkat setempat, menguasai kos dengan tepat, serta menyambungkan pelbagai alat pengaturcaraan AI ke gerbang bersatu dengan kos yang minimum. Ia merupakan salah satu keupayaan teras ServBay yang berorientasikan pembangunan AI-native.