Mengurus Saluran dalam Gerbang AI
「Saluran (Channel)」ialah konfigurasi titik akses pembekal dalam Gerbang AI—ia menyimpan alamat pembekal, API Key sebenar, model tersedia serta maklumat penetapan harga dan kuota. Gerbang inilah yang menggunakan saluran ini untuk menghalakan permintaan daripada aplikasi kepada pembekal yang berkenaan. Artikel ini menerangkan cara menambah, mengkonfigurasi, menguji dan mengurus saluran.
Prasyarat
- ServBay telah dipasang dan sedang berjalan, dan anda telah log masuk ke akaun ServBay (log masuk diperlukan sebelum menambah saluran).
- API Key sebenar pembekal sasaran telah disediakan (pembekal tempatan seperti Ollama / LM Studio boleh dibiarkan kosong).
- Jika anda belum memahami seni bina keseluruhan Gerbang AI, disyorkan baca Pengenalan Gerbang AI terlebih dahulu.
Menambah Saluran
Pergi ke halaman Gerbang AI → Saluran (Channels), klik Tambah (Add) untuk membuka wizard. Wizard terbahagi kepada tiga langkah.
Langkah 1: Pilih Pembekal
Pembekal dipaparkan dalam kumpulan mengikut kategori; klik kad untuk memilih:
- Arus Perdana (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
- China: DeepSeek, Qwen, Zhipu GLM, Kimi, Doubao·Volcano, ERNIE Bot, Hunyuan, MiniMax, 01.AI, StepFun.
- Tempatan (Local): Ollama, LM Studio.
- Tersuai (Custom): OpenAI Compatible, Custom.
Selepas memilih pembekal, gerbang akan mengisi Base URL lalai pembekal tersebut secara automatik.
Penukaran dua wilayah
Pembekal China seperti Qwen, Zhipu GLM, Kimi, Doubao·Volcano, Hunyuan, MiniMax, StepFun menyediakan dua set titik akhir: Domestik dan Global. Apabila memilih pembekal sedemikian, pemilih "Wilayah" (🇨🇳 Domestik / 🌐 Global) akan muncul dalam wizard; selepas ditukar, Base URL akan dikemas kini secara automatik kepada alamat wilayah yang sepadan.
Langkah 2: Isi Konfigurasi
- Nama saluran (wajib) — Digunakan untuk mengenal pasti saluran dalam senarai; boleh disesuaikan.
- Base URL (wajib) — Alamat API pembekal. Kebanyakan pembekal diisi secara automatik; Azure OpenAI dan Custom perlu diisi secara manual.
- API Key (pilihan) — Kunci sebenar pembekal. Jika dibiarkan kosong, anda hanya boleh menguji sama ada titik akhir boleh dicapai, tetapi tidak boleh mengesahkan kesahihan kunci; pembekal tempatan (Ollama / LM Studio) biasanya tidak memerlukan pengisian.
- Model — Terdapat dua cara, pilih salah satu:
- Penemuan automatik: Selepas klik butang penemuan, gerbang akan memanggil API senarai model pembekal untuk mendapatkan model yang tersedia, dan anda boleh memilih berbilang model dalam bentuk cip.
- Isi manual: Masukkan nama model secara terus. Saluran Azure perlu diisi dengan nama deployment (Deployment name), bukan nama model.
- Keutamaan / Pemberat — Apabila berbilang saluran boleh melayani model yang sama, gerbang menggunakannya untuk menentukan penghalaan dan pengagihan beban.
Perhatian Azure OpenAI
Medan "Model" bagi saluran Azure hendaklah diisi dengan nama deployment (Deployment name) yang anda cipta dalam portal Azure, bukan nama model asas. Base URL juga perlu diisi dengan titik akhir sumber Azure anda.
Langkah 3: Sahkan dan Hantar
Semak ringkasan konfigurasi kemudian hantar. Selepas berjaya dihantar, saluran baharu akan muncul dalam senarai saluran dan memaparkan status kesihatan masa nyata.
Pemeriksaan Keupayaan dan Strategi Penghalaan
Selepas menambah saluran, gerbang akan menjalankan pemeriksaan keupayaan (capability probing) ke atas saluran tersebut—ini ialah mekanisme penghalaan pintar teras Gerbang AI. Hasil pemeriksaan menentukan sama ada alat seperti Claude Code boleh digunakan secara terus, atau perlu membina pemetaan model, serta cara memilih model sasaran.
Dua Petunjuk Utama Pemeriksaan
Gerbang memeriksa dua fakta teras bagi setiap saluran (kedua-duanya mempunyai tiga keadaan: true / false / belum diketahui):
| Item pemeriksaan | Maksud | true | false | Belum diketahui |
|---|---|---|---|---|
Menerima nama model Claude (accepts_claude_names) | Sama ada saluran secara asli mengenali nama model seperti claude-opus-* / claude-sonnet-* / claude-haiku-* | Sambungan terus boleh, tidak perlu pemetaan | Tidak menerima; mesti bina pemetaan untuk menterjemah nama claude-* kepada nama model sebenar huluan | Pemeriksaan tidak dijalankan atau gagal, tidak boleh membuat kesimpulan |
Membezakan mengikut tier (tier_aware) | Sama ada huluan sendiri mengembalikan model berbeza mengikut tier opus / sonnet / haiku | Huluan sudah membezakan tier; serahkan kepada huluan untuk diproses | Tidak membezakan tier (mengembalikan model yang sama untuk semua tier), gerbang perlu bina pemetaan | Tidak dapat dikesan atau belum pernah diperiksa |
Mengapa perlu memeriksa dan bukan meneka
Tingkah laku pembekal berbeza-beza. OpenAI secara asli tidak menerima nama model claude-*; sesetengah pembekal perantara mengenalinya melalui pemajuan; manakala pembekal jenis pakej pengekodan (seperti langganan Claude Pro/Max) mungkin hanya menerima nama model tertentu yang terikat pada langganan. Gerbang tidak meneka berdasarkan jenis saluran, sebaliknya memeriksa secara sebenar sebelum menentukan strategi penghalaan.
Penentuan Penghalaan: Lima Keadaan
Apabila anda melakukan "ambil alih satu klik" untuk Claude Code di AI Gateway → Pengurusan Akses → halaman Klien, gerbang akan menghimpunkan hasil pemeriksaan semua saluran calon dan menghasilkan satu penentuan penghalaan:
| Status saluran calon | Penentuan | Maksud |
|---|---|---|
| Tiada saluran calon tersedia (tiada saluran / semua tidak sihat / tiada saluran dalam skop kunci maya) | Tiada saluran calon | Anda perlu menambah atau membaiki saluran terlebih dahulu |
| Nilai pemeriksaan mana-mana saluran calon ialah belum diketahui | Belum diperiksa | Perlu menjalankan pemeriksaan sekali dahulu; pemetaan tidak boleh dibina tanpa pengesahan |
| Semua saluran calon menerima nama model claude | Sambungan terus | Tidak bina pemetaan, permintaan diteruskan seperti asal |
| Semua saluran calon tidak menerima nama model claude | Perlu pemetaan | Gerbang membina pemetaan tiga tier, menterjemah claude-* kepada nama model sebenar huluan |
| Ada calon yang menerima dan ada yang tidak menerima | Campuran | Perlu keputusan manual (yang menerima terus guna, yang tidak menerima guna pemetaan) |
Pemetaan Model: Menterjemah claude-* kepada Model Sebenar Huluan
Apabila penentuan ialah "perlu pemetaan", gerbang akan membina tiga peraturan pemetaan model untuk Claude Code, masing-masing meliputi tiga tier:
| Nama model yang dihantar oleh Claude Code | Peraturan pemetaan (wildcard) | Dipetakan kepada |
|---|---|---|
claude-opus-* | Padan semua permintaan tier opus | Model perdana dalam saluran calon |
claude-sonnet-* | Padan semua permintaan tier sonnet | Model perdana atau model standard dalam saluran calon |
claude-haiku-* | Padan semua permintaan tier haiku | Model ringan dalam saluran calon |
Peraturan pemilihan model sasaran (sandaran mengikut keutamaan):
- Pratetapan keluarga: Jika kata kunci keluarga yang diketahui (seperti
glm) muncul dalam model calon, ambil terus model perdana keluarga tersebut (sepertiglm-5.2) sebagai sasaran tier opus/sonnet, dan model ringan keluarga tersebut (sepertiglm-4.7-flash) sebagai sasaran tier haiku. - Padanan kata kunci: Jika tiada praset keluarga, opus/sonnet mengambil model pertama dalam senarai calon; haiku mengambil model pertama dalam calon yang sepadan dengan kata kunci ringan (
flash/mini/lite/air/small/turbo/haiku). - Pilihan akhir: Jika masih tidak menepati, ketiga-tiga tier mengambil model pertama dalam senarai calon.
Salah konfigurasi tier haiku paling mahal
Tier haiku Claude Code mempunyai jumlah panggilan terbesar (setiap panggilan ringan dalam perbualan menggunakannya). Jika model perdana tersalah diisi ke tier haiku, bil mungkin meningkat berkali ganda. Jadual padanan kata kunci gerbang merangkumi 7 akhiran ringan (flash / mini / lite / air / small / turbo / haiku) untuk memastikan model berat tidak diisi ke tier haiku.
Mekanisme Penulisan Pemetaan
Selepas pengambilalihan disahkan, gerbang menulis rekod pemetaan melalui API /admin/model-mappings. Setiap rekod pemetaan mengandungi:
- Protokol sumber (
source_protocol):anthropic(permintaan yang dihantar oleh Claude Code ialah format Anthropic) - Padanan model sumber (
source_model_pattern): wildcard, seperticlaude-opus-* - Protokol sasaran (
target_protocol):openai(diseragamkan kepada format OpenAI sebelum dihantar ke huluan) - Model sasaran (
target_model): nama model khusus yang dipilih melalui pemeriksaan
Penulisan adalah idempoten—pengambilalihan berulang tidak akan menghasilkan pemetaan bertindih; sebelum menulis, senarai pemetaan sedia ada akan diambil untuk perbandingan.
Peraturan Penghalaan Masa Jalan: failover dan Degradasi
Selain pemetaan statik yang ditulis semasa peringkat pengambilalihan, gerbang juga menyokong peraturan penghalaan masa jalan (routing rules), yang membuat keputusan secara dinamik apabila permintaan melalui gerbang:
| Medan peraturan | Fungsi |
|---|---|
Syarat pencetus (condition_type) | Bila degradasi dicetuskan, seperti kuota saluran habis (quota_exhausted) |
Ambang kos (cost_threshold_usd) | Pilihan: dicetuskan apabila kos terkumpul saluran tersebut melebihi ambang |
Tindakan (action_type) | Apa yang dilakukan selepas dicetuskan, seperti bertukar kepada saluran sandaran yang ditetapkan (switch_to) |
Saluran sasaran (target_channel_id) | Saluran sandaran untuk degradasi |
Model sasaran (target_model) | Pilihan: turut menukar model apabila degradasi ke saluran sandaran |
Dengan menggabungkan berbilang peraturan penghalaan, anda boleh melaksanakan: apabila kuota langganan saluran A habis, bertukar secara automatik ke titik akhir bayar ikut penggunaan saluran B; apabila kos 24 jam sesuatu saluran melebihi had, berdegradasi ke model yang lebih murah.
Pengimbangan Beban dan Keutamaan
Apabila berbilang saluran sihat boleh melayani model yang sama, gerbang memilih mengikut strategi berikut:
- Mod keutamaan (lalai): Hanya mengambil saluran dengan keutamaan tertinggi; dalam kalangan saluran berkeutamaan sama, gerbang mengagihkan mengikut pemberat dalaman.
- Mod pusingan gilir (
round_robin): Mengagihkan permintaan secara bergilir antara semua saluran calon yang sihat.
Keutamaan ditetapkan dalam konfigurasi saluran (semakin besar nombor, semakin tinggi keutamaan); allowed_channels pada kunci maya mengehadkan julat saluran yang boleh dipilih.
Ujian Ketersambungan
Dalam senarai saluran, anda boleh menjalankan ujian ketersambungan untuk satu saluran. Ujian terbahagi kepada dua dimensi:
- Kebolehcapaian titik akhir (reachable) — Memeriksa sama ada Base URL boleh disambung (sama ada rangkaian dan alamat betul).
- Kesahihan kunci (authenticated) — Memanggil antara muka pembekal secara sebenar untuk mengesahkan sama ada API Key sah. Hanya disahkan apabila API Key diisi.
Hasil ujian akan memaparkan: kependaman pergi balik (milisaat), lencana status dan mesej ralat.
TIP
Dalam wizard penambahan, jika titik akhir tidak boleh dicapai, anda akan dihalang daripada meneruskan ke langkah seterusnya; jika titik akhir boleh dicapai tetapi kunci tidak sah, hanya amaran diberikan dan anda masih boleh teruskan (contohnya jika anda bercadang menambah kunci kemudian).
Konfigurasi Lanjutan
Semasa menambah atau mengedit saluran, konfigurasi lanjutan boleh dibuka untuk pengiraan kos dan kawalan kuota:
- Pengganda kadar (Rate Multiplier) — Mendarabkan harga rasmi pembekal dengan satu pengganda, memudahkan pengiraan berdasarkan kos sebenar atau harga jualan semula anda; lalai
1.0. - Struktur pengebilan — Menerangkan cara pengebilan saluran, seperti bayar ikut penggunaan (pay as you go), langganan (subscription), pakej (package).
- Baki — Sumber baki boleh dipilih antara nilai tetap, bil OSS atau penyelenggaraan manual; apabila memilih bil OSS, jenis bil juga boleh ditentukan. Baki dan masa kemas kini dipaparkan secara baca sahaja dalam butiran saluran.
- Masa tamat langganan — Saluran jenis langganan / pakej boleh merekod masa tamat.
- Had kuota — Had boleh ditetapkan mengikut bilangan Token, bilangan permintaan atau jumlah wang, serta memilih kitaran (harian / mingguan / bulanan / tersuai). Selepas kuota habis, saluran tersebut akan dikecualikan secara automatik daripada pemilihan laluan; ini ialah injap keselamatan untuk mengelakkan lebihan perbelanjaan yang tidak dijangka.
Mengedit dan Memadam Saluran
- Edit — Buka saluran dalam senarai saluran untuk mengubah nama, Base URL, API Key, model dan konfigurasi lanjutan.
- Padam — Selepas saluran dipadam, kunci maya yang bergantung padanya tidak lagi boleh menghalakan kepadanya; sila berhati-hati.
Status Kesihatan
Senarai saluran dan halaman Gambaran Keseluruhan memaparkan status kesihatan setiap saluran (normal / degradasi / tidak tersedia) secara masa nyata, membantu anda menemui konfigurasi pembekal yang tidak berfungsi dengan pantas.
Soalan Lazim (FAQ)
- S: Semasa menambah saluran, diminta log masuk?
- J: Gerbang AI ialah ciri nilai tambah ServBay; sebelum menambah saluran / kunci, anda perlu log masuk ke akaun ServBay. Ikut panduan antara muka untuk log masuk.
- S: Dimaklumkan bilangan saluran telah mencapai had?
- J: Bilangan saluran yang boleh dicipta bergantung pada pakej akaun. Apabila mencapai had, anda boleh memadam saluran yang tidak digunakan atau menaik taraf pakej.
- S: Penemuan automatik model tidak dapat menarik senarai?
- J: Sila pastikan Base URL betul dan API Key sah (boleh disahkan dengan "Kesahihan kunci" dalam ujian ketersambungan); sesetengah pembekal memerlukan kunci yang sah untuk mengembalikan senarai model. Anda juga boleh menukar kepada mengisi nama model secara manual.
- S: Untuk menyambung Ollama / LM Studio tempatan, perlu isi Key?
- J: Biasanya tidak perlu. Pastikan perkhidmatan tempatan berkenaan telah dimulakan dan mendengar port lalai (Ollama
11434, LM Studio1234).
- J: Biasanya tidak perlu. Pastikan perkhidmatan tempatan berkenaan telah dimulakan dan mendengar port lalai (Ollama
Kesimpulan
Saluran ialah asas penghalaan permintaan dalam Gerbang AI. Melalui wizard tiga langkah, anda boleh menyambung hampir 20 pembekal dengan pantas, dibantu oleh penukaran dua wilayah, penemuan automatik model dan ujian ketersambungan dua dimensi untuk memastikan konfigurasi betul, kemudian menggunakan konfigurasi lanjutan seperti penetapan harga dan kuota untuk mengurus kos dengan lebih halus. Selepas saluran dikonfigurasikan, anda boleh mencipta kunci maya untuk digunakan oleh aplikasi dan alat.
