Pengurusan Saluran di Gerbang AI

"Saluran (Channel)" ialah konfigurasi titik akses pembekal dalam Gerbang AI—ia menyimpan alamat pembekal, API Key sebenar, senarai model yang tersedia, penetapan harga, had dan maklumat lain. Gerbang AI merujuk kepada saluran-saluran ini untuk merutekan permintaan aplikasi kepada pembekal yang betul. Dokumen ini menerangkan cara menambah, mengkonfigurasi, menguji dan mengurus saluran.

Prasyarat

• ServBay telah dipasang, berjalan dan anda sudah log masuk ke akaun ServBay (anda perlu log masuk sebelum dapat menambah saluran).
• API Key sebenar dari pembekal yang ingin dihubungkan telah sedia (pembekal tempatan seperti Ollama / LM Studio boleh dibiarkan kosong).
• Jika anda belum memahami struktur Gerbang AI secara menyeluruh, disyorkan membaca dahulu Pengenalan Gerbang AI.

Menambah Saluran

Pergi ke AI Gateway → Saluran (Channels) dan klik Tambah (Add) untuk membuka wizard. Wizard ini terdiri dari tiga langkah.

Langkah 1: Pilih Pembekal

Pembekal dipaparkan mengikut kategori, klik pada kad untuk memilih:

• Arus Perdana (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• China: DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi, Doubao Volcengine, Wenxin Yiyan, Hunyuan, MiniMax, Zero One, StepStar.
• Tempatan (Local): Ollama, LM Studio.
• Tersuai (Custom): OpenAI Compatible, Custom.

Selepas memilih pembekal, gerbang akan mengisi Base URL lalai pembekal secara automatik.

Dwi-Rantau

Beberapa pembekal China seperti Tongyi Qianwen, Zhipu GLM, Kimi, Doubao Volcengine, Hunyuan, MiniMax, StepStar menawarkan dua set endpoint: China dan Global. Jika anda memilih pembekal ini, penukar "rantau" (🇨🇳 China / 🌐 Global) akan muncul. Menukar rantau akan mengemas kini Base URL secara automatik kepada alamat yang berkaitan.

Langkah 2: Isi Konfigurasi

• Nama Saluran (wajib) — untuk mengenali saluran dalam senarai, boleh dilaraskan.
• Base URL (wajib) — alamat API pembekal. Kebanyakan pembekal telah diisi secara automatik; Azure OpenAI dan Custom memerlukan input manual.
• API Key (opsyenal) — kunci sebenar pembekal. Jika dibiarkan kosong, anda hanya boleh menguji kesambungan endpoint, bukan kesahan kunci; pembekal tempatan (Ollama / LM Studio) biasanya tidak memerlukan.
• Model — dua kaedah, pilih satu:
  • Penemuan Automatik: Klik 'discover', gerbang akan mendapatkan senarai model daripada API pembekal dan anda boleh pilih beberapa secara tag (chip).
  • Isi Manual: Masukkan nama model secara terus. Untuk Azure, sila isi Nama Penempatan (Deployment name), bukan nama model.
• Keutamaan / Berat — Jika beberapa saluran boleh melayani model sama, gerbang akan memanfaatkan nilai ini untuk keutamaan routing dan agihan beban.

Perhatian Azure OpenAI

Untuk Azure, medan "Model" perlu diisi dengan Deployment Name yang anda cipta dalam portal Azure, bukan nama model asas. Base URL juga mesti diisi dengan endpoint sumber Azure anda.

Langkah 3: Sahkan dan Hantar

Semak ringkasan konfigurasi dan hantar. Jika berjaya, saluran baharu akan muncul dalam senarai dan menunjukkan status kesihatan secara masa nyata.

Ujian Kesambungan

Dalam senarai saluran, anda boleh menjalankan ujian kesambungan untuk setiap saluran. Ujian ini melibatkan dua aspek:

• Kebolehcapaian Endpoint (reachable) — Periksa jika Base URL dapat dicapai (jaringan/alamat betul).
• Sah Kunci (authenticated) — Cuba panggil API sebenar untuk mengesahkan kesahan API Key. Hanya diuji jika API Key diisi.

Hasil ujian menunjukkan: masa pendam pergerakan (ms), ikon status, dan mesej ralat.

TIP

Semasa wizard penambahan, jika endpoint tidak boleh dicapai, anda tidak boleh meneruskan ke langkah seterusnya. Jika endpoint boleh dicapai tetapi API Key tidak sah, hanya amaran akan dipaparkan—anda masih boleh meneruskan (contohnya jika anda ingin menambah kunci selepas itu).

Konfigurasi Lanjutan

Semasa menambah atau mengedit saluran, anda boleh meluaskan pilihan konfigurasi lanjutan untuk pengurusan kos dan had kuota:

• Kadar Pengganda (Rate Multiplier) — Darab harga rasmi pembekal bagi pengiraan kos sebenar atau harga jual semula, lalai 1.0.
• Struktur Penagihan — Terangkan mod penagihan, contohnya bayar ikut penggunaan (pay as you go), langganan (subscription), pakej.
• Baki — Sumber baki boleh dipilih sebagai nilai tetap, bil OSS, atau dikemaskini secara manual; untuk OSS, anda juga boleh memilih jenis bil. Baki dan masa kemaskini dipaparkan dalam mod read-only dalam maklumat saluran.
• Masa Tamat Langganan — Saluran jenis langganan/pakej boleh merekod masa tamat.
• Had Kuota (VIP) — Boleh letak had berdasarkan jumlah Token, jumlah permintaan atau nilai wang sesuai dengan kitaran (harian / mingguan / bulanan / tersuai), dan anda boleh mengaktifkan "benarkan drift" untuk toleransi lebih. Had kuota adalah ciri premium berbayar.

Edit & Padam Saluran

• Edit — Buka mana-mana saluran dalam senarai untuk mengubah nama, Base URL, API Key, model serta konfigurasi lanjutan.
• Padam — Selepas padam saluran, semua Kunci Maya yang bergantung padanya tidak lagi boleh dirutekan ke saluran tersebut. Sila berhati-hati.

Status Kesihatan

Senarai saluran dan laman statistik akan menunjukkan status kesihatan saluran (Normal / Degraded / Tidak Boleh Digunakan) secara masa nyata, memudahkan anda mengenal pasti konfigurasi pembekal yang gagal dengan cepat.

Soalan Lazim (FAQ)

• S: Mengapa perlu log masuk semasa menambah saluran?
  • J: Gerbang AI ialah fungsi tambahan untuk pengguna ServBay. Anda mesti log masuk akaun untuk menambah saluran atau kunci. Sila ikut arahan pada skrin untuk log masuk.
• S: Kenapa dikatakan had saluran telah maksimum?
  • J: Bilangan saluran yang boleh dicipta bergantung kepada pelan ServBay akaun anda. Jika had dicapai, padam saluran tidak digunakan atau naik taraf pelan anda.
• S: Kenapa senarai model tidak muncul semasa penemuan automatik?
  • J: Pastikan Base URL dan API Key yang digunakan betul (boleh semak dengan ujian kesahihan API Key di ujian kesambungan). Sebahagian pembekal hanya benarkan senarai model dikembalikan dengan API Key yang sah. Anda juga boleh masukkan nama model secara manual.
• S: Perlukah isi Key untuk integrasi Ollama / LM Studio tempatan?
  • J: Biasanya tidak perlu. Pastikan perkhidmatan tempatan bersambung dan mendengar pada port lalai (Ollama 11434, LM Studio 1234).

Ringkasan

Saluran ialah asas perutean permintaan di Gerbang AI. Dengan wizard tiga langkah, anda boleh integrasi hampir 20 pembekal dengan pantas—dwi-rantau, penemuan model automatik dan ujian kesambungan dua dimensi memastikan konfigurasi tepat. Fungsi lanjutan untuk penetapan harga dan had memberikan kawalan penuh kos. Selepas konfigurasi, anda boleh mencipta Kunci Maya untuk aplikasi dan alat anda.