AI Gateway'de Kanal Yönetimi

"Kanal (Channel)", AI Gateway'de bir tedarikçi erişim noktası yapılandırmasıdır—bu, belirli bir tedarikçinin adresini, gerçek API Anahtarı'nı, kullanılabilir modelleri, fiyatlandırma ve kota bilgilerini barındırır. Gateway, bu kanallar üzerinden uygulamanızdan gelen istekleri ilgili tedarikçilere yönlendirir. Bu makalede, bir kanalın nasıl ekleneceği, yapılandırılacağı, test edileceği ve yönetileceği anlatılmaktadır.

Ön Koşullar

• ServBay’in yüklenmiş ve çalışır durumda olması, ayrıca ServBay hesabınıza oturum açmış olmanız gerekir (kanal eklemeden önce giriş yapmalısınız).
• Bağlanmak istediğiniz tedarikçinin gerçek API anahtarının hazır olması gerekir (yerel tedarikçiler—Ollama / LM Studio—için gerekmez).
• Eğer AI Gateway’in genel mimarisiyle ilgili bilginiz yoksa, önce AI Gateway'e Giriş dökümanını okumanız önerilir.

Kanal Ekleme

AI Gateway → Kanallar (Channels) sayfasına gidip, Ekle (Add) butonuna tıklayarak sihirbazı başlatın. Sihirbaz üç adımdan oluşur.

Birinci Adım: Tedarikçi Seçimi

Tedarikçiler, türlerine göre gruplandırılmış olarak gösterilir; bir karta tıklayarak seçim yapabilirsiniz:

• Ana Akım (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• Çin (China): DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi, Doubao·Volcano, Wenxin Yiyan, Hunyuan, MiniMax, 01.AI, StepStar.
• Yerel (Local): Ollama, LM Studio.
• Özel (Custom): OpenAI Compatible, Custom.

Tedarikçiyi seçtikten sonra, Gateway bu tedarikçinin varsayılan Base URL'sini otomatik olarak dolduracaktır.

Çift Bölge Geçişi

Tongyi Qianwen, Zhipu GLM, Kimi, Doubao·Volcano, Hunyuan, MiniMax, StepStar gibi Çinli tedarikçiler aynı anda yurt içi ve küresel olmak üzere iki uç nokta sağlar. Bu tedarikçiler seçildiğinde, sihirbazda "Bölge" seçici (🇨🇳 Yurt İçi / 🌐 Küresel) görünür; geçiş yapıldığında Base URL ilgili bölge adresine güncellenir.

İkinci Adım: Yapılandırma Formunu Doldurun

• Kanal Adı (Zorunlu) — Kanalı listede tanımlamak için özelleştirilebilir bir isim.
• Base URL (Zorunlu) — Tedarikçi API adresi. Çoğu tedarikçi için otomatik gelir; Azure OpenAI ve Custom için manuel olarak girilmeli.
• API Anahtarı (İsteğe Bağlı) — Tedarikçinin gerçek anahtarı. Boş bırakılırsa sadece uç noktanın erişilebilirliği test edilir, anahtar doğrulanmaz; yerel tedarikçiler (Ollama / LM Studio) için genellikle gerekmez.
• Modeller — İki yöntemden biri seçilmelidir:
  • Otomatik Keşif: Keşfet'e tıklandığında Gateway, tedarikçinin modellerini alıp çoklu seçim için etiketlerle (chip) sunar.
  • Manuel Giriş: Model adları doğrudan girilir. Azure kanalında, model adı yerine Dağıtım Adı (Deployment name) girilmelidir.
• Öncelik / Ağırlık — Aynı model için birden fazla kanal uygunsa, Gateway yönlendirme ve yük dağılımı için bunu kullanır.

Azure OpenAI Dikkat

Azure kanalındaki "Modeller" alanına, Azure Portalında oluşturduğunuz Dağıtım Adı (Deployment name) girilmelidir; model adı değil. Base URL de kendi Azure kaynak uç noktanız olmalıdır.

Üçüncü Adım: Onay ve Gönderme

Yapılandırma özetini kontrol ettikten sonra gönderin. Başarılı gönderimde, yeni kanal listede görünür ve sağlığı anlık olarak izlenir.

Bağlantı Testi

Kanal listesinde her bir kanal için bağlantı testi gerçekleştirebilirsiniz. İki ana başlıkta değerlendirilir:

• Uç Nokta Erişilebilirliği (reachable) — Base URL'nizin ağa ve adrese erişimine bakılır.
• Anahtar Geçerliliği (authenticated) — Tedarikçi API'si ile gerçek bağlantı kurularak API anahtarı doğrulanır. Yalnızca API anahtarı girildiyse doğrulama yapılır.

Test sonuçları: Gidiş-dönüş gecikmesi (milisaniye), durum simgesi ve hata bilgisini gösterir.

TIP

Ekleme sihirbazında, uç nokta erişilemezse sonraki adıma geçemezsiniz; eğer uç nokta erişiliyorsa fakat anahtar geçersizse, yalnızca uyarı yapılır ve devam edebilirsiniz (örneğin, anahtarı daha sonra eklemeyi planlıyorsanız).

Gelişmiş Yapılandırma

Kanal eklerken ya da düzenlerken, maliyet kontrolü ve kota yönetimi için gelişmiş ayarları açabilirsiniz:

• Fiyatlandırma Katsayısı (Rate Multiplier) — Tedarikçi fiyatına çarpan uygulanır. Gerçek maliyet ve satış fiyatınızı kolayca ayarlamanıza yarar, varsayılan 1.0.
• Fiyatlandırma Yapısı — Kanalın ödeme modelini belirtir; kullanım bazlı ödeme (pay as you go), abonelik (subscription) veya paket (package) olabilir.
• Bakiye — Kaynak olarak sabit değer, OSS faturası ya da manuel giriş seçilebilir; OSS faturası seçildiğinde fatura türü belirlenebilir. Bakiye ve güncelleme zamanı detayda salt okunur olarak gösterilir.
• Abonelik Bitiş Tarihi — Abonelik / paket tipi kanallar için geçerlilik süresi girilebilir.
• Kota Sınırı (VIP) — Token sayısı, istek sayısı veya tutara göre üst sınır ve günlük/haftalık/aylık/özel dönem seçilebilir; "Şaşmaya İzin Ver" ile biraz fazla kullanım toleransı tanıyabilirsiniz. Kota sınırı, ücretli bir özelliktir.

Kanalı Düzenleme ve Silme

• Düzenle — Kanal listesinden istediğiniz kanalı açıp isim, Base URL, API anahtarı, model ve gelişmiş ayarları değiştirebilirsiniz.
• Sil — Kanal silindiğinde, ona bağlı sanal anahtarlar artık o kanala yönlendirilmez. Silmeden önce dikkatli olun.

Sağlık Durumu

Kanal listesi ve Genel Bakış Sayfası, her kanalın gerçek zamanlı sağlık durumunu (Normal / Azalmış / Kullanılamaz) gösterir; böylece çalışmayan tedarikçi yapılandırmalarını hızlıca fark edebilirsiniz.

Sıkça Sorulan Sorular (SSS)

• S: Kanal eklerken oturum açmak gerektiği uyarısı mı çıkıyor?
  • C: AI Gateway, ServBay’in ek bir özelliğidir ve kanal/anahtar eklemeden önce ServBay hesabına giriş gerektirir. Ekrandaki adımları takip ederek giriş yapabilirsiniz.
• S: Kanal sayısı sınırına ulaşıldı mı uyarısı çıkıyor?
  • C: Ekleyebileceğiniz kanal sayısı planınıza bağlıdır; sınırı aştığınızda kullanılmayan kanalları silebilir veya paketinizi yükseltebilirsiniz.
• S: Model otomatik keşfiyle liste alınamıyor mu?
  • C: Öncelikle Base URL’nin doğru, API anahtarının geçerli olduğundan emin olun (anahtar geçerlilik testiyle doğrulanabilir). Bazı tedarikçiler, modelleri göstermek için geçerli anahtar ister; gerekirse model isimlerini el ile de girebilirsiniz.
• S: Yerel Ollama / LM Studio için anahtar girmek şart mı?
  • C: Genellikle gerekmez. İlgili yerel servis çalışıyor ve varsayılan portu dinliyorsa yeterlidir (Ollama için 11434, LM Studio için 1234).

Özet

Kanal, AI Gateway'de isteklerin doğru tedarikçiye yönlendirilmesi için temel yapı taşıdır. Üç adımlı sihirbaz ile 20’ye yakın tedarikçiye hızla bağlanabilir, çift bölge geçişi, model otomatik keşfi ve iki düzeyde bağlantı testiyle yapılandırmanın doğru olduğundan emin olabilirsiniz. Fiyatlandırma ve kota gibi gelişmiş özelliklerle maliyet yönetimini optimize edebilirsiniz. Kanallarınızı yapılandırdıktan sonra, uygulamalar ve araçlar için sanal anahtarlar oluşturabilirsiniz.