AI Ağ Geçidinde Kanalları Yönetme
"Kanal (Channel)", AI ağ geçidinde bir sağlayıcı erişim noktasının yapılandırmasıdır — belirli bir sağlayıcının adresini, gerçek API Anahtarını, kullanılabilir modelleri ve fiyatlandırma ile kota bilgilerini saklar. Ağ geçidi, uygulamalardan gelen istekleri bu kanallara göre ilgili sağlayıcıya yönlendirir. Bu makalede kanalların nasıl ekleneceği, yapılandırılacağı, test edileceği ve yönetileceği anlatılmaktadır.
Ön Koşullar
- ServBay kurulu ve çalışıyor olmalı ve ServBay hesabınızda oturum açmış olmalısınız (kanal eklemeden önce oturum açmanız gerekir).
- Hedef sağlayıcının gerçek API Anahtarı hazır olmalı (Ollama / LM Studio gibi yerel sağlayıcılar için boş bırakılabilir).
- AI ağ geçidinin genel mimarisine aşina değilseniz, önce AI Ağ Geçidi Tanıtımı okumanız önerilir.
Kanal Ekleme
AI Ağ Geçidi → Kanallar (Channels) sayfasına gidin ve Ekle (Add) düğmesine tıklayarak sihirbazı açın. Sihirbaz üç adımdan oluşur.
Birinci Adım: Sağlayıcı Seçimi
Sağlayıcılar kategorilere göre gruplanmış olarak gösterilir; seçmek için karta tıklamanız yeterlidir:
- Ana Akım (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
- Çin (China): DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi, Doubao·Volcano, Wenxin Yiyan, Hunyuan, MiniMax, 01.AI, StepFun.
- Yerel (Local): Ollama, LM Studio.
- Özel (Custom): OpenAI Compatible, Custom.
Sağlayıcıyı seçtikten sonra ağ geçidi, o sağlayıcının varsayılan Base URL'sini otomatik olarak doldurur.
Çift bölge geçişi
Tongyi Qianwen, Zhipu GLM, Kimi, Doubao·Volcano, Hunyuan, MiniMax, StepFun gibi Çinli sağlayıcılar hem yurt içi hem de küresel olmak üzere iki uç nokta seti sunar. Bu tür sağlayıcıları seçtiğinizde sihirbazda bir "Bölge" seçici (🇨🇳 Yurt içi / 🌐 Küresel) görünür; geçiş yaptığınızda Base URL otomatik olarak ilgili bölge adresiyle güncellenir.
İkinci Adım: Yapılandırmayı Doldurma
- Kanal adı (zorunlu) — Kanallar listesinde bu kanalı tanımlamak için kullanılır, özelleştirilebilir.
- Base URL (zorunlu) — Sağlayıcı API adresi. Çoğu sağlayıcı için otomatik olarak doldurulur; Azure OpenAI ve Custom için manuel olarak doldurmanız gerekir.
- API Key (isteğe bağlı) — Sağlayıcının gerçek anahtarı. Boş bırakılırsa yalnızca uç noktanın erişilebilir olup olmadığı test edilebilir, anahtarın geçerliliği doğrulanamaz; yerel sağlayıcılar (Ollama / LM Studio) için genellikle doldurulması gerekmez.
- Model — İki yöntemden birini seçin:
- Otomatik keşif: Keşfet'e tıkladığınızda ağ geçidi, sağlayıcının model listesi API'sini çağırarak kullanılabilir modelleri alır ve bunları etiket (chip) biçiminde çoklu seçim yapabilirsiniz.
- Manuel giriş: Model adını doğrudan girin. Azure kanalları için model adı yerine dağıtım adı (Deployment name) girilmelidir.
- Öncelik / Ağırlık — Birden fazla kanal aynı modeli sunabildiğinde, ağ geçidi yönlendirme ve yük dağıtımına buna göre karar verir.
Azure OpenAI Uyarısı
Azure kanallarının "Model" alanına, Azure portalında oluşturduğunuz dağıtım adı (Deployment name) yazılmalıdır; temel model adı değil. Base URL alanına da Azure kaynak uç noktanızı girmelisiniz.
Üçüncü Adım: Onayla ve Gönder
Yapılandırma özetini kontrol ettikten sonra gönderin. Gönderim başarılı olduğunda yeni kanal, kanal listesinde görünür ve gerçek zamanlı sağlık durumunu gösterir.
Yetenek Algılama ve Yönlendirme Stratejisi
Kanal eklendikten sonra ağ geçidi bu kanal üzerinde yetenek algılama (capability probing) gerçekleştirir — bu, AI ağ geçidinin en temel akıllı yönlendirme mekanizmasıdır. Algılama sonucu, Claude Code gibi araçların doğrudan kullanılıp kullanılamayacağını, model eşlemesi oluşturulması gerekip gerekmediğini ve hedef modelin nasıl seçileceğini belirler.
Algılamanın İki Temel Göstergesi
Ağ geçidi her kanal için iki temel olguyu algılar (her ikisi de üç durumlu: true / false / belirsiz):
| Algılama öğesi | Anlamı | true | false | Belirsiz |
|---|---|---|---|---|
Claude model adlarını tanıma (accepts_claude_names) | Kanalın claude-opus-* / claude-sonnet-* / claude-haiku-* model adlarını doğal olarak tanıyıp tanımadığı | Doğrudan bağlanılabilir, eşleme gerekmez | Tanımıyor, claude-* adlarını üst kaynağın gerçek model adlarına çeviren bir eşleme oluşturulmalı | Algılama çalıştırılmadı veya başarısız oldu, sonuç çıkarılamaz |
Kademeye göre ayrım (tier_aware) | Üst kaynağın opus / sonnet / haiku kademelerine göre farklı model döndürüp döndürmediği | Üst kaynak zaten kademelendiriyor, üst kaynağa bırakılabilir | Kademelendirmiyor (tüm kademeler için aynı modeli döndürür), ağ geçidinin eşleme oluşturması gerekir | Algılanamıyor veya hiç algılanmadı |
Neden tahmin etmek yerine algılamalı?
Farklı sağlayıcıların davranışları büyük ölçüde farklılık gösterir. OpenAI, claude-* model adlarını doğal olarak tanımaz; bazı aracı sağlayıcılar yönlendirme yoluyla tanır; kodlama paketi türü sağlayıcılar (örneğin Claude Pro/Max abonelikleri) yalnızca aboneliğe bağlı belirli model adlarını tanıyabilir. Ağ geçidi kanal türüne göre tahmin yürütmez; gerçek algılamayı yaptıktan sonra yönlendirme stratejisine karar verir.
Yönlendirme Kararı: Beş Durum
AI Gateway → Erişim Yönetimi → İstemciler sayfasında Claude Code için "tek tıkla devralma" yaptığınızda, ağ geçidi tüm aday kanalların algılama sonuçlarını birleştirerek bir yönlendirme kararı üretir:
| Aday kanal durumu | Karar | Anlamı |
|---|---|---|
| Kullanılabilir aday kanal yok (kanal yok / tümü sağlıksız / sanal anahtar kapsamında kanal yok) | Aday kanal yok | Önce kanal eklemeniz veya onarmanız gerekir |
| Herhangi bir aday kanalın algılama değeri belirsiz | Algılanmadı | Önce bir algılama çalıştırılmalı; doğrulanmadan eşleme oluşturulamaz |
| Tüm aday kanallar claude model adlarını tanıyor | Doğrudan bağlantı | Eşleme oluşturulmaz, istekler olduğu gibi iletilir |
| Tüm aday kanallar claude model adlarını tanımıyor | Eşleme zorunlu | Ağ geçidi üç kademeli eşleme oluşturur ve claude-* adlarını üst kaynağın gerçek model adlarına çevirir |
| Adaylar arasında hem tanıyan hem tanımayan var | Karma | İnsan kararı gerekir (tanıyanlar doğrudan gider, tanımayanlar eşleme üzerinden gider) |
Model Eşlemesi: claude-* adlarını üst kaynağın gerçek modeline çevirme
Karar "Eşleme zorunlu" olduğunda, ağ geçidi Claude Code için üç kademeyi kapsayan üç model eşleme kuralı oluşturur:
| Claude Code'un gönderdiği model adı | Eşleme kuralı (joker karakter) | Eşlendiği yer |
|---|---|---|
claude-opus-* | Tüm opus kademesi isteklerini eşleştirir | Aday kanallardaki amiral gemisi model |
claude-sonnet-* | Tüm sonnet kademesi isteklerini eşleştirir | Aday kanallardaki amiral gemisi model veya standart model |
claude-haiku-* | Tüm haiku kademesi isteklerini eşleştirir | Aday kanallardaki hafif model |
Hedef model seçim kuralları (öncelik sırasına göre geri düşme):
- Aile ön ayarı: Aday modeller arasında bilinen bir aile anahtar sözcüğü (örneğin
glm) varsa, doğrudan o ailenin amiral gemisi sürümü (örneğinglm-5.2) opus/sonnet kademesi hedefi olarak, o ailenin hafif sürümü (örneğinglm-4.7-flash) ise haiku kademesi hedefi olarak alınır. - Anahtar sözcük eşleştirme: Aile ön ayarı yoksa, opus/sonnet için aday listesindeki ilk model alınır; haiku için adaylar arasından hafif anahtar sözcüklerle (
flash/mini/lite/air/small/turbo/haiku) eşleşen ilk model alınır. - Yedek: Hâlâ eşleşme yoksa, üç kademe için de aday listesindeki ilk model alınır.
haiku kademesini yanlış yapılandırmanın maliyeti en yüksektir
Claude Code'un haiku kademesi en çok çağrılan kademedir (her konuşmadaki hafif çağrılar bunu kullanır). Amiral gemisi model yanlışlıkla haiku kademesine yazılırsa fatura birkaç katına çıkabilir. Ağ geçidinin anahtar sözcük eşleme tablosu 7 hafif son eki (flash / mini / lite / air / small / turbo / haiku) kapsar; böylece haiku kademesine ağır bir modelin yazılması önlenir.
Eşlemenin Yazılma Mekanizması
Devralma onaylandıktan sonra ağ geçidi, eşleme kayıtlarını /admin/model-mappings API'si aracılığıyla yazar. Her eşleme kaydı şunları içerir:
- Kaynak protokolü (
source_protocol):anthropic(Claude Code'un gönderdiği istekler Anthropic biçimindedir) - Kaynak model eşleşmesi (
source_model_pattern): Joker karakter, örneğinclaude-opus-* - Hedef protokol (
target_protocol):openai(birleşik olarak OpenAI biçimine dönüştürülüp üst kaynağa gönderilir) - Hedef model (
target_model): Algılama ile seçilen belirli model adı
Yazma işlemi idempotenttir — devralmanın tekrarlanması yinelenen eşlemeler oluşturmaz; yazmadan önce mevcut eşleme listesi alınarak karşılaştırılır.
Çalışma Zamanı Yönlendirme Kuralları: failover ve düşürme
Devralma aşamasında yazılan statik eşlemelere ek olarak ağ geçidi, istekler ağ geçidinden geçerken dinamik karar veren çalışma zamanı yönlendirme kurallarını (routing rules) da destekler:
| Kural alanı | İşlevi |
|---|---|
Tetik koşulu (condition_type) | Düşürmenin ne zaman tetikleneceği, örneğin kanal kotasının tükenmesi (quota_exhausted) |
Maliyet eşiği (cost_threshold_usd) | İsteğe bağlı: Bu kanalın kümülatif maliyeti eşiği aştığında tetiklenir |
Eylem (action_type) | Tetiklendikten sonra ne yapılacağı, örneğin belirtilen yedek kanala geçme (switch_to) |
Hedef kanal (target_channel_id) | Düşürülecek yedek kanal |
Hedef model (target_model) | İsteğe bağlı: Yedek kanala düşürülürken modelin de değiştirilmesi |
Birden çok yönlendirme kuralını birleştirerek şunları yapabilirsiniz: Kanal A'nın abonelik kotası tükendiğinde otomatik olarak Kanal B'nin kullandıkça öde uç noktasına geçmek; bir kanalın 24 saatlik maliyeti sınırı aştığında daha ucuz bir modele düşürmek.
Yük Dengeleme ve Öncelik
Birden fazla sağlıklı kanal aynı modeli sunabildiğinde, ağ geçidi şu stratejiye göre seçim yapar:
- Öncelik modu (varsayılan): Yalnızca en yüksek öncelikli kanal alınır; aynı önceliğe sahip kanallar arasında ağ geçidi dahili ağırlığa göre dağıtım yapar.
- Döngüsel mod (
round_robin): Tüm sağlıklı aday kanallar arasında istekler sırayla dağıtılır.
Öncelik, kanal yapılandırmasında ayarlanır (sayı büyüdükçe öncelik artar); sanal anahtarın allowed_channels alanı, seçilebilecek kanal aralığını sınırlar.
Bağlantı Testi
Kanal listesinde tek bir kanal için bağlantı testi çalıştırabilirsiniz. Test iki boyuttan oluşur:
- Uç nokta erişilebilirliği (reachable) — Base URL'ye bağlanılıp bağlanılamadığını kontrol eder (ağ ve adresin doğru olup olmadığı).
- Anahtar geçerliliği (authenticated) — Sağlayıcı arayüzünü gerçekten çağırarak API Key'in geçerli olup olmadığını doğrular. Yalnızca API Key doldurulmuşsa doğrulanır.
Test sonuçları şunları gösterir: Gidiş-dönüş gecikmesi (milisaniye), durum rozeti ve hata mesajları.
TIP
Ekleme sihirbazında uç nokta erişilemezse bir sonraki adıma geçmeniz engellenir; uç nokta erişilebilir ancak anahtar geçersizse yalnızca bir uyarı verilir ve yine de devam edebilirsiniz (örneğin anahtarı daha sonra eklemeyi düşünüyorsanız).
Gelişmiş Yapılandırma
Kanal eklerken veya düzenlerken maliyet hesaplama ve kota kontrolü için gelişmiş yapılandırmayı açabilirsiniz:
- Fiyatlandırma çarpanı (Rate Multiplier) — Sağlayıcının resmi fiyatına bir çarpan uygulanır; gerçek maliyetinize veya yeniden satış fiyatınıza göre hesaplama yapmayı kolaylaştırır, varsayılan
1.0. - Faturalama yapısı — Bu kanalın faturalama biçimini belirtir; örneğin kullandıkça öde (pay as you go), abonelik (subscription), paket (package).
- Bakiye — Bakiye kaynağı sabit değer, OSS faturası veya manuel bakım olarak seçilebilir; OSS faturası seçildiğinde fatura türü de belirtilebilir. Bakiye ve güncelleme zamanı kanal ayrıntılarında salt okunur olarak gösterilir.
- Abonelik bitiş tarihi — Abonelik / paket türü kanallar için bitiş tarihi kaydedilebilir.
- Kota sınırı — Token sayısı, istek sayısı veya tutar üzerinden üst sınır belirlenebilir ve dönem seçilebilir (günlük / haftalık / aylık / özel). Kota tükendiğinde bu kanal otomatik olarak yönlendirme dışında bırakılır; bu, beklenmedik aşırı harcamayı önleyen bir emniyet supabıdır.
Kanalları Düzenleme ve Silme
- Düzenleme — Kanal listesinde bir kanalı açarak adını, Base URL'sini, API Key'ini, modelini ve gelişmiş yapılandırmasını değiştirebilirsiniz.
- Silme — Bir kanalı sildikten sonra, o kanala bağımlı sanal anahtarlar artık ona yönlendirme yapamaz; lütfen dikkatli işlem yapın.
Sağlık Durumu
Kanal listesi ve Genel Bakış sayfası, her kanalın sağlık durumunu (normal / düşürülmüş / kullanılamaz) gerçek zamanlı olarak göstererek geçersiz sağlayıcı yapılandırmalarını hızlıca bulmanıza yardımcı olur.
Sık Sorulan Sorular (SSS)
- S: Kanal eklerken oturum açmam gerektiği belirtiliyor?
- C: AI ağ geçidi ServBay'in katma değerli bir özelliğidir; kanal / anahtar eklemeden önce ServBay hesabınızda oturum açmanız gerekir. Arayüzdeki yönlendirmeleri takip ederek oturum açabilirsiniz.
- S: Kanal sayısının üst sınıra ulaştığı belirtiliyor?
- C: Oluşturulabilecek kanal sayısı hesap paketinize bağlıdır; üst sınıra ulaştığınızda kullanmadığınız kanalları silebilir veya paketinizi yükseltebilirsiniz.
- S: Otomatik model keşfi listeyi alamıyor?
- C: Önce Base URL'nin doğru, API Key'in geçerli olduğundan emin olun (bağlantı testindeki "Anahtar geçerliliği" ile doğrulayabilirsiniz); bazı sağlayıcılar model listesini yalnızca geçerli bir anahtarla döndürür. Alternatif olarak model adını manuel de girebilirsiniz.
- S: Yerel Ollama / LM Studio bağlantısı için Key gerekli mi?
- C: Genellikle gerekmez. İlgili yerel hizmetin başlatılmış ve varsayılan bağlantı noktasını dinliyor olması yeterlidir (Ollama
11434, LM Studio1234).
- C: Genellikle gerekmez. İlgili yerel hizmetin başlatılmış ve varsayılan bağlantı noktasını dinliyor olması yeterlidir (Ollama
Özet
Kanallar, AI ağ geçidinin istekleri yönlendirmesinin temelidir. Üç adımlı sihirbaz sayesinde yaklaşık 20 sağlayıcıyı hızlıca bağlayabilir; çift bölge geçişi, otomatik model keşfi ve iki boyutlu bağlantı testiyle yapılandırmanın doğruluğunu güvence altına alabilir; fiyatlandırma ve kota gibi gelişmiş yapılandırmalarla maliyetleri ince şekilde yönetebilirsiniz. Kanalları yapılandırdıktan sonra uygulamalar ve araçlar için Sanal Anahtarlar oluşturabilirsiniz.
