AI Ağ Geçidi İstatistikleri ve İzleme
AI Ağ Geçidi, üzerinden geçen tüm istekleri kaydeder ve Genel Bakış (Overview), İstatistikler (Statistics) ve İzleme (Monitoring) olmak üzere üç sayfada kullanım, maliyet ve çalışma durumu bilgisi sunar. Bu belge, bu üç sayfanın içeriğini ve kullanım şekillerini açıklar.
Genel Bakış (Overview)
Genel Bakış sayfası, AI Ağ Geçidi’nin genel durumunun hızlı bir özetini verir:
- KPI Kartları — Aktif kanal sayısı, sanal anahtar sayısı, bugünkü istek sayısı, bugünkü maliyet (ve Token kullanımı).
- Kanal Sağlığı Özeti — Tüm kanalların anlık sağlık durumu (Normal / Degrade / Kullanılamaz).
- Son Etkinlikler — En son yönlendirme olaylarından birkaçını (olay tipi, model, kanal, gecikme, zaman) listeler.
Genel Bakış, günlük olarak ağ geçidi durumunu, bugünkü harcamayı ve istek miktarını hızlıca kontrol etmek için idealdir.
İstatistikler (Statistics)
İstatistikler sayfası, kullanım ve maliyetin derinlemesine analizini sağlar.
KPI Özeti
Sayfanın üst kısmında temel göstergeler sergilenir: Toplam istek sayısı, toplam Token kullanımı, maliyet (USD), ortalama gecikme (ms).
Genel Toplamlar ve Gruplamalar
- Genel Toplam — Toplam / başarılı / başarısız istek sayıları, giriş / çıkış / toplam Token miktarları, istek başına ortalama Token sayısı, toplam maliyet ve olay tipi dağılımı (normal yönlendirme–routed, hata toleransı–failover, başarısız–failed, uygun kanal yok–no_channel).
- Ölçütlere Göre Gruplama — Farklı açılardan gruplama moduna geçilebilir:
- Modele Göre — Her model için istek sayısı, Token, maliyet, gecikme.
- Anahtara Göre — Her sanal anahtara ait tüketim verileri.
- Tarihe Göre — Günlük kullanım trendi.
- İstek Türüne Göre — İstek tipi bazında gruplama.
Multimodal Kullanım
Metinli sohbetin yanı sıra, istatistikler sayfası görsel ve sesli kullanım verilerini de ayrı olarak gösterir: oluşturulan görsel adedi, sesli giriş sayısı, sesli çıkış birimi gibi, böylece görsel ve ses tabanlı işlemlerin maliyeti kolayca izlenir.
Trend Grafiği
Günlük olarak toplulaştırılmış istek miktarını çizgi grafik ile gösterir; böylece kullanım değişimlerini gözlemleyebilirsiniz.
Bütçe Yönetimi (VIP)
- Her bir bütçenin kullanım miktarı ve yüzdesi gösterge (gauge) ile sunulur, eşik değerine yaklaşıldığında uyarı verilir.
- Bütçe yönetimi ücretli bir özelliktir; abone olunmamışsa bu bölüm kilitli olur ve yükseltme önerisi çıkar.
İzleme (Monitoring)
İzleme sayfası, sistemin daha gerçek zamanlı çalışma görüntüsünü sunar:
- Gerçek Zamanlı Olay Günlüğü — Her bir yönlendirme olayını (istek ID’si, model, kanal, gecikme vb.) sırayla gösterir.
- Olay Tipine Göre Sayaçlar — Normal yönlendirme, başarısızlık, hata toleransı, uygun kanal yok gibi sınıflardaki isteklerin sayaçları sunulur; bu sayede anormallikler hızla saptanabilir.
Ön Koşullar
- ServBay hesabına giriş yapılmış ve kanallar ile sanal anahtarlar yapılandırılmış olmalıdır.
- Gerçek veri üretmesi için ağ geçidinden en az bir istek geçmiş olmalıdır (aksi takdirde istatistikler boş olur).
Kullanım Tavsiyeleri
- Maliyeti Kontrol Etme — “Modele göre / Anahtara göre” gruplamaları kullanarak en çok tüketim yapan kaynakları bulabilir, gerekirse ilgili sanal anahtara hız limiti veya kanala kota tanımlayabilirsiniz.
- Anomali Tespiti — Başarı oranı düşükse, olay tipi dağılımındaki failed / no_channel oranına ve kanal sağlık durumuna bakarak sorunlu kanalı kolayca tespit edebilirsiniz.
- Gecikmeleri Optimize Etme — Ortalama gecikme KPI’sına ve modele göre gecikmelere odaklanarak, farklı sağlayıcıların veya bölgesel uç noktaların yanıt hızlarını değerlendirebilirsiniz.
Sık Sorulan Sorular (SSS)
- S: İstatistikler sayfasında veri yok mu?
- C: İstatistikler, ağ geçidi üzerinden geçen gerçek isteklere dayalıdır. Lütfen uygulamanızın veya kullanılan aracın ağ geçidi üzerinden istek gönderdiğinden emin olun.
- S: Bütçe yönetimi alanı neden kilitli?
- C: Bütçe yönetimi ücretli bir yetenektir, ilgili pakete abone olunduğunda kullanılabilir.
- S: Maliyet nasıl hesaplanıyor?
- C: Ağ geçidi, her kanalın fiyatlandırmasına (ayarladığınız katsayılar dahil) ve gerçek Token / çağrı miktarına göre yaklaşık maliyet hesaplar. Fiyatlandırma parametreleri Kanal Gelişmiş Ayarları bölümünden düzenlenebilir.
Sonuç
Genel Bakış, İstatistikler ve İzleme sayfaları sayesinde AI Ağ Geçidi’ndeki her bir çağrıyı takip edebilirsiniz: bugünkü maliyeti anında görebilir, modele / anahtara / tarihe göre derin analizler yapabilir, gerçek zamanlı olay akışı ve bütçe yönetimiyle tam kontrol sağlayabilirsiniz. Bu sayede AI geliştirme maliyetini ve sistem kararlılığını sürekli olarak optimize edebilirsiniz.
