AI Gateway İstatistikleri ve İzleme

AI Gateway, üzerinden geçen tüm istekleri kaydeder ve kullanımı, maliyetleri ve çalışma durumunu Genel Bakış (Overview), İstatistikler (Statistics) ve İzleme (Monitoring) olmak üzere üç sayfada sunar. Bu makalede bu üç sayfanın içeriği ve kullanımı tanıtılacaktır.

Genel Bakış (Overview)

Genel Bakış sayfası, AI Gateway'in genel durumuna bir bakış sunar:

• KPI Kartları — Aktif channel sayısı, virtual key sayısı, bugünkü istek sayısı, bugünkü maliyet (ve Token kullanımı).
• Channel Sağlığına Genel Bakış — Her bir channel'ın gerçek zamanlı sağlık durumu (Normal / Düşürülmüş / Kullanılamaz).
• Son Olaylar — En yeni birkaç yönlendirme olayı akışı (olay türü, model, channel, gecikme, zaman).

Genel Bakış sayfası, gateway'ün normal çalışıp çalışmadığını, günün harcamalarını ve istek hacmini günlük olarak hızlıca kontrol etmek için uygundur.

İstatistikler (Statistics)

İstatistikler sayfası, kullanım ve maliyetleri derinlemesine analiz etmek için kullanılır.

KPI Özeti

Sayfanın üst kısmında temel metrikler gösterilir: Toplam İstek Sayısı, Toplam Token Kullanımı, Maliyet (USD), Ortalama Gecikme (milisaniye).

Özet ve Gruplandırma

• Genel Özet — Toplam / Başarılı / Başarısız istek sayısı, Giriş / Çıkış / Toplam Token sayısı, İstek başına ortalama Token sayısı, Toplam maliyet ve olay türüne göre dağılım (normal yönlendirme routed, yük devretme failover, başarısız failed, uygun channel yok no_channel).
• Boyuta Göre Gruplandırma — Gruplandırma görünümü değiştirilebilir:
  • Modeline Göre — Her bir modelin istek sayısı, Token, maliyet, gecikme.
  • Anahtara Göre — Her bir virtual key'in tüketim durumu.
  • Tarihe Göre — Günlük kullanım eğilimi.
  • İstek Türüne Göre — İstek türüne göre gruplandırma.

Multimodal Kullanım

Metin sohbetinin yanı sıra, İstatistikler sayfası multimodal kullanımı da ayrı olarak gösterir: Görüntü oluşturma sayısı, ses girişi birimi, ses çıkışı birimi. Bu, görüntü ve ses tabanlı çağrıların maliyetlerini hesaplamayı kolaylaştırır.

Trend Grafiği

Günlük olarak birleştirilen istek hacmi seyrini bir çizgi grafikle gösterir ve kullanımdaki değişiklikleri gözlemlemenize yardımcı olur.

Bütçe Yönetimi (VIP)

• Her bütçenin kullanılan kotasını ve yüzdesini bir gösterge (gauge) şeklinde sunar ve eşiğe yaklaşıldığında uyarı verir.
• Bütçe yönetimi ücretli bir özelliktir, abone olmadığınızda bu alan kilitlenir ve yükseltme yapmanız istenir.

Abonelik Kotası Takibi

Eğer bir abonelik tabanlı provider hesabı bağladıysanız (ayrıntılar için Abonelik Hesabı ve Kota Takibi'ne bakın), İstatistikler sayfası abonelik kotalarının gerçek zamanlı durumunu da gösterecektir:

• Kullanılan / Kalan Yüzde — Her abonelik penceresinin kota tüketim ilerlemesini bir ilerleme çubuğu ile gösterir.
• Kota Tükenme Durumu — Bir pencerenin kotası tükendiğinde, ilgili channel «Tükendi» olarak işaretlenir ve gateway otomatik olarak yedek channel'a geçer (failover yapılandırıldıysa).
• Sıfırlama Zamanı — Kota penceresinin sıfırlanma zamanını gösterir ve toparlanma süresini tahmin etmenize yardımcı olur.
• Kimlik Bilgisi Sona Erme Uyarısı — Abonelik hesabının yetkilendirme kimlik bilgilerinin süresi dolduğunda, arayüzde net bir şekilde işaretlenir ve yeniden yetkilendirmeniz hatırlatılır.

Abonelik kota bilgileri ayrıca Channel Listesi genişletme alanında özet olarak gösterilecektir.

İzleme (Monitoring)

İzleme sayfası, daha gerçek zamanlı bir çalışma görünümü sağlar:

• Gerçek Zamanlı Olay Günlüğü — Yönlendirme olaylarını tek tek gösterir (İstek ID, model, channel, gecikme vb.).
• Olay Türüne Göre Sayaç — Normal yönlendirme, başarısız, yük devretme (failover), uygun channel yok gibi kategorize edilmiş sayaçlar, anormallikleri hızlıca bulmanızı sağlar.

Ön Koşullar

• ServBay hesabına giriş yapılmış ve channel ile virtual key yapılandırılmış olmalıdır.
• Gateway üzerinden gerçek istekler geçmiş olmalıdır (aksi takdirde istatistikler boş olacaktır).

Kullanım Önerileri

• Maliyetleri Kontrol Edin — Yüksek tüketim kaynaklarını bulmak için «Modeline Göre / Anahtara Göre» gruplandırmasını kullanın, gerekirse ilgili virtual key için hız sınırlaması veya channel için kota belirleyin.
• Anormallikleri Giderin — Başarı oranı düşerse, olay türü dağılımındaki failed / no_channel oranını kontrol edin ve channel sağlık durumuyla birlikte ele alarak bozuk channel'ı tespit edin.
• Gecikmeyi Optimize Edin — Ortalama gecikme KPI'sine ve modele göre gecikmelere odaklanarak farklı provider / bölgesel uç noktaların yanıt hızını değerlendirin.

Sıkça Sorulan Sorular (SSS)

• S: İstatistikler sayfasında veri yok mu?
  • C: İstatistikler, gateway üzerinden geçen gerçek isteklere dayanır. Lütfen bir uygulama veya devralınan aracın gateway üzerinden istek gönderdiğinden emin olun.
• S: Bütçe yönetimi alanı kilitli mi?
  • C: Bütçe yönetimi ücretli bir özelliktir, ilgili pakete abone olduktan sonra kullanılabilir.
• S: Maliyet nasıl hesaplanır?
  • C: Gateway, her bir channel'ın fiyatlandırmasına (ayarladığınız fiyatlandırma çarpanı dahil) ve gerçek Token / çağrı hacmine göre maliyeti tahmin eder. Fiyatlandırma parametreleri Gelişmiş Channel Yapılandırması bölümünden ayarlanabilir.

Özet

Genel Bakış, İstatistikler ve İzleme sayfaları, AI Gateway'deki her bir çağrının gözlemlenebilir olmasını sağlar: Bugünkü harcamalara hızlı bir bakıştan, modele / anahtara / tarihe göre derinlemesine bir analiz; gerçek zamanlı olay akışına ve bütçe kontrolüne kadar. Bu görünümleri etkin bir şekilde kullanarak, AI geliştirme süreçlerinizdeki maliyetleri ve kararlılığı sürekli olarak optimize edebilirsiniz.