Statistik & Monitoring des KI-Gateways

Das KI-Gateway erfasst alle Anfragen, die es passieren, und stellt dir Verbrauch, Kosten und Betriebsstatus auf den Seiten Übersicht (Overview), Statistik (Statistics) und Monitoring bereit. In diesem Artikel erfährst du, was die einzelnen Seiten anzeigen und wie du sie nutzt.

Übersicht (Overview)

Die Übersichtsseite zeigt den allgemeinen Status des KI-Gateways auf einen Blick:

• KPI-Karten – Anzahl aktiver Kanäle, virtuelle Schlüssel, heutige Anfragen, heutige Kosten (und Token-Verbrauch).
• Kanal-Gesundheitsübersicht – Aktueller Status der einzelnen Kanäle (normal / eingeschränkt / nicht verfügbar).
• Letzte Ereignisse – Die aktuellen Routing-Ereignisse mit Typ, Modell, Kanal, Latenz und Zeitstempel.

Die Übersichtsseite eignet sich für einen schnellen täglichen Kontrollblick: Läuft das Gateway, wie hoch sind heutige Kosten und Anfragen?

Statistik (Statistics)

Die Statistikseite dient der detaillierten Analyse von Nutzung und Kosten.

KPI-Übersicht

Am Seitenkopf siehst du die wichtigsten Kennzahlen: Gesamtanzahl Anfragen, Gesamtanzahl Token, Kosten (USD), durchschnittliche Latenz (Millisekunden).

Gesamtauswertung & Gruppierung

• Gesamtauswertung – Gesamt-/erfolgreiche/fehlgeschlagene Anfragen, Anzahl Input-/Output-/Gesamt-Token, durchschnittlicher Tokenverbrauch pro Anfrage, Gesamtkosten sowie Aufschlüsselung nach Ereignistyp (normale Weiterleitung, Failover, Fehlgeschlagen, Kein verfügbarer Kanal).
• Gruppierung nach Dimensionen – Wechselnde Perspektiven möglich:
  • Nach Modell – Anfragen, Token, Kosten, Latenz pro Modell.
  • Nach Schlüssel – Verbrauch pro virtuellem Schlüssel.
  • Nach Datum – Nutzungsverlauf pro Tag.
  • Nach Anfragetyp – Gruppierung nach Typ der Anfrage.

Multimodale Nutzung

Neben Textinteraktion zeigt die Statistikseite auch multimodale KI-Verwendung getrennt an: Anzahl Bildgenerierungen, Einheiten für Spracheingabe, Einheiten für Sprachausgabe – hilfreich, um Bild- und Sprachabfragen kostenmäßig nachzuverfolgen.

Trenddiagramm

Ein Liniendiagramm zeigt den Verlauf der täglich aggregierten Anfragen und hilft, Veränderungen im Laufe der Zeit zu erkennen.

Budgetmanagement (VIP)

• Das Budget-Dashboard (Gauge) visualisiert genutztes Budget und Prozentsatz, mit Hinweisen bei Annäherung an das Limit.
• Das Budgetmanagement ist ein Premium-Feature. Ohne Abo ist dieser Bereich gesperrt und ein Hinweis zum Upgrade erscheint.

Monitoring

Die Monitoring-Seite liefert eine noch aktuellere Sicht auf den Betrieb:

• Live-Ereignisprotokoll – Jedes Routing-Ereignis wird einzeln dargestellt (Anfrage-ID, Modell, Kanal, Latenz usw.).
• Zähler nach Ereignistyp – Kategorisierte Zähler für normale Weiterleitung, Fehler, Failover, keinen verfügbaren Kanal usw., um Anomalien schnell zu identifizieren.

Voraussetzungen

• Du bist in deinem ServBay-Konto angemeldet und hast Kanäle und virtuelle Schlüssel konfiguriert.
• Über das Gateway wurden bereits echte Anfragen gestellt (sonst gibt es keine Daten zum Auswerten).

Empfehlungen zur Nutzung

• Kosteneinsparung – Identifiziere durch Gruppierung nach Modell oder Schlüssel die größten Kostentreiber; bei Bedarf Rate-Limits für virtuelle Schlüssel oder Limits für Kanäle festlegen.
• Fehlerdiagnose – Bei sinkender Erfolgsquote das Verhältnis failed/no_channel in der Ereignisverteilung prüfen und betroffene Kanäle anhand des Kanalstatus gezielt nachverfolgen.
• Latenz optimieren – Überwache die durchschnittliche Latenz-KPI sowie Modell-Latenzen, um die Antwortzeiten verschiedener Anbieter oder Standorte zu bewerten.

Häufige Fragen (FAQ)

• F: Es erscheinen keine Daten auf der Statistikseite?
  • A: Die Statistik basiert auf echten Anfragen über das Gateway. Bitte stelle sicher, dass Anwendungen oder Tools tatsächlich über das Gateway Anfragen gestellt haben.
• F: Das Budgetmanagement ist gesperrt?
  • A: Budgetmanagement ist ein kostenpflichtiges Feature, das nach Abschluss des passenden Abonnements freigeschaltet wird.
• F: Wie werden die Kosten berechnet?
  • A: Die Kosten ergeben sich nach Tarifen pro Kanal (einschließlich deines eingestellten Faktoren) und tatsächlichem Token-/Nutzungsvolumen. Die Parameter kannst du unter Erweiterte Kanaloptionen anpassen.

Zusammenfassung

Die drei Seiten Übersicht, Statistik und Monitoring machen jede einzelne KI-Gateway-Nutzung messbar: vom schnellen Überblick über die Tageskosten bis zur detaillierten Analyse nach Modell, Schlüssel oder Datum, ergänzt durch Live-Ereignisstrom und Budgetkontrolle. Mit diesen Funktionen kannst du laufend Kosten und Stabilität deiner KI-Prozesse verbessern.