Statistiche e Monitoraggio del Gateway AI
Il gateway AI registra tutte le richieste che vi transitano e presenta dati su Overview, Statistiche e Monitoraggio per tenerti aggiornato su utilizzo, costi e stato operativo. Questo articolo spiega i contenuti e l'uso delle tre pagine.
Overview
La pagina Overview fornisce una panoramica dello stato generale del gateway AI:
- Schede KPI — Numero di canali attivi, chiavi virtuali, richieste di oggi, costi di oggi (e token utilizzati).
- Salute dei canali — Stato in tempo reale dei vari canali (Normale / Degradato / Non disponibile).
- Eventi recenti — Flusso degli ultimi eventi di routing (tipo evento, modello, canale, latenza, orario).
La pagina Overview è ideale per un controllo rapido dello stato del gateway e delle spese/richieste giornaliere.
Statistiche
La sezione Statistiche serve per un’analisi approfondita dell’utilizzo e dei costi.
Riepilogo KPI
Nella parte superiore della pagina sono mostrati gli indicatori chiave: numero totale richieste, token utilizzati, costo (USD), latenza media (ms).
Sintesi e Raggruppamento
- Sintesi generale — Totale/successo/fallimento delle richieste, numero di token in input/output/totale, media token per richiesta, costo totale e distribuzione per tipo di evento (routing normale, failover, fallite, nessun canale).
- Raggruppamento per dimensione — Possibilità di cambiare il criterio di raggruppamento:
- Per modello — Richieste, token, costi, latenza per ciascun modello.
- Per chiave — Consumo di ogni chiave virtuale.
- Per data — Andamento giornaliero dell’utilizzo.
- Per tipo richiesta — Raggruppamento in base al tipo di richiesta.
Utilizzo Multimodale
Oltre alle conversazioni testuali, la pagina mostra anche l'uso dei servizi multimodali: numero di generazioni immagini, unità input vocale, unità output vocale, facilitando il calcolo dei costi per le chiamate immagine e voce.
Grafico delle Tendenze
Un grafico a linee mostra l’andamento giornaliero delle richieste, aiutandoti a monitorare i cambiamenti di utilizzo.
Gestione del Budget (VIP)
- Visualizza in modalità gauge la quota già utilizzata e la percentuale di ciascun budget, con notifiche di avvicinamento alla soglia.
- La gestione del budget è una funzione premium: senza abbonamento l’area resta bloccata con suggerimento di upgrade.
Monitoraggio
La pagina Monitoraggio fornisce una visione operativa in tempo reale:
- Registro eventi in tempo reale — Eventi di routing visualizzati singolarmente (ID richiesta, modello, canale, latenza, ecc.).
- Conteggio per tipo di evento — Classificazione istantanea tra routing normale, fallite, failover, nessun canale, utile per individuare rapidamente eventuali anomalie.
Prerequisiti
- Accesso con account ServBay e configurazione di canali e chiavi virtuali.
- Almeno una richiesta reale deve essere transitata dal gateway (in caso contrario le statistiche saranno vuote).
Consigli d’Uso
- Controllo dei costi — Usa il raggruppamento per "modello/chiave" per identificare le principali fonti di consumo e, se necessario, applica limiti di velocità sulle chiavi virtuali o quote ai canali.
- Analisi anomalie — In caso di calo del tasso di successo, verifica la diffusione delle tipologie failed/no_channel e incrocia i dati con lo stato dei canali per individuare quello problematico.
- Ottimizzazione della latenza — Controlla il KPI di latenza media e quella per modello, per valutare e confrontare le performance dei vari provider/endpoint regionali.
FAQ (Domande Frequenti)
- D: Non vedo dati nella pagina Statistiche?
- R: Le statistiche sono basate sulle richieste realmente transitate dal gateway. Assicurati che le applicazioni o strumenti gestiti abbiano inviato richieste attraverso il gateway.
- D: L’area Gestione Budget è bloccata?
- R: La gestione del budget è una funzione premium, sbloccabile sottoscrivendo il relativo piano.
- D: Come vengono calcolati i costi?
- R: Il gateway stima i costi in base alle tariffe dei singoli canali (incluso eventuale moltiplicatore configurato) e sul consumo reale di token/chiamate. Puoi regolare i parametri nella Configurazione avanzata dei canali.
Conclusione
Le tre pagine Overview, Statistiche e Monitoraggio rendono visibile ogni chiamata che passa dal gateway AI: dalla panoramica della spesa odierna, all’analisi dettagliata per modello/chiave/data, fino al controllo in tempo reale degli eventi e del budget. Utilizzando questi strumenti, puoi ottimizzare costantemente i costi e la stabilità dello sviluppo AI.
