Statistik dan Pemantauan AI Gateway

AI Gateway akan mencatat semua permintaan yang melaluinya, dan menyajikan penggunaan, biaya, dan status operasional pada tiga halaman: Overview, Statistics, dan Monitoring. Artikel ini menjelaskan konten dan penggunaan ketiga halaman tersebut.

Overview

Halaman Overview memberikan gambaran keseluruhan status AI Gateway:

• Kartu KPI — Jumlah channel aktif, jumlah virtual key, jumlah permintaan hari ini, biaya hari ini (dan penggunaan Token).
• Gambaran Kesehatan Channel — Status kesehatan real-time dari setiap channel (Normal / Terdegradasi / Tidak Tersedia).
• Peristiwa Terbaru — Aliran peristiwa routing beberapa terbaru (jenis peristiwa, model, channel, latensi, waktu).

Halaman Overview cocok untuk pengecekan harian yang cepat untuk melihat apakah gateway berjalan normal, serta biaya dan jumlah permintaan hari ini.

Statistics

Halaman Statistics digunakan untuk menganalisis secara mendalam penggunaan dan biaya.

Ringkasan KPI

Bagian atas halaman menampilkan metrik inti: Total Permintaan, Total Penggunaan Token, Biaya (USD), Latensi Rata-rata (milidetik).

Ringkasan dan Pengelompokan

• Ringkasan Keseluruhan — Jumlah permintaan Total / Sukses / Gagal, jumlah Token Masukan / Keluaran / Total, rata-rata Token per permintaan, total biaya, serta distribusi berdasarkan jenis peristiwa (routed normal, failover, failed, no_channel).
• Pengelompokan Berdasarkan Dimensi — Anda dapat beralih sudut pandang pengelompokan:
  • Berdasarkan Model — Jumlah permintaan, Token, biaya, latensi untuk setiap model.
  • Berdasarkan virtual key — Konsumsi dari setiap virtual key.
  • Berdasarkan Tanggal — Tren penggunaan harian.
  • Berdasarkan Jenis Permintaan — Dikelompokkan berdasarkan jenis permintaan.

Penggunaan Multimodal

Selain percakapan teks, halaman Statistics juga menampilkan penggunaan multimodal secara terpisah: Jumlah Pembuatan Gambar, Unit Input Suara, Unit Output Suara, sehingga memudahkan untuk menghitung biaya pemanggilan terkait gambar dan suara.

Grafik Tren

Menampilkan tren jumlah permintaan harian secara agregat menggunakan grafik garis, membantu Anda mengamati perubahan penggunaan.

Manajemen Anggaran (VIP)

• Menampilkan kuota yang terpakai dan persentasenya untuk setiap anggaran dalam bentuk gauge, memberikan peringatan ketika mendekati ambang batas.
• Manajemen anggaran merupakan fitur berbayar, jika belum berlangganan, area ini akan terkunci dan meminta Anda untuk melakukan upgrade.

Pelacakan Kuota Langganan

Jika Anda telah menautkan akun provider berbasis langganan (lihat detailnya di Akun Langganan dan Pelacakan Kuota), halaman Statistics juga akan menampilkan status real-time dari kuota langganan:

• Persentase Terpakai / Tersisa — Menampilkan progres konsumsi kuota untuk setiap jendela langganan dalam bentuk progress bar.
• Status Kuota Habis — Ketika kuota pada suatu jendela habis, channel yang sesuai akan ditandai sebagai "Habis", dan gateway akan otomatis terdegradasi ke channel cadangan (jika failover dikonfigurasi).
• Waktu Reset — Menampilkan waktu reset untuk jendela kuota, membantu Anda memperkirakan waktu pemulihan.
• Peringatan Kredensial Tidak Valid — Ketika kredensial otorisasi akun langganan kedaluwarsa, antarmuka akan menandainya dengan jelas, mengingatkan Anda untuk melakukan otorisasi ulang.

Informasi kuota langganan juga akan ditampilkan dalam bentuk ringkasan di bagian yang dapat direntangkan pada Daftar Channel.

Monitoring

Halaman Monitoring menyediakan tampilan operasional yang lebih real-time:

• Log Peristiwa Real-time — Menampilkan setiap peristiwa routing (ID permintaan, model, channel, latensi, dll.).
• Hitung Berdasarkan Jenis Peristiwa — Hitungan terkategorikan seperti routing normal, failed, failover, no_channel, dll., untuk memudahkan pelokalan anomali dengan cepat.

Prasyarat

• Telah masuk ke akun ServBay dan mengonfigurasi channel serta virtual key.
• Telah ada permintaan nyata yang melewati gateway (jika tidak, statistik akan kosong).

Saran Penggunaan

• Kontrol Biaya — Gunakan pengelompokan "Berdasarkan Model / Berdasarkan virtual key" untuk menemukan sumber konsumsi tinggi, dan jika perlu, atur batas kecepatan (rate limit) untuk virtual key terkait atau atur kuota untuk channel.
• Pemecahan Masalah Anomali — Jika tingkat keberhasilan menurun, periksa proporsi failed / no_channel dalam distribusi jenis peristiwa, dan gunakan status kesehatan channel untuk melokalisasi channel yang gagal.
• Optimasi Latensi — Perhatikan KPI latensi rata-rata dan latensi per model, untuk mengevaluasi kecepatan respons dari provider / endpoint wilayah yang berbeda.

Pertanyaan Umum (FAQ)

• Q: Halaman Statistics tidak memiliki data?
  • A: Statistik didasarkan pada permintaan nyata yang melewati gateway. Pastikan sudah ada aplikasi atau alat yang dikelola yang telah mengirim permintaan melalui gateway.
• Q: Area manajemen anggaran terkunci?
  • A: Manajemen anggaran adalah fitur berbayar, dapat digunakan setelah berlangganan paket yang sesuai.
• Q: Bagaimana biaya dihitung?
  • A: Gateway mengestimasi biaya berdasarkan harga (termasuk pengali harga yang Anda atur) dan pemanggilan / Token aktual untuk setiap channel, parameter harga dapat disesuaikan di Konfigurasi Lanjutan Channel.

Kesimpulan

Ketiga halaman yaitu Overview, Statistics, dan Monitoring membuat setiap pemanggilan AI Gateway dapat diamati: dari tinjauan cepat biaya hari ini, hingga rincian mendalam berdasarkan model / virtual key / tanggal, hingga aliran peristiwa real-time dan kontrol anggaran. Dengan memanfaatkan tampilan ini dengan baik, Anda dapat terus mengoptimalkan biaya dan stabilitas pengembangan AI Anda.