AI Gateway Statistik dan Pemantauan

AI Gateway akan merekodkan semua permintaan yang melaluinya, dan membentangkan penggunaan, kos, dan status operasi pada tiga halaman: Overview, Statistics, dan Monitoring. Artikel ini memperkenalkan kandungan dan penggunaan ketiga-tiga halaman ini.

Overview

Halaman Overview memberikan gambaran keseluruhan status AI Gateway:

• Kad KPI — Bilangan channel aktif, bilangan virtual key, bilangan permintaan hari ini, kos hari ini (dan penggunaan Token).
• Gambaran Keseluruhan Kesihatan Channel — Status kesihatan setiap channel secara masa nyata (Normal / Terdegradasi / Tidak Tersedia).
• Peristiwa Terkini — Aliran peristiwa routing terkini (jenis peristiwa, model, channel, kependaman, masa).

Halaman Overview sesuai untuk semakan pantas harian sama ada gateway berfungsi dengan normal, serta perbelanjaan dan bilangan permintaan hari ini.

Statistics

Halaman Statistics digunakan untuk menganalisis penggunaan dan kos secara mendalam.

Ringkasan KPI

Bahagian atas halaman memaparkan metrik teras: Jumlah Permintaan, Jumlah Penggunaan Token, Kos (USD), Kependaman Purata (milisaat).

Ringkasan dan Pengumpulan

• Ringkasan Keseluruhan — Bilangan permintaan (Total / Berjaya / Gagal), bilangan Token (Input / Output / Jumlah), bilangan Token purata setiap permintaan, jumlah kos, serta pengagihan mengikut jenis peristiwa (routing biasa routed, failover failover, gagal failed, tiada channel no_channel).
• Pengumpulan Mengikut Dimensi — Boleh tukar perspektif pengumpulan:
  • Mengikut Model — Bilangan permintaan, Token, kos, dan kependaman setiap model.
  • Mengikut Kunci — Status penggunaan setiap virtual key.
  • Mengikut Tarikh — Trend penggunaan harian.
  • Mengikut Jenis Permintaan — Diasingkan mengikut jenis permintaan.

Penggunaan Multimodal

Selain perbualan teks, halaman Statistics juga memaparkan penggunaan multimodal secara berasingan: Bilangan Penjanaan Imej, Unit Input Suara, Unit Output Suara, untuk memudahkan pengiraan kos panggilan berkaitan imej dan suara.

Carta Trend

Memaparkan trend bilangan permintaan harian yang diagihkan dalam bentuk carta garis, membantu anda memerhati perubahan penggunaan.

Pengurusan Bajet (VIP)

• Memaparkan kuota yang telah digunakan dan peratusan setiap bajet dalam bentuk meter (gauge), dan akan memberi amaran apabila menghampiri ambang.
• Pengurusan bajet adalah keupayaan berbayar, jika tidak dilanggan, kawasan ini akan dikunci dan menggesa peningkatan.

Penjejakan Kuota Langganan

Jika anda telah mengikat akaun provider langganan (lihat Akaun Langganan dan Penjejakan Kuota), halaman Statistics juga akan memaparkan status masa nyata kuota langganan:

• Peratusan Digunakan / Baki — Memaparkan perkembangan penggunaan kuota bagi setiap tetingkap langganan dalam bentuk bar kemajuan.
• Status Kuota Habis — Apabila kuota tetingkap tertentu habis, channel yang berkaitan akan ditandakan sebagai "Habis", dan gateway akan automatik dinyahtaraf ke channel sandaran (jika failover telah dikonfigurasi).
• Masa Set Semula — Memaparkan masa set semula tetingkap kuota, membantu anda menganggarkan masa pemulihan.
• Amaran Kegagalan Kelayakan — Apabila kelayakan kebenaran akaun langganan tamat tempoh, ia akan ditandakan dengan jelas pada antara muka, memperingatkan anda untuk membenarkan semula.

Maklumat kuota langganan juga akan dipaparkan sebagai ringkasan dalam bahagian yang dikembangkan pada Senarai Channel.

Monitoring

Halaman Monitoring menyediakan pandangan operasi yang lebih masa nyata:

• Log Peristiwa Masa Nyata — Memaparkan peristiwa routing satu persatu (ID permintaan, model, channel, kependaman, dll.).
• Bilangan Mengikut Jenis Peristiwa — Pengiraan dikategorikan mengikut routing biasa, gagal, failover, tiada channel, dll., untuk memudahkan pengesanan anomali dengan cepat.

Prasyarat

• Telah log masuk ke akaun ServBay dan mengkonfigurasi channel serta virtual key.
• Terdapat permintaan sebenar yang melalui gateway (jika tidak, statistik akan kosong).

Cadangan Penggunaan

• Kawal Kos — Gunakan pengumpulan "Mengikut Model / Mengikut Kunci" untuk mencari sumber penggunaan tinggi, dan jika perlu, tetapkan had kadar untuk virtual key yang berkaitan atau tetapkan kuota untuk channel.
• Pengecualian Isu — Jika kadar kejayaan menurun, semak bahagian failed / no_channel dalam pengagihan jenis peristiwa, dan gabungkan dengan status kesihatan channel untuk mengenal pasti channel yang gagal.
• Optimumkan Kependaman — Fokus pada KPI kependaman purata dan kependaman mengikut model, untuk menilai kelajuan tindak balas endpoint provider / wilayah yang berbeza.

Soalan Lazim (FAQ)

• Q: Tiada data di halaman Statistics?
  • A: Statistik adalah berdasarkan permintaan sebenar yang melalui gateway. Sila sahkan bahawa aplikasi atau alat yang diambil alih telah membuat permintaan melalui gateway.
• Q: Kawasan pengurusan bajet dikunci?
  • A: Pengurusan bajet adalah keupayaan berbayar, ia boleh digunakan selepas melanggan pakej yang berkenaan.
• Q: Bagaimana kos dikira?
  • A: Gateway menganggarkan kos berdasarkan harga setiap channel (termasuk pendarab harga yang anda tetapkan) dan Token sebenar / bilangan panggilan. Parameter harga boleh dilaraskan dalam Konfigurasi Lanjutan Channel.

Kesimpulan

Tiga halaman iaitu Overview, Statistics, dan Monitoring menjadikan setiap panggilan AI Gateway dapat diperhatikan: dari gambaran pantas perbelanjaan hari ini, sehingga pecahan mendalam mengikut model / kunci / tarikh, dan seterusnya aliran peristiwa masa nyata serta kawalan bajet. Manfaatkan pandangan ini dengan baik, dan anda boleh terus mengoptimumkan kos dan kestabilan pembangunan AI.