AI Gateway Statistics और Monitoring

AI Gateway उसके माध्यम से गुजरने वाले सभी अनुरोधों को रिकॉर्ड करता है और उपयोग, लागत तथा संचालन स्थिति को Overview, Statistics और Monitoring पेजों पर प्रस्तुत करता है। यह लेख इन तीन पेजों की सामग्री और उपयोग का परिचय देता है।

Overview

Overview पेज AI Gateway की समग्र स्थिति का एक नज़रिया प्रदान करता है:

• KPI कार्ड — सक्रिय channel की संख्या, virtual key की संख्या, आज के अनुरोधों की संख्या, आज की लागत (और Token उपयोग)।
• channel स्वास्थ्य अवलोकन — प्रत्येक channel की रियल-टाइम स्वास्थ्य स्थिति (सामान्य / डिग्रेडेड / अनुपलब्ध)।
• हाल की घटनाएं — हाल के रूटिंग इवेंट स्ट्रीम (इवेंट प्रकार, मॉडल, channel, विलंबता, समय)।

Overview पेज रोज़मर्रा की जांच के लिए उपयुक्त है कि Gateway सामान्य रूप से काम कर रहा है या नहीं, और आज का खर्च तथा अनुरोधों की मात्रा कितनी है।

Statistics

Statistics पेज का उपयोग उपयोग और लागत के गहन विश्लेषण के लिए किया जाता है।

KPI सारांश

पेज के शीर्ष पर मुख्य मेट्रिक्स प्रदर्शित होते हैं: कुल अनुरोधों की संख्या, कुल Token उपयोग, लागत (USD), औसत विलंबता (मिलीसेकंड)।

सारांश और समूहन

• समग्र सारांश — कुल / सफल / विफल अनुरोधों की संख्या, इनपुट / आउटपुट / कुल Token संख्या, प्रति अनुरोध औसत Token संख्या, कुल लागत, और इवेंट प्रकार के अनुसार वितरण (सामान्य रूटिंग routed, फेलओवर failover, विफल failed, कोई उपलब्ध channel नहीं no_channel)।
• आयाम के अनुसार समूहन — समूहन दृष्टिकोण स्विच किया जा सकता है:
  • मॉडल के अनुसार — प्रत्येक मॉडल के अनुरोधों की संख्या, Token, लागत, विलंबता।
  • कुंजी के अनुसार — प्रत्येक virtual key की खपत स्थिति।
  • तारीख के अनुसार — दिन के अनुसार उपयोग का रुझान।
  • अनुरोध प्रकार के अनुसार — अनुरोध प्रकार के अनुसार समूहबद्ध।

मल्टीमॉडल उपयोग

टेक्स्ट संवाद के अलावा, Statistics पेज मल्टीमॉडल उपयोग को भी अलग से प्रदर्शित करता है: छवि निर्माण संख्या, वॉइस इनपुट इकाइयां, वॉइस आउटपुट इकाइयां, जिससे छवि और वॉइस कॉल की लागत का हिसाब लगाना आसान हो जाता है।

रुझान चार्ट

यह दिन के अनुसार एकत्रित अनुरोध मात्रा के रुझान को लाइन चार्ट के रूप में दिखाता है, जिससे आप उपयोग में होने वाले बदलावों को देख सकते हैं।

बजट प्रबंधन (VIP)

• यह गेज (gauge) के रूप में प्रत्येक बजट की उपयोग की गई राशि और प्रतिशत प्रदर्शित करता है, और थ्रेशोल्ड के करीब पहुंचने पर चेतावनी देता है।
• बजट प्रबंधन एक सशुल्क क्षमता है, और सदस्यता लेने से पहले इस क्षेत्र को लॉक कर दिया जाएगा और अपग्रेड करने का संकेत दिया जाएगा।

सदस्यता कोटा ट्रैकिंग

यदि आपने सदस्यता-आधारित provider खाते को बांध दिया है (विवरण के लिए सदस्यता खाता और कोटा ट्रैकिंग देखें), तो Statistics पेज सदस्यता कोटा की रियल-टाइम स्थिति भी दिखाएगा:

• उपयोग किया गया / शेष प्रतिशत — प्रत्येक सदस्यता विंडो के कोटा उपभोग की प्रगति को प्रोग्रेस बार के रूप में दिखाता है।
• कोटा समाप्त स्थिति — जब किसी विंडो का कोटा समाप्त हो जाता है, तो संबंधित channel को "समाप्त" चिह्नित किया जाता है, और Gateway स्वचालित रूप से बैकअप channel पर चला जाता है (यदि failover कॉन्फ़िगर किया गया हो)।
• रीसेट समय — कोटा विंडो का रीसेट समय दिखाता है, जिससे आप रिकवरी समय का अनुमान लगा सकते हैं।
• क्रेडेंशियल समाप्ति संकेत — जब सदस्यता खाते के प्राधिकरण क्रेडेंशियल की समय सीमा समाप्त हो जाती है, तो इंटरफ़ेस पर इसे स्पष्ट रूप से चिह्नित किया जाता है, जिससे आपको फिर से प्राधिकरण करने की याद दिलाई जाती है।

सदस्यता कोटा की जानकारी channel सूची के विस्तारित क्षेत्र में भी सारांश के रूप में प्रदर्शित होगी।

Monitoring

Monitoring पेज संचालन का अधिक रियल-टाइम दृश्य प्रदान करता है:

• रियल-टाइम इवेंट लॉग — रूटिंग इवेंट को एक-एक करके दिखाता है (अनुरोध ID, मॉडल, channel, विलंबता, आदि)।
• इवेंट प्रकार के अनुसार गणना — सामान्य रूटिंग, विफलता, फेलओवर, कोई उपलब्ध channel नहीं आदि की श्रेणीबद्ध गणना, जिससे विसंगतियों को जल्दी पहचानना आसान हो जाता है।

पूर्व-आवश्यकताएं

• ServBay खाते में लॉग इन किया है और channel तथा virtual key कॉन्फ़िगर किए गए हैं।
• Gateway के माध्यम से वास्तविक अनुरोध पहले ही गुजर चुके हैं (अन्यथा Statistics खाली होंगे)।

उपयोग सुझाव

• लागत नियंत्रण — उच्च खपत स्रोतों को खोजने के लिए "मॉडल के अनुसार / कुंजी के अनुसार" समूहन का उपयोग करें, और आवश्यक होने पर संबंधित virtual key के लिए रेट सीमा (rate limit) सेट करें या channel के लिए कोटा निर्धारित करें।
• समस्या निवारण — यदि सफलता दर कम हो जाती है, तो इवेंट प्रकार वितरण में failed / no_channel का अनुपात देखें और channel की स्वास्थ्य स्थिति के साथ मिलकर खराब channel की पहचान करें।
• विलंबता अनुकूलन — औसत विलंबता KPI और मॉडल के अनुसार विलंबता पर ध्यान दें, विभिन्न provider / क्षेत्रीय समापन बिंदुओं की प्रतिक्रिया गति का मूल्यांकन करें।

अक्सर पूछे जाने वाले प्रश्न (FAQ)

• Q: Statistics पेज पर कोई डेटा नहीं है?
  • A: Statistics Gateway के माध्यम से गुजरने वाले वास्तविक अनुरोधों पर आधारित हैं। कृपया पुष्टि करें कि किसी एप्लिकेशन या प्रबंधित टूल ने Gateway के माध्यम से अनुरोध भेजा है।
• Q: बजट प्रबंधन क्षेत्र लॉक है?
  • A: बजट प्रबंधन एक सशुल्क क्षमता है, और इसे संबंधित पैकेज की सदस्यता लेने के बाद उपयोग किया जा सकता है।
• Q: लागत की गणना कैसे की जाती है?
  • A: Gateway प्रत्येक channel की कीमत (आपके द्वारा निर्धारित मूल्य गुणक सहित) और वास्तविक Token / कॉल मात्रा के आधार पर लागत का अनुमान लगाता है, और आप channel उन्नत कॉन्फ़िगरेशन में मूल्य निर्धारण पैरामीटर समायोजित कर सकते हैं।

सारांश

Overview, Statistics और Monitoring पेज AI Gateway के हर कॉल को अवलोकनीय बनाते हैं: आज के खर्च के त्वरित अवलोकन से लेकर मॉडल / कुंजी / तारीख के अनुसार गहन विश्लेषण तक, और रियल-टाइम इवेंट स्ट्रीम तथा बजट नियंत्रण तक। इन दृश्यों