ServBay AI गेटवे (AI Gateway) परिचय

ServBay AI गेटवे (AI Gateway) ServBay में अंतर्निहित एक स्थानीय एकीकृत AI प्रदाता गेटवे है। यह आपकी मशीन पर एक प्रॉक्सी एंडपॉइंट चलाता है, जो विभिन्न बड़े भाषा मॉडल प्रदाताओं (OpenAI, Anthropic, DeepSeek, Tongyi Qianwen आदि लगभग 20) को भेजे जाने वाले अनुरोधों को एक ही प्रवेश द्वार पर एकत्रित करता है, जिससे आपको कुंजियों को केंद्रीय रूप से प्रबंधित करने, उपयोग और लागत का आंकलन करने, और Claude Code, Codex जैसे AI प्रोग्रामिंग टूल्स को एक क्लिक में स्थानीय गेटवे की ओर इंगित करने में मदद मिलती है।

यह दस्तावेज़ बताता है कि AI गेटवे क्या है, यह किन समस्याओं का समाधान कर सकता है, और इसकी समग्र संरचना क्या है। विशिष्ट संचालन के लिए कृपया देखें:

• चैनल प्रबंधन — विभिन्न प्रदाताओं को जोड़ना और कॉन्फ़िगर करना
• वर्चुअल कुंजियाँ — कुंजियाँ बनाना, सीमित करना, रोटेट करना और रद्द करना
• एक-क्लिक में AI प्रोग्रामिंग टूल्स को नियंत्रित करें — Claude Code जैसे CLI को गेटवे की ओर इंगित करें
• सांख्यिकी और निगरानी — उपयोग, लागत और बजट
• एंडपॉइंट और पर्यावरण चर — अपने कोड में गेटवे को कॉल करें

अवलोकन

दैनिक AI विकास में, आपके पास एक साथ कई प्रदाताओं की API कुंजियाँ हो सकती हैं, जो विभिन्न परियोजनाओं और विभिन्न टूल्स की कॉन्फ़िगरेशन फ़ाइलों में बिखरी हुई हैं, जिससे खर्च का हिसाब रखना और एकीकृत रूप से स्विच करना मुश्किल हो जाता है। ServBay AI गेटवे इन समस्याओं को एक स्थान पर केंद्रित करता है:

• एक प्रवेश द्वार, कई प्रदाताओं से कनेक्शन — प्रत्येक प्रदाता के चैनल को कॉन्फ़िगर करने के बाद, सभी अनुरोध स्थानीय http://127.0.0.1:11580 के माध्यम से अग्रेषित किए जाते हैं, और आपके एप्लिकेशन को केवल एक पते से निपटना होता है।
• वास्तविक कुंजियों के बजाय वर्चुअल कुंजियाँ — गेटवे एप्लिकेशन और टूल्स को "वर्चुअल कुंजियाँ" जारी करता है, वास्तविक प्रदाता API कुंजियाँ केवल गेटवे की ओर संग्रहीत रहती हैं, और हर जगह बिखरी नहीं रहतीं। वर्चुअल कुंजियों को कभी भी सीमित, रोटेट या रद्द किया जा सकता है।
• एकीकृत उपयोग और लागत दृश्य — गेटवे से गुजरने वाले सभी अनुरोध रिकॉर्ड किए जाते हैं, गेटवे अनुरोध संख्या, टोकन उपयोग, लागत, विलंबता, मल्टीमॉडल उपयोग आदि के आँकड़े प्रदान करता है, और बजट प्रबंधन का समर्थन करता है।
• एक-क्लिक में मुख्यधारा के AI प्रोग्रामिंग टूल्स को नियंत्रित करें — कॉन्फ़िगरेशन फ़ाइलों को मैन्युअल रूप से बदलने की आवश्यकता नहीं, गेटवे एक क्लिक में Claude Code, Codex, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush आदि टूल्स को स्थानीय गेटवे की ओर इंगित कर सकता है।
• सदस्यता खाते और कोटा ट्रैकिंग — सदस्यता-आधारित प्रदाता खातों (जैसे Claude Pro / Max के OAuth प्राधिकरण) को बाइंड करने का समर्थन करता है, गेटवे के भीतर पैकेज जानकारी, उपलब्ध एंडपॉइंट, आउटपुट लंबाई सीमा को दृश्य रूप से प्रदर्शित करता है, और वास्तविक समय में बहु-विंडो कोटा (उपयोग किया गया / शेष प्रतिशत, कोटा समाप्ति स्थिति, रीसेट समय) को ट्रैक करता है, जिससे आप किसी भी समय सदस्यता शेष राशि को जान सकें।
• चैनल क्षमता पहचान और स्मार्ट रूटिंग — चैनल जोड़ते समय गेटवे स्वचालित रूप से प्रदाता क्षमताओं (OAuth प्राधिकरण प्रकार / कोडिंग पैकेज प्रकार / टियर मॉडल प्रकार) का पता लगाता है, पुष्टि के बाद पहचान परिणामों के अनुसार स्वचालित रूप से तीन-स्तरीय गेटवे मैपिंग लिखता है, मॉडल संगतता का अनुमान लगाने की आवश्यकता नहीं।

आर्किटेक्चर और पोर्ट

AI गेटवे दो स्थानीय सेवाओं से बना है, दोनों केवल लूपबैक पते (127.0.0.1) को सुनते हैं:

पोर्ट	उद्देश्य	विवरण
11580	प्रॉक्सी पोर्ट	एप्लिकेशन-उन्मुख एकीकृत प्रवेश द्वार। आपका कोड और नियंत्रित AI टूल्स दोनों अनुरोध यहाँ भेजते हैं, गेटवे वर्चुअल कुंजी की अनुमतियों के अनुसार संबंधित प्रदाता चैनल पर रूट करता है।
11581	प्रबंधन पोर्ट	ServBay एप्लिकेशन के आंतरिक प्रबंधन चैनल, कुंजियों, सांख्यिकीय डेटा के उपयोग के लिए, सामान्यतः सीधे एक्सेस करने की आवश्यकता नहीं होती।

प्रॉक्सी पोर्ट कई संगत प्रारूपों में एंडपॉइंट भी प्रदान करता है (OpenAI संगत, Anthropic संगत, Gemini संगत), विस्तृत जानकारी के लिए देखें एंडपॉइंट और पर्यावरण चर।

समर्थित प्रदाता चैनल

AI गेटवे में लगभग 20 प्रदाता प्रीसेट अंतर्निहित हैं, जो श्रेणियों के अनुसार समूहीकृत हैं, चैनल जोड़ते समय सीधे चुने जा सकते हैं:

• मुख्यधारा (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter।
• चीन (China): DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi (Moonshot), Doubao·Volcano, Wenxin Yiyan, Hunyuan, MiniMax, 01.AI, StepFun। इनमें से Tongyi Qianwen, Zhipu GLM, Kimi, Doubao·Volcano, Hunyuan, MiniMax, StepFun आदि घरेलू / वैश्विक दोहरे क्षेत्र एंडपॉइंट स्विचिंग का समर्थन करते हैं।
• स्थानीय (Local): Ollama (डिफ़ॉल्ट 127.0.0.1:11434), LM Studio (डिफ़ॉल्ट 127.0.0.1:1234)।
• कस्टम (Custom): OpenAI Compatible (कोई भी OpenAI-संगत सेवा), Custom (पूरी तरह से कस्टम)।

पूर्ण जोड़ने और कॉन्फ़िगरेशन प्रक्रिया के लिए देखें चैनल प्रबंधन।

पूर्वापेक्षाएँ

• macOS या Windows पर ServBay पहले से इंस्टॉल और चालू है।
• AI गेटवे ServBay की एक मूल्यवर्धित सुविधा है, चैनल / कुंजी जोड़ने से पहले ServBay खाते में लॉग इन करना आवश्यक है। यदि लॉग इन नहीं हैं, तो इंटरफ़ेस आपको लॉग इन पूरा करने के लिए मार्गदर्शन करेगा।

TIP

AI गेटवे ServBay for macOS और ServBay for Windows पर समान कार्यक्षमता रखता है, प्रॉक्सी पोर्ट (11580), प्रबंधन पोर्ट (11581) और नियंत्रित टूल्स के कॉन्फ़िगरेशन फ़ाइल पथ समान हैं। दस्तावेज़ में यदि प्लेटफ़ॉर्म अंतर हैं तो अलग से बताया जाएगा।

खाता और पैकेज

AI गेटवे की कुछ क्षमताएँ ServBay खाता पैकेज से जुड़ी हैं:

• चैनल संख्या / कुंजी संख्या की ऊपरी सीमा — मुफ़्त और सशुल्क पैकेजों में बनाए जा सकने वाले चैनलों और वर्चुअल कुंजियों की संख्या भिन्न होती है। सीमा तक पहुँचने पर इंटरफ़ेस अपग्रेड का संकेत देगा।
• कोटा और बजट प्रबंधन — कोटा (टोकन / अनुरोध संख्या / राशि) सीमा और बजट डैशबोर्ड VIP / सशुल्क क्षमताएँ हैं, सदस्यता न होने पर संबंधित क्षेत्र लॉक रहेगा और अपग्रेड का संकेत देगा।

पैकेज विवरण के लिए, कृपया देखें ServBay Pro और ServBay Team।

सदस्यता खाते और कोटा ट्रैकिंग

AI गेटवे सदस्यता-आधारित प्रदाता खातों (जैसे OAuth प्राधिकरण के माध्यम से जुड़े Claude Pro / Max आदि) को बाइंड करने का समर्थन करता है, जिससे आप स्थानीय गेटवे के भीतर सीधे इन सदस्यता संसाधनों को देख और प्रबंधित कर सकते हैं, बिना प्रत्येक प्रदाता के वेब कंसोल में लॉग इन करने की आवश्यकता के।

सदस्यता खाता क्या कर सकता है

• पैकेज जानकारी एक नज़र में — सदस्यता पैकेज का नाम, बिलिंग संरचना, वैधता अवधि प्रदर्शित करता है।
• उपलब्ध एंडपॉइंट और आउटपुट सीमाएँ — उस सदस्यता खाते द्वारा कॉल किए जा सकने वाले एंडपॉइंट की सूची और प्रत्येक मॉडल की अधिकतम आउटपुट लंबाई सीमा देखें।
• बहु-विंडो कोटा ट्रैकिंग — उपयोग किए गए / शेष कोटा प्रतिशत, वर्तमान में समाप्त हुआ है या नहीं, और कोटा रीसेट समय को दृश्य रूप से प्रदर्शित करता है, जिससे आपको सदस्यता संसाधनों को तर्कसंगत रूप से आवंटित करने में मदद मिलती है।
• क्रेडेंशियल अमान्यता दृश्यमान — जब सदस्यता खाते के प्राधिकरण क्रेडेंशियल समाप्त हो जाते हैं या अमान्य हो जाते हैं, तो इंटरफ़ेस पर स्पष्ट रूप से चिह्नित किया जाता है, और आपको पुनः प्राधिकरण करने की याद दिलाई जाती है।

प्रायोगिक सुविधा

सदस्यता खाते का OAuth प्राधिकरण एकीकरण वर्तमान में एक प्रायोगिक सुविधा है, समर्थित प्रदाताओं का विस्तार धीरे-धीरे किया जाएगा। प्राधिकरण के समय आपको ब्राउज़र में प्रदाता की OAuth प्रक्रिया पूरी करनी होगी, प्राधिकरण टोकन केवल स्थानीय रूप से संग्रहीत किए जाते हैं।

डेटा भंडारण

• चैनल कॉन्फ़िगरेशन, वर्चुअल कुंजियाँ, उपयोग आँकड़े आदि डेटा गेटवे बैकएंड सेवा द्वारा स्थानीय रूप से बनाए रखे जाते हैं।
• वर्चुअल कुंजी का सादा पाठ केवल निर्माण (या रोटेशन) के समय एक बार दिखाया जाता है, उसके बाद गेटवे केवल पहचान के लिए उपसर्ग रखता है, निर्माण के समय तुरंत कॉपी करके सहेजना सुनिश्चित करें।
• एक-क्लिक में प्रत्येक टूल को नियंत्रित करते समय, गेटवे पहले लक्ष्य टूल की मूल कॉन्फ़िगरेशन फ़ाइल का .bak एक्सटेंशन के साथ बैकअप बनाता है, फिर स्थानीय गेटवे की ओर इंगित कॉन्फ़िगरेशन लिखता है, जिससे कभी भी पुनर्स्थापित करना आसान हो जाता है।

विशिष्ट उपयोग प्रक्रिया

1. ServBay खाते में लॉग इन करें, AI गेटवे में प्रवेश करें।
2. चैनल पृष्ठ पर कम से कम एक प्रदाता चैनल जोड़ें (जैसे OpenAI या DeepSeek), वास्तविक API कुंजी भरें और कनेक्टिविटी का परीक्षण करें।
3. वर्चुअल कुंजियाँ पृष्ठ पर एक वर्चुअल कुंजी बनाएँ, आवश्यकतानुसार उपलब्ध मॉडल / चैनल और दर को सीमित करें।
4. एंडपॉइंट पृष्ठ पर वर्चुअल कुंजी को अपने एप्लिकेशन में भरें, या उसी पृष्ठ पर एक-क्लिक नियंत्रण के माध्यम से अपने अक्सर उपयोग किए जाने वाले AI प्रोग्रामिंग टूल्स को कॉन्फ़िगर करें।
5. सांख्यिकी और निगरानी पृष्ठ पर उपयोग, लागत और विलंबता का निरीक्षण करें, आवश्यकता पड़ने पर बजट निर्धारित करें।

सारांश

ServBay AI गेटवे "कई प्रदाता, कई कुंजियाँ, कई टूल्स" की खंडित AI विकास स्थिति को "एक स्थानीय प्रवेश द्वार, एक सेट वर्चुअल कुंजियाँ, एक उपयोग दृश्य" में केंद्रित करता है। यह आपको स्थानीय रूप से AI क्षमताओं को सुरक्षित रूप से केंद्रीय रूप से प्रबंधित करने, लागत को सटीक रूप से नियंत्रित करने, और न्यूनतम लागत पर विभिन्न AI प्रोग्रामिंग टूल्स को एकीकृत गेटवे से जोड़ने की अनुमति देता है, और ServBay की AI-native विकास के लिए मुख्य क्षमताओं में से एक है।