AI गेटवे में चैनल प्रबंधन
"चैनल (Channel)" AI गेटवे में एक विक्रेता के इंटीग्रेशन प्वाइंट की कॉन्फ़िगरेशन है—यह किसी विक्रेता का पता, वास्तविक API Key, उपलब्ध मॉडल, साथ ही मूल्य निर्धारण और कोटा जैसी जानकारी सहेजता है। गेटवे इन्हीं चैनलों के आधार पर, एप्लिकेशन से आने वाले अनुरोधों को उचित विक्रेता तक रूट करता है। यह लेख चैनल जोड़ने, कॉन्फ़िगर करने, परीक्षण करने और प्रबंधित करने की प्रक्रिया को समझाता है।
पूर्वापेक्षाएँ
- ServBay इंस्टॉल और चल रहा है, और आप ServBay अकाउंट में लॉग इन हैं (चैनल जोड़ने से पहले लॉगिन आवश्यक है)।
- लक्षित विक्रेता के लिए वास्तविक API Key तैयार है (स्थानीय विक्रेता जैसे Ollama / LM Studio के लिए जरूरी नहीं)।
- यदि आप AI गेटवे की समग्र संरचना से परिचित नहीं हैं, तो पहले AI गेटवे परिचय पढ़ना सुझाया जाता है।
चैनल जोड़ना
AI गेटवे → चैनल (Channels) पृष्ठ पर जाएँ, जोड़ें (Add) पर क्लिक करें और विज़ार्ड शुरू करें। विज़ार्ड तीन चरणों में विभाजित है।
पहला चरण: विक्रेता चुनें
विक्रेताओं को श्रेणियों के अनुसार समूहित दिखाया जाता है, किसी भी कार्ड पर क्लिक करके चयन करें:
- प्रमुख (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
- चीन (China): DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi, Doubao · Huoshan, Wenxin Yiyan, Hunyuan, MiniMax, Lingyi Wanwu, Jieyue Xingchen.
- स्थानीय (Local): Ollama, LM Studio.
- कस्टम (Custom): OpenAI Compatible, Custom.
विक्रेता चुनने के बाद गेटवे, उस विक्रेता का डिफॉल्ट Base URL अपने आप भर देगा।
ड्यूल रीज़न स्विचिंग
Tongyi Qianwen, Zhipu GLM, Kimi, Doubao · Huoshan, Hunyuan, MiniMax, Jieyue Xingchen आदि चीनी विक्रेता देशीय और ग्लोबल दोनों प्रकार के एंडपॉइंट्स उपलब्ध कराते हैं। इन विक्रेताओं के चयन पर "क्षेत्र (Region)" चयनक (🇨🇳 देशीय / 🌐 ग्लोबल) प्रदर्शित होगा; स्विच करने पर Base URL संबंधित क्षेत्र के पते में बदल जाएगा।
दूसरा चरण: सेटिंग्स भरें
- चैनल का नाम (अनिवार्य) — सूची में इस चैनल का पहचानने के लिए नाम, इसे कस्टमाइज़ कर सकते हैं।
- Base URL (अनिवार्य) — विक्रेता का API एड्रेस। अधिकांश विक्रेता अपने आप भर जाएंगे; Azure OpenAI और Custom के लिए आपको हस्तचालित भरना होगा।
- API Key (वैकल्पिक) — विक्रेता की वास्तविक कुंजी। यदि इसे खाली छोड़ देंगे तो केवल एंडपॉइंट की उपलब्धता जांच सकेंगे; कुंजी की वैधता नहीं। स्थानीय विक्रेता (Ollama / LM Studio) के लिए आमतौर पर आवश्यक नहीं है।
- मॉडल — दो विधियाँ, इनमें से कोई एक चुनिए:
- स्वचालित खोज: 'खोजें' पर क्लिक करें, गेटवे विक्रेता के Model List API से लिस्ट खींचता है, और आप टैग(चिप) से एक या अधिक चयन सकते हैं।
- हस्तचालित प्रविष्टि: मॉडल नाम सीधे भरें। Azure चैनल के लिए डिप्लॉयमेंट नाम (Deployment name) दर्ज करना होगा, न कि मॉडल का नाम।
- प्राथमिकता / भार — जब कई चैनल समान मॉडल को सपोर्ट करते हैं, गेटवे इन्हीं मानों के आधार पर रूटिंग और लोड वितरण करता है।
Azure OpenAI हेतु सूचना
Azure चैनल के "मॉडल" फ़ील्ड में आपको Azure पोर्टल में बनाए गए Deployment name भरना है, मॉडल का नाम नहीं। Base URL भी अपनी Azure संसाधन एंडपॉइंट भरें।
तीसरा चरण: पुष्टि करें और सबमिट करें
सेटिंग्स का सारांश पुनः जाँचें और सबमिट करें। सफल सबमिशन पर, नया चैनल सूची में दिखेगा और उसकी लाइव स्वास्थ्य-स्थिति प्रदर्शित होगी।
कनेक्टिविटी परीक्षण
चैनल सूची में, प्रत्येक चैनल के लिए कनेक्टिविटी परीक्षण कर सकते हैं। परीक्षण के दो पहलू होते हैं:
- एंडपॉइंट उपलब्धता (reachable) — जाँचें कि Base URL नेटवर्क के जरिये पहुँचा जा सकता है या नहीं।
- API कुंजी वैधता (authenticated) — विक्रेता API को कॉल कर, दिए गए API Key की मान्यता सुनिश्चित करें। सिर्फ तभी जांचेगा, जब API Key दी गई हो।
परीक्षण का परिणाम दिखाता है: राउंडट्रिप विलंबता (मिलीसेकंड में), स्थिति चिह्न और किसी भी त्रुटि की जानकारी।
TIP
चैनल जोड़ने के दौरान, यदि एंडपॉइंट उपलब्ध नहीं है तो आगे बढ़ने से रोका जाएगा; यदि एंडपॉइंट उपलब्ध लेकिन कुंजी अमान्य हो तो केवल चेतावनी होगी, आप आगे बढ़ सकते हैं (जैसे - आप बाद में कुंजी भरना चाहते हैं)।
उन्नत सेटिंग्स
चैनल जोड़ते या संपादित करते समय, उन्नत सेटिंग्स खोल सकते हैं जो लागत प्रबंधन और कोटा नियंत्रण के लिए मददगार हैं:
- मूल्यांकन गुणक (Rate Multiplier) — विक्रेता की आधिकारिक कीमत पर गुणनकार लागू करें, जिससे आपके असली लागत या पुनर्विक्रेता मूल्य के हिसाब से मूल्यांकन हो सके, डिफ़ॉल्ट
1.0। - मूल्य निर्धारण संरचना — चैनल की मूल्य व्यवस्था जैसे उपयोग-आधारित (pay as you go), सब्सक्रिप्शन, या पैकेज।
- बैलेंस — बैलेंस स्रोत फिक्स्ड वैल्यू, OSS बिल या मैनुअल रखरखाव हो सकता है; OSS बिल चुनने पर आप बिल टाइप भी चुन सकते हैं। बैलेंस और अपडेट समय चैनल डिटेल्स में पढ़ने योग्य रूप में दिखाता है।
- सब्सक्रिप्शन समाप्ति तिथि — सब्सक्रिप्शन या पैकेज चैनल के लिए समाप्ति तिथि दर्ज कर सकते हैं।
- कोटा सीमा (VIP) — टोकन संख्या, रिक्वेस्ट संख्या या राशि के आधार पर सीमा सेट करें, और साइकिल चुनें (दैनिक/साप्ताहिक/मासिक/कस्टम)। "ड्रिफ्ट की अनुमति" चालू करके कुछ प्रतिशत अधिकता को सहन कर सकते हैं। कोटा सीमा पेड फ़ीचर है।
चैनल संपादन और हटाना
- संपादन — चैनल सूची में किसी चैनल को खोलकर नाम, Base URL, API Key, मॉडल और उन्नत सेटिंग्स बदली जा सकती हैं।
- हटाना — चैनल हटाने पर उस चैनल पर निर्भर वर्चुअल कुंजी अब उस तक रूट नहीं होगी, अतः सावधानी से करें।
स्वास्थ्य-स्थिति
चैनल सूची व ओवरव्यू पृष्ठ में प्रत्येक चैनल की स्वास्थ्य-स्थिति (सामान्य / डाउनग्रेडेड / अनुपलब्ध) का रीयलटाइम प्रदर्शन है, जिससे आप फेल हुए विक्रेता-सेटअप को जल्दी पकड़ सकते हैं।
सामान्य पूछे जाने वाले प्रश्न (FAQ)
- Q: चैनल जोड़ते समय लॉगिन की आवश्यकता क्यों बताता है?
- A: AI गेटवे, ServBay की प्रीमियम सुविधा है, चैनल/कुंजी जोड़ने से पूर्व सर्वबे अकाउंट में लॉगिन आवश्यक है, सिस्टम के दिशा-निर्देशों का पालन करें।
- Q: अधिकतम चैनल संख्या की सीमा का संदेश क्यों दिखता है?
- A: आपकी योजना के हिसाब से चैनल संख्या सीमित है; सीमा पूर्ण होने पर अनावश्यक चैनल हटा सकते हैं या योजना को अपग्रेड कर सकते हैं।
- Q: मॉडल ऑटोमैटिकली डिस्कवर नहीं हो पा रही?
- A: कृपया Base URL सही है, API Key मान्य है (API कुंजी वैधता की जांच कर लें)। कई विक्रेताओं की सूची तभी मिलती है जब मान्य API Key हो; आप मॉडल नाम मैन्युअली भी एंटर कर सकते हैं।
- Q: स्थानीय Ollama या LM Studio इंटीग्रेशन के लिए भी Key चाहिए?
- A: सामान्यतः नहीं चाहिए। सुनिश्चित करें कि स्थानीय सर्विस चालू है और डिफ़ॉल्ट पोर्ट (Ollama
11434, LM Studio1234) सुन रही है।
- A: सामान्यतः नहीं चाहिए। सुनिश्चित करें कि स्थानीय सर्विस चालू है और डिफ़ॉल्ट पोर्ट (Ollama
सारांश
चैनल, AI गेटवे के लिए रूटिंग अनुरोध की नींव है। तीन-चरणीय विज़ार्ड के माध्यम से आप लगभग 20 प्रमुख विक्रेताओं को तेज़ी से इंटीग्रेट कर सकते हैं। ड्यूल-रीज़न स्विचिंग, मॉडल ऑटो-डिस्कवरी और डबल कनेक्टिविटी परीक्षण से सेटिंग्स की सहीता सुनिश्चित करें, और मूल्यांकन तथा कोटा जैसी उन्नत सेटिंग्स के जरिए लागत पर नज़र रखें। एक बार चैनल सेटअप हो जाए तो आप वर्चुअल कुंजी बना सकते हैं, जिनका एप्लिकेशनों और टूल में उपयोग किया जा सकता है।
