राउटिंग और मॉडल चयन: चैनल, मॉडल और क्लाइंट का संबंध
AI गेटवे का उपयोग करते समय सबसे अधिक भ्रम पैदा करने वाली तीन अवधारणाएँ हैं: चैनल, मॉडल और क्लाइंट। इनके संबंध को समझना आपको राउटिंग को सही ढंग से कॉन्फ़िगर करने में मदद करेगा, और "मेरा अनुरोध अपेक्षित चैनल से क्यों नहीं गया" जैसी उलझनों से बचने में भी सहायक होगा।
तीन बुनियादी अवधारणाएँ
- चैनल एक अपस्ट्रीम कनेक्शन है: एक Ollama इंस्टेंस, या किसी क्लाउड सेवा प्रदाता का खाता।
- मॉडल चैनल की एक क्षमता है: जैसे
qwen3:8bजैसा कोई विशिष्ट मॉडल नाम। - क्लाइंट वे AI टूल्स हैं जिनका आप रोज़ उपयोग करते हैं: Claude Code, Codex, opencode आदि।
इनका संबंध एक एकदिशीय श्रृंखला है:
क्लाइंट → (वर्चुअल की) → गेटवे (राउटिंग नीति) → चैनल → मॉडल
हर अनुरोध पर, क्लाइंट ही अनुरोध में मॉडल का नाम निर्दिष्ट करता है, और गेटवे उस मॉडल नाम के आधार पर वह चैनल ढूँढता है जो उसे सेवा प्रदान कर सकता है, फिर अनुरोध को उसी चैनल पर अग्रेषित कर देता है।
मॉडल सूची में "model (चैनल का नाम)" का क्या अर्थ है
Claude Code, opencode जैसे क्लाइंट के मॉडल सिलेक्टर में आपको qwen3:8b (Ollama Qwen3) जैसी प्रविष्टियाँ दिखाई देंगी। कोष्ठक में दिया गया नाम इस मॉडल के स्रोत चैनल को दर्शाता है, यह "कोई दूसरा कनेक्शन" नहीं है:
- आपके क्लाइंट और गेटवे के बीच हमेशा केवल एक ही कनेक्शन होता है (एक पता + एक वर्चुअल की)।
- एक ही मॉडल को कई चैनलों पर भी कॉन्फ़िगर किया जा सकता है। ऐसी स्थिति में सिलेक्टर में अभी भी केवल एक ही पंक्ति दिखाई देती है (कोष्ठक में उनमें से किसी एक स्रोत चैनल का नाम दिखता है), और हर अनुरोध वास्तव में किस चैनल द्वारा सेवा प्रदान की जाएगी, यह राउटिंग नीति तय करती है (नीचे देखें)।
तीन राउटिंग मोड: Fixed, Failover, Balanced
राउटिंग नीति इस प्रश्न का उत्तर देती है: जब एक ही मॉडल की सेवा कई चैनल दे सकते हों, तो किसका उपयोग करें?
| मोड | व्यवहार | उपयुक्त परिदृश्य |
|---|---|---|
| Fixed (स्थिर) | हमेशा एक ही चैनल का उपयोग करता है | चैनल की गुणवत्ता स्थिर हो, स्रोत को लॉक रखना चाहते हों |
| Failover (प्राथमिक-बैकअप) | प्राथमिक चैनल विफल होने या कोटा समाप्त होने पर, क्रम से बैकअप चैनल पर स्विच करता है | प्राथमिक और बैकअप वाला कॉन्फ़िगरेशन |
| Balanced (संतुलित) | उपलब्ध चैनलों के बीच अनुरोधों को बारी-बारी आवंटित करता है | कई समरूप चैनलों के बीच लोड बाँटना |
दो प्रमुख बातें ध्यान रखें:
- राउटिंग केवल चैनलों के बीच स्विच करती है, मॉडल नहीं बदलती। किस मॉडल का अनुरोध करना है, यह हमेशा आपका क्लाइंट तय करता है; गेटवे आपके लिए मॉडल नहीं बदलता।
- विभिन्न मॉडल पहले से ही अपने-अपने चैनलों पर जाते हैं। Balanced "इस बार A चैनल का मॉडल, अगली बार B चैनल का मॉडल" इस तरह काम नहीं करता — यह केवल एक ही मॉडल के कई चैनलों के बीच बारी-बारी सेवा देता है।
मॉडल का चयन क्लाइंट करता है: मॉडल कैसे बदलें
गेटवे केवल अग्रेषण का काम करता है: आपका टूल हर अनुरोध में मॉडल नाम भेजता है, और गेटवे उसी के अनुसार राउट करता है। मॉडल बदलने का काम क्लाइंट में होता है:
- opencode: TUI में
/modelsटाइप करके चुनें; याopencode.jsonमेंmodel(प्राथमिक मॉडल) औरsmall_model(शीर्षक निर्माण जैसे हल्के कार्यों के लिए) कॉन्फ़िगर करें। - Claude Code:
/modelकमांड से स्विच करें। - Codex:
-m <model>पैरामीटर या कॉन्फ़िगरेशन फ़ाइल के माध्यम से निर्दिष्ट करें।
दैनिक टूल्स को सुरक्षित रूप से गेटवे से जोड़ना
चिंतित हैं कि आपके दैनिक उपयोग प्रभावित होंगे? इस प्रक्रिया का पालन करें:
- पहले किसी मामूली प्रोजेक्ट पर आज़माएँ: किसी कम महत्वपूर्ण प्रोजेक्ट डायरेक्टरी में वन-क्लिक एक्सेस पूरा करें और सुनिश्चित करें कि वर्कफ़्लो सामान्य रूप से काम कर रहा है।
- एक अनुरोध से सत्यापन करें: एक परीक्षण अनुरोध भेजें, फिर "उपयोग रिकॉर्ड" पेज पर जाकर देखें कि वह किस मॉडल पर, किस चैनल से गया और कितनी लागत आई।
- कभी भी वापस लौटें: "एक्सेस प्रबंधन" पेज पर टेकओवर रोकें। रोकने के बाद: ServBay द्वारा लिखी गई कॉन्फ़िगरेशन हटा दी जाएगी, और टेकओवर के दौरान बनाई गई वर्चुअल की निरस्त कर दी जाएगी; आपकी पहले की कस्टम कॉन्फ़िगरेशन स्वचालित रूप से बहाल नहीं होगी, यदि आवश्यक हो तो मैन्युअल रूप से समायोजित करें — क्लाइंट को पुनः आरंभ करने के बाद परिवर्तन लागू हो जाएँगे।
सारांश
- चैनल = अपस्ट्रीम कनेक्शन; मॉडल = चैनल की क्षमता; मॉडल नाम हर अनुरोध में क्लाइंट द्वारा निर्दिष्ट किया जाता है।
- राउटिंग नीति केवल "एक ही मॉडल के कई चैनलों" के बीच चयन करती है: Fixed स्थिर रखता है, Failover प्राथमिक-बैकअप बदलता है, Balanced बारी-बारी करता है।
- क्लाइंट के मॉडल सिलेक्टर में मॉडल बदलें; "उपयोग रिकॉर्ड" पेज पर हर अनुरोध का स्रोत और लागत सत्यापित करें।
