AI गेटवे एंडपॉइंट और वातावरण चर
वन-क्लिक टेकओवर के अलावा, जो तैयार AI टूल्स को नियंत्रित करता है, आप अपने कस्टम एप्लिकेशन, स्क्रिप्ट या किसी भी AI टूल में सीधे ServBay AI गेटवे को भी कॉल कर सकते हैं। इस लेख में गेटवे द्वारा प्रदान किए गए एंडपॉइंट फ़ॉर्मेट्स और वर्चुअल कीज़ के माध्यम से कनेक्शन का तरीका बताया गया है।
प्रॉक्सी एंडपॉइंट
AI गेटवे का प्रॉक्सी सर्विस http://127.0.0.1:11580 पर सुनता है। विभिन्न वेंडर के SDKs और टूल्स की संगतता के लिए, गेटवे एक ही पोर्ट पर कई प्रोटोकॉल फॉर्मेट के एंडपॉइंट्स प्रदान करता है:
| प्रोटोकॉल फॉर्मेट | एंडपॉइंट पथ | उपयुक्त उपयोग |
|---|---|---|
| OpenAI संगत | http://127.0.0.1:11580/v1 | कोई भी SDK/टूल जो OpenAI API फॉर्मेट उपयोग करता है (जैसे /v1/chat/completions) |
| Anthropic संगत | http://127.0.0.1:11580/v1/messages | Anthropic SDK और Claude Code आदि के लिए |
| Gemini संगत | http://127.0.0.1:11580/v1beta | Google Gemini SDK और Gemini CLI आदि के लिए |
आपको बस अपने उपयोग किए जाने वाले SDK के अनुसार उपयुक्त प्रोटोकॉल का चयन करना है और रिक्वेस्ट को इसी गेटवे एड्रेस पर भेजना है। गेटवे वर्चुअल की की अनुमति के अनुसार रिक्वेस्ट को संबंधित वेंडर चैनल तक रूट करेगा।
प्रमाणीकरण: वर्चुअल की का प्रयोग करें
गेटवे पर सभी अनुरोधों के लिए वर्चुअल की से प्रमाणन किया जाता है, न कि वेंडर द्वारा दिया गया वास्तविक की। कृपया पहले वर्चुअल कीज़ पृष्ठ पर एक वर्चुअल की बनाएं और उसकी प्रकट की को कॉपी करें।
AI गेटवे → एंडपॉइंट्स (Endpoints) पृष्ठ पर, आप एक वर्चुअल की चुन सकते हैं। गेटवे आम तौर पर प्रयुक्त टूल्स के लिए सीधे कॉपी किए जा सकने वाले वातावरण चर भी दिखाता है।
वातावरण चर उदाहरण
मान लीजिए आपने एक वर्चुअल की हासिल कर लिया है (इसे <आपकी वर्चुअल की> के रूप में समझें)।
OpenAI संगत SDK / टूल्स
bash
export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<आपकी वर्चुअल की>"1
2
2
Claude Code / Anthropic
bash
# ध्यान दें: Anthropic प्रोटोकॉल में गेटवे का मूल पता उपयोग करें, '/v1' के बिना
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<आपकी वर्चुअल की>"1
2
3
2
3
Gemini
bash
export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<आपकी वर्चुअल की>"1
2
2
कॉल उदाहरण (OpenAI संगत)
bash
curl http://127.0.0.1:11580/v1/chat/completions \
-H "Authorization: Bearer <आपकी वर्चुअल की>" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "你好"}]
}'1
2
3
4
5
6
7
2
3
4
5
6
7
यहाँ model वह मॉडल होना चाहिए जिसे आपने चैनल में कॉन्फ़िगर किया है और जिसे यह वर्चुअल की उपयोग करने की अनुमति है।
आवश्यक शर्तें
- AI गेटवे प्रॉक्सी सेवा चल रही है।
- कम से कम एक स्वस्थ चैनल कॉन्फ़िगर किया गया है, और उपयुक्त मॉडल/चैनल अनुमति रखने वाली वर्चुअल की तैयार है।
सामान्य प्रश्न (FAQ)
- Q: अनुरोध प्रमाणीकरण विफल दिखा रहा है?
- A: जांचें कि वर्चुअल की (न कि वेंडर की असली की) का उपयोग हो रहा है, और वह की सक्रिय, अव्याप्त एवं अप्रत्याहृत हो।
- Q: मॉडल अनुपलब्ध या अनुमति नहीं का संदेश आया?
- A: जांचें कि
modelकिसी चैनल में कॉन्फ़िगर है, और वर्तमान वर्चुअल की की “अनुमति प्राप्त मॉडल/चैनल” में शामिल है।
- A: जांचें कि
- Q: किस एंडपॉइंट फॉर्मेट का उपयोग करें?
- A: अपने SDK के प्रोटोकॉल के अनुसार—OpenAI के लिए
/v1, Anthropic के लिए/v1/messages(Base URL में/v1नहीं), Gemini के लिए/v1beta।
- A: अपने SDK के प्रोटोकॉल के अनुसार—OpenAI के लिए
- Q: क्या LAN के अन्य डिवाइस गेटवे ऐक्सेस कर सकते हैं?
- A: गेटवे डिफ़ॉल्ट रूप से केवल
127.0.0.1(यानी लोकल होस्ट) पर सुनता है। यह सुरक्षा के लिए अनुशंसित सेटिंग है।
- A: गेटवे डिफ़ॉल्ट रूप से केवल
सारांश
AI गेटवे OpenAI / Anthropic / Gemini तीनों प्रकार के संगत फॉर्मेट में एकीकृत स्थानीय एंडपॉइंट प्रदान करता है। वर्चुअल की प्रमाणीकरण के साथ, आप किसी भी एप्लिकेशन या AI टूल को गेटवे से जोड़ सकते हैं और एकीकृत की प्रबंधन एवं उपयोग आँकड़े प्राप्त कर सकते हैं। आम CLI टूल्स के लिए, वन-क्लिक टेकओवर का सीधा उपयोग करना अधिक आसान रहेगा।
