AI गेटवे एंडपॉइंट और पर्यावरण चर
तैयार AI टूल्स के वन-क्लिक टेकओवर के अलावा, आप अपने एप्लिकेशन, स्क्रिप्ट या किसी भी AI टूल में सीधे AI गेटवे को कॉल कर सकते हैं। यह लेख गेटवे द्वारा उजागर एंडपॉइंट प्रारूपों और वर्चुअल की से कनेक्ट करने के तरीके के बारे में बताता है।
प्रॉक्सी एंडपॉइंट
AI गेटवे की प्रॉक्सी सेवा http://127.0.0.1:11580 पर सुनती है। विभिन्न प्रदाताओं के SDK और टूल्स के साथ संगतता के लिए, गेटवे एक ही पोर्ट पर कई प्रोटोकॉल प्रारूपों के एंडपॉइंट प्रदान करता है:
| प्रोटोकॉल प्रारूप | एंडपॉइंट पथ | उपयुक्त परिदृश्य |
|---|---|---|
| OpenAI संगत | http://127.0.0.1:11580/v1 | कोई भी SDK / टूल जो OpenAI API प्रारूप का उपयोग करता है (जैसे /v1/chat/completions) |
| Anthropic संगत | http://127.0.0.1:11580/v1/messages | Anthropic SDK और Claude Code आदि |
| Gemini संगत | http://127.0.0.1:11580/v1beta | Google Gemini SDK आदि |
आपको बस अपने उपयोग किए जा रहे SDK के प्रोटोकॉल के अनुसार उपयुक्त प्रारूप चुनना है और अनुरोधों को गेटवे पते पर इंगित करना है; गेटवे वर्चुअल की की अनुमतियों के आधार पर अनुरोधों को संबंधित प्रदाता चैनल पर रूट कर देगा।
प्रमाणीकरण: वर्चुअल की का उपयोग
गेटवे को किए जाने वाले सभी अनुरोध वर्चुअल की से प्रमाणित होते हैं, न कि प्रदाता की वास्तविक Key से। कृपया पहले की पृष्ठ पर एक वर्चुअल की बनाएँ और उसका सादा टेक्स्ट कॉपी करें।
AI गेटवे → एंडपॉइंट (Endpoints) पृष्ठ पर, आप एक वर्चुअल की चुन सकते हैं, और गेटवे सामान्य टूल्स के लिए सीधे कॉपी करने योग्य पर्यावरण चर स्निपेट जनरेट करेगा।
पर्यावरण चर उदाहरण
निम्नलिखित उदाहरण मानते हैं कि आपने एक वर्चुअल की प्राप्त कर ली है (इसे <你的虚拟密钥> के रूप में दर्शाया गया है)।
OpenAI संगत SDK / टूल्स
bash
export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<你的虚拟密钥>"1
2
2
Claude Code / Anthropic
bash
# ध्यान दें: Anthropic प्रोटोकॉल गेटवे रूट पते का उपयोग करता है, बिना /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<你的虚拟密钥>"1
2
3
2
3
Gemini
bash
export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<你的虚拟密钥>"1
2
2
कॉल उदाहरण (OpenAI संगत)
bash
curl http://127.0.0.1:11580/v1/chat/completions \
-H "Authorization: Bearer <你的虚拟密钥>" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "你好"}]
}'1
2
3
4
5
6
7
2
3
4
5
6
7
यहाँ model वह मॉडल होना चाहिए जिसे आपने चैनल में कॉन्फ़िगर किया है और जिसे उस वर्चुअल की द्वारा कॉल करने की अनुमति है।
पूर्वापेक्षाएँ
- AI गेटवे प्रॉक्सी सेवा चल रही है।
- कम से कम एक स्वस्थ चैनल कॉन्फ़िगर किया गया है, और संबंधित मॉडल / चैनल अनुमतियों वाली वर्चुअल की बनाई गई है।
सामान्य प्रश्न (FAQ)
- प्रश्न: अनुरोध प्रमाणीकरण विफल लौटाता है?
- उत्तर: पुष्टि करें कि आप वर्चुअल की का उपयोग कर रहे हैं (प्रदाता की वास्तविक Key नहीं), और वह की समाप्त नहीं हुई है और रद्द नहीं की गई है।
- प्रश्न: मॉडल अनुपलब्ध या अनुमति नहीं बताता?
- उत्तर: पुष्टि करें कि वह
modelकिसी चैनल में कॉन्फ़िगर किया गया है, और वर्तमान वर्चुअल की के "अनुमत मॉडल / चैनल" में शामिल है।
- उत्तर: पुष्टि करें कि वह
- प्रश्न: कौन सा एंडपॉइंट प्रारूप उपयोग करना चाहिए?
- उत्तर: अपने उपयोग किए जा रहे SDK के प्रोटोकॉल के अनुसार चुनें—OpenAI शैली के लिए
/v1, Anthropic शैली के लिए/v1/messages(Base URL में/v1नहीं), Gemini शैली के लिए/v1beta।
- उत्तर: अपने उपयोग किए जा रहे SDK के प्रोटोकॉल के अनुसार चुनें—OpenAI शैली के लिए
- प्रश्न: क्या LAN में अन्य डिवाइस गेटवे तक पहुँच सकते हैं?
- उत्तर: गेटवे डिफ़ॉल्ट रूप से केवल
127.0.0.1(केवल स्थानीय मशीन) पर सुनता है। यह सुरक्षा कारणों से अनुशंसित सेटिंग है।
- उत्तर: गेटवे डिफ़ॉल्ट रूप से केवल
सारांश
AI गेटवे OpenAI / Anthropic / Gemini तीन संगत प्रारूपों में एकीकृत स्थानीय एंडपॉइंट प्रदान करता है, और वर्चुअल की प्रमाणीकरण के साथ, आप किसी भी एप्लिकेशन या AI टूल को गेटवे से जोड़ सकते हैं, तथा एकीकृत की प्रबंधन और उपयोग सांख्यिकी का लाभ उठा सकते हैं। सामान्य CLI टूल्स के लिए, सीधे वन-क्लिक टेकओवर का उपयोग करना अधिक सुविधाजनक होगा।
