ปลายทางและตัวแปรสภาพแวดล้อมของ AI Gateway
นอกจากการ接管ด้วยคลิกเดียวที่ช่วยตั้งค่าเครื่องมือ AI สำเร็จรูปให้คุณแล้ว คุณยังสามารถเรียกใช้ AI Gateway ได้โดยตรงจากแอป สคริปต์ หรือเครื่องมือ AI ใด ๆ ของคุณเอง บทความนี้จะแนะนำรูปแบบปลายทางที่ Gateway เปิดให้บริการ รวมถึงวิธีเชื่อมต่อด้วยคีย์เสมือน
ปลายทางของพร็อกซี
บริการพร็อกซีของ AI Gateway จะรับฟังที่ http://127.0.0.1:11580 เพื่อให้เข้ากันได้กับ SDK และเครื่องมือของผู้ให้บริการหลายราย Gateway จึงให้บริการปลายทางหลายรูปแบบโปรโตคอลบนพอร์ตเดียวกัน:
| รูปแบบโปรโตคอล | เส้นทางปลายทาง | การใช้งานที่เหมาะสม |
|---|---|---|
| รองรับ OpenAI | http://127.0.0.1:11580/v1 | SDK / เครื่องมือใด ๆ ที่ใช้รูปแบบ OpenAI API (เช่น /v1/chat/completions) |
| รองรับ Anthropic | http://127.0.0.1:11580/v1/messages | Anthropic SDK และ Claude Code เป็นต้น |
| รองรับ Gemini | http://127.0.0.1:11580/v1beta | Google Gemini SDK เป็นต้น |
คุณเพียงเลือกรูปแบบให้ตรงกับโปรโตคอลของ SDK ที่ใช้งาน แล้วชี้คำขอไปที่ที่อยู่ของ Gateway ระบบจะกำหนดเส้นทางคำขอไปยังช่องทางของผู้ให้บริการที่เกี่ยวข้อง ตามสิทธิ์ของคีย์เสมือน
การยืนยันตัวตน: ใช้คีย์เสมือน
คำขอทั้งหมดที่ส่งไปยัง Gateway จะใช้คีย์เสมือนในการยืนยันตัวตน ไม่ใช่ Key จริงของผู้ให้บริการ โปรดสร้างคีย์เสมือนที่หน้า คีย์ แล้วคัดลอกรหัสข้อความธรรมดาของคีย์นั้น
ในหน้า AI Gateway → ปลายทาง (Endpoints) คุณสามารถเลือกคีย์เสมือนหนึ่งอัน แล้ว Gateway จะสร้างชิ้นส่วนตัวแปรสภาพแวดล้อมที่พร้อมคัดลอกให้สำหรับเครื่องมือยอดนิยมโดยอัตโนมัติ
ตัวอย่างตัวแปรสภาพแวดล้อม
ตัวอย่างด้านล่างสมมติว่าคุณมีคีย์เสมือนอยู่แล้ว (เขียนแทนด้วย <คีย์เสมือนของคุณ>)
SDK / เครื่องมือที่รองรับ OpenAI
bash
export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<คีย์เสมือนของคุณ>"1
2
2
Claude Code / Anthropic
bash
# หมายเหตุ: โปรโตคอล Anthropic ใช้ที่อยู่ root ของ Gateway โดยไม่มี /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<คีย์เสมือนของคุณ>"1
2
3
2
3
Gemini
bash
export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<คีย์เสมือนของคุณ>"1
2
2
ตัวอย่างการเรียกใช้ (รองรับ OpenAI)
bash
curl http://127.0.0.1:11580/v1/chat/completions \
-H "Authorization: Bearer <คีย์เสมือนของคุณ>" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "สวัสดี"}]
}'1
2
3
4
5
6
7
2
3
4
5
6
7
โดยที่ model ต้องเป็นโมเดลที่คุณตั้งค่าไว้ในช่องทางแล้ว และคีย์เสมือนนั้นได้รับอนุญาตให้เรียกใช้
ข้อกำหนดเบื้องต้น
- บริการพร็อกซีของ AI Gateway กำลังทำงานอยู่
- มีการตั้งค่าช่องทางที่พร้อมใช้งานอย่างน้อยหนึ่งช่องทาง และสร้างคีย์เสมือนที่มีสิทธิ์เข้าถึงโมเดล / ช่องทางที่เกี่ยวข้องแล้ว
คำถามที่พบบ่อย (FAQ)
- ถาม: คำขอส่งคืนข้อผิดพลาดการยืนยันตัวตน?
- ตอบ: ตรวจสอบว่าคุณใช้คีย์เสมือน (ไม่ใช่ Key จริงของผู้ให้บริการ) และคีย์นั้นยังไม่หมดอายุหรือถูกเพิกถอน
- ถาม: แจ้งว่าโมเดลใช้งานไม่ได้หรือไม่มีสิทธิ์?
- ตอบ: ตรวจสอบว่า
modelนั้นได้รับการตั้งค่าไว้ในช่องทางใดช่องทางหนึ่งแล้ว และ "โมเดล / ช่องทางที่อนุญาต" ของคีย์เสมือนปัจจุบันครอบคลุมโมเดลนั้นอยู่
- ตอบ: ตรวจสอบว่า
- ถาม: ควรใช้รูปแบบปลายทางแบบไหน?
- ตอบ: เลือกตามโปรโตคอลของ SDK ที่คุณใช้ — สไตล์ OpenAI ใช้
/v1, สไตล์ Anthropic ใช้/v1/messages(Base URL ไม่มี/v1), สไตล์ Gemini ใช้/v1beta
- ตอบ: เลือกตามโปรโตคอลของ SDK ที่คุณใช้ — สไตล์ OpenAI ใช้
- ถาม: อุปกรณ์อื่นในเครือข่าย LAN สามารถเข้าถึง Gateway ได้หรือไม่?
- ตอบ: โดยค่าเริ่มต้น Gateway จะรับฟังเฉพาะ
127.0.0.1(เฉพาะเครื่องนี้) ซึ่งเป็นค่าที่แนะนำเพื่อความปลอดภัย
- ตอบ: โดยค่าเริ่มต้น Gateway จะรับฟังเฉพาะ
สรุป
AI Gateway ให้บริการปลายทางภายในเครื่องแบบรวมศูนย์ในสามรูปแบบที่รองรับ ทั้ง OpenAI / Anthropic / Gemini พร้อมการยืนยันตัวตนด้วยคีย์เสมือน คุณจึงสามารถเชื่อมต่อแอปหรือเครื่องมือ AI ใด ๆ เข้ากับ Gateway และเพลิดเพลินกับการจัดการคีย์และสถิติการใช้งานที่รวมศูนย์ สำหรับเครื่องมือ CLI ทั่วไป การใช้การ接管ด้วยคลิกเดียวจะสะดวกกว่ามาก
