Endpoint AI Gateway và Biến Môi Trường
Ngoài việc sử dụng các công cụ AI sẵn có bằng Chế độ một nhấp, bạn cũng có thể kết nối trực tiếp AI Gateway vào ứng dụng, script hoặc bất kỳ công cụ AI nào của mình. Bài viết này giới thiệu các định dạng endpoint mà Gateway hỗ trợ và cách tích hợp thông qua khóa ảo.
Endpoint Proxy
Dịch vụ proxy của AI Gateway lắng nghe tại địa chỉ http://127.0.0.1:11580. Để tương thích với các SDK và công cụ từ nhiều nhà cung cấp khác nhau, Gateway cung cấp nhiều định dạng endpoint trên cùng một cổng:
| Định dạng giao thức | Đường dẫn endpoint | Trường hợp sử dụng |
|---|---|---|
| Tương thích OpenAI | http://127.0.0.1:11580/v1 | Bất kỳ SDK/công cụ nào sử dụng API OpenAI (ví dụ /v1/chat/completions) |
| Tương thích Anthropic | http://127.0.0.1:11580/v1/messages | Anthropic SDK và các công cụ như Claude Code |
| Tương thích Gemini | http://127.0.0.1:11580/v1beta | Google Gemini SDK và Gemini CLI |
Bạn chỉ cần chọn định dạng phù hợp với SDK mà bạn sử dụng và trỏ request đến địa chỉ của Gateway. Gateway sẽ tự động định tuyến đến kênh nhà cung cấp tương ứng dựa trên quyền của khóa ảo.
Xác Thực: Sử Dụng Khóa Ảo
Mọi request tới Gateway đều xác thực bằng khóa ảo, không dùng khóa thật (key) của nhà cung cấp. Hãy vào trang Khóa để tạo khóa ảo và sao chép giá trị plaintext của nó.
Tại trang AI Gateway → Endpoints, bạn có thể chọn một khóa ảo và Gateway sẽ tự động tạo ra các đoạn cấu hình biến môi trường để bạn sao chép dùng cho các công cụ phổ biến.
Ví Dụ Biến Môi Trường
Giả sử bạn đã có một khóa ảo (ký hiệu là <khóa ảo của bạn>).
SDK / Công cụ Tương Thích OpenAI
bash
export OPENAI_BASE_URL="http://127.0.0.1:11580/v1"
export OPENAI_API_KEY="<khóa ảo của bạn>"1
2
2
Claude Code / Anthropic
bash
# Lưu ý: Giao thức Anthropic sử dụng địa chỉ gốc của gateway, không có /v1
export ANTHROPIC_BASE_URL="http://127.0.0.1:11580"
export ANTHROPIC_AUTH_TOKEN="<khóa ảo của bạn>"1
2
3
2
3
Gemini
bash
export GOOGLE_GEMINI_BASE_URL="http://127.0.0.1:11580"
export GEMINI_API_KEY="<khóa ảo của bạn>"1
2
2
Ví Dụ Gọi (Tương Thích OpenAI)
bash
curl http://127.0.0.1:11580/v1/chat/completions \
-H "Authorization: Bearer <khóa ảo của bạn>" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "你好"}]
}'1
2
3
4
5
6
7
2
3
4
5
6
7
Trong đó model phải là model bạn đã cấu hình trong kênh và khóa ảo này được phân quyền sử dụng.
Điều Kiện Cần Thiết
- Dịch vụ proxy AI Gateway đang chạy.
- Đã cấu hình ít nhất một kênh hoạt động tốt và đã tạo khóa ảo có quyền truy cập model/kênh tương ứng.
Câu Hỏi Thường Gặp (FAQ)
- Q: Nhận thông báo xác thực thất bại khi gọi API?
- A: Hãy chắc chắn bạn đang dùng khóa ảo (không phải khóa thật của nhà cung cấp), và khóa này chưa hết hạn hoặc bị thu hồi.
- Q: Nhận lỗi model không khả dụng hoặc không có quyền truy cập?
- A: Đảm bảo model đó đã được cấu hình trong một kênh và khóa ảo bạn dùng có quyền với model/kênh đó.
- Q: Nên chọn định dạng endpoint nào?
- A: Chọn theo chuẩn giao thức SDK bạn đang dùng—phong cách OpenAI dùng
/v1, phong cách Anthropic dùng/v1/messages(base URL không có/v1), phong cách Gemini dùng/v1beta.
- A: Chọn theo chuẩn giao thức SDK bạn đang dùng—phong cách OpenAI dùng
- Q: Thiết bị khác trong mạng LAN có kết nối được Gateway?
- A: Gateway mặc định chỉ lắng nghe trên
127.0.0.1(chỉ cục bộ). Đây là cấu hình tiêu chuẩn vì lý do bảo mật.
- A: Gateway mặc định chỉ lắng nghe trên
Tóm Tắt
AI Gateway cung cấp endpoint cục bộ thống nhất dưới ba định dạng tương thích OpenAI / Anthropic / Gemini. Kết hợp cùng xác thực bằng khóa ảo, bạn có thể tích hợp bất kỳ ứng dụng hay công cụ AI nào, tận hưởng quản lý khóa và thống kê sử dụng tập trung. Đối với các công cụ CLI phổ biến, lựa chọn Chế độ một nhấp sẽ tối ưu trải nghiệm hơn.
