Giới thiệu Cổng AI ServBay (AI Gateway)

Cổng AI ServBay (AI Gateway) là một cổng nhà cung cấp AI thống nhất cục bộ được tích hợp sẵn trong ServBay. Nó chạy một endpoint proxy trên máy của bạn, gom mọi yêu cầu gửi đến các nhà cung cấp mô hình lớn khác nhau (OpenAI, Anthropic, DeepSeek, Qwen, v.v. gần 20 nhà cung cấp) về một đầu mối duy nhất, giúp bạn quản lý tập trung khóa, thống kê mức sử dụng và chi phí, đồng thời chỉ với một cú nhấp đưa các công cụ lập trình AI như Claude Code, Codex trỏ đến cổng cục bộ.

Tài liệu này giới thiệu AI Gateway là gì, giải quyết những vấn đề gì và kiến trúc tổng thể của nó. Để biết thao tác cụ thể, vui lòng xem:

• Quản lý kênh — Thêm và cấu hình các nhà cung cấp
• Khóa ảo — Tạo, giới hạn quyền, xoay vòng và thu hồi khóa
• Tiếp quản công cụ lập trình AI chỉ với một cú nhấp — Trỏ Claude Code và các CLI khác đến cổng
• Thống kê và giám sát — Mức sử dụng, chi phí và ngân sách
• Endpoint và biến môi trường — Gọi cổng từ mã của riêng bạn

Tổng quan

Trong quá trình phát triển AI hằng ngày, bạn có thể đồng thời sở hữu API Key của nhiều nhà cung cấp, nằm rải rác trong tệp cấu hình của nhiều dự án và công cụ khác nhau, khiến việc thống kê chi phí cũng như chuyển đổi thống nhất trở nên khó khăn. Cổng AI ServBay gom những vấn đề này về một nơi:

• Một đầu mối, kết nối nhiều nhà cung cấp — Sau khi cấu hình các kênh, mọi yêu cầu đều được chuyển tiếp qua http://127.0.0.1:11580 cục bộ; ứng dụng của bạn chỉ cần làm việc với một địa chỉ duy nhất.
• Khóa ảo thay cho khóa thật — Cổng phát hành "khóa ảo" cho ứng dụng và công cụ; API Key thật của nhà cung cấp chỉ được lưu ở phía cổng, không còn nằm rải rác khắp nơi. Khóa ảo có thể được giới hạn quyền, xoay vòng và thu hồi bất cứ lúc nào.
• Góc nhìn thống nhất về mức sử dụng và chi phí — Mọi yêu cầu đi qua cổng đều được ghi lại; cổng cung cấp thống kê về số yêu cầu, mức dùng Token, chi phí, độ trễ, mức dùng đa phương thức, v.v. và hỗ trợ quản lý ngân sách.
• Tiếp quản các công cụ lập trình AI phổ biến chỉ với một cú nhấp — Không cần sửa tệp cấu hình thủ công, cổng có thể chỉ với một cú nhấp trỏ Claude Code, Codex, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush, v.v. đến cổng cục bộ.
• Theo dõi tài khoản thuê bao và hạn mức — Hỗ trợ liên kết tài khoản nhà cung cấp dạng thuê bao (như ủy quyền OAuth của Claude Pro / Max), hiển thị trực quan trong cổng thông tin gói, endpoint khả dụng, giới hạn độ dài đầu ra, đồng thời theo dõi thời gian thực hạn mức nhiều cửa sổ (phần trăm đã dùng / còn lại, trạng thái cạn hạn mức, thời gian đặt lại), giúp bạn nắm rõ số dư thuê bao mọi lúc.
• Dò khả năng kênh và định tuyến thông minh — Khi thêm kênh, cổng tự động dò khả năng của nhà cung cấp (dạng ủy quyền OAuth / dạng gói lập trình / dạng mô hình theo bậc), sau khi xác nhận sẽ tự động ghi ánh xạ cổng ba bậc theo kết quả dò, không cần đoán thủ công mức tương thích của mô hình.

Kiến trúc và cổng kết nối

AI Gateway bao gồm hai dịch vụ cục bộ, cả hai chỉ lắng nghe địa chỉ loopback (127.0.0.1):

Cổng	Mục đích	Mô tả
11580	Cổng proxy	Đầu mối thống nhất dành cho ứng dụng. Mã của bạn và các công cụ AI được tiếp quản đều gửi yêu cầu đến đây; cổng định tuyến đến kênh nhà cung cấp tương ứng theo quyền của khóa ảo.
11581	Cổng quản trị	Dùng cho ứng dụng ServBay quản lý nội bộ kênh, khóa và dữ liệu thống kê; thông thường không cần truy cập trực tiếp.

Cổng proxy đồng thời cung cấp endpoint tương thích nhiều định dạng (tương thích OpenAI, tương thích Anthropic, tương thích Gemini), xem chi tiết tại Endpoint và biến môi trường.

Các kênh nhà cung cấp được hỗ trợ

AI Gateway tích hợp sẵn gần 20 cấu hình nhà cung cấp, được nhóm theo danh mục; khi thêm kênh, bạn có thể chọn trực tiếp:

• Phổ biến (Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• Trung Quốc (China): DeepSeek, Qwen, Zhipu GLM, Kimi (Moonshot AI), Doubao · Volcano, ERNIE Bot, Hunyuan, MiniMax, 01.AI, StepFun. Trong đó Qwen, Zhipu GLM, Kimi, Doubao · Volcano, Hunyuan, MiniMax, StepFun, v.v. hỗ trợ chuyển đổi endpoint hai khu vực nội địa / toàn cầu.
• Cục bộ (Local): Ollama (mặc định 127.0.0.1:11434), LM Studio (mặc định 127.0.0.1:1234).
• Tùy chỉnh (Custom): OpenAI Compatible (dịch vụ tương thích OpenAI bất kỳ), Custom (tùy chỉnh hoàn toàn).

Quy trình thêm và cấu hình đầy đủ xem tại Quản lý kênh.

Điều kiện tiên quyết

• Đã cài đặt và đang chạy ServBay trên macOS hoặc Windows.
• AI Gateway là tính năng giá trị gia tăng của ServBay; bạn cần đăng nhập tài khoản ServBay trước khi thêm kênh / khóa. Nếu chưa đăng nhập, giao diện sẽ hướng dẫn bạn hoàn tất đăng nhập.

TIP

AI Gateway có chức năng nhất quán trên ServBay for macOS và ServBay for Windows; cổng proxy (11580), cổng quản trị (11581) và đường dẫn tệp cấu hình của các công cụ được tiếp quản đều giống nhau. Nếu tài liệu có khác biệt giữa các nền tảng, sẽ được ghi chú riêng.

Tài khoản và gói dịch vụ

Một số khả năng của AI Gateway gắn với gói tài khoản ServBay:

• Giới hạn số kênh / số khóa — Gói miễn phí và gói trả phí có số kênh, khóa ảo có thể tạo khác nhau. Khi đạt giới hạn, giao diện sẽ nhắc nâng cấp.
• Quản lý hạn mức và ngân sách — Giới hạn theo hạn mức (Token / số yêu cầu / số tiền) và bảng điều khiển ngân sách thuộc khả năng VIP / trả phí; khi chưa đăng ký, khu vực tương ứng sẽ bị khóa và nhắc nâng cấp.

Để biết chi tiết gói dịch vụ, vui lòng xem ServBay Pro và ServBay Team.

Tài khoản thuê bao và theo dõi hạn mức

AI Gateway hỗ trợ liên kết tài khoản nhà cung cấp dạng thuê bao (như Claude Pro / Max được kết nối qua ủy quyền OAuth), cho phép bạn xem và quản lý trực tiếp các tài nguyên thuê bao này ngay trong cổng cục bộ, mà không cần đăng nhập bảng điều khiển web của từng nhà cung cấp.

Tài khoản thuê bao có thể làm gì

• Thông tin gói rõ ràng trong nháy mắt — Hiển thị tên gói thuê bao, cấu trúc tính phí và thời hạn hiệu lực.
• Endpoint khả dụng và giới hạn đầu ra — Xem danh sách endpoint mà tài khoản thuê bao có thể gọi và giới hạn độ dài đầu ra tối đa của từng mô hình.
• Theo dõi hạn mức nhiều cửa sổ — Hiển thị trực quan phần trăm hạn mức đã dùng / còn lại, hiện tại đã cạn hay chưa, cùng thời gian đặt lại hạn mức, giúp bạn phân bổ tài nguyên thuê bao hợp lý.
• Thấy rõ khi thông tin xác thực hết hiệu lực — Khi thông tin ủy quyền của tài khoản thuê bao hết hạn hoặc mất hiệu lực, giao diện sẽ đánh dấu rõ ràng để nhắc bạn ủy quyền lại.

Tính năng thử nghiệm

Việc kết nối ủy quyền OAuth cho tài khoản thuê bao hiện là tính năng thử nghiệm; các nhà cung cấp được hỗ trợ sẽ dần được mở rộng. Khi ủy quyền, bạn cần hoàn tất quy trình OAuth của nhà cung cấp trong trình duyệt; token ủy quyền chỉ được lưu cục bộ.

Lưu trữ dữ liệu

• Dữ liệu như cấu hình kênh, khóa ảo, thống kê mức sử dụng do dịch vụ backend của cổng duy trì cục bộ.
• Bản rõ của khóa ảo chỉ hiển thị một lần khi tạo (hoặc xoay vòng); sau đó cổng chỉ giữ lại tiền tố để nhận diện. Hãy nhớ sao chép và lưu ngay khi tạo.
• Khi tiếp quản từng công cụ bằng một cú nhấp, cổng sẽ sao lưu tệp cấu hình gốc của công cụ mục tiêu thành tệp có hậu tố .bak trước, rồi ghi cấu hình trỏ đến cổng cục bộ, thuận tiện khôi phục bất cứ lúc nào.

Quy trình sử dụng điển hình

1. Đăng nhập tài khoản ServBay và vào AI Gateway.
2. Trong trang Kênh, thêm ít nhất một kênh nhà cung cấp (ví dụ OpenAI hoặc DeepSeek), điền API Key thật và kiểm tra kết nối.
3. Trong trang Khóa ảo, tạo một khóa ảo, giới hạn mô hình / kênh khả dụng và tốc độ theo nhu cầu.
4. Trong trang Endpoint, điền khóa ảo vào ứng dụng của bạn, hoặc dùng Tiếp quản bằng một cú nhấp trên cùng trang để tiếp quản công cụ lập trình AI bạn thường dùng.
5. Trong trang Thống kê và giám sát, theo dõi mức sử dụng, chi phí và độ trễ, đồng thời đặt ngân sách khi cần.

Tổng kết

Cổng AI ServBay gom hiện trạng phát triển AI phân mảnh với "nhiều nhà cung cấp, nhiều khóa, nhiều công cụ" thành "một đầu mối cục bộ, một bộ khóa ảo, một góc nhìn mức sử dụng". Nó cho phép bạn quản lý tập trung an toàn các khả năng AI ngay tại máy cục bộ, nắm chính xác chi phí và đưa mọi công cụ lập trình AI vào một cổng thống nhất với chi phí tối thiểu; đây là một trong những khả năng cốt lõi của ServBay dành cho phát triển AI-native.