Thống kê & Giám sát Cổng AI

Cổng AI sẽ ghi lại mọi yêu cầu đi qua, và hiển thị dữ liệu sử dụng, chi phí cũng như tình trạng vận hành trên ba trang: Tổng quan (Overview), Thống kê (Statistics) và Giám sát (Monitoring). Bài viết này sẽ giới thiệu nội dung và cách sử dụng của cả ba trang này.

Tổng quan (Overview)

Trang Tổng quan thể hiện trạng thái tổng thể của cổng AI:

• Thẻ KPI — Số kênh hoạt động, số khóa ảo, số yêu cầu hôm nay, chi phí hôm nay (và lượng Token sử dụng).
• Tổng quan sức khỏe kênh — Tình trạng sức khỏe theo thời gian thực của từng kênh (bình thường / suy giảm / không khả dụng).
• Sự kiện gần đây — Dòng sự kiện định tuyến gần nhất (loại sự kiện, mô hình, kênh, độ trễ, thời gian).

Trang Tổng quan thích hợp để kiểm tra nhanh hoạt động ổn định của cổng, chi phí và lưu lượng trong ngày.

Thống kê (Statistics)

Trang Thống kê dùng để phân tích sâu về mức sử dụng và chi phí.

Tóm tắt KPI

Phía trên trang hiển thị các chỉ số chính: Tổng số yêu cầu, Tổng lượng Token, Chi phí (USD), Độ trễ trung bình (ms).

Tổng hợp & Phân nhóm

• Tổng hợp — Tổng số yêu cầu / thành công / thất bại, lượng Token đầu vào / đầu ra / tổng số, Token trung bình mỗi yêu cầu, tổng chi phí, cùng phân bổ theo loại sự kiện (định tuyến thành công routed, chuyển dự phòng failover, thất bại failed, không có kênh no_channel).
• Phân nhóm theo tiêu chí — Bạn có thể thay đổi góc nhìn nhóm dữ liệu:
  • Theo mô hình — Số yêu cầu, Token, chi phí, độ trễ theo từng mô hình.
  • Theo khóa — Chi tiết sử dụng của từng khóa ảo.
  • Theo ngày — Xu hướng sử dụng từng ngày.
  • Theo loại yêu cầu — Phân nhóm theo loại yêu cầu.

Sử dụng đa phương tiện

Ngoài đối thoại văn bản, trang Thống kê còn hiển thị riêng các chỉ số sử dụng đa phương tiện: số lần tạo ảnh, số đơn vị đầu vào âm thanh, số đơn vị đầu ra âm thanh, giúp bạn dễ tính toán chi phí xử lý ảnh và âm thanh.

Biểu đồ xu hướng

Biểu đồ đường thể hiện xu hướng lưu lượng yêu cầu tổng hợp theo ngày, giúp bạn theo dõi biến động sử dụng.

Quản lý ngân sách (VIP)

• Biểu thị bằng đồng hồ đo (gauge) mức sử dụng ngân sách và tỷ lệ phần trăm đã dùng; sắp đến ngưỡng sẽ được cảnh báo.
• Quản lý ngân sách là tính năng trả phí, sẽ bị khóa và hiện thông báo nâng cấp khi bạn chưa đăng ký gói dịch vụ tương ứng.

Giám sát (Monitoring)

Trang Giám sát cung cấp góc nhìn vận hành theo thời gian thực:

• Nhật ký sự kiện trực tiếp — Hiển thị từng sự kiện định tuyến một cách chi tiết (ID yêu cầu, mô hình, kênh, độ trễ, v.v).
• Thống kê theo loại sự kiện — Số lượng theo loại (định tuyến thành công, thất bại, chuyển dự phòng, không có kênh...) giúp phát hiện bất thường tức thì.

Điều kiện tiên quyết

• Đã đăng nhập tài khoản ServBay và cấu hình kênh cùng các khóa ảo.
• Đã có yêu cầu thực sự đi qua cổng (nếu không, thống kê sẽ trống).

Khuyến nghị sử dụng

• Kiểm soát chi phí — Dùng phân nhóm "theo mô hình / theo khóa" để xác định nguồn tiêu thụ lớn, đặt giới hạn tốc độ cho các khóa ảo hoặc hạn mức cho kênh nếu cần.
• Xử lý bất thường — Nếu tỷ lệ thành công giảm, kiểm tra tỷ lệ failed / no_channel trong phân bổ loại sự kiện, kết hợp cùng trạng thái sức khỏe các kênh để xác định nguyên nhân.
• Tối ưu độ trễ — Theo dõi chỉ số độ trễ trung bình và độ trễ theo mô hình, đánh giá tốc độ phản hồi của từng nhà cung cấp hoặc vùng máy chủ.

Câu hỏi thường gặp (FAQ)

• Hỏi: Trang thống kê không có dữ liệu?
  • Đáp: Thống kê chỉ hiển thị khi có yêu cầu thực đi qua cổng. Hãy đảm bảo ứng dụng hoặc công cụ được quản lý đã gửi yêu cầu thông qua cổng.
• Hỏi: Vùng quản lý ngân sách bị khóa?
  • Đáp: Đây là tính năng trả phí, bạn cần đăng ký gói phù hợp để sử dụng.
• Hỏi: Cách tính chi phí?
  • Đáp: Cổng sẽ ước tính dựa trên đơn giá của từng kênh (bao gồm hệ số bạn cấu hình) và lượng Token hoặc số lần gọi, bạn có thể điều chỉnh trong phần Cấu hình nâng cao của kênh.

Tóm tắt

Ba trang Tổng quan, Thống kê và Giám sát giúp bạn quan sát toàn diện mọi hoạt động của Cổng AI: từ cái nhìn nhanh về chi phí hôm nay, đến phân tích chi tiết theo mô hình / khóa / ngày, theo dõi sự kiện trực tiếp và tối ưu ngân sách. Vận dụng hiệu quả các góc nhìn này, bạn sẽ tối ưu được cả chi phí và sự ổn định trong phát triển AI.