Tổng quan

Trạng thái gateway theo thời gian thực
Client online
Job đang chạy
tổng các client
Capability sẵn sàng
web · cli
Tổng token đã dùng

Client đang kết nối

ClientNền tảngIPJobCapability
Đang tải…

Chiến lược routing hiện tại

Đang tải…

Prompt

Gửi prompt tới đích danh một client để kiểm tra nhanh, không qua thuật toán routing.

Kết quả

Chưa có kết quả — chọn client, capability và nhập prompt rồi bấm Chạy thử.

Clients

Toàn bộ client từng kết nối — online, offline, capability và tải hiện tại.

ClientTrạng tháiNền tảngIPJobTổng jobLỗiWeb / CLI hỗ trợKết nối lần cuối
Đang tải…

Web & CLI hỗ trợ

Toàn bộ backend hệ thống hỗ trợ. Dòng mờ là backend chưa có client nào phục vụ — di chuột vào nhãn trạng thái để xem lý do.

Web providers

ProviderTrạng tháiClient phục vụSlot trốngSub-models
Đang tải…

Coding CLI

CLITrạng tháiClient phục vụSlot trốngSub-models
Đang tải…

Token sử dụng theo client

Chọn một client để xem chi tiết số token đã tiêu thụ.

ClientTrạng tháiRequestsOKLỗiPrompt tok.Completion tok.Tổng tokenTỉ trọngLatency TB
Đang tải…

Requests gần đây

50 request gần nhất qua gateway.

Thời gianModelClientTrạng tháiAttemptsCacheTokenLatency
Đang tải…

Cấu hình routing

Chọn thuật toán gateway dùng để phân phối request tới các client.

Thay đổi có hiệu lực ngay và được lưu lại, áp dụng cho cả khi gateway khởi động lại.

Response cache

Cache 2 tầng cho các câu trả lời trùng lặp.

Entries (RAM / đĩa)
Hit (RAM)
Hit (đĩa)
Miss