Xem lại hoạt động API trong Bảng điều khiển Sử dụng, kiểm tra số lượng token trong phản hồi API, và hiểu các bộ lọc dự án, xuất dữ liệu, và chi phí Cấp độ Quy mô.

Tổng quan

Bạn có thể xem lại việc sử dụng API theo hai cách:

Sử dụngBảng điều khiển sử dụngđể xem xét hoạt động trong các kỳ thanh toán hiện tại và trước đó.
Đọc thông tin sử dụng trong phản hồi API để kiểm tra một yêu cầu riêng lẻ.

Playground sử dụng cùng các cuộc gọi API như các ứng dụng của bạn. Các token của nó được tính vào việc sử dụng API của tài khoản bạn và tuân theo cùng các quy tắc sử dụng và giá cả.

Truy cập bảng điều khiển

Bạn phải là chủ sở hữu của tổ chức hoặc cóBảng điều khiển sử dụngquyền truy cập Bảng điều khiển Sử dụng.

Xem lại việc sử dụng trên bảng điều khiển

MởBảng điều khiển sử dụng, chọn tổ chức bạn muốn xem xét, và chọn kỳ báo cáo liên quan.

Dữ liệu trên bảng điều khiển được hiển thị theo giờ UTC. Hãy ghi nhớ múi giờ đó khi so sánh hoạt động trên bảng điều khiển với nhật ký ứng dụng của bạn.

Chọn dự án

Bảng điều khiển có bộ chọn dự án riêng. Nó hoạt động độc lập với dự án đã chọn ở nơi khác trong Nền tảng API.

Sử dụng bộ chọn trên bảng điều khiển để xem một dự án, nhiều dự án hoặc tất cả các dự án. Để xem dữ liệu tổng thể của tổ chức, hãy xóa các dự án đã chọn. Khi không có dự án nào được chọn, bảng điều khiển sẽ hiển thị tất cả dữ liệu dự án.

Xem xét việc sử dụng của từng người dùng

Để xem xét việc sử dụng Phản hồi và Hoàn tất Trò chuyện của một người dùng:

Trong Bảng điều khiển Sử dụng, đi tớiKhả năng API > Phản hồi và Hoàn thành Trò chuyện.
ChọnLọc theo.
DướiNgười dùng, chọn người dùng, sau đó chọnÁp dụng bộ lọc.

Xem số token mỗi phút

Các trang chi tiết sử dụng hỗ trợ chọn khoảng thời gian. Chọn khoảng thời gian 1 phút để kiểm tra số token mỗi phút (TPM).

Khoảng thời gian này áp dụng cho dữ liệu sử dụng, không phải dữ liệu thanh toán.

Xuất dữ liệu sử dụng

Không có giới hạn về khoảng thời gian xuất khẩu. Các bản xuất khẩu bao gồm một khoảng thời gian dài có thể được chia thành nhiều tệp.

Để đối chiếu hóa đơn hàng tháng và xuất dữ liệu từng mục, xem:Xuất chi tiết sử dụng hàng tháng.

Xem các khoản tín dụng được cấp

Chi tiết cấp tín dụng có sẵn trên tổ chức của bạnTrang thanh toán.

Cấp tín dụng và việc sử dụng API trả lời các câu hỏi khác nhau: cấp tín dụng hiển thị các tín dụng liên quan đến tổ chức của bạn, trong khi việc sử dụng hiển thị hoạt động API của tổ chức.

Xem lại việc sử dụng và chi phí của cấp độ quy mô

Nếu tổ chức của bạn đã bật Bậc Thang Quy mô và bạn có quyền truy cập cần thiết, hãy mởTrang sử dụng cấp độ quy môđể sử dụng chi tiết.

Chi phí gói cấp độ Scale được tính cho tổ chức, không phải cho các dự án riêng lẻ.

Sử dụng lớn hơn không, nhưng chi tiêu dự án bằng không

Kiểm tra xem việc sử dụng mô hình có được bao gồm trong phân bổ Cấp độ Quy mô của bạn hay không. Nếu tất cả việc sử dụng cho mô hình đó nằm trong phân bổ TPM của Cấp độ Quy mô, dự án có thể hiển thị việc sử dụng mà không cần chi phí mô hình bổ sung.

Chi phí đăng ký cấp gói Mở rộng vẫn được áp dụng ở cấp tổ chức. Để xem lại nó:

Xóa bộ lọc dự án trong Bảng điều khiển Sử dụng.
ChọnDanh mục chi tiêu.

Đánh giá nhiều tổ chức

Bảng điều khiển Sử dụng không kết hợp dữ liệu chi phí hoặc sử dụng giữa các tổ chức. Mỗi tổ chức, bao gồm cả tổ chức con, được xử lý riêng biệt.

Để xem một tổ chức con, hãy chọn nó trong bộ chọn tổ chức.

Nếu bạn cần báo cáo tổng hợp, hãy cân nhắc sử dụng các dự án trong một tổ chức thay vì các tổ chức con riêng biệt, hoặc sử dụngSử dụng APIcho phân tích tùy chỉnh.

Kiểm tra việc sử dụng token trong phản hồi API

Tên trường sử dụng token phụ thuộc vào điểm cuối.

Số lượng token	Hoàn tất Chat	Phản hồi
Các token đầu vào	sử dụng.prompt_tokens	sử dụng.token_đầu vào
Các token đầu ra	sử dụng.token_hoàn_thành	sử_dụng.token_đầu_ra
Tổng số token	sử_dụng.tổng_token	sử_dụng.tổng_token

Ví dụ, một phản hồi Hoàn tất Chat có thể bao gồm:

{“sử dụng”: {““prompt_tokens”: 13,“completion_tokens”: 7,“tổng_số_token”: 20}}

Tùy thuộc vào điểm cuối và mô hình, chi tiết sử dụng cũng có thể bao gồm số lượng đầu vào được lưu trong bộ nhớ cache và số lượng token suy luận. Điều này giúp giải thích lý do tại sao độ dài hiển thị của một phản hồi không thể hiện toàn bộ số token đã sử dụng.

Để tìm hiểu về các loại token khác nhau, xem:Hiểu và đếm token.

Lấy thông tin sử dụng từ các hoàn thiện hội thoại (Chat Completions) phát trực tuyến

Đối với một yêu cầu Hoàn thành Trò chuyện theo luồng, bao gồm:

{“stream”: true,“tùy_chọn_dòng”: {““include_usage”: true}}

Với include_usage được bật, một đoạn bổ sung trước dữ liệu: [DONE] chứa việc sử dụng cho toàn bộ yêu cầu. Mảng choices của nó trống. Các đoạn khác có giá trị sử dụng là null.

Nếu luồng bị gián đoạn, bạn có thể sẽ không nhận được phần sử dụng cuối cùng đó. Việc thiếu phần cuối cùng không chứng tỏ rằng yêu cầu đã không sử dụng bất kỳ token nào.

Cấu hình này dành riêng cho hoàn thiện hội thoại (Chat Completions). Để biết chi tiết, xemTham chiếu API Hoàn thành Chat.