Câu hỏi thường gặp về API theo lô

API Batch hoạt động như thế nào?

Đầu mối API Batch, như được ghi trong tài liệuở đây, cho phép người dùng gửi yêu cầu xử lý hàng loạt không đồng bộ. Chúng tôi sẽ xử lý các yêu cầu này trong vòng 24 giờ. Chi tiết của từng yêu cầu sẽ được đọc từ một tệp đã được tải lên trước, và kết quả sẽ được ghi vào một tệp đầu ra. Bạn có thể truy vấn đối tượng hàng loạt để cập nhật trạng thái và kết quả.

Giá cả cho API Batch là bao nhiêu?

Mỗi mẫu sẽ được cung cấp tạiGiảm giá 50% chi phíso với các API đồng bộ. Đây là thêmthông tinvề giá API của chúng tôi.

Tôi có thể xử lý theo lô những mô hình nào?

API Batch có sẵn rộng rãi trên hầu hết các mô hình của chúng tôi, nhưng không phải tất cả. Vui lòng tham khảotài liệu tham khảo mô hìnhđể đảm bảo mô hình mà bạn đang sử dụng hỗ trợ API Batch.

Điều gì sẽ xảy ra nếu API không hoàn thành yêu cầu của tôi trong thời gian đã hứa?

Chúng tôi nhằm mục tiêu xử lý tất cả các yêu cầu trong vòng 24 giờ. Nếu một lô hàng hết hạn (tức là không thể hoàn thành trong khoảng thời gian SLA), thì công việc còn lại sẽ bị hủy và bất kỳ công việc nào đã hoàn thành sẽ được trả lại. Các nhà phát triển sẽ bị tính phí cho bất kỳ công việc nào đã hoàn thành.

Giới hạn về số lượng yêu cầu mà tôi có thể gộp là bao nhiêu?

API nhúng vector (Embeddings) có giới hạn 1 triệu yêu cầu đang chờ xử lý cùng một lúc.

Đối với tất cả các API khác, không có giới hạn về số lượng yêu cầu bạn có thể gộp; tuy nhiên, mỗi cấp độ sử dụng có giới hạn tỷ lệ gộp riêng. Giới hạn tỷ lệ gộp của bạn bao gồm số lượng token đầu vào tối đa mà bạn đã xếp hàng cùng một lúc. Bạn có thể tìm thấy giới hạn tỷ lệ của mìnhở đây.

Tôi có thể thay đổi thời gian để nhận phản hồi từ xử lý hàng loạt (Batch API) không?

Khoảng thời gian xác định hiện tại của chúng tôi là 24 giờ. Hiện tại chúng tôi không thể thay đổi khoảng thời gian này.

Có hỗ trợ phát trực tuyến trên API Batch không?

Không, streaming không được hỗ trợ trên xử lý hàng loạt (Batch API). Các yêu cầu batch trả kết quả thông qua các tệp đầu ra thay vì phản hồi theo luồng.

Có hỗ trợ hình ảnh trên API Batch không?

Vâng, hình ảnh được hỗ trợ trên API Batch.

Tôi nhận được thông báo lỗi “URL được cung cấp cho yêu cầu này không khớp với tiền tố của điểm cuối batch”. Tôi nên làm gì?

Nếu bạn nhận được lỗi này, điều đó có nghĩa là URL của bạn được định dạng không đúng cho điểm cuối API Batch. Vui lòng tham khảo tài liệu của chúng tôi tại đây để đảm bảo bạn đang gọi điểm cuối chính xác.

Việc sử dụng xử lý hàng loạt (Batch API) có tính vào các giới hạn tốc độ khác của tôi không?

Giới hạn tốc độ API theo lô hoàn toàn tách biệt với các giới hạn hiện có.

Điều gì xảy ra nếu một lô bị hủy?

Nếu một lô được hủy thủ công, thì bất kỳ kết quả nào đã hoàn thành sẽ được trả về. Các nhà phát triển sẽ bị tính phí cho bất kỳ công việc nào đã hoàn thành.

Điều gì sẽ xảy ra nếu một lô hết hạn?

Nếu một lô hết hạn (tức là nó không thể hoàn thành trong khoảng thời gian SLA), thì công việc còn lại sẽ bị hủy và bất kỳ công việc nào đã hoàn thành sẽ được trả lại. Các nhà phát triển sẽ bị tính phí cho bất kỳ công việc nào đã hoàn thành.

Tôi có thể mong đợi những trạng thái nào trên các công việc hàng loạt?

Công việc theo lô có thể có bất kỳ trạng thái nào sau đây: Đang xác thực, Thất bại, Đang tiến hành, Đang hoàn tất, Hoàn thành, Hết hạn, Đang hủy, và Đã hủy. Nếu bạn đang kiểm tra giá trị trạng thái API theo chương trình, hãy sử dụng các ký tự viết thường: validating, failed, in_progress, finalizing, completed, expired, cancelling, và cancelled.

• Đang xác thực:Việc xác thực tệp đã tải lên đang được tiến hành trước khi lô có thể bắt đầu.

• Thất bại:Tệp đã không vượt qua quá trình xác thực.

• Đang tiến hành:Tệp đã được xác thực thành công và quá trình xử lý theo lô đang tiến hành.

• Đang hoàn tất:Công việc theo lô đã hoàn tất và kết quả đang được chuẩn bị.

• Hoàn thành:Công việc theo lô đã hoàn tất và kết quả đã sẵn sàng.

• Hết hạn:Lô không thể hoàn thành trong khung thời gian SLA.

• Đang hủy:Việc hủy công việc theo lô đã được bắt đầu.

• Đã hủy:Công việc hàng loạt đã bị hủy.

Làm thế nào để tôi kiểm tra những công việc hàng loạt mà tôi đã tạo?

Bạn có thể lấy danh sách tất cả các công việc hàng loạt của mình bằng cách sử dụng cuộc gọi API được chỉ địnhở đây.

Có hỗ trợ giữ dữ liệu bằng không trên điểm cuối này không?

Nếu tổ chức của bạn bật chế độ không lưu giữ dữ liệu, xin lưu ý rằng chính sách không lưu giữ dữ liệu không áp dụng cho xử lý hàng loạt (Batch API). Các tổ chức ZDR có thể tạo các công việc batch, nhưng các tệp đầu vào batch, kết quả, lỗi và các vật phẩm trung gian sẽ được lưu giữ theo các chính sách lưu giữ Batch, Dịch vụ Tệp và Sediment đã cấu hình.