Xác định nguyên nhân của lỗi API 429, giảm các đợt yêu cầu dồn dập, và chọn bước tiếp theo phù hợp cho giới hạn về tốc độ, tín dụng hoặc sử dụng.

Tổng quan

Việc sử dụng API phải tuân theo giới hạn tốc độ. Những giới hạn này hạn chế các yêu cầu, token hoặc các việc sử dụng khác trong một khoảng thời gian nhất định.

Phản hồi 429 có thể cho thấy giới hạn tạm thời về tỷ lệ, số dư trả trước đã hết, hoặc giới hạn chi tiêu hoặc sử dụng. Kiểm tra chi tiết lỗi trước khi thử lại hoặc thay đổi cài đặt thanh toán của bạn.

Xác định nguyên nhân

Đọc thông báo lỗi và error.code, khi được cung cấp. Các lỗi liên quan đến thanh toán vẫn có thể sử dụng giá trị error.type rộng hơn là insufficient_quota.

Lỗi hoặc mã	Ý nghĩa của nó	Làm gì
Đã đạt giới hạn tốc độ cho các yêu cầu hoặc token	Các yêu cầu đang vượt quá giới hạn tốc độ áp dụng.	Hãy điều chỉnh tốc độ yêu cầu và làm theo hướng dẫn thử lại bên dưới.
số dư tín dụng đã hết	Tổ chức không còn tín dụng trả trước nào.	Thêm tín dụng trong cài đặt thanh toán API của bạn.
vượt_quá_giới_hạn_sử_dụng_tổ_chức	Tổ chức đã đạt đến giới hạn sử dụng do OpenAI chỉ định.	Yêu cầu tăng giới hạn sử dụng đã được phê duyệt.
vượt_quá_giới_hạn_chi_tiêu_tổ_chức	Tổ chức đã đạt đến giới hạn chi tiêu bị áp đặt.	Tăng hoặc bỏ giới hạn, hoặc chờ đợi đến khi đặt lại hàng tháng.
vượt quá giới hạn chi tiêu của dự án	Dự án đã đạt đến giới hạn chi tiêu áp đặt.	Tăng hoặc xóa giới hạn dự án, hoặc chờ đến khi đặt lại hàng tháng.

Thử lại lỗi thanh toán, chi tiêu hoặc hạn mức không khôi phục quyền truy cập. Trước tiên hãy giải quyết số dư hoặc hạn mức được báo cáo. Việc thay đổi giới hạn chi tiêu áp dụng có thể mất thời gian để có hiệu lực.

Thay đổi giới hạn chi tiêu yêu cầu quyền quản lý các cài đặt tổ chức hoặc dự án liên quan. Nếu bạn không có quyền truy cập, hãy hỏi người quản lý các cài đặt đó.

Đối với việc mua tín dụng trả trước, xem:Thiết lập và quản lý thanh toán API trả trước.

Đối với các kiểm soát chi tiêu khác nhau, xemHướng dẫn giới hạn chi tiêu API.

Kiểm tra các giới hạn tỷ lệ áp dụng

Đi đến tổ chức của bạnGiới hạntrangđể xem xét mức sử dụng và giới hạn hiện tại của nó.

Giới hạn tốc độ có thể áp dụng ở cấp tổ chức và dự án. Chúng không phải là hạn mức cho từng người dùng cá nhân. Các giới hạn cũng khác nhau theo mô hình, và một số nhóm mô hình chia sẻ một giới hạn.

Kiểm tra giới hạn mà lỗi xác định. Ví dụ, yêu cầu trên mỗi phút và token trên mỗi phút là các giới hạn riêng biệt. Bạn có thể đạt một giới hạn trong khi vẫn dưới giới hạn khác.

Xác nhận tổ chức được sử dụng bởi yêu cầu của bạn

Nếu bạn thuộc nhiều tổ chức, hãy xác nhận rằng các yêu cầu của bạn sử dụng tổ chức và dự án dự định.

Khi khóa API của bạn sử dụng một tổ chức mặc định, hãy kiểm tra của bạncài đặt tổ chức mặc định. Các tổ chức khác nhau có thể có các sắp xếp thanh toán và các cấp sử dụng khác nhau.

Giảm lỗi giới hạn tốc độ tạm thời

Yêu cầu theo nhịp và tránh bùng phát

Phân tán các yêu cầu theo thời gian thay vì gửi một số lượng lớn cùng một lúc.

Giới hạn tốc độ có thể được thực thi trong các khoảng thời gian ngắn hơn so với khoảng thời gian hiển thị. Ví dụ, giới hạn 60 yêu cầu mỗi phút cũng có thể được thực thi trong các khoảng thời gian 1 giây. Do đó, một lượt gửi ngắn có thể gây ra lỗi ngay cả khi mức sử dụng trung bình của bạn dường như thấp hơn giới hạn mỗi phút.

Các lệnh nhắc dài và việc cho phép số lượng token đầu ra quá lớn không cần thiết cũng có thể góp phần gây ra lỗi tỷ lệ token.

Thử lại sau một khoảng thời gian

Đối với lỗi giới hạn tần suất tạm thời:

Kiểm tra tiêu đề phản hồi Retry-After.
Nếu tiêu đề chứa một độ trễ hợp lệ, hãy chờ ít nhất khoảng thời gian đó trước khi thử lại.
Nếu tiêu đề bị thiếu hoặc không hợp lệ, hãy sử dụng thoái lui theo hàm mũ với nhiễu: tăng thời gian chờ sau mỗi lần thử không thành công và thêm một khoảng chờ ngẫu nhiên nhỏ.
Hạn chế cả số lần thử lại và tổng thời gian dành cho việc thử lại.

Các SDK chính thức của OpenAI đã tự động thử lại các lỗi giới hạn tần suất hợp lệ và tôn trọng Retry-After khi có. Hãy tính đến các lần thử lại đó trước khi thêm một vòng thử lại khác.

Các yêu cầu không thành công góp phần vào giới hạn mỗi phút. Việc liên tục gửi lại cùng một yêu cầu có thể kéo dài vấn đề.

Để hướng dẫn triển khai và các ví dụ, xemHướng dẫn giới hạn tốc độ API. Xem xét bất kỳ thư viện thử lại của bên thứ ba nào trước khi sử dụng nó trong ứng dụng của bạn.

Xem lại prompt và kích thước đầu ra

Loại bỏ các hướng dẫn không cần thiết, bối cảnh lặp lại và các ví dụ khỏi các lời nhắc của bạn. Kiểm tra lời nhắc đã được chỉnh sửa để xác nhận rằng nó vẫn tạo ra kết quả bạn cần.

Sử dụng tham số output-token được hỗ trợ bởi endpoint và mô hình của bạn:

hoàn thiện hội thoại (Chat Completions) sử dụng max_completion_tokens.
Các phản hồi sử dụng max_output_tokens.

Tránh đặt mức cho phép lớn hơn nhiều so với nhu cầu của yêu cầu. Những tham số này bao gồm cả token suy luận cũng như đầu ra có thể nhìn thấy, vì vậy hãy tính đến cả hai khi sử dụng mô hình suy luận.

Xem xét cấp độ sử dụng của bạn

Nếu lỗi vẫn tiếp tục sau khi bạn giảm các đợt bùng phát và xem xét việc sử dụng token, hãy kiểm tra của bạnGiới hạntrangcho các cách có sẵn để tăng giới hạn của bạn.

Khi chi tiêu cho API tăng lên, OpenAI có thể tự động nâng cấp một tổ chức lên mức sử dụng cao hơn. Điều này thường làm tăng giới hạn tốc độ trên hầu hết các mô hình.

Giới hạn sử dụng hàng tháng đã được phê duyệt của bạn tách biệt với giới hạn yêu cầu và giới hạn tốc độ token. Việc tăng một giới hạn không nên được xem là xác nhận rằng giới hạn kia đã thay đổi.

Nếu vấn đề tiếp tục

Trước khi leo thang

Giữ nguyên thông báo lỗi chính xác, bất kỳ mã lỗi nào, các ID yêu cầu liên quan, thời gian xảy ra lỗi kèm múi giờ của bạn, và giới hạn liên quan hiển thị trong tài khoản của bạn. Ghi lại các bước bạn đã thử.

Liên hệ Bộ phận Hỗ trợ OpenAI

Liên hệ với Hỗ trợ OpenAI thông qua Trung tâm Trợ giúp nếu bạn không thể giải quyết vấn đề sau khi kiểm tra giới hạn đã báo cáo. Không bao gồm khóa API hoặc các bí mật xác thực khác.