LIÊN HỆ HOTLINE/ZALO: 0981.243.678
Khắc phục sự cố giới hạn tốc độ API và lỗi 429
Xác định nguyên nhân gây ra lỗi API 429, giảm các đợt yêu cầu dồn dập và chọn bước xử lý phù hợp cho giới hạn tốc độ, tín dụng hoặc giới hạn sử dụng.
Tổng quan
Việc sử dụng API phải tuân theo giới hạn tốc độ. Các giới hạn này hạn chế số yêu cầu, số token hoặc mức sử dụng khác trong một khoảng thời gian nhất định.
Phản hồi 429 có thể cho biết giới hạn tốc độ tạm thời, số dư trả trước đã hết, hoặc giới hạn chi tiêu hay giới hạn sử dụng. Hãy kiểm tra chi tiết lỗi trước khi thử lại hoặc thay đổi cài đặt thanh toán.
Xác định nguyên nhân
Đọc thông báo lỗi và error.code (nếu có). Lỗi liên quan đến thanh toán vẫn có thể dùng giá trị error.type tổng quát hơn là insufficient_quota.
| Lỗi hoặc mã lỗi | Ý nghĩa | Cách xử lý |
| Rate limit reached for requests or tokens | Số yêu cầu đang vượt quá giới hạn tốc độ áp dụng. | Giãn nhịp gửi yêu cầu và làm theo hướng dẫn thử lại bên dưới. |
| credit_balance_exhausted | Tổ chức không còn tín dụng trả trước. | Nạp thêm tín dụng trong cài đặt thanh toán API. |
| organization_usage_limit_exceeded | Tổ chức đã đạt giới hạn sử dụng do OpenAI chỉ định. | Yêu cầu tăng giới hạn sử dụng được phê duyệt. |
| organization_spend_limit_exceeded | Tổ chức đã đạt giới hạn chi tiêu đang được áp dụng. | Tăng hoặc gỡ bỏ giới hạn, hoặc chờ đến kỳ đặt lại hằng tháng. |
| project_spend_limit_exceeded | Dự án đã đạt giới hạn chi tiêu đang được áp dụng. | Tăng hoặc gỡ bỏ giới hạn của dự án, hoặc chờ đến kỳ đặt lại hằng tháng. |
Thử lại khi gặp lỗi thanh toán, chi tiêu hoặc hạn ngạch sẽ không khôi phục quyền truy cập. Hãy xử lý số dư hoặc giới hạn được báo trước. Thay đổi đối với giới hạn chi tiêu đang áp dụng có thể mất một thời gian mới có hiệu lực.
Để thay đổi giới hạn chi tiêu, bạn cần có quyền quản lý các cài đặt của tổ chức hoặc dự án liên quan. Nếu không có quyền, hãy nhờ người quản lý các cài đặt đó.
Để mua tín dụng trả trước, xem: Thiết lập và quản lý thanh toán API trả trước.
Để tìm hiểu các tùy chọn kiểm soát chi tiêu khác nhau, xem hướng dẫn về giới hạn chi tiêu API.
Kiểm tra các giới hạn tốc độ áp dụng
Truy cập trang Giới hạn (Limits) của tổ chức để xem cấp sử dụng và các giới hạn hiện tại.
Giới hạn tốc độ có thể áp dụng ở cấp tổ chức và cấp dự án. Đây không phải là hạn mức riêng của từng người dùng. Giới hạn cũng khác nhau theo mô hình, và một số họ mô hình dùng chung một giới hạn.
Hãy kiểm tra xem lỗi nêu giới hạn nào. Ví dụ: số yêu cầu mỗi phút và số token mỗi phút là hai giới hạn riêng. Bạn có thể chạm một giới hạn trong khi vẫn dưới giới hạn còn lại.
Xác nhận tổ chức mà yêu cầu của bạn sử dụng
Nếu bạn thuộc nhiều tổ chức, hãy xác nhận các yêu cầu đang dùng đúng tổ chức và dự án dự định.
Khi khóa API của bạn dùng tổ chức mặc định, hãy kiểm tra cài đặt tổ chức mặc định. Các tổ chức khác nhau có thể có hình thức thanh toán và cấp sử dụng khác nhau.
Giảm lỗi giới hạn tốc độ tạm thời
Giãn nhịp yêu cầu và tránh gửi dồn dập
Phân bổ yêu cầu theo thời gian thay vì gửi một lượng lớn cùng lúc.
Giới hạn tốc độ có thể được áp dụng trong những khoảng thời gian ngắn hơn khoảng hiển thị. Ví dụ: giới hạn 60 yêu cầu mỗi phút cũng có thể được áp dụng theo từng khoảng 1 giây. Vì vậy, một đợt gửi dồn dập ngắn vẫn có thể gây lỗi ngay cả khi mức sử dụng trung bình của bạn có vẻ thấp hơn giới hạn mỗi phút.
Lời nhắc dài và hạn mức token đầu ra lớn không cần thiết cũng có thể góp phần gây lỗi giới hạn tốc độ token.
Thử lại sau một khoảng chờ
Với lỗi giới hạn tốc độ tạm thời:
-
Kiểm tra header phản hồi Retry-After.
-
Nếu header chứa khoảng chờ hợp lệ, hãy chờ ít nhất bằng khoảng đó trước khi thử lại.
-
Nếu header không có hoặc không hợp lệ, hãy dùng exponential backoff kèm jitter: tăng khoảng chờ sau mỗi lần thử không thành công và cộng thêm một khoảng chờ ngẫu nhiên nhỏ.
-
Giới hạn cả số lần thử lại lẫn tổng thời gian dành cho việc thử lại.
Các SDK chính thức của OpenAI đã tự động thử lại các lỗi giới hạn tốc độ đủ điều kiện và tuân theo Retry-After khi có header này. Hãy tính đến các lần thử lại đó trước khi thêm một vòng lặp thử lại khác.
Các yêu cầu không thành công vẫn được tính vào giới hạn mỗi phút. Liên tục gửi lại cùng một yêu cầu có thể khiến sự cố kéo dài hơn.
Để xem hướng dẫn triển khai và ví dụ, xem hướng dẫn về giới hạn tốc độ API. Hãy xem xét kỹ mọi thư viện thử lại của bên thứ ba trước khi dùng trong ứng dụng.
Xem lại độ dài lời nhắc và đầu ra
Loại bỏ các chỉ dẫn không cần thiết, ngữ cảnh lặp lại và ví dụ thừa khỏi lời nhắc. Kiểm thử lời nhắc đã chỉnh sửa để xác nhận rằng nó vẫn cho ra kết quả bạn cần.
Dùng tham số token đầu ra mà endpoint và mô hình của bạn hỗ trợ:
-
Chat Completions dùng max_completion_tokens.
-
Responses dùng max_output_tokens.
Tránh đặt hạn mức lớn hơn nhiều so với nhu cầu của yêu cầu. Các tham số này bao gồm cả token suy luận lẫn đầu ra hiển thị, vì vậy hãy tính đến cả hai khi dùng mô hình suy luận.
Xem lại cấp sử dụng của bạn
Nếu lỗi vẫn tiếp diễn sau khi bạn đã giảm các đợt gửi dồn dập và xem lại mức dùng token, hãy kiểm tra trang Giới hạn (Limits) để biết các cách tăng giới hạn hiện có.
Cấp sử dụng trả phí của tổ chức được tự động nâng lên khi tổng số tín dụng đã mua đạt các ngưỡng Build, Launch và Grow. Cấp cao hơn thường có giới hạn tốc độ cao hơn. Xem hướng dẫn về giới hạn tốc độ API để biết yêu cầu của từng cấp.
Giới hạn sử dụng hằng tháng được phê duyệt tách biệt với giới hạn tốc độ theo yêu cầu và theo token. Việc tăng một giới hạn không có nghĩa là giới hạn còn lại cũng đã thay đổi.
Nếu sự cố vẫn tiếp diễn
Trước khi chuyển lên cấp hỗ trợ cao hơn
Hãy chuẩn bị sẵn thông báo lỗi chính xác, mã lỗi (nếu có), các ID yêu cầu liên quan, thời điểm xảy ra lỗi kèm múi giờ của bạn và giới hạn liên quan hiển thị trong tài khoản. Ghi lại các bước bạn đã thử.
Liên hệ Bộ phận hỗ trợ OpenAI
Liên hệ Bộ phận hỗ trợ OpenAI qua Trung tâm trợ giúp nếu bạn không thể khắc phục sự cố sau khi đã kiểm tra giới hạn được báo. Không gửi kèm khóa API hoặc các thông tin bí mật dùng để xác thực khác.

Liên hệ qua Zalo