Tại sao tôi lại nhận được các kết quả hoàn thành khác nhau trên Playground so với API?

Nếu của bạnnhiệt độnếu được đặt trên 0, mô hình sẽ tạo ra các kết quả với một số ngẫu nhiên, vì vậy việc thấy các kết quả khác nhau là điều bình thường. Khi bạn muốn kết quả nhất quán, có thể lặp lại, hãy sử dụngnhiệt độ = 0.

Nếu nhiệt độ đã là 0 và kết quả vẫn khác nhau, đây là những nguyên nhân phổ biến nhất:

—

Sự khác biệt về gợi ý

Kiểm tra xem lời nhắc có phải làchính xác như nhautrong cả hai môi trường. Ngay cả một khoảng trắng, xuống dòng hoặc ký tự ẩn thừa cũng có thể gây ra kết quả khác nhau.

—

Không khớp tham số

Đảm bảo rằng tất cả các tham số liên quan khớp nhau giữa Playground và các yêu cầu API:

• nhiệt độ

• top_p

• số_token_tối_đa

• hình phạt tần suất

• hình phạt hiện diện

Cũng xác nhận rằngtên mẫulà giống hệt. Các mô hình khác nhau sẽ tự nhiên tạo ra các kết quả khác nhau, ngay cả khi sử dụng cùng một lệnh nhắc và cài đặt.

—

Cài đặt sẵn trên Playground so với mặc định của API

Playground có thể áp dụng một số cài đặt mặc định nhất định. Trong API, nếu bạn bỏ qua một tham số, nó sẽ sử dụng mặc định riêng của nó, điều này có thể không giống với hành vi của Playground. Để đảm bảo tính nhất quán,thiết lập rõ ràng tất cả các tham số trong yêu cầu API của bạn.

—

Sự khác biệt về định dạng hoặc mã hóa

Đảm bảo rằng yêu cầu bạn gửi tới API làgiống hệtđến lời nhắc trong Playground. Có thể có sự khác biệt do:

• Thoát ký tự JSON

• Kết thúc dòng hoặc thụt lề

• Khoảng trắng thừa

Nếu bạn đã kiểm tra lại tất cả những điều này và vẫn thấy sự khác biệt, hãy nhờ giúp đỡ trênDiễn đàn cộng đồng, nơi người dùng có thể đã gặp các vấn đề tương tự hoặc có thể giúp đỡ trong việc khắc phục sự cố cụ thể của bạn.