Cách thức hoạt động của kỹ thuật prompt

Do cách mà OpenAImô hìnhđược đào tạo, có những định dạng gợi ý cụ thể hoạt động đặc biệt tốt và dẫn đến các kết quả mô hình hữu ích hơn. Thehướng dẫn chính thức về kỹ thuật tạo lệnh của OpenAIthường là nơi tốt nhất để bắt đầu để có mẹo về gợi ý.

Dưới đây chúng tôi trình bày một số định dạng lệnh mà chúng tôi thấy hoạt động tốt, nhưng bạn có thể thoải mái khám phá các định dạng khác, có thể phù hợp hơn với nhiệm vụ của bạn.

Nguyên tắc chung và ví dụ

Ghi chú: the “”{text input here}“” là một chỗ giữ chỗ cho văn bản/bối cảnh thực tế

1. Sử dụng mô hình mới nhất

Để có kết quả tốt nhất, chúng tôi thường khuyên nên sử dụng các mô hình mới nhất, có khả năng cao nhất. Các mô hình mới hơn thường dễ thiết kế lời nhắc hơn.

Ghi chú: Có một số khác biệt cần xem xét khi đưa yêu cầu cho một mô hình suy luận so với khi đưa yêu cầu cho một mô hình GPT. Chi tiết hơnở đây.

2. Đặt hướng dẫn ở đầu lời nhắc và sử dụng ### hoặc “”” để tách hướng dẫn và ngữ cảnh

Ít hiệu quả ❌:

Tốt hơn ✅:

3. Hãy cụ thể, mô tả chi tiết và càng chi tiết càng tốt về bối cảnh, kết quả, độ dài, định dạng, phong cách, v.v.

Hãy cụ thể về bối cảnh, kết quả, độ dài, định dạng, phong cách, v.v.

Ít hiệu quả ❌:

Tốt hơn ✅:

4. Trình bày định dạng đầu ra mong muốn thông qua các ví dụ

Ít hiệu quả ❌:

Trình bày và giải thích – các mô hình phản hồi tốt hơn khi được trình bày các yêu cầu định dạng cụ thể. Điều này cũng giúp việc phân tích nhiều đầu ra một cách lập trình trở nên dễ dàng hơn.

Tốt hơn ✅:

5. Bắt đầu với zero-shot, sau đó few-shot, nếu cả hai đều không hiệu quả, thì tinh chỉnh

✅ Không cần huấn luyện trước

✅ Few-shot – cung cấp một vài ví dụ

✅Tinh chỉnh: xem các phương pháp tốt nhất để tinh chỉnhở đây.

6. Giảm các mô tả “mơ hồ” và không chính xác

Ít hiệu quả ❌:

Tốt hơn ✅:

7. Thay vì chỉ nói những gì không nên làm, hãy nói những gì nên làm

Ít hiệu quả ❌:

Tốt hơn ✅:

8. Mã hóa Cụ thể – Sử dụng “từ dẫn đầu” để thúc đẩy mô hình theo một mẫu cụ thể

Ít hiệu quả ❌:

Trong ví dụ mã dưới đây, việc thêm “nhập khẩu” gợi ý cho mô hình rằng nó nên bắt đầu viết bằng Python. (Tương tự, “SELECT” là một gợi ý tốt để bắt đầu một câu lệnh SQL.)

Tốt hơn ✅:

9. Sử dụng tính năng Tạo bất cứ thứ gì

Các nhà phát triển có thể sử dụng tính năng ‘Generate Anything’ để mô tả một nhiệm vụ hoặc kết quả ngôn ngữ tự nhiên mong đợi và nhận được một gợi ý được tùy chỉnh.

Tìm hiểu thêm về cách sử dụng tính năng ‘Tạo bất cứ thứ gì’.

Tham số

Nhìn chung, chúng tôi nhận thấy rằngmô hìnhvànhiệt độlà các tham số thường được sử dụng nhất để thay đổi kết quả của mô hình.

1. mô hình– Hiệu suất cao hơnmô hìnhthường có giá cao hơn và có thể có độ trễ cao hơn.

2. nhiệt độ– Một thước đo về tần suất mô hình xuất ra một token ít có khả năng hơn. Giá trị càng cao thìnhiệt độ, càng ngẫu nhiên (và thường sáng tạo) thì đầu ra càng phong phú. Tuy nhiên, điều này không giống với “độ chính xác”. Đối với hầu hết các trường hợp sử dụng thực tế như trích xuất dữ liệu và hỏi đáp trung thực,nhiệt độcủa 0 là tốt nhất.

3. số_token_hoàn_thành_tối_đa(chiều dài tối đa)– Không kiểm soát độ dài của đầu ra, nhưng là giới hạn cắt cứng cho việc tạo token. Lý tưởng nhất là bạn sẽ không thường xuyên chạm đến giới hạn này, vì mô hình của bạn sẽ dừng lại khi nó nghĩ rằng đã hoàn thành, hoặc khi nó gặp một chuỗi dừng mà bạn đã định nghĩa.

4. dừng lại(chuỗi dừng) – Một tập hợp các ký tự (token) mà khi được tạo ra, sẽ khiến việc tạo văn bản dừng lại.

Đối với các mô tả tham số khác, xemTài liệu tham khảo API.