Token AI là gì?

Token là đơn vị cơ bản mà các mô hình AI sử dụng để xử lý văn bản. Thay vì đọc từng chữ cái riêng lẻ, AI chia văn bản thành những “khối” nhỏ gọi là token – có thể là một từ, một phần của từ, hoặc thậm chí là dấu câu.

Một token thường tương ứng với khoảng 4 ký tự văn bản đối với văn bản tiếng Anh thông thường. Điều này có nghĩa là khoảng ¾ của một từ (vì vậy 100 token ≈ 75 từ).

Đối với tiếng Việt: Do đặc điểm của ngôn ngữ tiếng Việt với các dấu thanh và cấu trúc từ khác biệt, tỷ lệ token có thể cao hơn một chút. Thông thường 1 token ≈ 3-4 ký tự tiếng Việt, tương đương khoảng 0.8-1 từ tiếng Việt.

Tại sao cần biết về token?

• Tối ưu chi phí: Các API AI tính phí theo số token sử dụng
• Quản lý giới hạn: Mỗi mô hình có giới hạn token tối đa
• Hiệu suất tốt hơn: Hiểu token giúp tối ưu hóa prompt và response
• Lập kế hoạch: Ước tính chi phí trước khi sử dụng API