Nhà nghiên cứu OpenAI chi tới 7.000 USD mỗi ngày cho token để vận hành trợ lý AI

Báo cáo “Research acceleration: the view inside OpenAI” công bố vào đầu tháng 9 vừa qua đã tiết lộ những con số gây sốc về mức độ tiêu tốn tài nguyên của các chuyên gia tại đây. Trung bình, một nhà nghiên cứu của OpenAI hiện chi hơn 600 USD mỗi ngày để chạy các đại lý lập trình (coding agents) trên chính mô hình của công ty, tăng vọt từ mức 162 USD hồi tháng 7. Đáng chú ý, nhóm 10% người dùng tích cực nhất thậm chí tiêu tốn hơn 7.000 USD mỗi ngày cho phí token – con số tương đương với mức lương tháng của một nhân sự chất lượng cao. Thay vì coi đây là một dấu hiệu cảnh báo về chi phí, OpenAI lại xem đó là một cột mốc quan trọng trong việc thúc đẩy hiệu suất làm việc. Công ty ghi nhận rằng cứ mỗi 8 giờ làm việc của con người, các hệ thống AI đã đóng góp tương đương 3,1 ngày công (agent-workdays) thông qua các nhiệm vụ lập trình và thử nghiệm. Điều này cho thấy các trợ lý AI đang thực hiện khối lượng công việc thô gấp ba lần so với chính những người đã tạo ra chúng.

Chi phí vận hành tỷ lệ thuận với năng lực của các đại lý AI

Sự gia tăng chi phí này khớp với lộ trình mà Sam Altman từng dự báo về một “thực tập sinh AI” có khả năng xử lý các nhiệm vụ nghiên cứu phức tạp dưới sự chỉ dẫn của con người. Hiện tại, các nhà nghiên cứu tại OpenAI không còn dùng AI như một công cụ tự động hoàn thiện văn bản đơn thuần, mà vận hành cùng lúc bốn hoặc nhiều đại lý AI để làm việc song song như một nhóm nhân viên cấp dưới. Tuy nhiên, báo cáo cũng thừa nhận một thực tế: hơn một nửa số tác vụ kéo dài từ 4 đến 8 giờ vẫn cần ít nhất một lần can thiệp của con người để hoàn thành đúng mục tiêu. Điều này đồng nghĩa với việc dù AI có thể làm việc không ngừng nghỉ, vai trò quản lý và kiểm soát của con người vẫn là yếu tố then chốt để đảm bảo kết quả cuối cùng.

Dữ liệu này mang lại một bài học thực tế cho các doanh nghiệp đang sử dụng các công cụ như Cursor, Devin hay GitHub Copilot. Chi phí sử dụng token không tăng dần đều mà thường nhảy vọt mỗi khi một mô hình ngôn ngữ mạnh mẽ hơn được ra mắt và áp dụng nội bộ. Khi năng lực của mô hình được cải thiện, người dùng có xu hướng giao phó nhiều tác vụ nặng hơn, dẫn đến việc hóa đơn dịch vụ có thể tăng từ vài trăm lên hàng nghìn USD chỉ trong thời gian ngắn. Do các số liệu này hoàn toàn do OpenAI tự đo lường và công bố mà chưa có sự kiểm chứng từ các đơn vị độc lập, các nhà đầu tư và nhà sáng lập cần nhìn nhận mức chi tiêu này như một chỉ số tham khảo về quy mô vận hành hơn là một thước đo hiệu quả tuyệt đối.

Việc chi hàng nghìn USD mỗi ngày cho token cho thấy kỷ nguyên của các đại lý AI tự chủ đang tiêu tốn nguồn lực tài chính lớn hơn nhiều so với dự tính ban đầu của đa số doanh nghiệp. Để tối ưu hóa lợi ích từ công nghệ này, các tổ chức cần thiết lập cơ chế giám sát chi phí token chặt chẽ và đánh giá kỹ lưỡng tỷ lệ giữa mức đầu tư với giá trị thực tế mà AI mang lại. Thay vì chạy đua theo khối lượng công việc của máy móc, hãy tập trung vào việc nâng cao kỹ năng quản trị đại lý AI cho đội ngũ nhân sự để đảm bảo mỗi đồng chi phí bỏ ra đều đổi lại được những bước tiến công nghệ thực chất.