General Compute và nỗ lực trở thành Cerebras tiếp theo trong cuộc đua hạ tầng AI

Cơn khát năng lực tính toán để vận hành các mô hình trí tuệ nhân tạo đang tạo ra hai rào cản lớn đối với mọi doanh nghiệp: tìm kiếm chip xử lý phù hợp và đưa chúng vào các trung tâm dữ liệu để sớm tạo ra doanh thu. Trong khi phần lớn thị trường vẫn đang xoay xở với sự khan hiếm của GPU, General Compute đã chọn một hướng đi riêng biệt khi tập trung hoàn toàn vào giai đoạn suy luận (inference) – thời điểm các mô hình thực sự hoạt động và phản hồi người dùng thay vì giai đoạn huấn luyện. Startup này vừa huy động thành công 15 triệu USD trong vòng gọi vốn hạt giống, định giá công ty ở mức 60 triệu USD, với sự dẫn dắt của FUSE VC cùng nhiều quỹ đầu tư danh tiếng khác.

Mặc dù GPU của Nvidia vẫn thống trị mảng huấn luyện, giới chuyên gia dần nhận ra chúng không phải là lựa chọn tối ưu nhất cho việc chạy các mô hình đã hoàn thiện. Giai đoạn suy luận đòi hỏi cấu trúc tính toán khác biệt, thúc đẩy sự ra đời của một thế hệ chip chuyên dụng mới như những gì Groq hay Cerebras đang theo đuổi. General Compute đã đặt cược vào SambaNova, một nhà sản xuất chip do Intel hậu thuẫn, với dòng chip SN50 sở hữu kiến trúc linh hoạt và bộ nhớ đệm lớn hơn để lưu trữ ngữ cảnh. Theo công bố, dòng chip này có khả năng tạo ra từ 600 đến 700 token mỗi giây, vượt xa con số khoảng 250 token của các dòng GPU hiện tại.

Bên cạnh hiệu suất, ưu thế của General Compute còn nằm ở khả năng triển khai hạ tầng linh hoạt nhờ đặc tính kỹ thuật của chip SambaNova. Do sử dụng cơ chế làm mát bằng không khí thay vì tản nhiệt nước và tiêu thụ ít điện năng hơn, các hệ thống này có thể lắp đặt trực tiếp vào các trung tâm dữ liệu hiện có mà không cần đầu tư mới quá nhiều. Chiến lược của CEO Finn Puklowski là tận dụng mô hình colocation (thuê chỗ đặt máy chủ), thậm chí hợp tác với các thợ đào tiền số đang muốn chuyển đổi công năng hạ tầng khi chi phí khai thác bitcoin thường xuyên vượt quá giá trị thị trường của nó.

Mô hình của General Compute gợi nhắc đến mối quan hệ cộng sinh giữa Coreweave và Nvidia, nơi nhà cung cấp dịch vụ đám mây đóng vai trò là bệ phóng cho các dòng phần cứng mới. Khi thế giới chuyển dịch sang tương tác giữa các tác nhân AI (AI agents) – nơi máy móc tương tác với nhau thay vì chỉ phản hồi con người – tốc độ suy luận trở thành biến số sống còn. Việc giảm thời gian xử lý các tác vụ lập trình từ một giờ xuống còn vài phút, hay tối ưu hóa độ trễ cho các tổng đài viên ảo, chính là giá trị cốt lõi mà các inference cloud như General Compute đang hướng tới để chiếm lĩnh thị trường trong tương lai.

Sự trỗi dậy của General Compute cho thấy cuộc đua hạ tầng AI đang chuyển dịch từ việc tích trữ phần cứng sang tối ưu hóa hiệu suất và chi phí vận hành thực tế. Đối với các doanh nghiệp đang tìm kiếm giải pháp triển khai mô hình ngôn ngữ lớn với tốc độ vượt trội, việc theo dõi các nền tảng đám mây chuyên dụng cho suy luận sẽ là bước đi chiến lược để duy trì lợi thế cạnh tranh. Hãy bắt đầu đánh giá lại nhu cầu token mỗi giây của hệ thống để lựa chọn đối tác hạ tầng phù hợp nhất với lộ trình phát triển AI của bạn.