Nvidia ra mắt loạt mô hình mở tối ưu tác tử AI cho doanh nghiệp và máy tính cá nhân

Nhu cầu tự kiểm soát dữ liệu nội bộ đang thúc đẩy nhiều tổ chức tìm kiếm các kiến trúc trí tuệ nhân tạo có thể vận hành trực tiếp trong hạ tầng riêng thay vì phụ thuộc hoàn toàn vào dịch vụ đám mây từ bên thứ ba. Nhằm đáp ứng làn sóng này, Nvidia vừa chính thức giới thiệu loạt mô hình trọng số mở (open-weight models) mới, được thiết kế chuyên biệt cho các tác tử AI (AI agents) hoạt động liên tục và các hệ thống tính toán biên (edge computing).

Nemotron 3.5 Super VL phục vụ môi trường doanh nghiệp

Đứng đầu đợt công bố lần này là Nemotron 3.5 Super VL, mô hình quy mô lớn với 120 tỷ tham số (120-billion-parameter) hướng tới các tác tử AI cấp doanh nghiệp. Dù sở hữu dung lượng tham số khiêm tốn hơn so với phiên bản tiền nhiệm Nemotron 3 Ultra, Nvidia khẳng định phiên bản mới vẫn duy trì mức độ chuẩn xác tương đương trong việc thực thi các chỉ dẫn và vận hành công cụ kỹ thuật số (tool-use tasks).

Nvidia mở rộng danh mục mô hình mở hướng đến tác tử AI trên máy tính cá nhân và máy chủ doanh nghiệp.

Theo công bố từ phía tập đoàn, khi trải qua quá trình tinh chỉnh hậu kỳ (post-training) cho các nhiệm vụ chuyên biệt, Nemotron 3.5 Super VL có thể xử lý các tác vụ thực tế nhanh hơn nhiều giải pháp độc quyền khác trên thị trường. Các bài toán ứng dụng bao gồm phân tích tài liệu thông minh (document intelligence), hoạch toán tài chính, mô phỏng nghiên cứu khoa học, xử lý hồ sơ bảo hiểm y tế và phòng chống tấn công an ninh mạng. Hiện tại, nhiều đối tác lớn như Skydance, EY, Ramp, Crowdstrike, Perplexity và Salesforce đã bắt đầu áp dụng kiến trúc này vào quy trình nghiệp vụ.

Chiến lược phân cấp hạ tầng và bảo mật dữ liệu cục bộ

Bên cạnh mô hình cho trung tâm dữ liệu, Nvidia cũng tung ra hai phiên bản rút gọn thuộc dòng Bolt dành cho thiết bị cục bộ. Các mô hình này được thiết kế để chạy trực tiếp trên các dòng AI PC tích hợp vi xử lý Nvidia RTX Spark và máy trạm DGX Spark, vốn đang được các nhà sản xuất thiết bị gốc như Microsoft và Dell phân phối tới tay lập trình viên và người dùng cá nhân.

Bà Kari Briski, Phó chủ tịch phụ trách Mảng Mô hình Mở và Phần mềm của Nvidia, khẳng định các giải pháp này cho phép doanh nghiệp chủ động huấn luyện mô hình dựa trên kho dữ liệu mật của chính họ, triển khai tại hạ tầng riêng và hoàn toàn làm chủ sản phẩm thay vì gửi dữ liệu qua các mô hình nguồn đóng từ xa.

Trong số các giải pháp trên thiết bị, phiên bản Nemotron 3.5 Bolt 74B-A9B 24GB với 74 tỷ tham số được thiết kế để cân bằng giữa tốc độ và khả năng suy luận phức tạp, hỗ trợ gọi công cụ (tool calling) và duyệt web tự động. Phiên bản gọn nhẹ hơn mang tên Bolt E4B sẽ tập trung cho các tác tử hội thoại cơ bản. Hiện tại, Nemotron 3.5 Super VL và Bolt 74B-A9B đã sẵn sàng cung cấp, trong khi bản E4B dự kiến sẽ xuất hiện vào cuối tháng.

Nguồn: TechCrunch