Box tích hợp Nvidia Nemotron nâng cấp hệ thống truy xuất nội dung cho tác tử AI

Tại hội nghị thường niên dành cho các nhà phát triển vừa diễn ra, nền tảng lưu trữ đám mây Box đã công bố tích hợp trực tiếp hệ thống nhúng (embedding system) Nemotron của Nvidia vào lõi kiến trúc sản phẩm. Giải pháp mới mang tên Box Content Retrieval hướng tới mục tiêu cung cấp nền tảng dữ liệu tối ưu cho các tác tử AI (AI agents).

Tăng tốc truy vấn và tiết kiệm tài nguyên tính toán

Hệ thống Box Content Retrieval khai thác sâu các siêu dữ liệu nhúng (embedded metadata) do Nemotron tạo ra, cho phép các tác tử thông minh thực hiện tác vụ tìm kiếm và xử lý văn bản chuẩn xác hơn. Trả lời phỏng vấn trang tin công nghệ TechCrunch, bà Kari Briski, Phó chủ tịch phụ trách phần mềm AI tạo sinh của Nvidia, cho biết kiến trúc mới có khả năng phản hồi truy vấn nhanh hơn gấp 4 lần, giảm 20% tỷ lệ lỗi và tiết kiệm tới 90% lượng đơn vị ngôn ngữ tiêu thụ (tokens used).

Ông Aaron Levie, Giám đốc điều hành của Box, nhấn mạnh rằng công nghệ này thay đổi hoàn toàn cách các tác tử tiếp cận kho lưu trữ: thay vì bắt AI phải duyệt qua toàn bộ từng tập tin tài liệu, hệ thống sẽ trích xuất và cung cấp chính xác các phân đoạn dữ liệu (chunks) phù hợp nhất với ngữ cảnh người dùng đang yêu cầu.

Sức mạnh từ mô hình nhúng trọng số mở

Trọng tâm kỹ thuật của tính năng này là dự án Nemotron Embed do Nvidia phát triển, chuyên cung cấp các mô hình nhúng trọng số mở (open-weight embedding models) nhằm nâng cấp các hệ thống truy xuất tự động. Trong giai đoạn vừa qua, các phòng nghiên cứu AI lớn thường ít tập trung vào nhóm mô hình này, vốn sử dụng các mô hình ngôn ngữ lớn (LLMs) để tiền xử lý và cấu trúc hóa dữ liệu đầu vào cho tác tử tự hành.

Vào tháng 7, phiên bản Nemotron của Nvidia đã vươn lên dẫn đầu bảng xếp hạng RTEB – tiêu chuẩn đánh giá chuyên sâu về chất lượng truy xuất thông tin trong ngành AI. Khi ứng dụng vào thực tế, hệ thống cho phép tìm kiếm theo bản chất khái niệm thay vì chỉ đối sánh từ khóa đơn thuần. Đơn cử trong ngành luật, các chuyên viên pháp lý có thể dễ dàng định vị các tiền lệ và điều khoản tương đồng ngay cả khi văn bản sử dụng thuật ngữ hoặc cách diễn đạt khác biệt.

Khả năng kết hợp với hệ sinh thái phân quyền

Dù Nemotron là mô hình mã nguồn mở cho phép tiếp cận tự do, Box khẳng định việc xây dựng một hệ thống tương tự từ con số 0 là thách thức rất lớn. Giá trị cốt lõi của giải pháp nằm ở sự kết hợp giữa thuật toán của Nvidia với hệ thống kiểm soát quyền truy cập chi tiết và dữ liệu phân cấp sẵn có trong kho lưu trữ của Box.

Theo đại diện doanh nghiệp, hãng đã gói gọn khoảng 5 công nghệ phức tạp vào một giao diện lập trình ứng dụng (API) thống nhất. Tính năng Box Content Retrieval dự kiến sẽ bắt đầu được phân phối rộng rãi tới toàn bộ khách hàng thuộc gói dịch vụ Enterprise Advanced vào đầu năm sau.

Nguồn: TechCrunch

LIÊN HỆ TƯ VẤN CÁC DỊCH VỤ AI

Hỗ trợ tư vấn, đào tạo và chuyển giao AI cho cá nhân, doanh nghiệp và tổ chức.

📞 Điện thoại: 0981243678 Liên hệ qua Zalo