Pramaana Labs gọi vốn 27 triệu USD để ứng dụng kiểm chứng hình thức vào AI

Pramaana Labs vừa hoàn tất vòng gọi vốn hạt giống trị giá 27 triệu USD do Khosla Ventures dẫn đầu, đánh dấu một bước tiến mới trong nỗ lực nâng cao độ tin cậy của trí tuệ nhân tạo (AI). Khoản đầu tư này, với sự tham gia của các quỹ lớn như Accel, Nexus Venture Partners và Premji Invest, sẽ được tập trung vào việc giải quyết bài toán sai lệch (hallucination) – rào cản lớn nhất khiến doanh nghiệp chưa thể đưa AI vào các quy trình vận hành cốt lõi. Thay vì chỉ dựa vào các mô hình xác suất, Pramaana ứng dụng phương pháp kiểm chứng hình thức (formal verification) để tạo ra một hệ thống AI có khả năng suy luận chính xác và có thể kiểm chứng được.

Cách tiếp cận của startup này tập trung vào các lĩnh vực đòi hỏi sự chính xác tuyệt đối như luật pháp, nghiên cứu dược phẩm và thuế. Đây là những ngành mà một sai sót nhỏ của AI cũng có thể gây ra thiệt hại nghiêm trọng về tài chính, sức khỏe hoặc quyền tự do của con người. CEO Ranjan Rajagopalan nhận định rằng những thách thức lớn nhất của thế giới không phải là không thể giải quyết, mà là do chúng chưa được mô hình hóa bằng toán học. Bằng cách kết hợp tính linh hoạt của các mô hình ngôn ngữ lớn (LLM) với tính nghiêm ngặt của các quy tắc logic, Pramaana đang xây dựng một nền tảng AI mà doanh nghiệp có thể hoàn toàn tin tưởng.

Giải pháp kết hợp giữa mô hình ngôn ngữ lớn và kiểm chứng hình thức

Hệ thống của Pramaana Labs vận hành trên một cấu trúc hai lớp độc đáo: lớp dưới là các mô hình ngôn ngữ lớn (LLM) truyền thống để xử lý ngôn ngữ tự nhiên, trong khi lớp trên là một tầng xác thực tất định (deterministic layer). Startup này sử dụng ngôn ngữ lập trình mã nguồn mở LEAN – một công cụ chuyên dụng để kiểm chứng các định lý toán học – để mã hóa các quy định phức tạp thành các đoạn mã có thể thực thi. Khi AI đưa ra câu trả lời, tầng xác thực này sẽ đối chiếu kết quả với các quy tắc logic đã được thiết lập, đảm bảo rằng mọi suy luận đều tuân thủ đúng quy định pháp lý hoặc kỹ thuật.

Để đảm bảo tính thực tiễn, Pramaana cộng tác trực tiếp với các chuyên gia đầu ngành để xây dựng hệ thống quy tắc cho từng lĩnh vực cụ thể. Chẳng hạn, trong mảng thuế, công ty làm việc với cựu ủy viên IRS Danny Werfel; trong khi mảng an ninh mạng và dược phẩm được giám sát bởi các giáo sư từ IIT Delhi và UC Berkeley. Cách làm này tương tự như dự án CATALA của Pháp, nơi các quy định về thuế và phúc lợi được chuyển đổi thành mã máy tính để loại bỏ sự mơ hồ. Việc toán học hóa các quy tắc giúp biến những hệ thống AI vốn thường hoạt động theo cảm tính trở thành những công cụ suy luận có độ chính xác tuyệt đối.

Sự xuất hiện của Pramaana Labs cho thấy xu hướng tất yếu của việc chuyển dịch từ AI thử nghiệm sang AI vận hành an toàn thông qua bằng chứng toán học. Đối với các doanh nghiệp, việc tích hợp các giải pháp có tầng kiểm chứng hình thức không chỉ giúp giảm thiểu rủi ro pháp lý mà còn tối ưu hóa hiệu suất làm việc trong các lĩnh vực nhạy cảm. Các nhà quản lý chiến lược nên ưu tiên xem xét các nền tảng AI có cơ chế xác thực tất định để đảm bảo tính bền vững và minh bạch cho hệ thống công nghệ của tổ chức mình.