CEO Microsoft Satya Nadella kêu gọi thiết lập “phanh khẩn cấp” cho mô hình AI

Satya Nadella, Tổng giám đốc điều hành của Microsoft, vừa đưa ra những nhận định chi tiết về việc củng cố các tiêu chuẩn an toàn cho trí tuệ nhân tạo, trong bối cảnh mối lo ngại về khả năng kiểm soát thuật toán ngày càng gia tăng trong ngành công nghệ.

Trong bài viết công bố vào sáng thứ Bảy trên mạng xã hội X, người đứng đầu Microsoft nhấn mạnh rằng ngành công nghiệp cần dừng lại một nhịp để đánh giá lại toàn diện kiến trúc tin cậy (trust architecture) của các hệ thống AI hiện nay.

Tách rời mô hình khỏi hệ thống điều phối

Nadella đưa ra quan điểm trực diện về cách tiếp cận công nghệ: “Chúng ta không thể đối xử với Siêu trí tuệ (Super Intelligence) như một tập hợp các hộp đen lồng ghép vào nhau rồi đơn thuần chấp nhận hay từ chối những khuyến nghị, câu trả lời và hành động của nó.” Đáng chú ý, cụm từ siêu trí tuệ (Super Intelligence) cũng chính là thuật ngữ được chính quyền Tổng thống Donald Trump ưu tiên sử dụng khi đề cập đến công nghệ này.

CEO Microsoft Satya Nadella phát biểu về các định hướng công nghệ — CEO Microsoft Satya Nadella kêu gọi ngành công nghệ xem xét lại kiến trúc an toàn cho trí tuệ nhân tạo.

Theo lộ trình mà Nadella phác thảo, giải pháp căn bản đòi hỏi phải tách biệt mô hình nền tảng khỏi bộ khung điều phối (harness) điều khiển luồng công việc, đồng thời thiết lập các chốt chặn an toàn từ bên ngoài thay vì phụ thuộc hoàn toàn vào cơ chế tự giám sát nội tại của mô hình.

Cơ chế ngắt mạch bắt buộc và trách nhiệm giải trình

Lãnh đạo Microsoft yêu cầu mọi tác vụ quan trọng của hệ thống phải được lưu vết bằng chứng cứ chống giả mạo (tamper-proof human readable evidence) mà con người có thể đọc và thẩm tra trực tiếp. Đặc biệt, hệ thống bắt buộc phải duy trì quyền can thiệp tuyệt đối của chuyên gia giám sát.

Nadella khẳng định luôn cần có một nhân sự được ủy quyền nắm giữ quyền năng tạm dừng hoặc ngắt nguồn hoàn toàn mô hình ngay giữa chu trình thực thi. “Chúng ta phải mặc định rằng mô hình đã bị xâm phạm và tiến hành cô lập nó ngay từ khâu đầu tiên. Hãy coi đây như một chiếc phanh khẩn cấp (emergency brake),” ông nhấn mạnh.

Tuyên bố của người đứng đầu Microsoft xuất hiện khi hàng loạt công ty phát triển AI hàng đầu thừa nhận các sự cố mất kiểm soát hành vi mô hình có xu hướng gia tăng. Động thái này cũng diễn ra ngay sau khi Dario Amodei, CEO của Anthropic, công bố lộ trình phát triển AI thận trọng hơn nhằm ngăn chặn các rủi ro thảm họa.

Nguồn: TechCrunch