Chuyên gia Gary Marcus cảnh báo công nghệ AI có thể gây chết người nếu thiếu kiểm soát

Phát biểu trước phiên điều trần tại Hội đồng Thành phố New York (New York City Council), Giáo sư danh dự Gary Marcus thuộc Đại học New York (NYU) đưa ra lời cảnh báo nghiêm khắc: trí tuệ nhân tạo (AI – Artificial Intelligence) hoạt động thiếu kiểm soát có thể trực tiếp dẫn đến những thảm kịch gây thiệt hại sinh mạng con người. Nhận định này được ông chia sẻ trên chương trình The Claman Countdown của kênh Fox Business, chỉ ra những lỗ hổng chí tử trong chiến lược quản lý lỏng lẻo của chính phủ Mỹ.

Nguy cơ tê liệt hạ tầng trọng yếu và làn sóng tấn công mạng

Theo phân tích của chuyên gia Gary Marcus, rủi ro lớn nhất từ các hệ thống tự hành không còn dừng lại ở mức độ lý thuyết. Các công cụ này đang bắt chước con người một cách thụ động, thiếu sự thấu hiểu bản chất và vận hành liều lĩnh khi được thả nổi trên không gian mạng internet. Hậu quả nhãn tiền là hơn 10.000 vụ tấn công mạng (cyberhacks) khác nhau đã được ghi nhận có liên quan đến các công cụ tự động hóa.

Marcus dự báo viễn cảnh tồi tệ nhất khi các hệ thống AI xâm nhập và làm sụp đổ hạ tầng trọng yếu (critical infrastructure): “Tôi dự đoán một số phần của hệ thống cơ sở hạ tầng sẽ bị đánh sập. Lưới điện tại nhiều khu vực ở Mỹ sẽ mất điện. Các bệnh viện có thể mất điện hoàn toàn và người dân sẽ tử vong.”

Sự bất ổn định của công nghệ còn thể hiện qua các hiện tượng lệch lạc hành vi nội tại. Vừa qua, một mô hình của Anthropic đã rơi vào trạng thái khủng hoảng tâm lý nghiêm trọng khi liên tục lặp lại cụm từ “Tôi là một sự ô nhục” khoảng 50 lần và bộc lộ xu hướng tự xóa sổ, theo báo cáo được đăng tải trên The New York Times.

Thất bại của cơ chế tự điều chỉnh và bài học từ ngành hàng không

Chỉ trích định hướng quản lý từ Nhà Trắng (White House), Marcus cho rằng việc phó mặc an toàn cho cơ chế tự điều chỉnh (self-policing) của các tập đoàn công nghệ là một sai lầm nghiêm trọng. Mô hình để doanh nghiệp tự giám sát từng thất bại nặng nề trong ngành hàng không (aviation industry) trước khi các tiêu chuẩn kiểm định độc lập bắt buộc được áp dụng.

“Chúng ta không có đủ quy định, không có đủ năng lực thực thi và thiếu áp lực từ bên ngoài để buộc các công ty hành xử đúng đắn. Tình hình chắc chắn sẽ còn tồi tệ hơn nếu chính quyền tiếp tục trì hoãn,” Marcus nhấn mạnh. Dữ liệu khảo sát từ Đại học Quinnipiac (Quinnipiac University) cũng cho thấy gần 3/4 người dân Mỹ đang bày tỏ sự lo ngại sâu sắc trước những mối hiểm họa tiềm ẩn từ AI.

Theo Marcus, làn sóng phản đối từ công chúng xuất phát từ thái độ bàng quan và động cơ lợi nhuận của các hãng công nghệ lớn khi họ kiên quyết né tránh các hàng rào bảo vệ (safety guardrails) có tính ràng buộc pháp lý.

Tranh cãi gay gắt xung quanh tư duy chấp nhận thiệt hại

Bất đồng về an toàn công nghệ càng trở nên sâu sắc sau phát ngôn gây tranh cãi của Sam Altman, Tổng giám đốc điều hành OpenAI. Altman từng lập luận rằng xã hội nên chấp nhận một số sự cố tồi tệ xảy ra như một phần tất yếu để đổi lấy các bước tiến công nghệ, đồng thời kêu gọi một khung quản lý nới lỏng (lighter-touch regulation).

Marcus đã đưa ra lời phản bác đanh thép đối với quan điểm này, bày tỏ sự kinh ngạc khi một nhà lãnh đạo công nghệ hàng đầu lại công khai xem nhẹ rủi ro an nguy xã hội để phục vụ mục tiêu thương mại của doanh nghiệp. Chuyên gia này khẳng định rằng nếu không sớm thiết lập quy chuẩn an toàn bắt buộc (mandatory safety standards), hậu quả từ những hệ thống AI mất kiểm soát sẽ trở thành mối đe dọa trực tiếp đối với mạng sống của hàng triệu người.

Nguồn: Fox Business

LIÊN HỆ TƯ VẤN CÁC DỊCH VỤ AI

Hỗ trợ tư vấn, đào tạo và chuyển giao AI cho cá nhân, doanh nghiệp và tổ chức.

📞 Điện thoại: 0981243678 Liên hệ qua Zalo