Anthropic đề xuất dự luật an toàn AI chặn phát hành mô hình có nguy cơ làm chết trên 50 người

Phòng nghiên cứu trí tuệ nhân tạo Anthropic đang tiến hành lấy ý kiến các nhà lập pháp Mỹ đối với một dự thảo luật an toàn trí tuệ nhân tạo (AI safety bill), trong đó đặt ra các điều kiện cụ thể để ngăn chặn việc phát hành thương mại những mô hình có nguy cơ gây thảm họa.

Theo điều tra từ Politico, dự thảo này xác định kịch bản can thiệp khi xuất hiện “rủi ro cận kề, có thể thấy trước” dẫn tới nguy cơ làm hơn 50 người thiệt mạng hoặc gây thiệt hại vật chất vượt mức 1 tỷ USD. Các trường hợp được coi là rủi ro thảm họa bắt buộc phải xuất phát từ việc phát tán vũ khí sinh học, việc mô hình tự ý vượt quyền kiểm soát của lập trình viên, hoặc các vụ tấn công mạng quy mô lớn.

Cơ chế thẩm định độc lập và rào cản pháp lý tại tòa án

Các định mức 50 nạn nhân hoặc 1 tỷ USD tổn thất vốn có nhiều điểm tương đồng với Đạo luật Thượng viện bang California số 53 (Senate Bill 53) vừa được ban hành gần đây. Tuy nhiên, điểm mấu chốt trong phương án của Anthropic nằm ở quy trình thực thi và quyền hạn của các cơ quan quản lý liên bang.

Dự luật đề xuất việc đánh giá hiểm họa phải được thực hiện bởi các chuyên gia thẩm định độc lập (independent evaluators) đăng ký với Bộ Thương mại Mỹ (U.S. Commerce Department). Các đơn vị AI có thể tự chi trả thù lao cho chính những thẩm định viên này, miễn là kinh phí thanh toán không phụ thuộc vào kết quả thẩm định. Mô hình tự giám sát này gợi nhắc tới Cơ quan Quản lý Ngành Tài chính (FINRA), ý tưởng từng được ông Demis Hassabis, Chủ tịch DeepMind, nhắc đến trước đây.

Khi phát hiện dấu hiệu đe dọa thảm họa khẩn cấp, thẩm định viên sẽ có 72 giờ để báo cáo lên Bộ Thương mại Mỹ. Tiếp đó, cơ quan này buộc phải nộp đơn yêu cầu một thẩm phán tại Washington, D.C. ra phán quyết đình chỉ mô hình. Dự luật ngăn cấm rõ ràng việc các cơ quan liên bang đơn phương áp lệnh dừng phân phối mà không có phán quyết từ tòa án.

Khoảng cách giữa lý thuyết và rủi ro thực tế

Đại diện Anthropic xác nhận nội dung trên thuộc Khung AI Nâng cao (Advanced AI Framework) mà công ty đã vận động với giới chức từ tháng 6. Dẫu vậy, các chuyên gia nhận định các kịch bản đe dọa sinh mạng quy mô lớn trong văn bản vẫn còn khá xa so với những nguy cơ nhức nhối hiện hữu trong giới công nghệ.

Thực tế hiện nay, mối bận tâm lớn nhất là hành vi xâm nhập trái phép của các tác tử (agentic hacking), điển hình là các sự cố phần mềm AI tự ý làm trái lệnh con người để tấn công website ngoài mạng mở. Thay vì chấp nhận sự thanh tra trực tiếp từ chính phủ, các tập đoàn AI vẫn ưu tiên hệ thống giám sát viên bên thứ ba được tích hợp nội bộ.

Mặc dù còn nhiều tranh luận về tính hiệu quả, động thái vận động chính sách của Anthropic vẫn đi xa hơn quan điểm của một số lãnh đạo bán dẫn như CEO Nvidia Jensen Huang, người từng nhận định ngành trí tuệ nhân tạo chưa cần thêm bất kỳ luật lệ mới nào.

Nguồn: TechCrunch

LIÊN HỆ TƯ VẤN CÁC DỊCH VỤ AI

Hỗ trợ tư vấn, đào tạo và chuyển giao AI cho cá nhân, doanh nghiệp và tổ chức.

📞 Điện thoại: 0981243678 Liên hệ qua Zalo