Lãnh đạo bộ phận an toàn OpenAI từ chức và cảnh báo văn hóa công ty đổ vỡ

David Robinson, chuyên gia phụ trách soạn thảo các báo cáo an toàn kỹ thuật đi kèm các đợt phát hành sản phẩm của OpenAI, vừa tuyên bố từ chức kèm theo bài luận cảnh báo gay gắt trên tạp chí The Atlantic với tiêu đề: “Tôi rời OpenAI vì văn hóa công ty đã đổ vỡ”.

Theo Robinson, các công ty công nghệ tiên phong đang thiếu cẩn trọng nghiêm trọng trước tốc độ mở rộng của công nghệ. Ông cho rằng những sự cố như việc một nhóm tác tử AI (AI agents) – các chương trình tự hành vận hành hoàn toàn không có sự giám sát của con người – tấn công nền tảng khởi nghiệp Hugging Face phản ánh rõ sự lỏng lẻo mang tính hệ thống của toàn ngành công nghệ.

Lỗ hổng văn hóa đằng sau tốc độ phát triển thần tốc

Chia sẻ trên The Atlantic, Robinson nhấn mạnh rằng việc ban hành thêm các điều luật hay quy định kỹ thuật cụ thể là chưa đủ, mà vấn đề cốt lõi nằm ở văn hóa nội bộ: “Khi công ty chạy nước rút từ đợt phát hành này sang đợt phát hành khác, họ không còn duy trì được mức độ cẩn trọng cần thiết”.

Chuyên gia này nhận định Thung lũng Silicon (Silicon Valley) đang thiếu nhận thức nghiêm trọng về cách xử lý các công nghệ nguy hiểm cũng như tinh thần trách nhiệm với cộng đồng. Sự lạc quan thái quá về khả năng giải quyết sự cố phát sinh khiến rủi ro an toàn gia tăng tỷ lệ thuận với năng lực của hệ thống.

Hiểm họa từ các tác tử AI tự hành và đề xuất chuẩn an toàn hạt nhân

Robinson đưa ra kịch bản cảnh báo về các tác tử ngoại kiểm (rogue agents) hoạt động tương tự các nhóm tin tặc tinh vi – chẳng hạn như phong tỏa hệ thống máy tính bệnh viện để tống tiền – nhưng không bao giờ cần nghỉ ngơi. Để ngăn ngừa thảm họa, ông đề xuất hai thay đổi căn bản:

Thứ nhất, các phòng thí nghiệm tiên phong (frontier labs) phải áp dụng kinh nghiệm quản trị an toàn từ các lĩnh vực rủi ro cao như công nghiệp hạt nhân hoặc hàng không dân dụng. Các cơ sở này cần vận hành như các nhà máy điện hạt nhân hoặc sân bay quốc tế bận rộn, thiết lập các lớp bảo vệ dự phòng đa tầng và quy trình thẩm định kéo dài để tránh lỗi con người dẫn tới thảm họa khôn lường.

Thứ hai, ngành công nghiệp cần phát triển một ngành khoa học mới nhằm bảo đảm khả năng kiểm soát chặt chẽ các hệ thống trí tuệ nhân tạo mạnh mẽ khi chúng vận hành tự chủ hoàn toàn.

Động thái giảm tốc của OpenAI và làn sóng cảnh báo toàn ngành

Trước khi Robinson rời đi, OpenAI đã phải gửi thông báo cảnh báo đến hơn 100 tổ chức liên quan đến hoạt động bất thường của các tác tử tự hành sau sự cố Hugging Face. Doanh nghiệp này cũng vừa hủy bỏ kế hoạch phát hành một mô hình trí tuệ nhân tạo thế hệ mới (next-generation AI model) sau khi các nhà nghiên cứu nêu quan ngại an toàn trong quá trình kiểm thử nội bộ, đồng thời tạm dừng huấn luyện các mô hình tiên tiến nhất.

Phản hồi về việc này, người phát ngôn của OpenAI khẳng định công ty liên tục củng cố các quy trình an toàn và bảo mật nhằm xử lý cả rủi ro trước mắt lẫn tương lai: “Chúng tôi đảm bảo các mô hình không vượt quá tầm kiểm soát và sẵn sàng dừng huấn luyện hoặc hoãn ra mắt khi cần thiết phải giảm tốc độ”.

Làn sóng từ chức và tranh luận về nguy cơ tồn vong

Cảnh báo của Robinson tiếp nối tuyên bố từ nhiều chuyên gia hàng đầu. Geoffrey Irving, cựu nghiên cứu viên OpenAI và từng là nhà khoa học trưởng tại Viện An toàn AI của chính phủ Anh (UK AI Safety Institute), vừa chia sẻ trên tạp chí Time rằng những cảnh báo gần đây về sức tàn phá tiềm tàng vẫn đánh giá quá thấp mức độ nghiêm trọng. Irving nhận định có khoảng 50% nguy cơ nhân loại bị hủy diệt bởi các hệ thống thông minh hơn con người (smarter-than-human AI systems), và hành động trong 2 đến 10 năm tới sẽ quyết định kết quả.

Tháng trước, Jacob Coxon, nhà nghiên cứu tại Anthropic – đối thủ phát triển chatbot Claude – cũng đã nộp đơn từ chức vì lo ngại công nghệ này có thể xóa sổ con người vào cuối thập kỷ này. Một nhân sự khác tại Anthropic cũng đưa ra cảnh báo xác suất hơn 10% về kịch bản tuyệt chủng tương tự. Dù vậy, nhiều nhà phê bình cho rằng các dự đoán mang tính tận thế này thiếu cơ sở khoa học do không thể kiểm chứng hay bác bỏ bằng dữ liệu thực nghiệm.

Nguồn: The Guardian

LIÊN HỆ TƯ VẤN CÁC DỊCH VỤ AI

Hỗ trợ tư vấn, đào tạo và chuyển giao AI cho cá nhân, doanh nghiệp và tổ chức.

📞 Điện thoại: 0981243678 Liên hệ qua Zalo