Yoshua Bengio, một trong những nhà tiên phong của deep learning, vừa công bố thành lập LawZero với nguồn vốn ban đầu 30 triệu USD. Phòng thí nghiệm phi lợi nhuận này tập trung vào AI safety, lấy cảm hứng từ Zeroth Law of Robotics về việc bảo vệ nhân loại. Động thái này xuất hiện trong bối cảnh ngành công nghệ đang có những lo ngại ngày càng tăng về rủi ro từ các hệ thống AI tiên tiến.
Những điểm chính
- Yoshua Bengio ra mắt LawZero với nguồn vốn 30 triệu USD, tập trung nghiên cứu an toàn AI phi lợi nhuận.
- Tên LawZero lấy cảm hứng từ Zeroth Law of Robotics, nhấn mạnh ưu tiên bảo vệ nhân loại.
- Dự án nhận đầu tư từ Jaan Tallinn, Eric Schmidt, Open Philanthropy và Future of Life Institute.
- LawZero định vị như giải pháp thay thế cho phòng thí nghiệm AI thương mại hiện tại.
- Bengio bày tỏ hoài nghi về cách tiếp cận an toàn AI của OpenAI và Google.
Yoshua Bengio, một trong những nhà tiên phong trong lĩnh vực AI, đã chính thức ra mắt LawZero – một phòng thí nghiệm phi lợi nhuận chuyên về an toàn AI với nguồn vốn 30 triệu USD. Tên gọi LawZero được lấy cảm hứng từ Zeroth Law of Robotics, nhấn mạnh việc ưu tiên bảo vệ nhân loại trong quá trình phát triển AI.
Nhà tiên phong AI Yoshua Bengio ra mắt phòng thí nghiệm phi lợi nhuận LawZero với 30 triệu USD, ưu tiên bảo vệ nhân loại.
Dự án này thu hút sự đầu tư từ những tên tuổi lớn trong ngành công nghệ, bao gồm Jaan Tallinn, Eric Schmidt, Open Philanthropy và Future of Life Institute. Việc các nhà đầu tư hàng đầu ủng hộ LawZero phản ánh mối quan ngại ngày càng tăng về rủi ro AI trong cộng đồng công nghệ.
Bengio đã trở thành tiếng nói tích cực trong phong trào an toàn AI, đặc biệt là sự ủng hộ của ông đối với SB 1047 – dự luật an toàn AI của California nhằm ngăn chặn các kịch bản thảm khốc. Ông liên tục kêu gọi thiết lập khung pháp lý chặt chẽ cho việc phát triển AI, nhấn mạnh tính cấp thiết của các biện pháp an toàn khi khả năng AI ngày càng mở rộng.
Nhà khoa học này cũng bày tỏ sự hoài nghi đối với cách tiếp cận an toàn AI của các công ty lớn như OpenAI và Google. Bengio lo ngại về tốc độ phát triển nhanh chóng của các hệ thống AI thông minh hơn mà không có đủ biện pháp bảo vệ tương ứng. Ông kêu gọi tăng cường tính minh bạch và trách nhiệm giải trình trong quá trình phát triển AI.
LawZero được định vị như một giải pháp thay thế cho các phòng thí nghiệm AI thương mại, tập trung hoàn toàn vào việc xây dựng các hệ thống AI an toàn hơn thay vì theo đuổi lợi nhuận. Mục tiêu của phòng thí nghiệm là nghiên cứu và phát triển các cơ chế an toàn cho AI, đảm bảo rằng những tiến bộ công nghệ này sẽ mang lại lợi ích cho toàn nhân loại.
