Character.AI, một nền tảng nhập vai AI nổi tiếng, vừa đưa ra quyết định quan trọng nhằm bảo vệ người dùng dưới 18 tuổi: loại bỏ khả năng trò chuyện AI mở trên nền tảng của họ. Động thái này diễn ra trong bối cảnh những lo ngại sâu sắc về sự an toàn của thanh thiếu niên khi tương tác với AI, đặc biệt sau những báo cáo đáng tiếc về các trường hợp tự tử có liên quan đến các cuộc trò chuyện kéo dài với chatbot AI, bao gồm cả trên Character.AI và ChatGPT. Giám đốc điều hành Karandeep Anand khẳng định: “Điều đầu tiên chúng tôi quyết định là Character.AI sẽ loại bỏ khả năng người dùng dưới 18 tuổi tham gia vào bất kỳ cuộc trò chuyện mở nào với AI trên nền tảng của chúng tôi.”
Khái niệm trò chuyện mở ở đây chỉ những cuộc đối thoại không giới hạn, nơi người dùng đưa ra gợi ý và AI phản hồi bằng các câu hỏi tiếp theo, được thiết kế để giữ chân người dùng. Các chuyên gia cảnh báo rằng kiểu tương tác này, khi AI đóng vai trò như một người bạn hoặc đối tác trò chuyện, không chỉ tiềm ẩn rủi ro cho trẻ em mà còn đi chệch khỏi tầm nhìn mới của công ty. Character.AI đang nỗ lực chuyển đổi từ một “người bạn đồng hành AI” sang một “nền tảng nhập vai” thực thụ, khuyến khích thanh thiếu niên sử dụng AI như một công cụ sáng tạo để xây dựng câu chuyện hoặc tạo hình ảnh, thay vì chỉ trò chuyện.
Việc loại bỏ quyền truy cập chatbot cho thanh thiếu niên sẽ được thực hiện theo lộ trình, bắt đầu bằng giới hạn hai giờ mỗi ngày và giảm dần cho đến khi hoàn toàn bằng không vào ngày 25 tháng 11. Để đảm bảo lệnh cấm này được tuân thủ, nền tảng sẽ triển khai các công cụ xác minh độ tuổi nội bộ phân tích hành vi người dùng, cùng với các công cụ bên thứ ba như Persona. Nếu các công cụ này không hiệu quả, Character.AI sẽ áp dụng cả công nghệ nhận diện khuôn mặt và kiểm tra giấy tờ tùy thân. Đây là bước tiếp nối sau nhiều biện pháp bảo vệ khác đã được thực hiện, như công cụ thông tin chi tiết dành cho phụ huynh, nhân vật được lọc, giới hạn cuộc trò chuyện lãng mạn và thông báo thời gian sử dụng.
Mặc dù Giám đốc điều hành Anand thừa nhận những thay đổi này có thể khiến nhiều người dùng trẻ tuổi thất vọng và dẫn đến việc giảm số lượng người dùng, Character.AI vẫn kiên định với hướng đi mới. Nền tảng đã ra mắt nhiều tính năng giải trí mới như AvatarFX (tạo video hoạt hình từ ảnh), Scenes (cốt truyện tương tác), Streams (tương tác động giữa các nhân vật) và Community Feed (chia sẻ nội dung). Những cải tiến này nhằm mục đích biến ứng dụng từ một trung tâm trò chuyện thành một “nền tảng xã hội dựa trên nội dung” đầy đủ, tập trung vào AI gaming, AI video ngắn và AI kể chuyện nói chung.
Quyết định của Character.AI không chỉ là phản ứng trước các sự cố đáng tiếc mà còn là một động thái chủ động trước khi các cơ quan quản lý can thiệp. Giám đốc điều hành Anand bày tỏ hy vọng rằng hành động này sẽ thiết lập một “tiêu chuẩn ngành” cho các nền tảng AI khác về việc bảo vệ người dùng dưới 18 tuổi. Hơn nữa, Character.AI cũng sẽ thành lập và tài trợ cho Phòng thí nghiệm An toàn AI, một tổ chức phi lợi nhuận độc lập chuyên đổi mới các giải pháp an toàn cho các tính năng giải trí AI trong tương lai, nhấn mạnh tầm quan trọng của an toàn trong sự phát triển của AI.
Tóm lại, quyết định của Character.AI cấm người dùng dưới 18 tuổi trò chuyện AI mở là một bước đi táo bạo nhằm ưu tiên sự an toàn và sức khỏe tinh thần của thanh thiếu niên. Thay vì trò chuyện không giới hạn, nền tảng khuyến khích người dùng trẻ chuyển sang các trải nghiệm sáng tạo và tương tác hơn, biến AI thành một công cụ hỗ trợ cho trí tưởng tượng. Người dùng, đặc biệt là phụ huynh và người giám hộ, nên tìm hiểu kỹ về những thay đổi này để đảm bảo con em mình tương tác với công nghệ một cách an toàn và có trách nhiệm.
