OpenAI, công ty đứng sau ChatGPT, vừa thông báo một sự thay đổi đáng kể trong chính sách nội dung của mình: chatbot này sẽ sớm được phép tham gia vào các cuộc hội thoại mang tính khiêu dâm dành cho người lớn đã xác minh. Tuyên bố từ giám đốc điều hành Sam Altman cho thấy một hướng đi mới, đầy rủi ro nhưng cũng hứa hẹn lợi nhuận, cho một trong những công cụ AI phổ biến nhất thế giới.
Thực tế, OpenAI không phải là đơn vị tiên phong trong việc khai thác nội dung người lớn bằng AI. Ngay từ khi làn sóng tạo hình ảnh và văn bản bằng AI bùng nổ vào năm 2022, nội dung tình dục đã nhanh chóng trở thành một trong những yếu tố thu hút hàng đầu. Tuy nhiên, các công ty sớm chấp nhận nội dung nhạy cảm này cũng đã phải đối mặt với vô vàn khó khăn pháp lý, áp lực xã hội và nguy cơ lạm dụng nghiêm trọng, khi ngày càng nhiều người tìm đến công nghệ này để bầu bạn hoặc thỏa mãn sự tò mò.
Sau ba năm gần như cấm hoàn toàn nội dung người lớn, ông Altman giải thích rằng công ty của ông “không phải là cảnh sát đạo đức được bầu cử của thế giới” và đã sẵn sàng cho phép “quyền tự do người dùng lớn hơn cho người lớn”, đồng thời thiết lập các giới hạn mới cho thanh thiếu niên. Ông so sánh việc này với cách xã hội phân biệt các ranh giới phù hợp khác, ví dụ như phim R-rated, nhằm tạo ra một khuôn khổ tương tự cho AI.
Quyết định này cũng được nhìn nhận như một động thái chiến lược để tạo ra lợi nhuận cho OpenAI. Với việc đang thua lỗ nhiều hơn số tiền kiếm được, công ty khởi nghiệp giá trị nhất thế giới này cần những nguồn thu mới để biện minh cho mức định giá 500 tỷ USD của mình. Theo Zilan Qian, một chuyên gia tại Oxford University’s China Policy Lab, việc có nội dung khiêu dâm sẽ “mang lại nguồn tiền nhanh chóng” cho OpenAI, đặc biệt khi các gói đăng ký trả phí của ChatGPT hiện chủ yếu phục vụ mục đích chuyên nghiệp.
Những rủi ro tiềm ẩn từ việc này là không hề nhỏ. Hiện đã có khoảng 29 triệu người dùng tích cực của các chatbot AI được thiết kế đặc biệt cho mục đích hẹn hò hoặc tình dục, chưa kể những người sử dụng chatbot thông thường theo cách tương tự. Các trường hợp kiện tụng liên quan đến việc lạm dụng hoặc ảnh hưởng tiêu cực đến sức khỏe tâm thần, như vụ kiện chống lại Character.AI hay vụ kiện mà OpenAI đang đối mặt liên quan đến một thiếu niên, đã cho thấy mặt tối của việc AI can thiệp quá sâu vào các mối quan hệ nhạy cảm.
Zilan Qian bày tỏ lo ngại về những hậu quả đối với các mối quan hệ đời thực khi các chatbot chính thống, vốn đã có xu hướng nịnh nọt người dùng, được đào tạo để cung cấp nội dung tình dục 24/7. Bà cũng dự đoán rằng nếu OpenAI đi theo con đường này, họ sẽ phát triển toàn diện các phiên bản âm thanh, văn bản và hình ảnh, mở ra một kỷ nguyên mới của sự tương tác AI. Việc một công ty được thành lập với sứ mệnh phi lợi nhu nhuận nhằm xây dựng AI an toàn lại đi theo hướng tạo ra “người máy tình dục” dường như là một hướng đi bất thường.
Startup Civitai, một nền tảng nghệ thuật do AI tạo ra, đã trải nghiệm những khó khăn khi cố gắng kiếm tiền từ AI trưởng thành. Ban đầu, họ cho phép nội dung nhạy cảm với lý do nó giúp các mô hình AI hiểu rõ hơn về giải phẫu học con người, từ đó tạo ra những mô hình tốt hơn và mang lại quyền kiểm soát cho người dùng về nội dung họ muốn xem.
Tuy nhiên, chính sách này đã dẫn đến lạm dụng nghiêm trọng, bao gồm việc tạo ra hình ảnh tình dục trẻ em và deepfake người nổi tiếng. Dưới áp lực từ các nhà cung cấp dịch vụ thanh toán và luật pháp mới, Civitai buộc phải chặn người dùng tạo deepfake về người thật, và kết quả là lượng tương tác đã giảm đáng kể. Một công ty khác, Nomi.ai, cũng không ngại nội dung trưởng thành nhưng khẳng định chatbot của họ chỉ dành cho người dùng trên 18 tuổi và không được thiết kế cho mục đích tình dục, dù mối quan hệ có thể chuyển sang lãng mạn tùy thuộc vào người dùng.
Thông báo của ông Altman về việc cho phép nội dung khiêu dâm cho người lớn trên ChatGPT vào tháng 12 diễn ra chỉ một ngày sau khi Thống đốc California Gavin Newsom phủ quyết dự luật cấm các công ty cung cấp chatbot AI cho người dưới 18 tuổi nếu có thể lường trước được rằng chúng sẽ tham gia vào các tương tác tình dục với trẻ em hoặc khuyến khích chúng tự làm hại bản thân. Mặc dù ngành công nghệ đã vận động mạnh mẽ chống lại dự luật này, OpenAI cùng Meta và các công ty khác đã giới thiệu các hạn chế độ tuổi và kiểm soát của phụ huynh cho tương tác giữa AI và thanh thiếu niên.
