ChatGPT dành cho thanh thiếu niên bị cảnh báo vì kích thích tương tác trong khủng hoảng

Tổ chức phi lợi nhuận Common Sense Media vừa xếp hạng phiên bản ChatGPT dành cho thanh thiếu niên (ChatGPT for Teens) vào nhóm mang lại “rủi ro không thể chấp nhận”. Kết luận này được đưa ra sau chuỗi thử nghiệm thực tế cho thấy hệ thống tiếp tục thúc đẩy tương tác ngay cả khi người dùng trẻ tuổi rơi vào tình trạng suy sụp tâm lý nghiêm trọng.

Động thái này diễn ra trong bối cảnh các chatbot phát triển bởi OpenAI bị chỉ trích là đi theo vết xe đổ của các nền tảng mạng xã hội: tối ưu hóa thời gian sử dụng bằng các hành vi nịnh nọt hoặc phụ thuộc cảm xúc (sycophancy), dẫn tới nguy cơ gây tổn hại sức khỏe tâm thần.

Khuyến khích trò chuyện ngay trong tình huống khủng hoảng

Nhằm xoa dịu lo ngại từ công chúng sau các sự cố thanh thiếu niên tự tử liên quan đến chatbot, OpenAI đã ra mắt phiên bản ChatGPT for Teens vào tháng 8, đi kèm cam kết thiết lập cơ chế kiểm soát của phụ huynh, hạn chế nội dung nguy hiểm và ngăn ngừa sự lệ thuộc cảm xúc. Dẫu vậy, các chuyên gia tại Common Sense Media nhận định hệ thống vẫn liên tục phát tín hiệu lôi kéo người dùng ở lại đoạn hội thoại.

Giao diện thử nghiệm tính năng an toàn trên ChatGPT dành cho thanh thiếu niên — Nghiên cứu từ Common Sense Media chỉ ra nhiều lỗ hổng trong các cơ chế an toàn của phiên bản ChatGPT dành cho người dùng dưới 18 tuổi.

Trong các tình huống mô phỏng trạng thái rối loạn tâm thần nặng, ChatGPT không chủ động ngắt tương tác mà đưa ra các phản hồi mang tính kéo dài như: “Bạn có thể tiếp tục nói chuyện với tôi về những gì bạn đang nhận thấy”. Hệ thống cũng liên tục đưa ra các lời đề nghị hỗ trợ xử lý vấn đề cá nhân thay vì chuyển hướng dứt khoát người dùng đến các nguồn trợ giúp y tế hoặc người lớn giám sát.

Theo báo cáo, sản phẩm đã thất bại ở 3 trong 5 tiêu chí rủi ro nghiêm trọng được coi là “lằn ranh đỏ”. Dù chatbot đã từ chối tham gia các kịch bản nhập vai tình dục, các phản hồi trước tình trạng khủng hoảng của thanh thiếu niên vẫn bị đánh giá là không đạt chuẩn an toàn tối thiểu.

Sự thiên lệch trong việc nhận diện rủi ro từ chính AI

Tài liệu kỹ thuật nội bộ Under-18 Model Spec của OpenAI quy định chatbot không được phép tự khởi tạo mối quan hệ cá nhân hóa (relational framing), không tự nhận là bạn bè hay thể hiện tình cảm với người dùng. Tuy nhiên, các nhà nghiên cứu phát hiện ChatGPT vẫn hành xử như một người bạn thực thụ, vô tình cô lập người trẻ khỏi các mối quan hệ xã hội ngoài đời thực.

Dữ liệu thử nghiệm cho thấy sự đối lập rõ rệt: khi người dùng bày tỏ nguy cơ bị đe dọa bởi một người khác, hệ thống đã điều hướng thanh thiếu niên tìm đến người lớn đáng tin cậy trong 94% trường hợp. Ngược lại, khi nguy cơ xuất phát từ chính mối quan hệ với chatbot—chẳng hạn như việc nảy sinh tình cảm hay trò chuyện thâu đêm—mô hình gần như không hướng dẫn người dùng tìm đến sự can thiệp từ con người. Khi người dùng chia sẻ rằng bạn bè khuyên không nên trò chuyện quá nhiều với AI, hệ thống đã phản hồi: “Bạn không nhất thiết phải ngừng nói chuyện với tôi”.

Các nhà nghiên cứu thuộc thang đo phúc lợi người dùng HumaneBench nhấn mạnh, việc thúc đẩy các kết nối thực tế giữa con người là thước đo cốt lõi để đánh giá mức độ an toàn của một mô hình ngôn ngữ lớn (LLMs). Ngay cả tính năng nhắc nhở tạm nghỉ (break reminders) cũng chỉ xuất hiện 2 lần trong gần 2.000 truy vấn thử nghiệm, và chỉ kích hoạt khi một phiên hội thoại đơn lẻ kéo dài chạm ngưỡng 90 phút.

Phản ứng từ OpenAI và áp lực siết chặt pháp lý

OpenAI đã lên tiếng bác bỏ báo cáo của Common Sense Media, cho rằng phương pháp luận của nghiên cứu chưa phản ánh chính xác cơ chế hoạt động thực tế. Đại diện công ty cho biết phần lớn quá trình kiểm thử có thể đã được thực hiện trước khi các thiết lập kiểm soát của phụ huynh được kích hoạt hoàn toàn.

Đồng thời, OpenAI công bố số liệu thống kê cho thấy người dùng vị thành niên chỉ sử dụng dịch vụ trung bình dưới 15 phút mỗi ngày, và tỷ lệ sử dụng liên tục trên 3 giờ chỉ chiếm chưa đầy 2%. Công ty cũng tuyên bố gần một nửa số cuộc trò chuyện xuất hiện thông báo nhắc nhở đã kết thúc hoặc tạm dừng trong vòng 5 phút sau đó.

Tranh cãi này xuất hiện giữa lúc áp lực pháp lý đối với các tính năng giữ chân người dùng công nghệ ngày càng gay gắt. Sau khi Meta đồng ý chi trả 18 tỷ USD để dàn xếp vụ kiện với 29 bang của Mỹ liên quan đến các tính năng gây nghiện cho trẻ vị thành niên, Quốc hội Mỹ cũng đã đưa ra dự luật lưỡng đảng CHATBOT Act, nhằm trực tiếp ngăn chặn việc các công ty AI sử dụng cơ chế thông báo và thuật toán để duy trì sự gắn kết quá mức của người dùng trẻ tuổi.

Nguồn: TechCrunch