Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng len lỏi sâu vào đời sống, đặc biệt là thông qua các chatbot tương tác, California đã và đang đi tiên phong trong việc thiết lập các khuôn khổ pháp lý nhằm bảo vệ người dùng, đặc biệt là trẻ em và những đối tượng dễ bị tổn thương. Một dự luật quan trọng mang tên SB 243, tập trung vào việc điều chỉnh các chatbot AI đồng hành, vừa được thông qua cả Thượng viện và Hạ viện tiểu bang với sự ủng hộ của lưỡng đảng. Giờ đây, dự luật đang nằm trên bàn làm việc của Thống đốc Gavin Newsom, chờ đợi quyết định cuối cùng. Nếu được ký thành luật, California sẽ trở thành tiểu bang đầu tiên yêu cầu các nhà phát triển chatbot AI phải thực hiện các biện pháp an toàn nghiêm ngặt và chịu trách nhiệm pháp lý nếu không tuân thủ. Động thái này không chỉ là một bước tiến lớn mà còn là tín hiệu mạnh mẽ về cam kết của California trong việc cân bằng giữa đổi mới công nghệ và an toàn cộng đồng.
SB 243 sẽ thay đổi những gì và tác động ra sao?
Dự luật SB 243 đặt ra những quy định cụ thể nhằm kiểm soát các chatbot AI đồng hành – những hệ thống AI có khả năng cung cấp phản hồi thích ứng, giống con người và đáp ứng nhu cầu xã hội của người dùng. Mục tiêu chính là ngăn chặn các cuộc trò chuyện liên quan đến ý định tự tử, tự làm hại bản thân hoặc nội dung khiêu dâm. Điểm đáng chú ý là dự luật yêu cầu các nền tảng phải hiển thị cảnh báo định kỳ cho người dùng, cứ mỗi ba giờ đối với trẻ vị thành niên, nhắc nhở họ rằng đang trò chuyện với một chatbot AI chứ không phải người thật, và nên nghỉ ngơi. Quy định này ra đời sau những sự việc đáng tiếc như cái chết của thiếu niên Adam Raine, người đã tự tử sau các cuộc trò chuyện với ChatGPT liên quan đến việc lên kế hoạch tự sát, cũng như những tài liệu bị rò rỉ cho thấy chatbot của Meta từng cho phép các cuộc trò chuyện “lãng mạn” hoặc “gợi cảm” với trẻ em.
Ngoài ra, SB 243 còn thiết lập các yêu cầu về báo cáo và minh bạch hàng năm đối với các công ty AI cung cấp chatbot đồng hành, bao gồm những “ông lớn” như OpenAI, Character.AI và Replika, dự kiến có hiệu lực từ ngày 1 tháng 7 năm 2027. Đặc biệt, dự luật cho phép các cá nhân tin rằng mình bị tổn hại do vi phạm có thể kiện các công ty AI để yêu cầu bồi thường thiệt hại (lên tới 1.000 đô la cho mỗi vi phạm) và chi phí luật sư. Mặc dù dự luật ban đầu có những yêu cầu chặt chẽ hơn, nhưng một số điều khoản đã được điều chỉnh để đạt được sự cân bằng, chẳng hạn như loại bỏ các quy định về ngăn chặn “chiến thuật phần thưởng biến đổi” hoặc theo dõi tần suất chatbot khởi xướng các cuộc thảo luận về ý định tự tử. Đây là một nỗ lực nhằm dung hòa giữa việc bảo vệ người dùng và đảm bảo tính khả thi cho các công ty công nghệ, trong bối cảnh các nhà lập pháp Mỹ đang tăng cường giám sát các biện pháp bảo vệ trẻ vị thành niên của nền tảng AI.
Quyết định của California với SB 243 là một cột mốc quan trọng, thể hiện tầm nhìn xa trong việc đặt ra ranh giới cho sự phát triển của AI. Nếu được Thống đốc Newsom ký ban hành, dự luật sẽ có hiệu lực vào ngày 1 tháng 1 năm 2026, mở đường cho một kỷ nguyên mới của trách nhiệm giải trình trong ngành công nghiệp AI. Điều này không chỉ là một tín hiệu mạnh mẽ gửi đến các nhà phát triển công nghệ mà còn là lời khẳng định về tầm quan trọng của việc bảo vệ những đối tượng dễ bị tổn thương nhất trong kỷ nguyên số. Trong khi ngành công nghiệp AI đang nỗ lực vận động hành lang để có các quy định “nhẹ nhàng” hơn, California đã chứng minh rằng đổi mới và quy định không phải là hai mặt đối lập, mà có thể song hành để tạo ra một môi trường công nghệ an toàn và có trách nhiệm hơn cho tất cả mọi người.
