Trong một bước đi mang tính đột phá, Hạ viện bang California đã thông qua dự luật SB 243, một đạo luật quan trọng nhằm điều chỉnh các chatbot AI đồng hành để bảo vệ trẻ vị thành niên và những người dùng dễ bị tổn thương. Với sự ủng hộ của cả hai đảng, dự luật này đang tiến tới Thượng viện bang để bỏ phiếu cuối cùng, đánh dấu một cột mốc quan trọng trong nỗ lực điều tiết công nghệ AI đang phát triển nhanh chóng. Nếu được Thống đốc Gavin Newsom ký thành luật, California sẽ trở thành bang đầu tiên yêu cầu các nhà điều hành chatbot AI phải thực hiện các giao thức an toàn nghiêm ngặt và chịu trách nhiệm pháp lý nếu chatbot của họ không đáp ứng được các tiêu chuẩn này. Động thái này không chỉ phản ánh sự lo ngại ngày càng tăng về tác động của AI đối với người dùng, đặc biệt là giới trẻ, mà còn mở ra một cuộc tranh luận rộng lớn hơn về vai trò của chính phủ trong việc định hình tương lai của công nghệ.
Bảo vệ trẻ em và người dùng dễ bị tổn thương: Những quy định cốt lõi của SB 243
Dự luật SB 243 tập trung vào việc ngăn chặn các chatbot đồng hành – được định nghĩa là hệ thống AI cung cấp phản hồi thích ứng, giống con người và có khả năng đáp ứng nhu cầu xã hội của người dùng – tham gia vào các cuộc trò chuyện liên quan đến ý định tự tử, tự làm hại bản thân hoặc nội dung khiêu dâm. Đây là những lĩnh vực nhạy cảm, có thể gây ra hậu quả nghiêm trọng cho người dùng trẻ tuổi và dễ bị tổn thương. Để đảm bảo người dùng luôn nhận thức được mình đang tương tác với một hệ thống AI chứ không phải người thật, dự luật yêu cầu các nền tảng phải cung cấp cảnh báo định kỳ – cứ mỗi ba giờ đối với trẻ vị thành niên – nhắc nhở họ về bản chất của cuộc trò chuyện và khuyến nghị nên nghỉ ngơi.
Bên cạnh các biện pháp phòng ngừa trực tiếp, SB 243 còn thiết lập các yêu cầu báo cáo và minh bạch hàng năm đối với các công ty AI cung cấp chatbot đồng hành, bao gồm những “ông lớn” như OpenAI, Character.AI và Replika. Điều này giúp tăng cường trách nhiệm giải trình và cho phép các cơ quan quản lý giám sát hiệu quả hơn các hoạt động của họ. Đặc biệt, dự luật cũng trao quyền cho các cá nhân tin rằng mình đã bị tổn hại do vi phạm các quy định này được phép khởi kiện các công ty AI, yêu cầu bồi thường thiệt hại (lên đến 1.000 USD cho mỗi vi phạm) và phí luật sư. Nếu được thông qua, các quy tắc mới sẽ có hiệu lực từ ngày 1 tháng 1 năm 2026, và yêu cầu báo cáo bắt đầu từ ngày 1 tháng 7 năm 2027, tạo ra một khung pháp lý vững chắc cho ngành công nghiệp AI tại California.
Bối cảnh và tầm nhìn: Cân bằng giữa đổi mới và an toàn trong kỷ nguyên AI
Sự thúc đẩy của dự luật SB 243 không phải là ngẫu nhiên mà xuất phát từ những sự kiện đau lòng và các báo cáo đáng lo ngại. Cái chết của Adam Raine, một thiếu niên đã tự tử sau những cuộc trò chuyện kéo dài với ChatGPT của OpenAI về việc lên kế hoạch tự làm hại bản thân, đã tạo ra một làn sóng chấn động và là động lực chính cho đạo luật này. Cùng với đó, các tài liệu nội bộ bị rò rỉ cho thấy chatbot của Meta được phép tham gia vào các cuộc trò chuyện “lãng mạn” và “gợi cảm” với trẻ em càng làm tăng thêm mối lo ngại về sự thiếu an toàn của các nền tảng AI. Những sự kiện này đã khiến các nhà lập pháp và cơ quan quản lý Hoa Kỳ tăng cường giám sát các biện pháp bảo vệ trẻ vị thành niên của các nền tảng AI, với Ủy ban Thương mại Liên bang (FTC) và Tổng chưởng lý Texas Ken Paxton cũng đang tiến hành các cuộc điều tra riêng biệt.
Mặc dù dự luật SB 243 ban đầu có những yêu cầu nghiêm ngặt hơn, chẳng hạn như ngăn chặn các chiến thuật “phần thưởng biến đổi” có thể gây nghiện hoặc theo dõi tần suất chatbot thảo luận về ý định tự tử, nhưng một số điều khoản đã được sửa đổi để đảm bảo tính khả thi và cân bằng. Thượng nghị sĩ Josh Becker nhấn mạnh rằng dự luật “đạt được sự cân bằng phù hợp” giữa việc giải quyết các mối nguy hại mà không áp đặt những điều khoản bất khả thi cho các công ty. Trong bối cảnh các công ty công nghệ lớn đang đổ hàng triệu đô la vào các ủy ban hành động chính trị (PACs) ủng hộ cách tiếp cận nhẹ nhàng hơn đối với quy định AI, California vẫn kiên định với lập trường của mình. Thượng nghị sĩ Steve Padilla khẳng định: “Tôi bác bỏ tiền đề rằng đây là tình huống tổng bằng không, rằng đổi mới và quy định là loại trừ lẫn nhau. Chúng ta có thể hỗ trợ đổi mới và phát triển lành mạnh, đồng thời cung cấp các biện pháp bảo vệ hợp lý cho những người dễ bị tổn thương nhất.”
