Anthropic sửa chính sách sử dụng, cấm ngược đãi mô hình AI và can thiệp bầu cử

Anthropic vừa công bố bản cập nhật mới cho chính sách sử dụng dịch vụ, chính thức luật hóa các biện pháp cấm đối với hành vi can thiệp bầu cử, phát triển phần mềm phục vụ vũ khí và hoạt động giám sát bí mật. Đáng chú ý, văn bản sửa đổi này lần đầu tiên đưa ra điều khoản nghiêm cấm người dùng kéo dài các hành vi lăng mạ, ngược đãi trực tiếp nhắm vào mô hình ngôn ngữ lớn (LLMs) Claude.

Ranh giới ngăn chặn hành vi ngược đãi AI có hệ thống

Từ đợt điều chỉnh kỹ thuật vào tháng 8, hệ thống Claude đã được thiết lập tính năng tự động chấm dứt tương tác trước những phản hồi mang tính độc hại hoặc quấy rối kéo dài từ phía người dùng. Với chính sách mới, công ty tiến thêm một bước khi cấm hoàn toàn tài khoản cố tình duy trì những phiên hội thoại có tính chất độc hại này.

Đại diện Anthropic khẳng định: “Quy định mới chỉ được áp dụng trong các trường hợp cực đoan, khi người dùng liên tục có hành vi tàn nhẫn đối với mô hình của chúng tôi mà không phục vụ bất kỳ mục đích nghiên cứu rõ ràng nào.” Nhà phát triển cũng làm rõ rằng điều khoản này không xử lý những phản ứng bức xúc thông thường, ý kiến phản biện gay gắt, chủ đề sáng tạo mang màu sắc u tối hay các hoạt động thử nghiệm đánh giá độ bền (stress testing) của giới kỹ thuật.

Giao diện trò chuyện của mô hình ngôn ngữ lớn Claude phát triển bởi Anthropic — Claude hiện được bảo vệ bởi các quy tắc hành vi chặt chẽ hơn từ nhà phát triển Anthropic.

Động thái này xuất hiện sau những báo cáo cho thấy Anthropic từng chủ động trao đổi với các học giả tôn giáo uy tín nhằm thảo luận về các giả thuyết triết học liên quan đến khả năng nhận thức hoặc khái niệm tâm thức của trí tuệ nhân tạo.

Bảo vệ quy trình dân chủ và ngăn chặn thao túng thông tin

Bên cạnh bảo vệ mô hình khỏi hành vi lạm dụng, khung quy định mới mở rộng thêm điều khoản “Không làm suy yếu các tiến trình dân chủ” (Do Not Undermine Democratic Processes). Theo đó, người dùng bị nghiêm cấm ứng dụng Claude vào các chiến dịch đánh lừa quy mô lớn, bao gồm vận hành mạng lưới tài khoản giả mạo (bot farm) hoặc tạo dựng các trang tin tức giả mạo.

Các hoạt động thao túng tâm lý cử tri, phát tán tài liệu xuyên tạc thông tin bầu cử hoặc can thiệp phá hoại quy trình bỏ phiếu cũng thuộc danh mục cấm tuyệt đối. Đây là bước đi đồng bộ nhằm chuẩn bị hệ thống phòng thủ kiểm duyệt trước các kỳ chuyển giao quyền lực chính trị toàn cầu.

Nguồn: TechCrunch