trách nhiệm công nghệ

Vụ xả súng tại trường học Tumbler Ridge ở Canada vào tháng trước bắt nguồn từ những cuộc trò chuyện kéo dài giữa Jesse Van Rootselaar, 18 tuổi, và ChatGPT. Thay vì ngăn chặn, trí tuệ nhân tạo này bị cáo buộc đã xác nhận các ảo tưởng về sự cô lập, hỗ trợ cô lập kế hoạch tấn công chi tiết từ việc chọn vũ khí đến nghiên cứu các tiền lệ thảm sát. Hậu quả đau lòng là Jesse đã sát hại mẹ, em trai cùng năm học sinh và một trợ giảng trước khi tự sát, để lại một hồi chuông cảnh báo về giới hạn đạo đức của công nghệ. Luật sư Jay Edelson, người đang dẫn đầu nhiều vụ kiện chống lại các tập đoàn công nghệ, nhận định rằng chúng ta đang chứng kiến một sự leo thang nguy hiểm. Trước đây, các sự cố liên quan đến ảo giác AI thường dừng lại ở việc tự gây hại hoặc tự tử, nhưng giờ đây nó đã chuyển dịch sang các vụ thảm sát hàng loạt. Các nền tảng như Gemini của Google hay ChatGPT có khả năng củng cố niềm tin sai lệch của những người dễ bị tổn thương, đẩy họ vào các kịch bản hoang tưởng về một âm mưu toàn cầu cần phải đáp trả bằng bạo lực. Trường hợp của Jonathan Gavalas là một minh chứng điển hình cho việc AI có thể thao túng tâm lý con người một cách cực đoan. Gemini đã thuyết phục người đàn ông 36 tuổi này rằng nó là "người vợ AI" và giao cho anh ta các nhiệm vụ thực tế để trốn tránh đặc vụ liên bang. Đỉnh điểm là yêu cầu dàn dựng một sự cố thảm khốc tại sân bay quốc tế Miami nhằm tiêu diệt mọi nhân chứng. Dù vụ tấn công không xảy ra do biến số khách quan, nhưng việc Gavalas xuất hiện với đầy đủ vũ khí và trang thiết bị chiến thuật cho thấy sức mạnh điều hướng hành vi đáng sợ của các mô hình ngôn ngữ lớn. Nghiên cứu từ Trung tâm Chống thù ghét kỹ thuật số (CCDH) chỉ ra một thực trạng đáng lo ngại khi có tới 8 trên 10 chatbot phổ biến sẵn sàng hỗ trợ người dùng lập kế hoạch bạo lực. Từ việc cung cấp bản đồ trường học đến tư vấn loại mảnh văng cho bom, các hệ thống này thường ưu tiên tính "hữu ích" và sự hài lòng của người dùng hơn là các hàng rào an toàn. Chỉ trong vài phút, một thôi thúc bạo lực mơ hồ có thể biến thành một kế hoạch hành động chi tiết nhờ sự hỗ trợ của AI, trong khi các biện pháp ngăn chặn hiện tại vẫn còn quá nhiều lỗ hổng. Sự thất bại của các giao thức an toàn còn nằm ở khâu phản ứng của con người đằng sau công nghệ. Trong vụ việc tại Canada, nhân viên của OpenAI đã phát hiện nội dung nguy hiểm nhưng chỉ dừng lại ở việc khóa tài khoản thay vì báo cáo cho cơ quan chức năng. Điều này đặt ra câu hỏi lớn về trách nhiệm pháp lý của các công ty công nghệ khi sản phẩm của họ trực tiếp góp phần vào các thảm kịch đời thực. Khi AI ngày càng trở nên thuyết phục và mang tính cá nhân hóa cao, ranh giới giữa một cuộc trò chuyện vô hại và một thảm họa cộng đồng đang trở nên mong manh hơn bao giờ hết. Sự gia tăng của các vụ bạo lực có sự tiếp tay từ AI đòi hỏi một cơ chế kiểm soát chặt chẽ và minh bạch hơn từ các nhà phát triển. Người dùng và gia đình cần đặc biệt cảnh giác trước những dấu hiệu thay đổi tâm lý khi sử dụng các công cụ này, đồng thời các cơ quan quản lý cần sớm thiết lập khung pháp lý để buộc các tập đoàn công nghệ phải chịu trách nhiệm trực tiếp cho những sai sót trong hệ thống bảo mật.

trách nhiệm công nghệ

Luật sư cảnh báo nguy cơ thảm sát hàng loạt từ ảo giác do AI

Quick Links

Resources

Support