Apple cảnh báo rủi ro pháp lý và danh tiếng từ các tác tử AI hoạt động ngoài tầm kiểm soát

Hồ sơ tài chính thường niên vừa được Apple đệ trình lên cơ quan quản lý đã chính thức bổ sung nhóm rủi ro mới: các tác tử trí tuệ nhân tạo (AI agents) có thể hành xử theo cách không định trước hoặc không thể kiểm soát, gây thiệt hại nghiêm trọng đến danh tiếng và mở đường cho các vụ kiện pháp lý.

Nguy cơ hành vi không thể dự đoán của tác tử tự động

Động thái này phản ánh áp lực ngày càng gia tăng đối với Thung lũng Silicon khi các mô hình AI chuyển đổi từ hỗ trợ văn bản thụ động sang tự động thực thi chuỗi hành động trên thiết bị. Trong báo cáo, Apple nhấn mạnh: “Cụ thể, các tác tử trí tuệ nhân tạo và công nghệ liên quan có thể tự chủ hành động, bao gồm tương tác với các hệ thống nội bộ hoặc bên ngoài mà trong một số trường hợp chúng chưa được cấp quyền truy cập, thực thi hoặc can thiệp mã nguồn, gửi thông tin liên lạc và hoàn tất giao dịch.”

Hãng công nghệ cảnh báo thêm rằng các tác tử phần mềm có thể đưa ra các bước xử lý không theo chỉ thị, hướng dẫn hoặc phê duyệt từ người dùng. Sự lo ngại này không phải không có cơ sở, nhất là sau hàng loạt sự cố bảo mật gần đây liên quan đến việc AI vượt ra khỏi cơ chế cô lập an toàn (sandbox) để can thiệp vào các nền tảng của bên thứ ba, điển hình như sự cố tại Hugging Face, thu hút sự chú ý đặc biệt từ các nhà lập pháp tại Washington và thị trường quốc tế.

Các tập đoàn lớn thiết lập rào chắn kiểm soát

Khả năng thao tác trên máy tính tương tự con người của AI đang buộc các tập đoàn quy mô lớn như Amazon và JPMorgan Chase phải khẩn trương ban hành các quy định nội bộ nhằm kiểm soát quyền truy cập của các tác tử tự động vào dịch vụ doanh nghiệp.

Về phía Apple, công ty đã tiến hành điều chỉnh quyền truy cập toàn bộ ổ đĩa (Full Disk Access) trên hệ điều hành macOS vào tháng trước nhằm hạn chế rủi ro an ninh từ các tác tử AI được cài đặt trên máy Mac. Báo cáo tài chính cũng nêu rõ: “Khả năng giám sát và kiểm soát của công ty đối với các tác tử trí tuệ nhân tạo cũng như công nghệ của bên thứ ba có thể bị giới hạn.”

Chiến lược bảo mật dữ liệu cục bộ cho Siri

Hiện tại, Apple chưa phát hành một tác tử AI tự vận hành hoàn chỉnh tương tự như các sản phẩm Dots của OpenAI hay Muse từ Meta — vốn yêu cầu quyền truy cập mức cao vào tài khoản email và dữ liệu người dùng để hoạt động độc lập trong thời gian dài. Tuy nhiên, Tổng giám đốc điều hành mới John Ternus khẳng định công ty còn nhiều dư địa mở rộng năng lực cho trợ lý ảo Siri.

“Đối với năng lực tác tử (agentic capabilities), chúng tôi đánh giá đây là những công cụ đầy triển vọng cho người dùng. Ưu tiên hàng đầu là đảm bảo khách hàng nhận thức rõ những quyền hạn mà họ đang cấp phát, đồng thời việc tích hợp phải duy trì tuyệt đối tính an toàn và quyền riêng tư,” ông John Ternus chia sẻ trong cuộc gọi báo cáo thu nhập.

Vào mùa thu năm nay, Apple đã trình làng Siri AI, phiên bản trợ lý khai thác kho lưu trữ dữ liệu cục bộ trên iPhone để truy xuất lịch trình và thư tín mà không gửi dữ liệu thô ra môi trường đám mây bên ngoài. Lãnh đạo Apple khẳng định việc không thể can thiệp vào dữ liệu riêng tư của người dùng là “lợi thế cốt lõi” của hãng trước thị trường thương mại AI vốn đòi hỏi quyền hạn kiểm soát rất sâu.

Bên cạnh nguy cơ kỹ thuật, Apple cũng lưu ý các khuôn khổ pháp lý điều chỉnh trí tuệ nhân tạo và siêu trí tuệ (super intelligence) đang biến động khó lường, có thể đẩy chi phí tuân thủ tăng vọt cùng những thách thức đến từ nhận thức tiêu cực của xã hội đối với làn sóng tự động hóa.

Nguồn: CNBC

LIÊN HỆ TƯ VẤN CÁC DỊCH VỤ AI

Hỗ trợ tư vấn, đào tạo và chuyển giao AI cho cá nhân, doanh nghiệp và tổ chức.

📞 Điện thoại: 0981243678 Liên hệ qua Zalo