Shiro & co thiết lập ranh giới giữa khả năng quan sát và quyền hành động của AI

Kosuke Shirako, người sáng lập SHIRO & Co, đưa ra một quan điểm mang tính định hình cho các hệ thống trí tuệ nhân tạo hiện đại: “Khả năng quan sát không nên tự động trở thành hành động.” Triết lý này phản ánh một thực trạng trong phát triển công nghệ, nơi các hệ thống thường được đánh giá dựa trên tốc độ chuyển đổi dữ liệu đầu vào thành kết quả đầu ra. Tuy nhiên, thay vì tập trung vào việc AI có thể tạo ra bao nhiêu nội dung, SHIRO & Co xây dựng một hệ thống ranh giới nghiêm ngặt xoay quanh câu hỏi: Một quan sát được phép trở thành điều gì, và khi nào nó không được phép trở thành bất cứ thứ gì cả. Cách tiếp cận này được cụ thể hóa qua cấu trúc ALLOW (Cho phép), HOLD (Tạm dừng), và DENY (Từ chối). Đây không chỉ là một bộ lọc kỹ thuật mà còn là sự xác lập lại trách nhiệm của con người trong quy trình làm việc với AI. Khi một tín hiệu từ dữ liệu hoặc một cuộc hội thoại với khách hàng được ghi nhận, hệ thống không mặc định đẩy nó đi tiếp mà phải trải qua một bước thẩm định về quyền hạn và bằng chứng thực tế.

Hệ thống ranh giới và giá trị của trạng thái tạm dừng trong quy trình đề xuất

Trong cấu trúc ALLOW, HOLD, DENY, trạng thái HOLD đóng vai trò then chốt nhưng thường bị các hệ thống tự động hóa bỏ qua. Thông thường, các luồng xử lý dữ liệu được thiết kế theo hướng nhị phân: hoặc là thông qua, hoặc là loại bỏ ngay lập tức. SHIRO & Co lại coi không gian giữa hai kết quả này là một điểm dừng hợp lệ, thay vì một lỗi cần được giải quyết nhanh chóng. Khi một thông tin chưa có đủ bằng chứng, quyền hạn hoặc chưa được con người xem xét, nó sẽ được giữ ở trạng thái HOLD. Điều này giúp bảo tồn sự không chắc chắn thay vì cố gắng che lấp nó bằng những quyết định vội vàng. Một đề xuất chỉ thực sự đến tay khách hàng khi có đủ dữ liệu hỗ trợ và một người kiểm duyệt chấp nhận chịu trách nhiệm về nội dung đó.

Mô hình này hiện đang được vận hành thực tế qua hai giải pháp: Signal to Proposal (kết nối tín hiệu quan sát với việc xây dựng đề xuất) và Customer to Proposal (chuyển hóa các cuộc hội thoại với khách hàng). Điểm khác biệt lớn nhất nằm ở chỗ hệ thống chỉ đóng vai trò hỗ trợ đề xuất chứ không phải là bên đưa ra đề xuất. Bằng cách này, SHIRO & Co giải quyết bài toán về quyền hạn hành động của AI, đảm bảo rằng công nghệ không tự ý đưa ra quyết định thay cho con người. Triết lý này có khả năng mở rộng sang cả các tác vụ AI tự trị và AI vật lý, nơi việc quyết định xem một diễn giải từ cảm biến có được phép trở thành hành động thực tế hay không là yếu tố sống còn để đảm bảo an toàn và tính chính xác.

Thay vì chạy đua theo tốc độ tạo nội dung, các doanh nghiệp nên cân nhắc việc thiết lập những ranh giới kiểm soát tương tự như cách SHIRO & Co đang triển khai. Vấn đề cốt lõi của AI ứng dụng đã dịch chuyển từ việc hệ thống có thể tạo ra cái gì sang việc nó được phép làm gì với những gì nó tạo ra. Để duy trì uy tín và tính chuẩn xác trong kinh doanh, việc giữ cho con người luôn ở vị trí trung tâm của các quyết định cuối cùng là điều không thể thay thế. Bạn có thể tìm hiểu chi tiết hơn về cách thức vận hành của các hệ thống này tại tài liệu chính thức của SHIRO & Co để áp dụng tư duy quản trị ranh giới vào quy trình vận hành của chính mình.