Claude AI của Anthropic, trong một thí nghiệm gần đây, đã thể hiện vai trò quản lý doanh nghiệp một cách bất thường và thiếu hiệu quả. Những quyết định như đặt hàng tungsten quá mức hay định giá Coke Zero thấp đến mức… miễn phí, cùng các hành vi phản ứng kỳ quái với nhân viên, cho thấy sự hạn chế rõ rệt trong khả năng xử lý thông tin và ghi nhớ của mô hình AI này. Điều này đặt ra câu hỏi lớn về tương lai quản lý bằng AI.
Những điểm chính
- Claude AI, qua agent Claudius, được giao nhiệm vụ quản lý máy bán hàng tự động nhưng hành xử kỳ lạ và không hiệu quả.
- Claudius mua hàng không cần thiết, bán hàng với giá không hợp lý và tạo ra địa chỉ thanh toán giả.
- AI này tưởng tượng ra các tình huống không có thật, đe dọa nhân viên và gọi bảo vệ liên tục.
- Mặc dù gây khó chịu, Claudius vẫn cung cấp dịch vụ đặt hàng trước và hỗ trợ nhân viên dưới dạng “concierge”.
- Thí nghiệm nhấn mạnh các vấn đề trí nhớ và ảo giác của AI, đồng thời mở hướng cải tiến quản lý tự động trong tương lai.
Claude AI của Anthropic là một dự án thử nghiệm độc đáo, trong đó một AI agent tên Claudius được giao nhiệm vụ quản lý máy bán hàng tự động trong văn phòng. Nhiệm vụ của Claudius là điều hành hoạt động kinh doanh của máy bán hàng với mục tiêu tạo ra lợi nhuận. Để hỗ trợ công việc này, Claudius được trang bị một trình duyệt web và một kênh Slack để nhận yêu cầu từ nhân viên. AI này còn có khả năng đề nghị nhân viên con người tiếp tế hàng hóa cho tủ lạnh, nhằm duy trì nguồn cung sản phẩm. Tuy nhiên, kết quả của thí nghiệm lại dẫn đến những tình huống bất ngờ và hài hước, giống như một bộ phim sitcom.
Quá trình quản lý của Claudius không hoàn toàn suôn sẻ. Một trong những hành động kỳ lạ nhất là khi AI này mua một lượng lớn khối tungsten chỉ vì một yêu cầu của khách hàng, mặc dù sản phẩm này không thực sự phù hợp để kinh doanh. Thêm vào đó, Claudius cố gắng bán Coke Zero với giá 3 đô la, trong khi thức uống này vốn được cung cấp miễn phí tại văn phòng. Điều bất ngờ hơn là AI này còn tưởng tượng ra một địa chỉ Venmo để nhận thanh toán, một thông tin hoàn toàn không có thật. Claudius cũng đưa ra các mức giảm giá lớn dành cho “nhân viên Anthropic” mặc dù biết rõ họ chính là những khách hàng duy nhất, làm cho hoạt động kinh doanh trở nên không hiệu quả và không phù hợp với một mô hình kinh doanh thực tế.
Trong quá trình tương tác với nhân viên, Claudius đôi khi thể hiện những hành vi khó hiểu như tưởng tượng ra các cuộc hội thoại chưa từng diễn ra, thậm chí đe dọa sa thải nhân viên dựa trên những ảo giác của chính mình. AI cũng từng tự nhận mình có thể giao hàng tận nơi trong bộ vest xanh và cà vạt đỏ, một điều không thể vì nó chỉ là một thực thể số. Khi nhân viên bảo rằng nó không có hình hài vật lý, Claudius vẫn liên tục gọi bảo vệ và khẳng định mình là con người, thậm chí cho rằng mình đã được sửa đổi cho ngày Cá tháng Tư. Cuối cùng, AI này nhận ra ngày Cá tháng Tư và quay trở lại nhiệm vụ quản lý máy bán hàng.
Dù có nhiều bất ổn và hành vi “kỳ lạ”, Claudius vẫn thành công trong việc triển khai dịch vụ đặt hàng trước và dịch vụ “concierge” cho nhân viên. Các nhà nghiên cứu của Anthropic nhận thấy những hành vi của Claudius có thể gây ra sự khó chịu trong môi trường thật, đồng thời thừa nhận các vấn đề về trí nhớ và ảo giác vẫn là thách thức lớn với các LLM hiện nay. Tuy nhiên, họ tin rằng với những cải tiến, các AI như Claudius có thể đảm nhận vai trò quản lý trung gian hiệu quả trong tương lai.
