Quản trị AI agent quy mô lớn: từ kiểm soát đơn lẻ đến điều phối phi đội tự trị

Báo cáo vi phạm bảo mật năm 2025 của IBM chỉ ra rằng 97% tổ chức gặp sự cố liên quan đến AI thiếu các cơ chế kiểm soát truy cập phù hợp, và 63% hoàn toàn không có chính sách quản trị AI. Cùng lúc đó, theo dự báo từ Gartner, đến năm 2028 một doanh nghiệp thông thường trong danh sách Fortune 500 sẽ vận hành hơn 150.000 AI agent. Tuy nhiên, chỉ có 13% doanh nghiệp tự tin rằng họ sở hữu khung quản trị AI agent đủ năng lực.

Sự bùng nổ của các coding agent như Claude Code, Codex cùng hàng loạt giải pháp low-code/no-code đã hạ thấp đáng kể rào cản triển khai. Hệ quả trực tiếp là hiện tượng agent sprawl — tình trạng các tác nhân AI tự trị nhân bản mất kiểm soát trong nội bộ tổ chức mà không có cơ chế theo dõi, định danh quyền sở hữu hay quản trị tập trung. Doanh nghiệp phải đối mặt với nguy cơ lãng phí token ngân sách khổng lồ, phát sinh chi phí khó dự liệu và mở ra nhiều lộ trình rò rỉ dữ liệu nhạy cảm.

Xây dựng một agent chạy thử nghiệm trong một buổi chiều bằng cách kết nối công cụ quan sát và nạp một phân vùng dữ liệu mẫu là điều đơn giản. Thách thức cốt lõi chỉ xuất hiện khi đưa hàng chục đến hàng trăm agent vào vận hành thực tế trên hệ thống dữ liệu trực tiếp ở quy mô lớn. Để kiểm soát thực tế này, các trụ cột quản trị phải tiến hóa từ phạm vi đơn lẻ sang cấp độ hạ tầng.

Bốn trụ cột quản trị nền tảng từ mô hình tác nhân đơn lẻ

Mô hình quản trị tác nhân ban đầu được chuẩn hóa thông qua trường hợp xây dựng một agent phân tích nhân sự (HR analytics agent) trên nền tảng Unity Catalog và MLflow, tập trung vào 4 trụ cột:

• Quản lý vòng đời (Lifecycle Management – Phân tách nhiệm vụ): Phiên bản hóa, triển khai và thu hồi agent với đầy đủ phả hệ dữ liệu (lineage) xuyên suốt các môi trường dev, staging và production.
• Quản trị rủi ro (Risk Management – Phòng thủ theo chiều sâu): Thiết lập các lớp phòng thủ chồng lớp gồm phát hiện dữ liệu định danh cá nhân (PII), guardrails, kiểm soát tuân thủ và giám sát liên tục từ khâu nạp dữ liệu đến hiệu năng mô hình.
• Bảo mật (Security – Quyền truy cập tối thiểu): Áp dụng nguyên tắc đặc quyền tối thiểu (Least Privilege Access) cho cả người dùng và agent thông qua xác thực, mã hóa và phân quyền truy cập chi tiết.
• Khả năng quan sát (Observability – Kiểm toán toàn diện): Ghi vết (log) toàn bộ đầu vào, đầu ra và quyết định trung gian nhằm đảm bảo khả năng truy vết và kiểm toán toàn diện.

Khi làm việc với các bộ phận pháp chế, kiểm toán và ban điều hành, 4 trụ cột trên được quy về 3 câu hỏi thực tế:

• Agent có thể truy cập những dữ liệu gì? Kiến trúc loại bỏ hoàn toàn quyền truy cập bảng trực tiếp (no direct table access). Mọi luồng dữ liệu đều đi qua các lớp che giấu dữ liệu (masking), views, groups và functions, kết hợp phân loại dữ liệu nghiêm ngặt và chỉ cho phép truy cập hàm tổng hợp (aggregation-only) trên các bảng nhạy cảm. Agent có thể trả lời câu hỏi: “Tỷ lệ nhân viên kỹ thuật nghỉ việc trong quý này là bao nhiêu?” nhưng hoàn toàn không thể trích xuất mức lương của bất kỳ cá nhân nào.
• Điều gì đã thay đổi và có thể hoàn tác hay không? Agent được đăng ký dưới dạng mô hình có phiên bản trong Unity Catalog và triển khai trên các view, function đã được kiểm soát phiên bản. Khi chất lượng phản hồi suy giảm vào ngày thứ Ba, đội ngũ kỹ thuật có thể xác định chính xác thay đổi đã triển khai vào thứ Hai để rollback ngay lập tức thay vì phải gỡ lỗi một hộp đen trên production.
• Có thể tái dựng lại sự cố đã diễn ra không? Toàn bộ lệnh gọi hàm đều được ghi log, MLflow truy vết từng phiên thực thi và lưu trữ audit trail từ truy vấn ban đầu đến dữ liệu nền tảng. Khi kiểm toán viên yêu cầu kiểm tra dữ liệu agent đã truy cập vào ngày 3/3, hệ thống chỉ cần một truy vấn đơn giản thay vì cuộc điều tra kéo dài 3 tuần.

Chuyển dịch hạ tầng: Khi quản trị mở rộng quy mô phi đội agent

Cấu hình thủ công lineage và phân quyền đặc quyền tối thiểu cho một agent đơn lẻ sẽ nhanh chóng sụp đổ khi mở rộng lên hàng trăm agent hoạt động đồng thời. Quản trị quy mô lớn đòi hỏi hai yếu tố: chính sách áp dụng đồng bộ toàn tổ chức và tầng hạ tầng đủ mạnh để thực thi tự động.

Giải pháp chống lại sự phân mảnh agent là xây dựng một control plane tập trung — một lớp quản trị duy nhất mà mọi agent đều phải định tuyến qua, đặt trên cùng nền tảng dữ liệu lưu trữ bảng biểu, quyền hạn và lineage. Trong hệ sinh thái Databricks, lớp này được hiện thực hóa qua Unity Gateway, đóng vai trò kiểm soát cách thức kỹ sư truy cập coding agent, model và tooling. Quản trị viên cấu hình tập trung, trong khi kỹ sư chỉ cần gọi dòng lệnh đơn giản:

ug claude
ug codex

Unity Gateway thực thi bốn năng lực kỹ thuật trọng tâm:

• Cấu hình agent (Agent Configuration): Quản trị viên định nghĩa danh mục được phê duyệt gồm mô hình, MCP server (Model Context Protocol), kỹ năng (skills) và hạn mức chi tiêu. Mỗi lần kỹ sư khởi chạy công cụ qua CLI, gateway sẽ kiểm tra độ lệch cấu hình cục bộ (local drift) và bắt buộc tuân thủ các quy tắc đã ban hành.
• Định tuyến thông minh (Smart Routing): Thay vì chuyển tiếp mọi request đến mô hình lớn nhất gây lãng phí, gateway tự động so khớp độ phức tạp của tác vụ với năng lực mô hình: phân bổ mô hình gọn nhẹ cho việc đơn giản và mô hình mạnh cho tác vụ tính toán phức tạp. Thử nghiệm trên benchmark lập trình nội bộ của Databricks cho thấy định tuyến thông minh giúp cắt giảm trực tiếp 35% chi phí.
• Quản lý ngân sách thông minh (Smart Budgets): Thiết lập hạn mức ngân sách tháng dùng chung cho toàn nhóm hoặc từng cá nhân. Khi đạt ngưỡng (chẳng hạn 80% ngân sách), hệ thống tự động phát cảnh báo, điều hướng sang các mô hình nhỏ hơn hoặc mô hình mã nguồn mở chi phí thấp, hoặc chặn truy vấn vượt ngưỡng. Chi phí token được giám sát và điều chỉnh theo thời gian thực thay vì phát hiện muộn qua hóa đơn tài chính cuối tháng.
• Truy vết hợp nhất (Unified Tracing): Mọi lệnh gọi công cụ đều được ghi nhận tự động vào bảng dữ liệu hợp nhất: từ tên tool, tham số, mã lỗi, số lượng token tiêu thụ đến độ trễ thực thi. Điển hình, Databricks đã truy vết khoản thất thoát xấp xỉ 499.000 USD/năm do lãng phí token từ 7 lỗi logic nhỏ trong các tool server và xử lý dứt điểm chỉ trong khoảng 1 giờ.

Cơ chế quản trị quy mô lớn được đảm bảo bằng chính sách kiểm soát truy cập dựa trên thuộc tính (ABAC – Attribute-Based Access Control). Chỉ cần thiết lập một quy tắc dựa trên tag quản trị, chính sách sẽ tự động áp dụng trên toàn bộ hạ tầng: một MCP server có thể được phân quyền chi tiết tới từng công cụ, và quyền truy cập phụ thuộc trực tiếp vào thuộc tính của người dùng hoặc agent thực hiện lệnh gọi. Đồng thời, các chính sách dịch vụ (service policies) hoạt động như guardrail trên mỗi request và response, ngăn chặn rò rỉ dữ liệu nhạy cảm, chống prompt injection, lọc nội dung độc hại và xử lý hiện tượng hallucination.

Triển khai thực tế tại Concurrence chứng minh tính khả thi của mô hình này: toàn bộ lưu lượng được điều hướng qua một cổng kiểm soát duy nhất với khả năng định danh mức người dùng và phân quyền công cụ MCP, vận hành ổn định trên 61 tỷ input token xuyên suốt khoảng 360.000 yêu cầu.

Sự chuyển dịch kiến trúc: Bổ sung trụ cột chi phí cho phi đội AI agent

Bốn trụ cột ban đầu không bị thay thế mà được mở rộng trên diện tích bề mặt lớn hơn, đồng thời bổ sung thêm trụ cột thứ năm: Quản trị chi phí (Cost Management).

1. Quản lý vòng đời (Lifecycle Management)

• Trước đây (Một HR agent): Phiên bản hóa và triển khai một agent duy nhất thông qua MLflow kết hợp Unity Catalog.
• Hiện tại (Phi đội coding agent): Cấu hình agent tập trung được ban hành đồng loạt cho toàn phi đội, tích hợp cơ chế phân quyền và phả hệ dữ liệu (lineage) trên từng mô hình, MCP server và skill.

2. Bảo mật (Security)

• Trước đây: Áp dụng đặc quyền tối thiểu và che giấu dữ liệu trên một tập dữ liệu cố định.
• Hiện tại: Phối hợp lệnh GRANT/DENY, chính sách ABAC và các chính sách ngữ cảnh để cung cấp quyền kiểm soát truy cập động tới mô hình, dịch vụ và công cụ; phân quyền chi tiết ở cấp công cụ MCP để ngăn chặn tool trái phép mà không làm gián đoạn toàn bộ dịch vụ.

3. Khả năng quan sát (Observability)

• Trước đây: Ghi vết MLflow traces và quản lý phiên (sessions) cho một tác nhân.
• Hiện tại: Hệ thống bảng vết (unified trace tables) và dashboard hợp nhất theo dõi toàn bộ phi đội tác nhân trong tổ chức.

4. Quản trị rủi ro (Risk Management)

• Trước đây: Đánh giá và phát hiện các chế độ lỗi (failure modes) trước khi đưa agent lên production.
• Hiện tại: Áp dụng guardrails thông qua service-policy trên từng lượt request và response: lọc dữ liệu nhạy cảm, chặn tấn công prompt injection, kiểm duyệt nội dung không an toàn và giảm thiểu hallucination.

5. Quản trị chi phí (Cost Management)

• Trước đây: Tác nhân bị thiết kế quá phức tạp (over-engineered) kết hợp thiếu công cụ giám sát chi phí dẫn đến các hóa đơn đột biến, gây cản trở tiến độ phát triển.
• Hiện tại: Cơ chế smart routing tối ưu hóa hiệu suất mô hình, hiển thị minh bạch chi phí theo thời gian thực, áp dụng rate limits và trần ngân sách (budget caps) để triệt tiêu tình trạng lãng phí token (tokenmaxxing) và tối đa hóa giá trị tạo ra (valuemaxxing).

Quản trị AI agent đã hoàn tất bước chuyển từ cơ chế “người gác cổng” (gatekeeper) đơn lẻ sang mô hình control plane hạ tầng. Trọng tâm kỹ thuật không còn dừng lại ở câu hỏi “Agent này có được xem dòng dữ liệu này không?”, mà chuyển thành: “Mô hình nào được chạy, trên tác vụ nào, với chi phí bao nhiêu, dưới định danh của ai, trên phạm vi toàn bộ agent của tổ chức?”.

Các giải pháp hạ tầng hiện đại đang tiếp tục hoàn thiện thông qua cơ chế triển khai blue-green cho agent, gateway tập trung để điều phối endpoint và các giải pháp phát hiện bất thường hành vi (anomaly detection). Nền tảng hạ tầng control plane chính là chìa khóa tháo gỡ điểm nghẽn tuân thủ, giúp doanh nghiệp tự tin mở rộng quy mô hệ thống agentic.

Nguồn: Towards Data Science

LIÊN HỆ TƯ VẤN CÁC DỊCH VỤ AI

Hỗ trợ tư vấn, đào tạo và chuyển giao AI cho cá nhân, doanh nghiệp và tổ chức.

📞 Điện thoại: 0981243678 Liên hệ qua Zalo