Mô hình quyết định AI mở ra hướng đi mới cho kiểm duyệt nội dung

Công ty khởi nghiệp Musubi vừa công bố PolicyLM-1.7B, một mô hình quyết định (decision model) tinh gọn với trọng số mở (open weights), được thiết kế chuyên biệt cho tác vụ kiểm duyệt nội dung (content moderation) theo thời gian thực.

Xử lý quy tắc phức tạp dưới 50 mili-giây

Hệ thống của Musubi tiếp nhận các bộ quy tắc kiểm duyệt được viết bằng ngôn ngữ tự nhiên thông thường và áp dụng trực tiếp lên tin nhắn hoặc bài đăng trong thời gian dưới 50 mili-giây (milliseconds). Về tốc độ và chi phí vận hành, PolicyLM-1.7B tương đương với các hệ thống phân loại AI (AI classifiers) truyền thống đang vận hành trên đa số mạng xã hội hiện nay. Tuy nhiên, nhờ thừa hưởng tính linh hoạt của kiến trúc mô hình ngôn ngữ lớn (LLMs), mô hình có thể thích ứng ngay với các chính sách phức tạp mà không đòi hỏi chu trình huấn luyện riêng biệt.

Ưu thế then chốt nằm ở việc loại bỏ hoàn toàn nhu cầu tái huấn luyện mỗi khi các quy định thay đổi, cho phép đội ngũ quản trị chính sách cập nhật và lặp lại quy trình liên tục khi cần thiết.

Mô hình quyết định ứng dụng trong kiểm duyệt nội dung số — Công nghệ mô hình quyết định giúp hệ thống phân loại nội dung vận hành linh hoạt với chi phí tối ưu.

Đồng sáng lập kiêm Giám đốc AI của Musubi, ông Filip Jankovic, nhận định giải pháp này mang lại công cụ chủ động cho các nhà quản lý nền tảng: “Các đội ngũ sản phẩm luôn cần hiểu rõ hơn những gì đang diễn ra trên nền tảng của họ, đặc biệt khi khối lượng nội dung tăng theo cấp số nhân. Việc gắn nhãn dữ liệu trên quy mô lớn, có thể tùy biến cao là điều vô cùng giá trị.”

Bước ngoặt từ kiến trúc mô hình quyết định

Làn sóng phát triển mô hình quyết định (decision models) bùng nổ mạnh mẽ kể từ khi TypeSafe AI giới thiệu mô hình Jev vào tháng 9, nhanh chóng kéo theo các giải pháp cạnh tranh từ OpenAI và Amazon. Thay vì tạo văn bản (generative text), mô hình quyết định tính toán xác suất đầu ra cho các kịch bản cụ thể, trả về phán quyết nhị phân (binary judgement): nội dung có vi phạm hoặc thuộc danh mục quy định hay không.

Bằng cách giới hạn phạm vi đầu ra trong các lựa chọn định sẵn, mô hình quyết định đạt hiệu năng xử lý cao hơn với chi phí tài nguyên thấp hơn so với các mô hình ngôn ngữ thông thường, trong khi vẫn bảo toàn sự linh hoạt của kiến trúc biến đổi (transformer architecture).

Một trong những trường hợp ứng dụng sớm nhất của công nghệ này là kiểm soát hành vi lệch chuẩn của các tác tử AI (AI agents), từ đó nhanh chóng được mở rộng sang giám sát hành vi của người dùng trực tuyến. Jankovic tiết lộ sự quan tâm của ông đối với hướng tiếp cận này bắt nguồn từ dự án GLiNER (Generalist Model for Named Entity Recognition) năm 2024, vốn áp dụng nhiều kỹ thuật nền tảng tương tự.

Nguồn: TechCrunch