Microsoft Thuê Đại Lý AI Trông Nom Các Đại Lý AI Khác Tại Nơi Làm Việc
Các doanh nghiệp đã dành hai năm qua giao cho đại lý AI những công việc thực sự: đọc hóa đơn chi phí, phê duyệt hoàn ứng, di chuyển dữ liệu giữa các hệ thống. Để làm được những việc đó, đại lý cần quyền mở tài liệu và vận hành phần mềm phía sau. Vấn đề là một đại lý đọc sai nhiệm vụ, hoặc bị dụ làm sai, có thể gây thiệt hại với tốc độ máy móc trước khi con người nhận ra.
Ngày 19 tháng 10, Microsoft cho biết họ đang thêm một tầng giám sát mới vào Dự án Perception, hệ thống bảo mật cho đại lý doanh nghiệp của họ. Các giám sát viên này cũng chính là đại lý AI. Chúng theo dõi các đại lý khác, kiểm tra những gì chúng đang làm, và khi có gì đó không ổn, truy tìm nguyên nhân, thu hồi quyền, và nếu cần thì tắt hẳn đại lý đang làm việc. Cách diễn đạt của công ty rất thẳng thắn: để chặn một kẻ nội gián AI, hãy đặt một AI khác làm nhiệm vụ canh gác.
Động thái này phản ánh sự thay đổi trong cách các công ty nghĩ về tự động hóa. Làn sóng công cụ đại lý đầu tiên bán quyền tự chủ — để mô hình xử lý toàn bộ nhiệm vụ. Làn sóng thứ hai bán sự giám sát. Một đại lý có quyền truy cập hệ thống hoàn ứng là một nhân viên nhỏ với thẻ ra vào, và như bất kỳ nhân viên nào, nó cần người xem xét công việc của mình. Câu trả lời của Microsoft là làm cho người xem xét đó trở nên rẻ và không biết mệt, thay vì thuê thêm người theo dõi bảng điều khiển.
Điều đó có hàm ý cho tầng giữa của hệ thống phân cấp doanh nghiệp. Các nhà quản lý cấp trung từ lâu là tầng kiểm tra công việc, phát hiện sai sót và chuyển các trường hợp ngoại lệ lên trên. Nếu đại lý có thể làm việc kiểm tra thường ngày, lập luận là, tầng đó không biến mất — nó thay đổi hình dạng. Con người chuyển lên thiết lập chính sách, định nghĩa thế nào là ngoại lệ và xử lý các trường hợp mà giám sát viên không giải quyết được. Các đại lý giám sát chỉ biết những gì chúng được bảo là đáng ngờ.
Thách thức kỹ thuật là có thật. Một đại lý canh gác phải hiểu đại lý đang làm việc muốn làm gì, nghĩa là đọc cùng nhật ký và lệnh gọi công cụ, và phải đủ nhanh để can thiệp trước khi một khoản thanh toán được thực hiện. Báo động giả cũng tốn kém: một giám sát viên quá hăng hái đóng băng một quy trình hợp lệ sẽ gây khó chịu cho chính các nhóm mà nó được giao bảo vệ. Microsoft chưa tiết lộ hệ thống quyết định khi nào thu hồi quyền so với chỉ gắn cờ hoạt động cho con người.
Các doanh nghiệp đang theo dõi sát sao vì việc triển khai đại lý đang tăng nhanh hơn các công cụ bảo mật xung quanh chúng. Chính những quyền làm cho đại lý hữu ích cũng là những quyền làm cho nó nguy hiểm, và ít công ty đã xây dựng quy tắc rõ ràng về những gì đại lý được phép làm mà không có giám sát. Các nhà cung cấp có thể đưa ra câu trả lời đáng tin cậy — bao gồm dấu vết giấy tờ cho thấy đại lý đã làm gì và tại sao nó bị dừng — có lời chào hàng dễ dàng hơn.
Hiện tại sản phẩm này là một tín hiệu về hướng đi của thị trường: từ xây dựng đại lý sang quản trị chúng. Điều tiếp theo cần theo dõi là liệu khách hàng có báo cáo các đại lý giám sát bắt được vấn đề thực sự, hay chủ yếu tạo ra cảnh báo mà con người cuối cùng bỏ qua.