Microsoft, iş yerinde diğer yapay zeka ajanlarını denetlemek için yapay zeka ajanları tutuyor

İşletmeler son iki yılını yapay zeka ajanlarına gerçek işler vererek geçirdi: masraf fişlerini okumak, geri ödemeleri onaylamak, verileri sistemler arasında taşımak. Bunların herhangi birini yapabilmesi için bir ajanın belgeleri açma ve arkalarındaki yazılımı çalıştırma iznine ihtiyacı var. Sorun şu ki, bir görevi yanlış okuyan ya da yanlış bir göreve ikna edilen bir ajan, bir insan farkına varmadan makine hızında zarar verebilir.

Microsoft 19 Ekim’de, kurumsal ajanlar için güvenlik sistemi olan Project Perception’a yeni bir gözlemci katmanı eklediğini duyurdu. Gözlemciler de yapay zeka ajanları. Diğer ajanları takip ediyor, ne yaptıklarını kontrol ediyor ve bir şey ters göründüğünde nedenini izliyor, izinleri geri alıyor ve gerekirse çalışan ajanı kapatıyor. Şirketin kendi ifadesi açık: bir yapay zeka iç tehdidini durdurmak için başka bir yapay zekayı nöbete koyun.

Bu hamle, şirketlerin otomasyon hakkındaki düşüncelerindeki bir değişimi yansıtıyor. İlk ajan araçları dalgası kendini özerklik üzerinden satıyordu: bırakın model tüm görevi halletsin. İkinci dalga denetim satıyor. Bir geri ödeme sistemine erişimi olan ajan, rozetli küçük bir çalışandır ve her çalışan gibi işini gözden geçirecek birine ihtiyaç duyar. Microsoft’un yanıtı, gözlemlemek için daha fazla insan işe almak yerine bu gözden geçiriciyi ucuz ve yorulmaz hale getirmek.

Bunun kurumsal hiyerarşinin ortası için sonuçları var. Orta düzey yöneticiler uzun zamandır işi kontrol eden, hataları yakalayan ve istisnaları üst makamlara ileten katman oldu. Savunuya göre, ajanlar rutin kontrolü yapabiliyorsa bu katman ortadan kalkmaz — şekil değiştirir. İnsanlar politika belirlemeye, neyin istisna sayılacağını tanımlamaya ve denetçilerin çözemediği vakaları ele almaya yönelir. İzleme ajanları yalnızca kendilerine şüpheli olarak bildirilenleri bilir.

Teknik zorluk gerçek. Bir koruma ajanı, çalışan ajanın ne yapmaya çalıştığını anlamalı; bu da aynı günlükleri ve araç çağrılarını okuması anlamına gelir ve bir ödeme çıkmadan önce müdahale edecek kadar hızlı olmalıdır. Yanlış alarmlar da maliyetlidir: meşru bir iş akışını donduran aşırı hevesli bir denetçi, koruması gereken ekipleri rahatsız eder. Microsoft, sistemin erişimi ne zaman iptal edeceğine ve ne zaman sadece etkinliği bir insana bildireceğine nasıl karar verdiğini açıklamadı.

İşletmeler yakından izliyor çünkü ajan dağıtımları çevrelerindeki güvenlik araçlarından daha hızlı çoğalıyor. Bir ajanı yararlı kılan izinler, onu tehlikeli kılan izinlerdir ve az sayıda şirket bir ajanın denetimsiz ne yapabileceğine dair net kurallar oluşturmuştur. İnandırıcı bir yanıt sunabilen satıcılar — bir ajanın ne yaptığını ve neden durdurulduğunu gösteren bir kayıt izi dahil — daha kolay bir satış sunumuna sahiptir.

Şimdilik ürün, pazarın nereye gittiğine dair bir işaret: ajanlar inşa etmekten onları yönetmeye. İzlenecek bir sonraki şey, müşterilerin izleme ajanlarının gerçek sorunları yakaladığını mı yoksa çoğunlukla insanların görmezden geldiği uyarılar ürettiğini mi bildireceği.