مايكروسوفت توظف وكلاء ذكاء اصطناعي لمراقبة وكلاء ذكاء اصطناعي آخرين في العمل

أمضت المؤسسات العامين الماضيين في إسناد مهام حقيقية لوكلاء الذكاء الاصطناعي: قراءة إيصالات المصروفات، والموافقة على المبالغ المستردة، ونقل البيانات بين الأنظمة. وللقيام بأي من ذلك، يحتاج الوكيل إلى صلاحية فتح المستندات وتشغيل البرمجيات التي تقف خلفها. المشكلة أن الوكيل الذي يسيء فهم مهمة، أو يُقنَع بمهمة خاطئة، يمكن أن يلحق الضرر بسرعة الآلة قبل أن يلاحظ الإنسان.

في 19 أكتوبر، قالت مايكروسوفت إنها تضيف طبقة جديدة من المراقبين إلى مشروع «بيرسيبشن»، نظام الأمان الخاص بها لوكلاء المؤسسات. المراقبون هم أنفسهم وكلاء ذكاء اصطناعي. يتبعون الوكلاء الآخرين، ويتحققون مما يفعلونه، وعندما يبدو شيء ما غير طبيعي، يتتبعون السبب، ويسحبون الصلاحيات، ويوقفون الوكيل العامل عند الضرورة. صياغة الشركة نفسها صريحة: لإيقاف مخترق داخلي من الذكاء الاصطناعي، ضع ذكاءً اصطناعيًا آخر في مهمة حراسة.

تعكس هذه الخطوة تحولًا في طريقة تفكير الشركات في الأتمتة. الموجة الأولى من أدوات الوكلاء روّجت لنفسها بالاستقلالية — دع النموذج يتولى المهمة كاملة. الموجة الثانية تبيع الإشراف. الوكيل الذي يملك صلاحية الوصول إلى نظام المبالغ المستردة هو موظف صغير يحمل شارة، وكأي موظف يحتاج إلى من يراجع عمله. جواب مايكروسوفت هو جعل هذا المراجع رخيصًا لا يعرف التعب، بدلًا من توظيف مزيد من الناس لمراقبة لوحات المعلومات.

لذلك تداعيات على وسط الهرم المؤسسي. لطالما كان المديرون المتوسطون الطبقة التي تتحقق من العمل، وتلتقط الأخطاء، وتصعّد الاستثناءات. وإذا استطاع الوكلاء القيام بالتحقق الروتيني، فالحجة تقول إن تلك الطبقة لا تختفي بل يتغير شكلها. ينتقل الناس إلى وضع السياسات، وتحديد ما يُعد استثناءً، ومعالجة الحالات التي لا يستطيع المراقبون حلها. فوكلاء المراقبة لا يعرفون إلا ما قيل لهم إنه مريب.

التحدي التقني حقيقي. على وكيل الحراسة أن يفهم ما كان الوكيل العامل يحاول فعله، وهذا يعني قراءة السجلات نفسها واستدعاءات الأدوات، وعليه أن يكون سريعًا بما يكفي للتدخل قبل خروج دفعة مالية. والإنذارات الكاذبة مكلفة أيضًا: المراقب المفرط الحماس الذي يجمّد سير عمل مشروعًا سيثير غضب الفرق التي يُفترض أنه يحميها. ولم تكشف مايكروسوفت كيف يقرر النظام متى يسحب الصلاحيات مقابل مجرد الإبلاغ عن النشاط لإنسان.

تراقب المؤسسات عن كثب لأن عمليات نشر الوكلاء تتضاعف أسرع من أدوات الأمان المحيطة بها. الصلاحيات نفسها التي تجعل الوكيل مفيدًا هي التي تجعله خطيرًا، وقليل من الشركات وضعت قواعد واضحة لما يجوز للوكيل فعله دون إشراف. والموردون القادرون على تقديم جواب موثوق — بما في ذلك سجل يوضح ما فعله الوكيل ولماذا أُوقف — لديهم عرض بيع أسهل.

في الوقت الحالي، المنتج إشارة إلى أين يتجه السوق: من بناء الوكلاء إلى حوكمتهم. والشيء التالي الذي يستحق المتابعة هو ما إذا كان العملاء يبلغون عن اكتشاف وكلاء المراقبة مشكلات حقيقية، أم أنهم يولدون في الغالب إنذارات ينتهي البشر بتجاهلها.