وكلاء الذكاء الاصطناعي يفشلون بصمت، وAWS تريد كشف ذلك

بينما تتسابق الشركات لتشغيل وكلاء الذكاء الاصطناعي المستقلين، يظهر خطر خفي: وكلاء يفشلون بصمت. فبدلاً من التعطل أو التباطؤ، يستمر الوكيل المتعثر في الرد بالسرعة نفسها بينما تتآكل جودة إجاباته بهدوء. وتقول Amazon Web Services إنها ابتكرت طريقة لاكتشاف ذلك قبل أن يلاحظه العملاء.

قدمت الشركة إطار تقييم من تسع مراحل مبنيًا على Amazon Bedrock AgentCore، منصتها لنشر وإدارة وكلاء الذكاء الاصطناعي. صُمم الإطار لاختبار الوكلاء في ظروف تشبه بيئة الإنتاج، والتحقق ليس فقط مما إذا كانوا يستجيبون، بل مما إذا كانت ردودهم تظل دقيقة مع زيادة طول المهام وتعقيدها. ونشرت AWS تفاصيل هذا النهج هذا الأسبوع.

يختلف الوكلاء عن روبوتات الدردشة العادية لأنهم يتصرفون، لا يتحدثون فقط. يمكنهم تصفح الويب، واستدعاء أدوات برمجية أخرى، وتشغيل التعليمات البرمجية، وإنجاز مهام متعددة الخطوات بإشراف بشري محدود. وهذه الاستقلالية تحديدًا هي ما يجعل الفشل الصامت خطيرًا: فالوكيل الذي يحجز الاجتماع الخطأ، أو يسيء قراءة مستند، أو يتخذ قرارًا معيبًا يمكنه مواصلة العمل بثقة، وعلى نطاق واسع، دون أن يلاحظ أحد.

يشغّل الإطار الوكيل عبر تسع مراحل متميزة، من الإعداد الأساسي مرورًا بأحمال العمل الواقعية وصولاً إلى المراقبة المستمرة. في كل مرحلة، يقارن المقيّمون مخرجات الوكيل بالنتائج المتوقعة، ويراقبون تدهور الإجابات، ويختبرون سلوك الوكيل عندما يفشل استدعاء أداة أو يكون الطلب غامضًا. الهدف هو تحويل الثقة الغامضة إلى إشارات قابلة للقياس يمكن للفرق التصرف بناءً عليها.

أصبحت الثقة موضوعًا محوريًا في عروض الذكاء الاصطناعي لعملاق السحابة. كما وصفت AWS نهجًا متعدد الطبقات يُسمى Trust in Depth، مبنيًا حول خمس أفكار: النطاق، والمعرفة، والتقييد، والمراقبة، والإثبات. الهدف هو تمكين الوكلاء من تولي المزيد من العمل دون فقدان السيطرة، عبر تحديد ما يمكنهم الوصول إليه، وتعريف ما يعرفونه، وتقييد أفعالهم، ومراقبتهم أثناء التشغيل، وإثبات ما فعلوه afterwards.

يتناسب إطار التقييم الجاهز للإنتاج مع Amazon Bedrock AgentCore مع هذا التوجه الأوسع. وتجادل AWS بأنه ينبغي للشركات التعامل مع اختبار الوكلاء كانضباط مستمر بدلاً من فحص لمرة واحدة قبل الإطلاق. ومع تولي الوكلاء مهامًا أطول ومتعددة الخطوات، تصبح الفجوة بين الإجابة السريعة والإجابة الصحيحة هي الفرق بين الأتمتة المفيدة والأخطاء المكلفة.

تولي الصناعة الأوسع اهتمامًا. تريد المؤسسات أن يتولى الوكلاء المزيد من العمل، لكن الاستطلاعات والمديرين التنفيذيين يقولون مرارًا إنهم لا يثقون بهم تمامًا للتصرف بشكل صحيح في كل مرة. الأدوات التي تجعل جودة الوكيل مرئية، بدلاً من مفترضة، قد تصبح معيارًا مثل مراقبة الأداء للبرمجيات التقليدية.

في الوقت الحالي، رسالة AWS بسيطة: الوكيل الذي لا يخطئ أبدًا قد يظل يتدهور. تراهن الشركة على أن التقييم الصارم المرحلي سيكون ما يقنع الشركات الحذرة بتسليم مهام حقيقية لبرمجيات تفكر وتتصرف من تلقاء نفسها.