माइक्रोसॉफ्ट ने काम पर अन्य एआई एजेंटों की देखभाल के लिए एआई एजेंट नियुक्त किए

उद्यमों ने पिछले दो वर्ष एआई एजेंटों को वास्तविक काम सौंपने में बिताए हैं: खर्च की रसीदें पढ़ना, प्रतिपूर्ति स्वीकृत करना, प्रणालियों के बीच डेटा स्थानांतरित करना। इनमें से कोई भी काम करने के लिए एजेंट को दस्तावेज़ खोलने और उनके पीछे के सॉफ़्टवेयर को संचालित करने की अनुमति चाहिए। परेशानी यह है कि जो एजेंट किसी कार्य को गलत समझता है, या जिसे गलत कार्य के लिए मना लिया जाता है, वह किसी इंसान के ध्यान देने से पहले मशीन की गति से नुकसान पहुंचा सकता है।

19 अक्टूबर को माइक्रोसॉफ्ट ने कहा कि वह प्रोजेक्ट परसेप्शन में निगरानीकर्ताओं की एक नई परत जोड़ रहा है, जो उद्यम एजेंटों के लिए उसकी सुरक्षा प्रणाली है। निगरानीकर्ता स्वयं एआई एजेंट हैं। वे अन्य एजेंटों का पीछा करते हैं, वे क्या कर रहे हैं इसकी जांच करते हैं, और जब कुछ गड़बड़ लगता है तो कारण का पता लगाते हैं, अनुमतियां वापस लेते हैं और यदि आवश्यक हो तो कार्यकर्ता एजेंट को बंद कर देते हैं। कंपनी की अपनी भाषा स्पष्ट है: किसी एआई अंदरूनी खतरे को रोकने के लिए, दूसरे एआई को पहरे पर रखो।

यह कदम इस बात में बदलाव को दर्शाता है कि कंपनियां स्वचालन के बारे में कैसे सोचती हैं। एजेंट उपकरणों की पहली लहर ने खुद को स्वायत्तता पर बेचा — मॉडल को पूरा कार्य संभालने दो। दूसरी लहर पर्यवेक्षण बेच रही है। प्रतिपूर्ति प्रणाली तक पहुंच वाला एजेंट बैज वाला एक छोटा कर्मचारी है, और किसी भी कर्मचारी की तरह उसे भी अपने काम की समीक्षा करने वाला कोई चाहिए। माइक्रोसॉफ्ट का जवाब है उस समीक्षक को सस्ता और अथक बनाना, न कि डैशबोर्ड देखने के लिए और लोगों को नियुक्त करना।

इसका असर कॉर्पोरेट पदानुक्रम के मध्य पर पड़ता है। मध्य प्रबंधक लंबे समय से वह परत रहे हैं जो काम की जांच करती है, गलतियां पकड़ती है और अपवादों को ऊपर भेजती है। तर्क यह है कि यदि एजेंट नियमित जांच कर सकते हैं, तो वह परत गायब नहीं होती — उसका आकार बदलता है। लोग नीति तय करने, यह परिभाषित करने कि क्या अपवाद माना जाए, और उन मामलों को संभालने की ओर बढ़ते हैं जिन्हें मॉनिटर हल नहीं कर सकते। निगरानी एजेंट केवल वही जानते हैं जो उन्हें संदिग्ध मानने के लिए बताया गया है।

तकनीकी चुनौती वास्तविक है। एक गार्ड एजेंट को समझना होता है कि कार्यकर्ता एजेंट क्या करने की कोशिश कर रहा था, जिसका अर्थ है वही लॉग और टूल कॉल पढ़ना, और उसे भुगतान जाने से पहले हस्तक्षेप करने के लिए पर्याप्त तेज़ होना चाहिए। झूठे अलार्म भी महंगे हैं: एक अति उत्साही मॉनिटर जो वैध कार्यप्रवाह को फ्रीज़ कर देता है, उन टीमों को नाराज़ करेगा जिनकी उसे रक्षा करनी है। माइक्रोसॉफ्ट ने यह नहीं बताया है कि सिस्टम कब पहुंच रद्द करने और कब केवल गतिविधि को किसी इंसान के लिए चिह्नित करने का निर्णय लेता है।

उद्यम बारीकी से देख रहे हैं क्योंकि एजेंट तैनातियां उनके आसपास के सुरक्षा उपकरणों से तेज़ी से बढ़ रही हैं। जो अनुमतियां एजेंट को उपयोगी बनाती हैं, वही उसे खतरनाक बनाती हैं, और कुछ ही कंपनियों ने स्पष्ट नियम बनाए हैं कि एजेंट बिना निगरानी के क्या कर सकता है। जो विक्रेता विश्वसनीय उत्तर दे सकते हैं — जिसमें यह दिखाने वाला रिकॉर्ड भी शामिल है कि एजेंट ने क्या किया और उसे क्यों रोका गया — उनके लिए बिक्री की बात आसान है।

फिलहाल उत्पाद इस बात का संकेत है कि बाजार कहां जा रहा है: एजेंट बनाने से उन्हें नियंत्रित करने की ओर। अगली बात यह देखना है कि ग्राहक बताते हैं कि निगरानी एजेंट वास्तविक समस्याएं पकड़ रहे हैं, या ज़्यादातर ऐसे अलर्ट पैदा कर रहे हैं जिन्हें इंसान अंततः नजरअंदाज कर देते हैं।