OpenAI ने EU में AI टेक्स्ट पर अदृश्य वॉटरमार्क जोड़े
OpenAI ने अपने कुछ मॉडलों द्वारा तैयार किए गए टेक्स्ट में अदृश्य, मशीन-पठनीय वॉटरमार्क जोड़ना शुरू कर दिया है, जिसकी शुरुआत यूरोपीय संघ के उपयोगकर्ताओं से हो रही है। कंपनी ने कहा कि यह कदम EU AI Act की पारदर्शिता आवश्यकताओं के अनुरूप होने के लिए है, जो प्रदाताओं से AI-जनित सामग्री को पहचानने योग्य बनाने की मांग करती हैं। यह सुविधा आने वाले हफ्तों में EU में चालू की जा रही है, और अब से वैश्विक API ग्राहक भी विशिष्ट मॉडलों के लिए इसे चालू करना चुन सकते हैं।
इस वॉटरमार्किंग तकनीक का नाम textGrain है। यह किसी पैराग्राफ पर दिखाई देने वाला लेबल लगाने के बजाय मॉडल की शब्द-चयन प्रक्रिया के दौरान काम करती है, और मॉडल लिखते समय जो चुनाव करता है उनमें एक सांख्यिकीय संकेत बुन देती है। जो डिटेक्टर जानता है कि क्या खोजना है, वह उस संकेत को पढ़ सकता है और तय कर सकता है कि टेक्स्ट के किसी हिस्से पर OpenAI का वॉटरमार्क है या नहीं। एक सामान्य पाठक के लिए टेक्स्ट बिल्कुल वैसा ही दिखता है।
यही सूक्ष्मता मायने रखती है। दिखाई देने वाले लेबल हटाना आसान होता है: कोई उपयोगकर्ता एक पैराग्राफ कॉपी कर सकता है, किसी दूसरे मॉडल से उसे फिर से लिखवा सकता है, या बस फुटर नोट हटा सकता है। छिपा हुआ सांख्यिकीय निशान टेक्स्ट को बदले बिना हटाना कठिन होता है। यह उस असुविधा से भी बचाता है जिसमें किसी लेखन को “यह मशीन ने लिखा है” कहने वाले बैनर से बीच में रोकना पड़ता है, जो चैट, ईमेल के ड्राफ्ट या कोड की एक पंक्ति में दखल देने वाला लग सकता है।
फिर भी वॉटरमार्किंग एक तकनीकी समझौता है, कोई सिद्ध मुहर नहीं। पहचान के लिए आमतौर पर सही उपकरण तक पहुंच चाहिए, और जब टेक्स्ट को भारी रूप से संपादित, अनुवादित या मानव लेखन के साथ मिलाया जाता है तो संकेत कमजोर पड़ सकते हैं। OpenAI ने textGrain को व्यापक पारदर्शिता प्रयास की एक परत के रूप में पेश किया है, न कि इस गारंटी के रूप में कि हर AI-सहायता प्राप्त वाक्य का पता लगाया जा सकेगा। कंपनी ने यह नहीं कहा है कि यह मार्किंग हर मॉडल या हर क्षेत्र पर लागू होगी, और EU में रोलआउट को योग्य ChatGPT और Codex आउटपुट पर लागू बताया गया है।
EU का पहलू इसलिए मायने रखता है क्योंकि इस ब्लॉक के AI नियम बड़े मॉडल प्रदाताओं से इस तरह की सामग्री पारदर्शिता की मांग करने वाले पहले नियमों में से हैं। यूरोपीय उपयोगकर्ताओं को सेवा देने वाली कंपनियां अपने उत्पादों, दस्तावेजों और आंतरिक प्रक्रियाओं को इसके अनुरूप ढाल रही हैं। OpenAI के लिए वॉटरमार्क जोड़ना एक अनुपालन कदम भी है और यह परखने का तरीका भी कि यह तकनीक करोड़ों लोगों द्वारा इस्तेमाल किए जाने वाले मुख्यधारा के चैटबॉट के पैमाने पर कैसा व्यवहार करती है।
API ग्राहकों के लिए, चुने गए मॉडलों पर वॉटरमार्किंग सक्षम करने का विकल्प व्यवसायों को एक हत्था देता है। किसी प्रकाशक की इच्छा हो सकती है कि AI-सहायता प्राप्त टेक्स्ट पर निशान लगे ताकि उसके अपने सिस्टम बाद में उसे चिह्नित कर सकें। कोई राइटिंग टूल बनाने वाला डेवलपर, दर्शकों के आधार पर, इसे बंद रखना पसंद कर सकता है। चूंकि EU के बाहर API उपयोगकर्ताओं के लिए यह सेटिंग वैकल्पिक है, इसलिए अपनाया जाना संभवतः उद्योग के अनुसार और इस बात पर निर्भर करेगा कि किसी कंपनी को मूल-स्रोत की कितनी परवाह है।
वॉटरमार्किंग AI अनुसंधान के अधिक सक्रिय क्षेत्रों में से एक बन गई है, जहां प्रयोगशालाएं, विश्वविद्यालय और मानक संस्थाएं इस पर बहस कर रही हैं कि सिंथेटिक मीडिया को बिगाड़े बिना कैसे चिह्नित किया जाए। टेक्स्ट, छवियों से कठिन है: किसी तस्वीर में छिपे पिक्सेल पैटर्न हो सकते हैं, लेकिन शब्द अलग-अलग होते हैं और आसानी से पुनर्व्यवस्थित हो जाते हैं। textGrain जैसे तरीके निशान को सामान्य उपयोग में टिकाए रखने की कोशिश करते हैं, जबकि पाठकों के लिए वह अदृश्य रहता है।
क्या अदृश्य वॉटरमार्क एक डिफ़ॉल्ट अपेक्षा बनेंगे या एक सीमित अनुपालन उपकरण बनकर रह जाएंगे, यह इस पर निर्भर करेगा कि वास्तविक दुनिया में पहचान कितनी अच्छी तरह टिकती है। फिलहाल, OpenAI का EU रोलआउट इस विचार को अब तक का सबसे बड़ा वास्तविक-दुनिया परीक्षण देता है, और वैश्विक डेवलपर्स को प्रयोग करने के लिए एक शुरुआती स्विच देता है।