एंथ्रोपिक द्वारा पुष्टि किए जाने के चार घंटे के भीतर कि क्लाउड मॉडल विश्व स्तर पर किसी भी AI-जनरेटेड सामग्री में अदृश्य, मशीन-पठनीय वॉटरमार्क एम्बेड करेंगे, डेवलपर गिलाउम मेयर ने अपना ओवरराइड प्रकाशित किया था।

क्लाउड-जनरेटेड टेक्स्ट से वॉटरमार्क हटाने का उनका कोड तब से GitHub पर वायरल हो गया है, इसे X पर 20,000 से अधिक बार बुकमार्क किया गया है, और 100 से अधिक योगदानकर्ताओं को आकर्षित किया है, जिनमें से कई ने प्रौद्योगिकी को अपनी परियोजनाओं में शामिल किया है। एक AI विशेषज्ञ ने मेयर की जंजीरों से बाहर निकलने और टूटे हुए यूरोपीय संघ और एंथ्रोपिक झंडे पर खड़े होने की एक तस्वीर के साथ लिखा, "एंथ्रोपिक अपने क्लाउड ग्रंथों में वॉटरमार्क एम्बेड कर रहा है ... मुद्दा व्यावहारिक रूप से एक दिन बाद इतिहास बन गया है।"

एंथ्रोपिक द्वारा पिछले सप्ताह घोषणा किए जाने के बाद कि क्लाउड यूरोपीय संघ के AI अधिनियम का अनुपालन करने के लिए इसे अपनाएगा, मेयर और अन्य लोगों ने वॉटरमार्किंग कैसे काम करती है, इसकी जांच शुरू कर दी।

कुछ लोग वॉटरमार्किंग से बचने की कोशिश कर रहे हैं क्योंकि वे इस विचार से असहमत हैं कि सभी AI-जनित सामग्री को इस तरह लेबल किया जाना चाहिए, मेयर ने WIRED को बताया, जबकि स्वयं सहित अन्य लोगों का कहना है कि वे केवल तकनीकी चुनौती का आनंद लेते हैं। उनका कहना है कि फ्रीलांस सामग्री लेखकों और सोशल मीडिया रचनाकारों ने भी मेयर से संपर्क कर कोड का उपयोग करने में सहायता मांगी है।

नए नियम, जो इस महीने की शुरुआत में आए थे, यह निर्धारित करते हैं कि एंथ्रोपिक और ओपनएआई जैसे मॉडल प्रदाताओं को सिंथेटिक ऑडियो, छवि, वीडियो या टेक्स्ट को लेबल करना होगा ताकि मशीन द्वारा इस सामग्री को AI-जनरेटेड के रूप में पहचाना जा सके - या वार्षिक कारोबार के 3 प्रतिशत तक जुर्माना का सामना करना पड़ेगा। जबकि नियम कहते हैं कि प्रदाता धोखाधड़ी वाले उपकरणों का विपणन नहीं कर सकते, स्वतंत्र उपकरणों पर कोई कानूनी प्रतिबंध नहीं है।

मेयर कहते हैं, ''मैं पारदर्शिता के ख़िलाफ़ नहीं हूं, और मैं पूरी तरह से सामग्री को जिम्मेदार ठहराने के पक्ष में हूं।'' "मुझे लगता है कि वॉटरमार्किंग अपने आप में एक बहुत बुरा समाधान है, क्योंकि इसमें बड़ी कमियां और जोखिम हैं।" वह झूठी सकारात्मकता के जोखिम के बारे में चिंतित हैं और वॉटरमार्किंग हल्के या भारी AI उपयोग के बीच अंतर नहीं कर सकती है, खासकर जब से, एक मूल फ्रांसीसी वक्ता के रूप में, वह अक्सर अपने लेखन को संपादित करने के लिए क्लाउड और ग्रामरली जैसे अन्य AI टूल का उपयोग करते हैं। सबूत के रूप में वॉटरमार्क का उपयोग करना - जब एंथ्रोपिक भी स्वीकार करता है कि यह केवल एक संभावना उत्पन्न कर सकता है कि पाठ को क्लाउड द्वारा छुआ गया है - तो नियोक्ता गलत तरीके से उम्मीदवारों को अस्वीकार कर सकते हैं या कृत्रिम बुद्धिमत्ता का उपयोग करने वाले शोधकर्ताओं पर अत्यधिक आरोप लगा सकते हैं, क्योंकि डिटेक्टर इसे ध्वजांकित करता है, वह कहते हैं।

एंथ्रोपिक वॉटरमार्क क्लॉड के शब्दों और वाक्यांशों की पसंद में एक पैटर्न छोड़कर अदृश्य रूप से पाठ करते हैं जो एक मानव पाठक के लिए अदृश्य है लेकिन एक मशीन द्वारा पता लगाया जा सकता है जो जानता है कि इसे कैसे देखना है। क्योंकि यह क्लाउड के आउटपुट को प्रभावित करता है, कुछ उपयोगकर्ता चिंतित हैं कि इससे क्लाउड की प्रतिक्रियाओं की गुणवत्ता खराब हो जाएगी, हालांकि एंथ्रोपिक का कहना है कि ऐसा नहीं होगा। SynthID नामक तकनीक, Google द्वारा विकसित की गई थी, जो 2023 से अपनी AI-जनित सामग्री को वॉटरमार्क करने के लिए इसका उपयोग कर रहा है। कंप्यूटर वैज्ञानिक स्कॉट आरोनसन ने OpenAI में काम करते समय एक समान विधि का प्रस्ताव रखा था, लेकिन कहते हैं कि फर्म ने इसे कभी भी तैनात नहीं किया क्योंकि कंपनी चिंतित थी कि वॉटरमार्क ग्राहकों को उसके उत्पाद से दूर कर देगा।

मेयर की निष्कासन विधि कई पुनर्लेखन, समानार्थक शब्दों की अदला-बदली और सामग्री को थोड़ा पुनर्गठित करने के लिए एक गैर-वॉटरमार्किंग बड़े भाषा मॉडल का उपयोग करती है। बेशक, यह अन्य बड़े भाषा मॉडलों के उपयोग पर निर्भर करता है जो वॉटरमार्क सम्मिलित नहीं करते हैं - संभवतः 190 संगठनों के बाद से एक सुरक्षित शर्त नहीं है - प्रदाता ओपनएआई, माइक्रोसॉफ्ट और मेटा - ने ईयू के पारदर्शिता अभ्यास कोड पर हस्ताक्षर किए हैं। यह देखना बाकी है कि इनमें से कितनी प्रयोगशालाएँ अपने वॉटरमार्क लागू करने जा रही हैं, जिन्हें अगस्त से जारी सभी नए मॉडलों में शामिल किया जाना चाहिए और दिसंबर तक मौजूदा मॉडलों में एकीकृत किया जाना चाहिए।

हालांकि इस बात की कोई निश्चितता नहीं है कि यह उपकरण तब तक काम करेगा जब तक एंथ्रोपिक वॉटरमार्क का पता लगाने के लिए उपयोग किए जाने वाले सॉफ़्टवेयर को जारी नहीं करता है, लेकिन क्लाउड के वॉटरमार्किंग को रेखांकित करने वाले बुनियादी सिंथआईडी-टेक्स्ट दृष्टिकोण को समझने से उन्हें यह सुनिश्चित हो जाता है कि विधि काम करती है, सिलिकॉन वैली स्थित सॉवरेन AI Startup हैमेकर के मुख्य प्रौद्योगिकी और सह-संस्थापक वेन पैन कहते हैं। उन्होंने मेयर के ओपन-सोर्स टूल को अपने प्लेटफ़ॉर्म में शामिल किया क्योंकि उन्हें क्लाउड वॉटरमार्किंग सामग्री का विचार भी नापसंद था, भले ही इसे केवल हल्के ढंग से संपादित किया गया हो और वॉटरमार्क उपयोगकर्ता के लिए अदृश्य होने से असहमत थे।

अन्य कोडर ने अपने स्वयं के निष्कासन उपकरण विकसित किए हैं: सॉफ्टवेयर इंजीनियर एरिक ह्यूजेस को क्लाउड के साथ एक उपकरण तैयार करने में 15 मिनट लगे जो अदृश्य और समान दिखने वाले पात्रों को हटा देता है, पैराग्राफ के भीतर वाक्यों को पुन: व्यवस्थित करता है, और समानार्थी शब्दों के लिए कई शब्दों को स्वैप करता है। ऑक्सफोर्ड विश्वविद्यालय के विजिटिंग फेलो लियोन क्लोन का कहना है कि क्लाउड की प्रतिक्रिया को संक्षिप्त करके, इसे अरबी जैसी बोली में अनुवाद करके, जिसमें अंग्रेजी की तुलना में बहुत अलग शब्दार्थ हैं, और फिर इसका अनुवाद करके वॉटरमार्क को हटाया जा सकता है। एन्थ्रोपिक ने स्वयं स्वीकार किया कि अत्यधिक संपादित, व्याख्यात्मक या अनुवादित सामग्री में वॉटरमार्क नहीं हो सकता है।

WIRED को दिए एक बयान में, एंथ्रोपिक के एक प्रवक्ता ने कहा: "हम ईयू AI अधिनियम का अनुपालन करने के लिए क्लाउड के आउटपुट में मार्किंग जोड़ रहे हैं, और अन्य प्रयोगशालाएं भी इसी तरह के कदम उठा रही हैं। AI-जनरेटेड टेक्स्ट की पहचान करना कठिन है, और यह लोगों को पहचान के लिए बेहतर उपकरण देता है। क्लाउड कोड से आउटपुट सहित समर्थित क्लाउड मॉडल के टेक्स्ट में एक अदृश्य वॉटरमार्क होगा, और यह क्लाउड की प्रतिक्रियाओं के अर्थ, गुणवत्ता या पठनीयता को नहीं बदलता है। हम शिप करने की भी योजना बना रहे हैं। एक टेक्स्ट-डिटेक्शन एपीआई ताकि उपयोगकर्ता इसे स्वयं अधिक कर सकें।

एंथ्रोपिक का कहना है कि वह इस पर काम कर रहा है कि टेक्स्ट के लिए वॉटरमार्क पहचान को कैसे लागू किया जाए और ऐसा करने के लिए वह जल्द ही एक टूल जारी करने की योजना बना रहा है - जिसके बाद डेवलपर्स अंततः यह देख पाएंगे कि उनके तरीके फुलप्रूफ हैं या नहीं। यह वॉटरमार्किंग प्रणाली में सुधार पर भी काम करना जारी रख रहा है। पैन कहते हैं, "मुझे लगता है कि वे यह दिखाना चाहते थे कि वे इसे अच्छे विश्वास के साथ कर रहे हैं," लेकिन मुझे नहीं लगता कि आपके पास कभी ऐसा वॉटरमार्क हो सकता है जो हर चीज़ का सामना कर सके।

आपके इनबॉक्स में: यह आपका औसत राजनीति न्यूज़लेटर नहीं है

वाईफ़ाई-8 आ रहा है—यहां वह सब कुछ है जो आपको जानना आवश्यक है

बड़ी कहानी: युवा धावक बेहद तेज़ होते जा रहे हैं

शहरी निगरानी की नई वास्तविकता

हमारे सर्वेक्षण में भाग लें: क्या आप तकनीकी क्षेत्र में काम करते हैं? हम आपसे सुनना चाहते हैं