जैसे-जैसे AI मॉडल अधिक शक्तिशाली होते जा रहे हैं, उनके संभावित दुरुपयोग पर चिंताएं बढ़ रही हैं, OpenAI उद्यम ग्राहकों की गोपनीयता की रक्षा करने और इसकी तकनीक का उपयोग कैसे किया जा रहा है, इस पर नज़र रखने के बीच एक कड़ी राह पर चल रहा है।

चैटजीपीटी-निर्माता ने बुधवार, 19 अगस्त को निजी सुरक्षा प्रसंस्करण नामक एक नई प्रणाली का पूर्वावलोकन किया, जिसे ओपनएआई कर्मचारियों को अंतर्निहित सामग्री तक पहुंच प्रदान किए बिना उपयोगकर्ता इंटरैक्शन में पैटर्न की पहचान करने के लिए डिज़ाइन किया गया है।

निजी सुरक्षा प्रसंस्करण अपने योग्य एपीआई (एप्लिकेशन प्रोग्रामिंग इंटरफ़ेस) ग्राहकों के लिए ओपनएआई के मौजूदा जीरो डेटा रिटेंशन (जेडडीआर) सिस्टम पर बनाया गया है। ये ZDR सुरक्षा प्रणालियाँ पहले से ही प्रत्येक इंटरैक्शन का व्यक्तिगत रूप से मूल्यांकन करने में सक्षम हैं।

हालांकि, अधिक जटिल, लंबे-क्षितिज कार्यों को संभालने में सक्षम AI मॉडल द्वारा उत्पन्न नए जोखिमों ने ओपनएआई को ग्राहक गोपनीयता से समझौता किए बिना ऐसी बातचीत को पकड़ने के लिए बेहतर तरीकों की तलाश करने के लिए प्रेरित किया है। ओपनएआई ने कहा, "निजी सुरक्षा प्रसंस्करण को डिज़ाइन किया गया है ताकि हम जेडडीआर की पेशकश जारी रख सकें।" फिलहाल चुनिंदा ग्राहकों के समूह के साथ इसका परीक्षण किया जा रहा है।

AI Startup ने आगे जोर दिया कि ग्राहक सामग्री समीक्षा के लिए ओपनएआई कर्मियों के लिए अनुपलब्ध रहती है, और एंटरप्राइज़ ग्राहक डेटा का उपयोग उसके मॉडल को प्रशिक्षित करने के लिए नहीं किया जाता है जब तक कि ग्राहक स्पष्ट रूप से ऑप्ट-इन न करें।

निजी सुरक्षा प्रसंस्करण ZDR परिनियोजन में पहले से उपयोग की जाने वाली स्वचालित सुरक्षा के दायरे को बढ़ाता है।

ZDR या जीरो डेटा रिटेंशन नीति में प्रति सत्र के आधार पर दुरुपयोग की निगरानी के लिए OpenAI API के भीतर AI एजेंटों का उपयोग करना शामिल है। ऐसा करने से यह सुनिश्चित होता है कि ग्राहकों का डेटा कंपनियों द्वारा बरकरार नहीं रखा जाता है, साथ ही वे मानवीय हस्तक्षेप की आवश्यकता के बिना खराब गतिविधि को स्कैन करने में भी सक्षम होते हैं। ZDR के तहत, AI इंटरैक्शन डेटा ग्राहक-नियंत्रित बुनियादी ढांचे पर रहता है।

ओपनएआई ने कहा कि वह एक विकल्प भी पेश करेगा जहां इंटरेक्शन डेटा को एन्क्रिप्ट किया जाएगा और ग्राहक द्वारा नियंत्रित कुंजियों के साथ ओपनएआई इंफ्रास्ट्रक्चर पर संग्रहीत किया जाएगा।

निजी सुरक्षा प्रसंस्करण ZDR परिनियोजन में पहले से उपयोग की जाने वाली स्वचालित सुरक्षा के दायरे को बढ़ाता है। भले ही इसे कहीं भी संग्रहीत किया गया हो, गोपनीयता-संरक्षण तरीके से पैटर्न की पहचान करने के लिए बनाए रखा गया ग्राहक डेटा OpenAI के स्वचालित सिस्टम द्वारा स्कैन किया जाएगा।

AI फर्म के अनुसार, जब स्वचालित सिस्टम किसी इंटरैक्शन को चिह्नित करते हैं, तब भी ओपनएआई कर्मी ग्राहक सामग्री तक नहीं पहुंच पाएंगे। इसके बजाय, ओपनएआई ने कहा कि उसे एक 'संकीर्ण रूप से परिभाषित सिग्नल' प्राप्त होगा जो शामिल गतिविधि के प्रकार को दर्शाता है। इस सिग्नल का उपयोग यह निर्धारित करने के लिए किया जाएगा कि क्या OpenAI को इस पर कार्रवाई करने की आवश्यकता है।

यह सिस्टम कैसे काम करेगा, इसके बारे में अधिक विवरण नहीं हैं, जिसमें यह भी शामिल है कि यह झूठी सकारात्मकताओं को कैसे संभालेगा।

OpenAI ने केवल निम्नलिखित कहा है: "ग्राहक अपने सिस्टम में उपलब्ध जानकारी का उपयोग करके अलर्ट और प्रवर्तन निर्णयों की जांच कर सकते हैं। यदि वे अपील करना चाहते हैं, वैध गतिविधि को स्पष्ट करना चाहते हैं, या सत्यापित दुरुपयोग की जांच का समर्थन करना चाहते हैं, तो वे OpenAI के साथ प्रासंगिक जानकारी साझा करना चुन सकते हैं।"

इस साल सितंबर में एक तकनीकी श्वेत पत्र के साथ निजी सुरक्षा प्रसंस्करण को अधिक व्यापक रूप से शुरू करने की उम्मीद है।

यह पूर्वावलोकन OpenAI द्वारा अपने सबसे शक्तिशाली, अप्रकाशित मॉडल, कोडनेम एस्ट्रा, के विकास को दो सप्ताह से कुछ अधिक समय के लिए रोकने के निर्णय की घोषणा के एक दिन बाद आया है। यह पहली बार है कि OpenAI ने ऐसा कदम उठाया है, जो हगिंग फेस से जुड़ी एक उल्लेखनीय सुरक्षा घटना के बाद है, जो लोकप्रिय प्लेटफॉर्म है जहां डेवलपर्स AI मॉडल होस्ट करते हैं।

दो अप्रकाशित ओपनएआई मॉडल आंतरिक साइबर सुरक्षा मूल्यांकन के सैंडबॉक्स से बच गए और हगिंग फेस के उत्पादन सिस्टम से समझौता कर लिया। अन्य प्रमुख AI प्रदाताओं जैसे एंथ्रोपिक, मेटा और चीन के मूनशॉट AI ने हाल के हफ्तों में इसी तरह की घटनाओं की सूचना दी है।

हैकिंग की घटनाओं के सिलसिले ने सुरक्षा रेलिंग की मांग को बढ़ावा दिया है जो इस तरह के दुरुपयोग को होने से रोक सके।

AI के दुरुपयोग की निगरानी के लिए ओपनएआई की गोपनीयता-केंद्रित सुरक्षा दृष्टिकोण तब आता है जब यह उद्यम ग्राहकों के व्यवसाय को जीतने के लिए कट्टर प्रतिद्वंद्वी एंथ्रोपिक के साथ अत्यधिक प्रतिस्पर्धी दौड़ के बीच एक प्रत्याशित IPO के लिए तैयार होता है। हाल की रिपोर्टों से संकेत मिलता है कि ओपनएआई की दूसरी तिमाही एंथ्रोपिक की तुलना में अधिक धीमी गति से बढ़ी है, जिसकी वार्षिक राजस्व दर अब कथित तौर पर $65 बिलियन है।

एंथ्रोपिक अपने IPO पर भी काम कर रहा है, निवेशकों का सुझाव है कि सार्वजनिक होने पर इसका मूल्य 2 ट्रिलियन डॉलर हो सकता है।

डेटा प्रतिधारण के संदर्भ में, जुलाई में एंथ्रोपिक की अद्यतन नीति ने कुछ ग्राहकों को परेशान कर दिया है क्योंकि यह क्लाउड-निर्माता को उपयोगकर्ता डेटा - चैट सत्र और वार्तालाप सहित - 30 दिनों की अवधि के लिए रखने में सक्षम बनाता है, लेकिन केवल जब इसके माइथोस-क्लास मॉडल जैसे कवर किए गए मॉडल की बात आती है।

ग्राहक डेटा की मानव समीक्षा हो सकती है लेकिन केवल "नियंत्रित पहुंच पथ के माध्यम से" जिसमें "अनुमोदित समीक्षकों का एक छोटा समूह" शामिल होता है। एंथ्रोपिक ने कहा, उन समीक्षा सत्रों में से प्रत्येक को "एक छेड़छाड़-प्रूफ लॉग में दर्ज किया गया है जिसे समीक्षक दबा या संशोधित नहीं कर सकते हैं।"

हालांकि, बड़ी मात्रा में संवेदनशील डेटा को संभालने वाले उद्यम कथित तौर पर एंथ्रोपिक की नीति को लेकर असहज हैं। इस बीच, OpenAI विपरीत दिशा में आगे बढ़ रहा है, संभावित रूप से खुद को उन ग्राहकों के लिए एक विकल्प के रूप में स्थापित कर रहा है जो मजबूत गोपनीयता सुरक्षा उपाय चाहते हैं।