जैसे-जैसे AI मॉडल अधिक शक्तिशाली हो गए हैं, उन मॉडलों के दुरुपयोग की संभावना बढ़ गई है - जैसे कि सुरक्षा रेलिंग की मांग बढ़ गई है जो इस तरह के दुरुपयोग को होने से रोक सकती है। AI कंपनियों को अब अपने उद्यम ग्राहकों की गोपनीयता का सम्मान करने के साथ-साथ संभावित मुद्दों के उपयोग पर भी नजर रखने के बीच एक नाजुक कड़ी का पालन करना होगा।

अपने प्रतिद्वंद्वी एंथ्रोपिक को मात देने के अवसर को भांपते हुए, ओपनएआई ने दुरुपयोग की निगरानी के लिए एक गोपनीयता-केंद्रित सुरक्षा दृष्टिकोण की घोषणा की। कंपनी चुनिंदा ग्राहकों के लिए एक नई सेवा का पूर्वावलोकन कर रही है जिसे वह प्राइवेट सेफ्टी प्रोसेसिंग कहती है। यह एक स्वचालित प्रणाली है जो संभावित दुरुपयोग पर नजर रखती है और साथ ही ग्राहक के किसी भी डेटा को बरकरार नहीं रखती है।

यह प्रणाली स्पष्ट रूप से एंथ्रोपिक की हाल ही में घोषित डेटा-प्रतिधारण नीति के विपरीत है। नीति, जिसने कुछ ग्राहकों को परेशान किया है, AI लैब को उपयोगकर्ता डेटा (उनके सभी सत्र - और उनमें हुई बातचीत) को 30 दिनों की अवधि के लिए रखने में सक्षम बनाती है, जब यह "कवर किए गए मॉडल" की बात आती है। कंपनी का कहना है कि उन मॉडलों में सभी माइथोस-क्लास मॉडल और "समान क्षमताओं वाले भविष्य के मॉडल" शामिल हैं।

यह नीति, जिसे जुलाई में घोषित किया गया था, सुरक्षा के उद्देश्यों के लिए डिज़ाइन की गई थी, जिससे प्रयोगशाला को संभावित अनुचितता की जांच और विश्लेषण करने की अनुमति मिल सके। हालाँकि, इसने कुछ उद्यमों को गहराई से चिंतित कर दिया है जो बड़ी मात्रा में संवेदनशील डेटा को संभालते हैं और नहीं चाहते कि इसे AI लैब द्वारा संरक्षित (या निरीक्षण) किया जाए।

ओपनएआई - अधिकांश अन्य AI कंपनियों की तरह - पहले से ही जीरो डेटा रिटेंशन नामक नीति का पालन करके ग्राहकों को गोपनीयता का एक सापेक्ष स्तर प्रदान करता है। ZDR प्रति सत्र के आधार पर दुरुपयोग की निगरानी के लिए OpenAI API के भीतर एजेंटों का उपयोग करता है। इस तरह, ग्राहक डेटा को कंपनी द्वारा बरकरार नहीं रखा जाता है, लेकिन कंपनियां अभी भी मानवीय हस्तक्षेप की आवश्यकता के बिना खराब गतिविधि को स्कैन करने में सक्षम हैं। यह ध्यान देने योग्य है कि एंथ्रोपिक भी काफी हद तक ZDR का पालन करता है - सिवाय इसके कि जब बात फैबल जैसे "कवर किए गए मॉडल" की हो।

OpenAI का कहना है कि प्राइवेट सेफ्टी प्रोसेसिंग एक नई तकनीक है जो ZDR के दायरे को व्यापक बनाती है। यह इसे लंबी-क्षितिज सुरक्षा निगरानी के एक रूप के रूप में वर्णित करता है जो केवल एक ही नहीं बल्कि कई वार्तालापों के इनपुट और आउटपुट का आकलन करता है। फिर से, निगरानी एक एजेंट द्वारा की जाती है, जो ट्रिगर होने पर, इंटरैक्शन को पकड़ता है और संभावित दुरुपयोग के संकेतों के लिए सत्रों में उनका विश्लेषण करता है।

एक प्रवक्ता ने टेकक्रंच को बताया कि नई तकनीक ओपनएआई को कई सत्रों में होने वाले AI के दुर्भावनापूर्ण उपयोग का पता लगाने में मदद करती है। एक बुरा अभिनेता - काल्पनिक रूप से कोई व्यक्ति साइबर हमले के लिए मैलवेयर इंजीनियर करने की कोशिश कर रहा है - पता लगाने से बचने के लिए अपने अनुरोधों को फैला सकता है। निजी सुरक्षा प्रसंस्करण किसी उपयोगकर्ता की बातचीत की मानवीय समीक्षा के बिना दुरुपयोग के संकेतों के लिए उन एकाधिक बातचीत का विश्लेषण कर सकता है।

कंपनी का कहना है कि ऐसे मामले में जहां सिस्टम चालू हो जाता है, यह ओपनएआई को एक "संकीर्ण परिभाषित सिग्नल" भेज सकता है जो एक विशिष्ट प्रकार की गतिविधि की चेतावनी देता है। उस सिग्नल के आधार पर, ओपनएआई यह तय कर सकता है कि "प्रवर्तन आवश्यक है" या नहीं। प्रवक्ता ने कहा, यदि ऐसा है, तो ओपनएआई अधिक संदर्भ के लिए या मुद्दे पर उनके साथ काम करने के लिए ग्राहक तक पहुंचेगा और ग्राहक अपने विवेक से ओपनएआई के साथ डेटा साझा करना चुन सकता है।

इसके विपरीत, एंथ्रोपिक नोट करता है कि ग्राहक डेटा की मानव समीक्षा हो सकती है, लेकिन केवल "नियंत्रित पहुंच पथ के माध्यम से" जिसमें "अनुमोदित समीक्षकों का एक छोटा समूह" शामिल होता है। कंपनी का कहना है कि उन समीक्षा सत्रों में से प्रत्येक को "एक छेड़छाड़-प्रूफ लॉग में दर्ज किया गया है, जिसे समीक्षक दबा या संशोधित नहीं कर सकते हैं।"

ओपनएआई और एंथ्रोपिक के बीच कॉर्पोरेट प्रतिस्पर्धा इस समय तनावपूर्ण है, दोनों कंपनियां एक दूसरे पर लाभ हासिल करने के लिए किसी भी अवसर की तलाश में हैं। एक हालिया रिपोर्ट से पता चला है कि OpenAI की Q2 एंथ्रोपिक की तुलना में अधिक धीमी गति से बढ़ी है। एंथ्रोपिक का वार्षिक राजस्व रन रेट अब कथित तौर पर $65 बिलियन है। एंथ्रोपिक निवेशकों ने कहा है कि यह 2 ट्रिलियन डॉलर का IPO ला सकता है, जबकि ओपनएआई भी अपने IPO पर काम कर रहा है।