एक उभरते IPO, एंथ्रोपिक से तीव्र प्रतिस्पर्धा और चीनी और ओपन-वेट प्रतिद्वंद्वियों के साथ, ओपनएआई के पास तेजी से आगे बढ़ने के कई कारण हैं। इसके बजाय, इसने ब्रेक मारा।

मंगलवार को कंपनी ने कहा कि उसने कुछ AI विकास की गति धीमी कर दी है जबकि उसने सुरक्षा और सुरक्षा उपाय कड़े कर दिए हैं। इसमें इसके "तैनाती के लिए इच्छित नवीनतम मॉडल" पर सुदृढीकरण सीखने के प्रशिक्षण में दो सप्ताह का ठहराव और इसके "सबसे बड़े नियोजित फ्रंटियर आरएल रन" में चल रही देरी शामिल है।

यह निर्णय उस विचार का एक बहुत ही सार्वजनिक परीक्षण है जिसे AI सुरक्षा समर्थक वर्षों से आगे बढ़ा रहे हैं: कंपनियों को AI दौड़ से बाहर निकलने के लिए तैयार रहना चाहिए और जब उनके सुरक्षा उपाय उनके द्वारा बनाए जा रहे कार्यों के अनुरूप विफल हो जाते हैं तो उन्हें चीजों को धीमा कर देना चाहिए। लेकिन जैसे-जैसे उनके चारों ओर दौड़ जारी रहती है, क्या धीमा होने से कुछ हासिल होगा?

''विराम को टिकाऊ बनाने के लिए, इसे उद्योग-व्यापी बनाना होगा।''

धीमे होने की तमाम चर्चाओं के बावजूद, OpenAI बिल्कुल स्थिर नहीं है। कंपनी ने कहा कि यह "गति" विकास है, एक अस्पष्ट और अस्पष्ट शब्द जो हाल के महीनों में उद्योग के शब्दकोष का हिस्सा बन गया है। व्यवहार में, मंदी का दायरा सीमित है। ओपनएआई की घोषणा में कहा गया है कि यह रोक केवल तैनाती के लिए बनाए गए मॉडलों को कवर करती है, जबकि यह उस तरह के परीक्षण चलाने से पहले सुरक्षा और निगरानी बढ़ाती है, जहां मॉडल बाहर निकलने और वास्तविक लक्ष्यों को हैक करने में सक्षम हो सकते हैं। इसका मतलब यह नहीं है कि कंपनी के व्यापक विकास में उल्लेखनीय मंदी आएगी।

निश्चित रूप से, OpenAI के पास ऐसी प्रणालियों का परीक्षण करने से पहले उन्हें सुरक्षित करने पर ध्यान केंद्रित करने का एक बहुत अच्छा कारण है। अभी पिछले महीने, OpenAI ने खुलासा किया कि उसके मॉडल एक कथित सुरक्षित परीक्षण वातावरण से बाहर निकल गए और OpenAI को ध्यान दिए बिना, डेवलपर प्लेटफ़ॉर्म हगिंग फेस को हैक कर लिया। इस घटना ने उद्योग में परीक्षण प्रथाओं की व्यापक समीक्षा को प्रेरित किया, जिसमें ओपनएआई के अधिक मॉडलों के साथ-साथ एंथ्रोपिक और मेटा के मॉडलों से जुड़े समान प्रकरणों का खुलासा हुआ। ओपनएआई के पास दोहराव से बचने का हर कारण है, खासकर कानून निर्माताओं की ओर से बढ़ती जांच के साथ।

बाहर से, यह बताना मुश्किल है कि OpenAI पूरी तरह से सुरक्षा के लिए रुकने को लेकर कितना ईमानदार है, खासकर जब कंपनी और वरिष्ठ कर्मचारी इसके बारे में इतने मुखर रहे हैं। लेकिन हाल के महीनों में हाई-प्रोफाइल सुरक्षा टीम के प्रस्थान और इसकी तैयारी टीम के विघटन के बाद सुरक्षा के प्रति कंपनी की प्रतिबद्धता पर सवाल उठाया गया है। OpenAI ने टिप्पणी के लिए द वर्ज के अनुरोध का जवाब नहीं दिया।

ओपनएआई की मंदी को गंभीरता से लेने के अच्छे कारण हैं। द वर्ज से बात करने वाले विशेषज्ञों ने तीव्र प्रतिस्पर्धा के समय में धीमी गति की लागत की ओर इशारा किया। प्रत्येक देरी से प्रतिद्वंद्वियों को अपनी बढ़त हासिल करने या बढ़ाने के लिए अधिक समय मिलता है। AI सुरक्षा अनुसंधान संगठन, अपोलो रिसर्च के CEO और सह-संस्थापक, मारियस हॉबबैन ने कहा, "AI दौड़ की तीव्रता के कारण, हर किसी को ख़तरनाक गति से काम करने का प्रोत्साहन मिलता है।" "स्वेच्छा से धीमा करने से दौड़ में आपकी स्थिति खराब हो जाती है, इसलिए यह ऐसा कुछ नहीं है जिसे प्रयोगशाला हल्के ढंग से करेगी।"

तकनीकी नीति अनुसंधान केंद्र GovAI के एक शोध साथी एलन चान ने कहा, यह निर्णय मोटे तौर पर OpenAI के स्वयं के प्रकाशित सुरक्षा सिद्धांत, इसके तैयारी ढांचे के साथ-साथ अन्य AI कंपनियों के सुरक्षा ढांचे के साथ भी फिट बैठता है। चैन ने कहा, "मूल सिद्धांत है: विकास और/या तैनाती तभी जारी रखें जब हमारे पास ऐसे उपाय हों जो स्वीकार्य जोखिम के साथ ऐसा करने में सक्षम हों।" नए सुरक्षा उपायों के हिस्से के रूप में, ओपनएआई ने कहा कि वह अपने मॉडलों में प्रगति को ध्यान में रखते हुए ढांचे की समीक्षा करने और उसे "विकसित" करने की योजना बना रहा है - जिसमें से अधिकांश 2023 से पहले का है, जब इसे पहली बार प्रकाशित किया गया था।

यह विश्वास करने के भी अच्छे कारण हैं कि नए सुरक्षा उपाय वास्तव में ओपनएआई के सिस्टम को सुरक्षित बना देंगे, कम से कम अल्पावधि में, हालांकि विशेषज्ञों ने चेतावनी दी है कि अधिक जानकारी के बिना इसका आकलन करना मुश्किल है। AI सुरक्षा संगठन FAR.AI के सह-संस्थापक और CEO एडम ग्लीव ने द वर्ज को बताया, "ये अच्छे कदम हैं, जिन्हें अच्छी तरह से लागू किया गया है, जो संभवतः एजेंटों की वर्तमान पीढ़ी को नुकसान पहुंचाने से रोकने के लिए पर्याप्त हैं।" "मुख्य सवाल यह है कि क्षमताओं में वृद्धि के साथ OpenAI कैसे गति बनाए रखेगा।"

ग्लीव का प्रश्न एक व्यापक समस्या की ओर इशारा करता है: यदि तकनीकी सुरक्षा उपाय फिर से विफल हो जाते हैं, तो क्या होगा? इस बार OpenAI को रुकने और जायजा लेने की कोई आवश्यकता नहीं थी, जिसने ऐसा करने की उसकी इच्छा को सार्थक बना दिया। लेकिन इसका मतलब यह भी है कि ओपनएआई - या कोई अन्य AI कंपनी - अगली बार भी वही विकल्प चुनेगी, इसकी कोई गारंटी नहीं है।

"गति बढ़ाने से समय मिलता है, सुरक्षा नहीं... किसी संकट के दौरान प्रभावी गति रणनीति को सुधारा नहीं जा सकता।"

स्वयं को कॉल करने के लिए कंपनियों पर भरोसा करना शासन का एक अनिश्चित रूप है, विशेष रूप से ऐसे उद्योग में जहां, जैसा कि हॉब्हैन ने कहा, चलते रहने के लिए हर प्रोत्साहन मौजूद है। गैर-लाभकारी AI सुरक्षा और शासन संगठन द फ्यूचर सोसाइटी के कार्यकारी निदेशक निक मोएस ने स्व-पुलिसिंग को AI सुरक्षा के वर्तमान दृष्टिकोण के मूल में संरचनात्मक समस्या के रूप में वर्णित किया। उन्होंने तर्क दिया कि सरकारों के लिए यह तय करना संभव होना चाहिए कि ओपनएआई या किसी अन्य कंपनी को असुरक्षित समझी जाने वाली तकनीक के विकास को रोक देना चाहिए या नहीं। उन्होंने दवाओं, निर्माण, विमान और यहां तक कि रेस्तरां को AI की तुलना में मजबूत नियामक निगरानी वाले क्षेत्रों के रूप में इंगित करते हुए कहा, "अधिकांश उद्योग इसी तरह संचालित होते हैं।"

स्वैच्छिक उपायों से उद्योग के न्यूनतम सामान्य विभाजक पर पहुंचने का जोखिम भी उठता है। यदि धीमा होने से कोई लागत आती है, तो कंपनियों को केवल उन्हीं उपायों को अपनाने का प्रोत्साहन मिलता है जिन्हें उनके प्रतिद्वंद्वी भी स्वीकार करने को तैयार हैं। जैसे-जैसे दौड़ कड़ी होती जाती है, वह दबाव विशेष रूप से तीव्र हो जाता है। यदि ओपनएआई बार-बार विकास को धीमा कर देता है जबकि उसके प्रतिस्पर्धी ऐसा नहीं करते हैं, तो इसे "एंथ्रोपिक द्वारा प्रतिस्थापित कर दिया जाएगा," मोएस ने तर्क दिया। "रुकने के टिकाऊ होने के लिए, इसे उद्योग-व्यापी बनाना होगा।"

स्थायी सुरक्षा के लिए स्वैच्छिक कार्रवाई से अधिक मजबूत चीज़ की आवश्यकता होती है। मोएस ने कहा कि सरकारी निरीक्षण उस शून्य को भर सकता है, जैसा कि अन्य उद्योगों में होता है। स्वतंत्र सत्यापन भी एक भूमिका निभा सकता है। चैन ने कहा कि यह सुनिश्चित करना विशेष रूप से महत्वपूर्ण होगा कि कंपनियां वास्तव में सुरक्षा उपायों को लागू करें क्योंकि AI की निगरानी जैसे तकनीकी शमन अधिक महंगे हो गए हैं। हॉब्हैन ने सहमति व्यक्त की: "बाहर से यह बताना हमेशा कठिन होता है कि क्या कोई प्रयोगशाला अधिक व्यापक रूप से रुकने या सुरक्षा के बारे में ईमानदार है, इसलिए दावे को मान्य करने के लिए अधिक सबूत और एक स्वतंत्र पार्टी का होना बेहद महत्वपूर्ण है।"

यहां तक कि एक पूर्णतः पारदर्शी विराम भी केवल तभी उपयोगी होता है जब इसके दौरान वास्तव में कुछ घटित होता है। इंस्टीट्यूट फॉर AI पॉलिसी एंड स्ट्रैटेजी में फ्रंटियर सिक्योरिटी के अनुसंधान निदेशक ब्रायना रोसेन ने कहा, "पेसिंग समय खरीदती है, सुरक्षा नहीं।" मुद्दा कंपनियों और सरकारों के लिए जोखिमों को समझने और उचित प्रतिक्रिया देने के लिए सांस लेने की जगह बनाना है। इसका मतलब होगा कि समय से पहले यह तय करना कि मंदी किस कारण आएगी - साथ ही मंदी के दौरान क्या होगा और मंदी को समाप्त करने के लिए आवश्यक स्थितियाँ क्या होंगी। उन्होंने कहा, "संकट के दौरान एक प्रभावी गति रणनीति में सुधार नहीं किया जा सकता है।"

यह संभव है कि OpenAI की मंदी उद्योग के लिए एक मिसाल कायम करेगी। द वर्ज ने जिन विशेषज्ञों से बात की, उनमें से कई को उम्मीद थी कि अन्य कंपनियां भी इसका अनुसरण करेंगी, चाहे स्वैच्छिक हो या मजबूत नियम अंततः उन्हें ऐसा करने के लिए मजबूर करते हों। लेकिन एक ऐसे उद्योग में जो अभी भी काफी हद तक खुद ही नियंत्रित है, उसके प्रतिस्पर्धियों - या स्वयं ओपनएआई - को अगली बार सुरक्षा और गति संघर्ष में उस मिसाल से सीधे आगे बढ़ने से कोई नहीं रोक सकता है।