ओपनएआई से जुड़े AI एजेंट द्वारा मूल्यांकन के दौरान एक अन्य AI Startup, हगिंग फेस में सेंध लगाने के कुछ हफ्ते बाद, सैम ऑल्टमैन के नेतृत्व वाली AI कंपनी ने कहा है कि उसने अपने AI विकास की गति को धीमा कर दिया है। वहीं, चैटजीपीटी निर्माता ने कहा है कि उसने अपने अनुसंधान और प्रशिक्षण प्रणालियों में बदलाव किया है। मंगलवार, 18 अगस्त को, कंपनी ने कहा कि उसने अपने मॉडल परीक्षण को दो सप्ताह के लिए रोक दिया है और वह परीक्षण के दौरान AI एजेंटों की निगरानी के लिए अन्य AI सिस्टम जोड़ रही है।

​इसी तरह, ओपनएआई ने कहा कि उसने एस्ट्रा नाम के अपने अगली पीढ़ी के AI मॉडल पर प्रशिक्षण रोक दिया है, जिससे उसके सबसे बड़े नियोजित प्रशिक्षण कार्यक्रम पर क्षणिक रोक लग गई है। यह विकास महत्वपूर्ण है क्योंकि ओपनएआई पिछले कुछ वर्षों में नए मॉडलों के मूल्यांकन और नए उत्पादों के निर्माण की अपनी प्रक्रिया में तेजी लाने के लिए जाना जाता है, खासकर प्रतिद्वंद्वी प्रयोगशालाओं से बढ़ती प्रतिस्पर्धा के कारण।

ओपनएआई ने कहा कि जैसे-जैसे AI मॉडल अधिक उन्नत और सक्षम होते जाते हैं, उन्हें आंतरिक रूप से विकसित करने और परीक्षण करने से जुड़े जोखिम कई गुना बढ़ जाते हैं। ओपनएआई ने एक ब्लॉग में कहा, "निगरानी, ​​संरेखण और सुरक्षा के लिए हमारे मानकों को उन जोखिमों से आगे रहना चाहिए। हम उन मानकों को पूरा करने के लिए आवश्यक समय लेना चाहते थे, इसलिए हमने स्केलिंग की गति को अस्थायी रूप से धीमा कर दिया।" इसमें तैनाती के लिए इच्छित नवीनतम मॉडलों पर इसके सुदृढीकरण सीखने (आरएल) प्रशिक्षण में दो सप्ताह का ठहराव शामिल है। कंपनी ने यह भी कहा कि उसने अपने अनुसंधान परिवेश को और अधिक सख्त और रेड-टीम बनाया है और अपनी निगरानी प्रणालियों के कवरेज का विस्तार किया है।

कंपनी ने खुलासा किया कि उसका सबसे बड़ा नियोजित फ्रंटियर आरएल रन अभी भी रुका हुआ है क्योंकि यह मॉडल व्यवहार निर्धारित करने के लिए छोटे पैमाने पर प्रशिक्षण और मूल्यांकन करता है, अपने सुरक्षा उपायों को मान्य करता है, और आगे बढ़ने से पहले संरेखण के अधिक सबूत स्थापित करता है।

​ओपनएआई ने यह खुलासा नहीं किया है कि वह प्रस्तावित मंदी को कब शुरू करने की योजना बना रहा है या कब वह मॉडल विकास की अपनी सामान्य गति को फिर से शुरू करने की योजना बना रहा है। एक तकनीकी ब्लॉग, सोर्सेज न्यूज़ के साथ एक साक्षात्कार में, सुरक्षा पर ओपनएआई की प्रमुख मिया ग्लेज़ ने कहा कि कंपनी 'सब कुछ सामान्य होने से बहुत दूर है।

हालिया साइबर सुरक्षा घटनाओं के बाद, ओपनएआई यह सुनिश्चित करने की दिशा में काम कर रहा है कि उसका AI मॉडल मानव निरीक्षण के प्रति उत्तरदायी है और संरेखण के सिद्धांतों के अनुसार इच्छित व्यवहार करेगा, जो यह सुनिश्चित करने का अभ्यास है कि AI मानवीय मूल्यों, नियमों और लक्ष्यों के साथ संरेखित हो।

​"हमने यह सुनिश्चित करने के लिए कुछ फ्रंटियर आरएल प्रशिक्षण को रोक दिया है कि हम अपने सामने क्षमताओं के नए स्तर के लिए उचित संरेखण, सुरक्षा और निगरानी मानकों को पूरा कर सकें," ओपनएआई के CEO सैम अल्टमैन ने एक्स पर एक पोस्ट में लिखा है कि मॉडल की प्रगति अब बेहद तेज है, और कंपनी ने कहा है कि अगर उसे लगेगा कि मॉडल क्षमताएं सुरक्षा और संरेखण की गति से आगे निकल रही हैं तो वह कार्रवाई करेगी।

​ओपनएआई की प्रतिबद्धता पर जोर देते हुए, ऑल्टमैन ने कहा कि कंपनी 'AI सुरक्षा के बारे में बहुत गहराई से' परवाह करती है। "हमारा मानना ​​है कि पूरे क्षेत्र को साझा सुरक्षा मानकों पर समन्वय करना होगा, लेकिन इस बीच एकतरफा कार्य करेंगे," ऑल्टमैन ने कहा कि उन्हें उम्मीद है कि सुरक्षा में विश्वास AI प्रगति की गति को तेजी से निर्धारित करेगा। CEO ने कहा कि ओपनएआई अपने द्वारा किए जा रहे संरेखण कार्य के बारे में आशावादी है, और यह सुनिश्चित करने के लिए प्रतिबद्ध है कि सीमांत क्षमताएं व्यापक रूप से उपलब्ध रहें।