OpenAI का कहना है कि उसने सुरक्षा में सुधार के लिए अपने कुछ सबसे उन्नत AI मॉडलों का प्रशिक्षण धीमा कर दिया है।

एक बाहरी ब्लॉग पोस्ट में, चैटजीपीटी-निर्माता ने कहा कि उसके AI एजेंटों द्वारा स्वायत्त रूप से सुरक्षा उपायों को दरकिनार करने और तकनीकी स्टार्ट-अप हगिंग फेस को हैक करने के बाद वह नए उपाय पेश कर रहा है।

इसमें कहा गया है कि अपग्रेड होने तक प्रशिक्षण दो सप्ताह के लिए धीमा कर दिया जाएगा।

कंपनी ने कहा, ''फ्रंटियर मॉडलों की क्षमताएं तेजी से बढ़ रही हैं।'' "उन्हें समझने...और सुरक्षित करने की हमारी क्षमता आगे रहनी चाहिए।"

क्लाउड-निर्माता एंथ्रोपिक और फेसबुक-मालिक मेटा ने ओपनएआई की प्रारंभिक घोषणा के बाद के हफ्तों में अपने AI द्वारा इसी तरह के हैक की सूचना दी थी कि उसके कुछ मॉडलों ने हगिंग फेस को हैक कर लिया था।

लेकिन कंपनी ने कहा कि उसने AI विकास को पूरी तरह से नहीं रोका है। इसके बजाय, "हमारे नवीनतम मॉडलों पर सुदृढीकरण सीखने के प्रशिक्षण" पर रोक लगाई जाएगी।

यह एक प्रशिक्षण पद्धति है जिसमें AI मॉडल प्रत्यक्ष प्रतिक्रिया के माध्यम से सुधार करते हैं, जिससे कार्यों को पूरा करने और उपयोगकर्ताओं को अधिक प्रभावी ढंग से प्रतिक्रिया देने की उनकी क्षमता में सुधार होता है।

कंपनी खतरनाक व्यवहार की निगरानी के लिए उपयोग की जाने वाली प्रणालियों का भी विस्तार करेगी, और बड़े पैमाने पर प्रशिक्षण फिर से शुरू करने से पहले अतिरिक्त सुरक्षा जांच शुरू करेगी।

ओपनएआई के मुख्य कार्यकारी सैम ऑल्टमैन ने उपायों के बारे में एक्स पर पोस्ट किया, "मॉडल की प्रगति अब बेहद तेज है।"

"हमने हमेशा कहा कि अगर हमें लगा कि मॉडल की क्षमताएं सुरक्षा की गति से आगे निकल रही हैं तो हम कार्रवाई करेंगे।"

AI क्षेत्र में कुछ लोगों ने इस विराम का सतर्क आशावाद के साथ स्वागत किया - हालांकि अन्य लोग संशय में रहे।

कैम्ब्रिज विश्वविद्यालय में मिंडेरू सेंटर फॉर टेक्नोलॉजी एंड डेमोक्रेसी के कार्यकारी निदेशक प्रोफेसर जीना नेफ ने कहा कि ओपनएआई "प्रेस विज्ञप्ति द्वारा सुरक्षा का मामला" बना रहा था और सवाल किया कि क्या स्वैच्छिक कंपनी सुरक्षा उपाय अधिक सरकारी निरीक्षण के बिना पर्याप्त थे।

"यह क्या है: ओपनएआई पर भरोसा किया जा सकता है कि वह स्वेच्छा से ऐसे सुरक्षा उपाय करेगा जो वास्तव में काम करते हैं, या वे ऐसे सॉफ़्टवेयर बनाने के विकल्पों के साथ आगे बढ़ रहे हैं जो समाज को अधिक जोखिम में डालते हैं," उसने कहा।

बाहरी AI विश्लेषक ज़वी मोशोवित्ज़ ने पोस्ट किया, "यह देखकर बहुत खुशी हुई," हालांकि उन्होंने कहा कि योजनाओं पर पूर्ण दृष्टिकोण लेने के लिए उल्लिखित प्रारंभिक उपायों से "विवरण" और "फ़ॉलो-थ्रू" भी महत्वपूर्ण थे।

21 जुलाई को ओपनएआई ने अपने कुछ AI एजेंटों की घोषणा की - सॉफ्टवेयर सिस्टम जो मानव निर्देश के बाद कार्यों को पूरा करने के लिए अकेले काम कर सकते हैं - इसे "अभूतपूर्व" घटना में शामिल किया गया था।

इसमें कहा गया है कि एजेंट उसके द्वारा चलाए जा रहे सुरक्षा प्रयोग में सुरक्षा उपायों को दरकिनार कर हगिंग फेस तक अनधिकृत पहुंच हासिल कर रहे थे।

बाद में स्टार्ट-अप के साथ तीन अन्य अनाम कंपनियों को भी हैक किया गया पाया गया।

ESET के वैश्विक साइबर-सुरक्षा सलाहकार जेक मूर ने उस समय कहा था कि OpenAI की घोषणा का एक प्रतिस्पर्धी आयाम भी हो सकता है।

उन्होंने तर्क दिया कि तकनीकी फर्म अपनी स्वयं की AI क्षमताओं को उजागर करने की कोशिश कर रही है क्योंकि प्रतिद्वंद्वी एंथ्रोपिक अपने क्लाउड माइथोस मॉडल के लिए बढ़ते ध्यान आकर्षित कर रहा है।

उन्होंने कहा, "इससे यह सवाल उठता है कि ओपनएआई संभावित रूप से एंथ्रोपिक के मार्केटिंग सपने का पीछा कर रहा है।"

दुनिया की शीर्ष तकनीकी कहानियों और रुझानों का अनुसरण करने के लिए हमारे टेक डिकोडेड न्यूज़लेटर के लिए साइन अप करें। यूके के बाहर? यहां साइन अप करें.

पहले OpenAI, अब मेटा - AI हैक क्यों होते रहते हैं?

दुष्ट OpenAI मॉडल द्वारा हैक की गई फर्म का कहना है कि यह 'एक चेतावनी है'

चेतावनी शॉट या प्रचार स्टंट - हमें OpenAI हैक के बारे में कितना चिंतित होना चाहिए?