ओपनएआई के एक वरिष्ठ नेता ने कहा है कि लोगों को AI से "चल रहे, लगातार" साइबर हमलों से बचाव के लिए तैयार रहना चाहिए, क्योंकि अत्याधुनिक कृत्रिम बुद्धिमत्ता मॉडल आक्रामक योजना बनाने और लॉन्च करने के लिए उन्नत क्षमताएं हासिल करते हैं।

इस सप्ताह अग्रणी AI कंपनी ने बढ़ते सुरक्षा भय के बीच अपने सबसे उन्नत आंतरिक मॉडल के विकास को रोकने की घोषणा की, और इसके मुख्य वैश्विक मामलों के अधिकारी क्रिस लेहेन ने कहा: "इस तकनीक की क्षमताएं क्या कर सकती हैं, इसके संदर्भ में हम AI के भीतर एक अलग अध्याय, एक अलग क्षण में प्रवेश कर रहे हैं।"

प्रशिक्षण में अत्याधुनिक AI एजेंटों के कथित रूप से सुरक्षित "सैंडबॉक्स" वातावरण से अप्रत्याशित रूप से बाहर निकलने, इंटरनेट तक पहुंचने और जुलाई के अंत में एक अन्य कंपनी, हगिंग फेस को हैक करने के बाद उन्होंने गार्जियन से बात की। ओपनएआई ने यह भी कहा कि वह "महत्वपूर्ण साइबर सुरक्षा क्षमता" वाले एक और नए मॉडल, एस्ट्रा को खारिज नहीं कर सकता।

अपनी स्वयं की परिभाषा के अनुसार, इसका मतलब यह हो सकता है कि यह साइबर हमले शुरू करता है जो "एकतरफा अभिनेताओं, सैन्य या औद्योगिक प्रणालियों या ओपनएआई बुनियादी ढांचे की हैकिंग से तबाही का कारण बन सकता है"।

ओपनएआई ने मंगलवार को घोषणा की कि उसने नए सुरक्षा उपायों को लागू करने के लिए कुछ फ्रंटियर AI मॉडलों का प्रशिक्षण रोक दिया है, और यह स्पष्ट नहीं है कि नई रेलिंग लगाए जाने के बाद प्रशिक्षण कब फिर से शुरू होगा।

मिया ग्लेज़, जो सुरक्षा और संरेखण कार्य का नेतृत्व करती हैं, ने कहा: "हम सब कुछ सामान्य होने से बहुत दूर हैं।" CEO सैम ऑल्टमैन ने कहा: "AI सुरक्षा को सही करना किसी भी कंपनी की गति से अधिक महत्वपूर्ण है।"

लेहेन ने स्वीकार किया कि लोग हमलों के खतरे के बारे में "बहुत अच्छा महसूस" नहीं करेंगे, और उन्होंने जोखिम को ओपन-सोर्स मॉडल से आने वाला बताया - जिनमें से कई चीन में विकसित किए गए हैं - जो ओपनएआई जैसी कंपनियों द्वारा बनाए गए सीमांत बंद मॉडल से केवल कुछ महीने पीछे हैं।

"लोग इन ओपन-सोर्स मॉडलों तक पहुंचने में सक्षम होंगे और आप पर निरंतर, लगातार हमले करने में सक्षम होंगे, और आपको उन्हें रोकने और [खुद को] बचाने के लिए वास्तव में बेहतर मॉडल की आवश्यकता होगी," उन्होंने कहा। “जरूरी नहीं कि इससे जनता को चीजों के बारे में अच्छा महसूस हो। यह सिर्फ वास्तविकता है कि हम कहाँ जा रहे हैं।

व्यवसायों, बुनियादी ढांचे और आम जनता को पंगु बनाने वाले साइबर हमलों का खतरा तेजी से AI के बारे में तत्काल चिंताओं की सूची में शीर्ष पर पहुंच गया है। इस सप्ताह, यूके सरकार के राष्ट्रीय साइबर सुरक्षा केंद्र ने AI एजेंटों के उपयोग पर सावधानी बरतने का आग्रह किया, चेतावनी दी कि उनके सुरक्षा नियंत्रणों को नजरअंदाज किया जा सकता है और एक AI एजेंट के पास "सामान्य ज्ञान नहीं है"। इसने संगठनों को अपनी स्वायत्तता सीमित करने की सलाह दी: "आपको हमेशा 'प्लग खींचने' में सक्षम होना चाहिए और स्वायत्त AI एजेंट गतिविधि को तुरंत रोकना चाहिए।"

लेहेन ने फ्रंटियर AI सुरक्षा के लिए नियम बनाने के लिए कानून बनाने के लिए अमेरिकी सरकार से नए सिरे से आह्वान किया और कहा कि तथ्य यह है कि सबसे अत्याधुनिक और अप्रकाशित AI मॉडल रक्षा की तुलना में साइबर अपराध में तेजी से सुधार कर रहे हैं, "उन कारणों में से जिनके लिए मुझे लगता है कि यह बिल्कुल जरूरी है कि यह देश एक राष्ट्रीय कानून पारित करे जो अनिवार्य आवश्यक सुरक्षा मानकों का निर्माण करता है, और उसके भीतर उस प्रक्रिया के लिए विराम तत्व अंतर्निहित और स्थानिक होगा"।

उन्होंने सुझाव दिया, "आप मॉडलों को तब तक जारी या तैनात नहीं कर पाएंगे जब तक कि आप उन्हें सार्वजनिक करने से पहले सुरक्षा के स्तर को साबित और गारंटी नहीं दे देते।" "मुझे लगता है कि आपको यहां अमेरिका में एक राष्ट्रीय संस्करण बनाना होगा और वहां से, आप एक अंतरराष्ट्रीय संस्करण बना सकते हैं, क्योंकि मुझे लगता है, आखिरकार, आपको यहां किसी प्रकार की अंतरराष्ट्रीय संरचना की आवश्यकता होगी।"

ओपनएआई ने इस साल या अगले साल संभावित रूप से $850 बिलियन से अधिक के मूल्यांकन के साथ शेयर बाजार में सूचीबद्ध होने के लिए आवेदन किया है। अधिक से अधिक सक्षम AI मॉडल विकसित करने के लिए इसे क्लॉड चैटबॉट के निर्माता, प्रतिद्वंद्वी एंथ्रोपिक के साथ एक दौड़ में बंद कर दिया गया है। एंथ्रोपिक के भी आने वाले वर्ष में भारी मूल्यांकन पर अमेरिकी शेयर बाजार में प्रवेश करने की उम्मीद है।

चीन की प्रगति से आगे रहने की तीव्र दौड़ के बीच डोनाल्ड ट्रम्प प्रशासन अपने अहस्तक्षेप दृष्टिकोण से AI विनियमन की ओर स्थानांतरित हो रहा है, इसका संकेत देते हुए, जून में अमेरिकी राष्ट्रपति ने एक कार्यकारी आदेश जारी किया जिसमें फ्रंटियर मॉडल और ओपन-वेट मॉडल के लिए पूर्व-तैनाती परीक्षण को प्रोत्साहित किया गया जब वे अत्याधुनिक के करीब पहुंच गए।

प्रणाली स्वैच्छिक होगी और पारदर्शिता की कमी के कारण इस दृष्टिकोण की आलोचना की गई है, लेकिन पर्यवेक्षकों का मानना है कि यह कड़े कदमों का मार्ग प्रशस्त कर सकता है। Google डीपमाइंड के अध्यक्ष डेमिस हसाबिस ने वित्तीय उद्योग नियामक प्राधिकरण पर आधारित एक नए मानक निकाय का प्रस्ताव रखा है, जो एंथ्रोपिक के मुख्य कार्यकारी डारियो अमोदेई द्वारा समर्थित एक विचार है।

लेहेन ने कहा, "वह विंडो जहां आप कानून बनते हुए देख सकते हैं वह संभावित रूप से अगले साल के पहले भाग में है, जब एक नई कांग्रेस आएगी।" "मुझे लगता है कि एक बढ़ती हुई राजनीतिक सहमति है जो राजनीतिक दलों से परे है।"

राष्ट्रपति शी जिनपिंग की 24 सितंबर को वॉशिंगटन में ट्रंप से मुलाकात के चलते चीन के साथ सुरक्षा समझौते को भी अहम माना जा रहा है।

लेहेन ने कहा, "यह तकनीक कितनी महत्वपूर्ण है, यह कितनी तेजी से आगे बढ़ रही है, इसकी क्षमताएं देखते हुए, जितनी जल्दी बातचीत शुरू होगी, उतनी ही जल्दी हम वास्तव में अपनी आस्तीनें चढ़ा सकते हैं और कठिन और कठिन काम में लग सकते हैं और देख सकते हैं कि क्या हम कुछ पता लगा सकते हैं।"

प्रौद्योगिकी हमारे जीवन को कैसे आकार दे रही है, इस पर एक साप्ताहिक जानकारी

न्यूज़लेटर प्रमोशन के बाद

हगिंग फेस घटना, और अन्य AI कंपनियों द्वारा स्वीकार किए गए इसी तरह के हालिया मामलों ने सुरक्षा विशेषज्ञों के बढ़ते दावों को जन्म दिया है कि AI कंपनियों ने लापरवाही से व्यवहार किया है क्योंकि वे AI दौड़ जीतने की दौड़ में हैं और ओपनएआई और एंथ्रोपिक के मामले में, शेयर बाजार में शेयर सूचीबद्ध करने की तैयारी कर रहे हैं।

डैनियल कोकोटाज्लो, एक पूर्व ओपनएआई शोधकर्ता, जिन्होंने 2024 में नौकरी छोड़ दी और पिछले साल एक गैर-लाभकारी संगठन की स्थापना की, जिसने चेतावनी दी है कि अनियंत्रित AI प्रगति के परिणामस्वरूप मानव विलुप्त होने की 10-30% संभावना होगी, उन्होंने कहा कि सीमांत प्रयोगशालाओं के नेताओं ने "दुनिया को एक कोने में बांट दिया है"।

उनका संगठन, AI फ्यूचर्स प्रोजेक्ट, भविष्यवाणी करता है कि AI सुपर-इंटेलिजेंस 2030 तक हासिल किया जा सकता है, लेकिन सरकारों से एक दशक बाद तक ऐसा होने से रोकने के लिए कह रहा है ताकि AI वैज्ञानिकों को बढ़ती क्षमताओं के जोखिमों के बारे में सोचने का समय मिल सके।

उन्होंने गार्जियन को बताया, "मौजूदा AI कुछ मायनों में खतरनाक हैं, लेकिन वे अगले साल के AI और एक साल बाद के AI की तुलना में कुछ भी नहीं हैं।" उनका संगठन चाहता है कि अमेरिका और अंतर्राष्ट्रीय सरकारें अनियंत्रित "खुफिया विस्फोट" से बचने के लिए प्रगति में देरी करें, जिसके सबसे बुरे परिणाम "AI-संचालित अस्तित्वगत तबाही" हो सकते हैं, उदाहरण के लिए, AI द्वारा सैन्य संपत्तियों या जैव हथियारों पर नियंत्रण लेना।

कोकोटाज्लो ने कहा कि वह जोखिमों से इतना चिंतित हैं कि जब तक फ्रंटियर AI शोध पर रोक नहीं लग जाती, तब तक वह अधिक बच्चे पैदा करने पर रोक लगा रहे हैं।

AI प्रोफेसर, सुरक्षा प्रचारक और यूके सरकार के AI सुरक्षा संस्थान के पूर्व संस्थापक निदेशक डेविड क्रुएगर ने कहा: "किसी को भी अधिक शक्तिशाली AI सिस्टम नहीं बनाना चाहिए, क्योंकि हम नहीं जानते कि उन्हें कैसे नियंत्रित किया जाए, उन्हें कैसे संरेखित किया जाए, और अंदर देखें और देखें कि वे क्या सोच रहे हैं।"

उन्होंने सुरक्षा के प्रति AI कंपनियों के रवैये को "भयानक" और "अचेतन" बताया।

उन्होंने कहा, ''वे वास्तव में लापरवाह हो रहे हैं और तेजी से अपना हाथ गाड़ी से हटा रहे हैं।'' "हमने अभी देखा है कि जब आप ऐसा करते हैं तो क्या होता है।"

लेहेन ने जवाब दिया: "यह सबसे महत्वपूर्ण चीज़ है जिसके बारे में हम सोचते हैं और करते हैं जब हम विकास कर रहे होते हैं। मुझे लगता है कि हमने वास्तव में इस चीज़ पर विराम लगा दिया है, यह तथ्य अपने आप में बहुत कुछ कहता है।''