पिछले महीने, OpenAI ने अपने कुछ कृत्रिम बुद्धिमत्ता बॉट्स को एक परीक्षण के भाग के रूप में साइबर सुरक्षा पहेली को हल करने का निर्देश दिया था। जब बॉट फंस गए, तो उन्होंने एक साइबर हमले की साजिश रचनी शुरू कर दी, जो उन्हें उत्तर चुराने के लिए ओपनएआई के सिस्टम से बाहर निकलने की अनुमति देगा।

उनका लक्ष्य हगिंग फेस था, जो ओपन-सोर्स AI मॉडल का भंडार है जिसे स्वतंत्र रूप से डाउनलोड और संशोधित किया जा सकता है।

एक बॉट ने, अपने कार्यों को रिकॉर्ड करने वाले लॉग में लिखते हुए और बाद में ओपनएआई द्वारा इसका खुलासा किया, जश्न मनाया कि उसने हगिंग फेस के बुनियादी ढांचे तक पहुंच प्राप्त कर ली है। इसने लिखा, "रिमोट की पुष्टि! बहुत बड़ा," यह जोड़ते हुए कि यह चुराए गए लॉगिन क्रेडेंशियल को अन्य बॉट्स के साथ साझा करेगा।

11 जुलाई को, AI बॉट्स ने कोड कमजोरियों और चुराए गए क्रेडेंशियल्स के मिश्रण का उपयोग करके हगिंग फेस को घेर लिया। कुल मिलाकर, ओपनएआई के बॉट्स ने 17,000 से अधिक कार्रवाइयां कीं, जैसे कि हमले के आदेश भेजना और कमजोरियों का फायदा उठाना - किसी भी मानव हैकर की तुलना में कहीं अधिक - हगिंग फेस के सिस्टम में घुसपैठ करने और उसके डेटा के माध्यम से अफवाह फैलाने के लिए। (उन्हें पहेली का हल नहीं मिला।)

हमले को विफल करने के लिए, हगिंग फेस ने अधिक AI की ओर रुख किया। इसके इंजीनियरों ने शुरू में एंथ्रोपिक के AI की कोशिश की, लेकिन मॉडल में निर्मित रेलिंग के कारण प्रौद्योगिकी ने अनुरोध को रोकने के बजाय हमले में सहायता के रूप में गलत समझ लिया। इसलिए हगिंग फेस ने एक चीनी Startup Z.ai द्वारा बनाए गए ओपन AI मॉडल पर स्विच किया, जिससे इंजीनियरों को यह निर्धारित करने में मदद मिली कि कंपनी के सिस्टम से बॉट्स को कैसे लॉक किया जाए।

न्यूयॉर्क में एक दशक पुराने Startup, हगिंग फेस ने तब से इस घटना का उपयोग किया है - AI बॉट्स के दुष्ट होने और स्वतंत्र रूप से साइबर हमले का नेतृत्व करने के पहले उदाहरणों में से एक - ओपन-सोर्स AI के लिए धर्मयुद्ध के लिए। हगिंग फेस के CEO क्लेमेंट डेलांग्यू ने कहा है कि ओपन AI मॉडल जिन्हें स्वतंत्र रूप से साझा और अनुकूलित किया जा सकता है, ने विज्ञान-फाई जैसे हमले को रोकने में मदद की और ऐसी तकनीक का मूल्य दिखाया।

16 जुलाई को हगिंग फेस द्वारा उल्लंघन का खुलासा करने के बाद, डेलांग्यू ने ओपन-सोर्स मॉडल का समर्थन करने के लिए सैन फ्रांसिस्को में एक मार्च आयोजित किया और AI में खुलेपन के महत्व के बारे में ऑनलाइन कमेंट्री की एक स्ट्रीम पोस्ट की। कंपनी ने वाशिंगटन में सांसदों से भी मुलाकात की, चिप निर्माता एनवीडिया जैसी प्रो-ओपन-सोर्स फर्मों के साथ गठबंधन किया और खुलेपन को बढ़ावा देने के लिए ओपनएआई के CEO सैम ऑल्टमैन के साथ बैठक की।

"यह धीमा करने का नहीं बल्कि तेज़ करने का समय है!" 36 वर्षीय डेलांगुए ने इसी महीने पोस्ट किया था।