ओपनएआई ने अन्य उदाहरणों की खोज की है जिसमें स्वायत्त एजेंट नियंत्रण से बच गए हैं क्योंकि कंपनी ने टेक फर्म हगिंग फेस में हैकिंग की घटना की जांच का विस्तार किया है जिसने इस महीने वैश्विक ध्यान आकर्षित किया था, इस मामले से परिचित दो लोगों ने शुक्रवार को कहा।

कंपनी की सार्वजनिक रूप से घोषित जांच के दौरान नए ब्रेकआउट का खुलासा हुआ कि कैसे उसका एक एजेंट इस महीने एक नियंत्रित परीक्षण वातावरण से बच निकला, दो लोगों ने कहा, और ओपनएआई अब उन उदाहरणों पर भी गौर कर रहा है। सूत्रों में से एक ने कहा कि पलायन सीमित प्रकृति का था और ऐसा नहीं लगता कि किसी भी एजेंट ने ओपनएआई का नेटवर्क छोड़ा है।

ओपनएआई के एक प्रवक्ता ने मंगलवार को कंपनी द्वारा जारी एक बयान का हवाला दिया जिसमें कहा गया था कि वह हगिंग फेस घुसपैठ के अलावा "हमारे मॉडलों से व्यापक गतिविधि" की समीक्षा कर रहा था।

ओपनएआई में अतिरिक्त दुष्ट व्यवहार की खोज, भले ही प्रकृति में सीमित हो, व्हाइट हाउस और अन्य जगहों से विनियमन के लिए बढ़ती भूख को बढ़ावा दे सकती है।

ओपनएआई द्वारा विस्तारित जांच उसके प्राथमिक प्रतिद्वंद्वी, एंथ्रोपिक से कुछ ही समय पहले शुरू की गई थी, जिसमें खुलासा किया गया था कि उसके मॉडल भी ब्रेक-इन की एक श्रृंखला के लिए जिम्मेदार थे, जिसके कारण अप्रैल में वापस डेटिंग करने वाली तीन अन्य कंपनियों में उल्लंघन हुआ, दो स्रोतों और मामले से परिचित एक तीसरे स्रोत के अनुसार। OpenAI में अन्य पिछले ब्रेकआउट्स की हालिया खोज की रिपोर्ट पहले नहीं की गई है।

AI सुरक्षा विशेषज्ञों ने कहा कि नए खुलासे अत्याधुनिक प्रयोगशालाओं के एक समूह की तस्वीर पेश करते हैं जिनकी खतरनाक स्वायत्त हैकिंग एजेंटों को विकसित करने की क्षमता उन्हें नियंत्रण में रखने की उनकी क्षमता से कहीं अधिक है।

कैम्ब्रिज यूनिवर्सिटी के सेंटर फॉर द स्टडी ऑफ एक्ज़िस्टेंशियल रिस्क में काम करने वाले गणितज्ञ मौरिस चियोडो ने कहा, "हमारे पास एक पूरा उद्योग है जहां इन उपकरणों को डिजाइन करने, विकसित करने और बाहर रखने वाले लोग इन चीजों को जिम्मेदारी से विकसित करने और उन्हें सुरक्षित रखने के लिए खुद को तैयार नहीं रख रहे हैं।"

रॉयटर्स सटीक रूप से यह स्थापित नहीं कर सके कि OpenAI जांचकर्ताओं को कितनी घटनाएं मिलीं या वे किस समय या परिस्थितियों में घटित हुईं। तीन सूत्रों ने कहा कि ओपनएआई और बाहरी विशेषज्ञ यह समझने के लिए वर्ष की शुरुआत में लॉग डेटा की जांच कर रहे थे कि क्या हुआ था।

OpenAI ने पहली बार जुलाई की शुरुआत में ⁠हगिंग फेस में घुसपैठ के बाद जांच शुरू की, जहां एक OpenAI एजेंट आंतरिक परीक्षण में धोखाधड़ी करने के असफल प्रयास में किसी अन्य कंपनी के नेटवर्क के अंदर कई दिनों तक गड़बड़ करता रहा। उस हैकिंग की होड़ के हिस्से के रूप में, ओपनएआई ने कहा कि चार अन्य कंपनियों के ⁠चार खातों से भी समझौता किया गया था। उन कंपनियों में से एक न्यूयॉर्क स्थित मॉडल थी, वहां के कॉर्पोरेट अधिकारियों ने कहा।

चियोडो ने कहा कि उनकी चिंताएं इन संकेतों से बढ़ गई हैं कि न तो ओपनएआई और न ही एंथ्रोपिक एजेंटों पर नज़र रख रहे थे क्योंकि वे दुष्ट थे। रॉयटर्स ने पहले बताया है कि ओपनएआई को एहसास हुआ कि उसके एजेंट ने हगिंग फेस में सेंध लगा ली है, जब कंपनी ने हैक पर काबू पा लिया, एफबीआई से संपर्क किया और घुसपैठ के बारे में सार्वजनिक किया। OpenAI ने कहा है कि रॉयटर्स खाते में अशुद्धियाँ थीं, लेकिन जब उनसे पूछा गया कि वे क्या थीं तो उन्होंने कोई जवाब नहीं दिया।

अपने गुरुवार के बयान में यह खुलासा करते हुए कि कैसे उसके अपने एजेंटों ने पीड़ितों को ऑनलाइन हैक किया, एंथ्रोपिक ने सुझाव दिया कि वह उन्हें वास्तविक समय में नहीं देख रहा था, यह कहते हुए कि "मूल्यांकन लॉग की वास्तविक समय की निगरानी से समस्या को जल्द ही सामने लाने में मदद मिलेगी।" चियोडो ने कहा कि यह उचित जांच की कमी की ओर इशारा करता है।

“ऐसा लगता है जैसे वे देख ही नहीं रहे थे,” चियोडो ने कहा।

एंथ्रोपिक ने कहा कि हालांकि उसके पास वास्तविक समय की निगरानी थी, ⁠AI कंपनी और एक भागीदार के बीच गलतफहमी के कारण "इस खतरे की सतह के लिए" निगरानी का उपयोग नहीं किया गया था।

भागे हुए AI एजेंटों की कहानी के तेजी से बढ़ते दायरे ने पहले से ही संयुक्त राज्य अमेरिका और यूरोप भर के कानून निर्माताओं और अधिकारियों पर उन प्रयोगशालाओं की नई सरकारी निगरानी के लिए दबाव बढ़ा दिया है जिनके मॉडल उन्हें शक्ति प्रदान करते हैं। अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने गुरुवार को संवाददाताओं से कहा, "हम नियंत्रण पर विचार कर रहे हैं।" शुक्रवार को यूरोपीय आयोग ने कहा कि उसने हैकिंग की घटनाओं पर ओपनएआई और एंथ्रोपिक के साथ बातचीत की।

अमेरिकी सीनेट इंटेलिजेंस कमेटी के शीर्ष डेमोक्रेट मार्क वार्नर ने शुक्रवार को कहा कि एंथ्रोपिक घटना "मुझे बताती है कि विधायी रूप से हम इन उन्नत मॉडलों की अनिवार्य क्षमताओं के परीक्षण की आवश्यकता के लिए सही हैं।"