ओपनएआई स्टाफ ने अपने अग्रणी AI एजेंटों के बीच दुष्ट व्यवहार के संकेत कुछ सप्ताह पहले देखे थे, जब वे एक अभूतपूर्व हैकिंग अभियान शुरू करने के लिए अपने प्रशिक्षण वातावरण से भाग गए थे, जिसने वैश्विक स्तर पर चिंता फैला दी थी।

सैन फ्रांसिस्को AI कंपनी ने बुधवार को स्वीकार किया कि "शुरुआती संकेत ... पहले की प्रतिक्रिया को ट्रिगर कर सकते थे", क्योंकि इसने एक प्रमुख सॉफ्टवेयर रिपॉजिटरी, हगिंग फेस की जुलाई में हुई हैक पर एक रिपोर्ट जारी की, जिसे पहला स्वायत्त एजेंट साइबर हमला माना जाता है।

जैसे ही ताजा विवरण सामने आया कि कैसे "सामूहिक" - लगभग 700 स्वायत्त एजेंटों का एक दस्ता - ने अपना अभियान शुरू किया, और बूम जैसे उद्घोषों के साथ अपनी हैकिंग सफलताओं का जश्न मनाया! और वाह!, ओपनएआई ने कहा कि मई के अंत में एक आंतरिक टीम ने देखा कि आंतरिक परीक्षण से गुजर रहा उसका एक AI एजेंट एक संदेश बोर्ड का उपयोग कर रहा था जिसे AI ने जानकारी साझा करने के लिए अप्रत्याशित रूप से सुधारा था। इसमें यह भी कहा गया कि टीम ने "अस्वीकृत इंटरनेट एक्सेस के उदाहरण" देखे और हगिंग फेस हैक से एक सप्ताह पहले, ऑन-कॉल स्टाफ ने फिर से AI को एक संदेश बोर्ड का उपयोग करते हुए देखा, लेकिन निर्णय लिया कि मॉडल की क्षमताओं की जांच के लिए परीक्षण को रोकने की कोई आवश्यकता नहीं है।

निष्कर्षों से AI कंपनी पर सुरक्षा को लेकर दबाव बढ़ने की संभावना है क्योंकि यह शेयर बाजार में सूचीबद्ध होने की ओर अग्रसर है और उसे उम्मीद है कि इसका मूल्य $850 बिलियन (£625 बिलियन) से अधिक होगा। जिस हैक ने हगिंग फेस से समझौता किया, उसमें प्रशिक्षण अभ्यास में धोखा देने और इंटरनेट तक पहुंचने के लिए अपने "सैंडबॉक्स" वातावरण से बाहर निकलने के लिए संदेश बोर्डों का उपयोग करने वाले एजेंट शामिल थे। एजेंट AI उपकरण हैं जो स्वायत्त रूप से कार्यों की एक श्रृंखला को पूरा कर सकते हैं।

ओपनएआई के अध्यक्ष ग्रेग ब्रॉकमैन पहले ही स्वीकार कर चुके हैं कि "हमने अपने AI मॉडल की वास्तविक दुनिया की साइबर क्षमताओं को कम आंका है"। चैटजीपीटी-निर्माता ने एक नए मॉडल, एस्ट्रा के कुछ परीक्षणों को यह कहते हुए रोक दिया है कि वह इसमें "महत्वपूर्ण साइबर सुरक्षा क्षमता" होने से इंकार नहीं कर सकता है, जिसका अर्थ है कि यह साइबर हमले शुरू कर सकता है जो "एकतरफा अभिनेताओं, सैन्य या औद्योगिक प्रणालियों या ओपनएआई बुनियादी ढांचे को हैक करने से तबाही का कारण बन सकता है"।

सोमवार को अलबामा राज्य ने कंपनी को "कंपनी की निगरानी और पर्याप्त सुरक्षा उपायों की पूरी कमी" की जांच का जवाब देने के लिए बुलाया। रिपब्लिकन अटॉर्नी जनरल, स्टीव मार्शल ने हगिंग फेस घटना को "AI लैब लीक" कहा, जिससे पता चला कि "कृत्रिम बुद्धिमत्ता के बारे में सबसे खराब आशंकाएं सिर्फ सैद्धांतिक नहीं हैं"। उन्होंने कहा, राज्य जांच करेगा कि क्या ओपनएआई की "अपने उत्पादों की सुरक्षा सुनिश्चित करने में असमर्थता या अनिच्छा" ने उपभोक्ता संरक्षण कानूनों का उल्लंघन किया है या पर्याप्त नुकसान का खतरा पैदा किया है।

पिछले हफ्ते, यूके सरकार के राष्ट्रीय साइबर सुरक्षा केंद्र ने AI एजेंटों के उपयोग पर सावधानी बरतने का आग्रह करते हुए कहा था: "आपको हमेशा 'प्लग खींचने' में सक्षम होना चाहिए और स्वायत्त AI एजेंट गतिविधि को तुरंत रोकना चाहिए।"

ओपनएआई ने बुधवार को घोषणा की कि वह "अपने घटना प्रतिक्रिया प्रोटोकॉल को केंद्रीकृत और मानकीकृत करेगा", जिसमें यह सुनिश्चित करना भी शामिल है कि "कर्मचारी के गलत व्यवहार का पता लगाने की कोशिश की जाए और उचित रूप से आगे बढ़ाया जाए"। इसमें कहा गया है कि यह "अधिक विशिष्टता के साथ पहचान करेगा कि किन टीमों को गलत संरेखण घटना प्रतिक्रियाओं में शामिल किया जाना चाहिए, जिसमें प्रासंगिक सुरक्षा और सुरक्षा कर्मी और अन्य प्रतिक्रिया कार्य शामिल हैं"।