OpenAI को हाल ही में पता चला कि वह जिस नए कृत्रिम बुद्धिमत्ता मॉडल का परीक्षण कर रहा था वह ख़राब हो गया था और उसने एक अन्य कंपनी को हैक कर लिया था।

एंथ्रोपिक ने तब खुलासा किया कि उसका एक AI मॉडल एक परीक्षण के दौरान तीन बाहरी संगठनों के सिस्टम में टूट गया था।

कुछ ही समय बाद, मेटा ने कहा कि उसके AI मॉडल ने भी कुछ ऐसा ही किया है।

तीनों घटनाओं में एक कंपनी समान थी: इर्रेगुलर, एक इज़राइली Startup जो प्रौद्योगिकी के सार्वजनिक रूप से जारी होने से पहले अपने AI मॉडल का आकलन करने के लिए सिलिकॉन वैली के दिग्गजों के साथ काम करता है। वह फर्म - जिसने ऐसे परीक्षण किए जो गड़बड़ा गए - Startups के एक समूह का हिस्सा है जो अत्याधुनिक AI मॉडलों की परिष्कार का आकलन करने और उनकी सुरक्षा की जांच करने का नया काम कर रहे हैं। लक्ष्य मॉडलों में जनता का विश्वास जगाना और उनका दुरुपयोग होने से रोकना है।

हाल के उल्लंघन तब हुए जब एंथ्रोपिक, ओपनएआई और मेटा के मॉडल के साथ परीक्षणों के दौरान इर्रेगुलर ने एक त्रुटि की। अनियमित CEO डैन लाहव ने कहा, लेकिन AI मॉडल ने शक्तिशाली और अप्रत्याशित तरीकों से कार्य करके स्थितियों को जटिल बना दिया।

उन्होंने कहा, "प्रौद्योगिकी जितनी अधिक शक्तिशाली होगी, इसका प्रभाव उतना ही गहरा होगा।" "प्रगति की दर वास्तव में तेज़ है।"

इर्रेगुलर अब इस बहस के केंद्र में है कि AI मॉडल को कैसे सुरक्षित किया जाए जब तकनीक इतनी तेजी से आगे बढ़ रही है कि इसने सर्वश्रेष्ठ मानव हैकरों को भी पीछे छोड़ दिया है। हर कुछ महीनों में, एंथ्रोपिक, ओपनएआई, गूगल, मेटा और अन्य "फ्रंटियर" मॉडल जारी करते हैं जो अक्सर अपने पूर्ववर्तियों की तुलना में अधिक शक्तिशाली होते हैं।

नए मॉडल "सुपरह्यूमन डोमेन" में आ रहे हैं, कैलिफोर्निया के बर्कले में एक गैर-लाभकारी संस्था पैलिसेड रिसर्च के निदेशक जेफरी लाडिश ने कहा, जो AI की हमले क्षमताओं का अध्ययन करता है। उन्होंने कहा कि मॉडलों का परीक्षण करने के लिए इर्रेगुलर जैसी कंपनियों की आवश्यकता थी, लेकिन परीक्षकों और सरकारी नियामकों दोनों के लिए बेहतर सुरक्षा उपाय आवश्यक थे।