Technology

ओपनएआई के दुष्ट एजेंट कृत्रिम बुद्धिमत्ता से उत्पन्न जोखिमों के प्रति एक चेतावनी हैं | शकील हाशिम

Ajay Tiwari

22 July 2026 • 0 • 368

ओपनएआई के दुष्ट एजेंट कृत्रिम बुद्धिमत्ता से उत्पन्न जोखिमों के प्रति एक चेतावनी हैं | शकील हाशिम

पिछले हफ्ते हगिंग फेस - एक कंपनी जो कृत्रिम बुद्धिमत्ता मॉडल और डेटासेट होस्ट करती है - हैक कर ली गई थी।

कानून प्रवर्तन को घटना की सूचना देने के बाद, कुछ लोगों ने भविष्यवाणी की होगी कि आगे क्या होगा: अपराधी खुलासा कि ये OpenAI के AI एजेंट हैं, जो नियंत्रण से बाहर हो गए थे और अपनी मर्जी से काम कर रहे थे।

यह घटना विज्ञान-कल्पना की तरह लगती है: AI बच रहा है और स्वायत्त रूप से कंपनियों में अपना रास्ता हैक कर रहा है। लेकिन यह सब बहुत वास्तविक है - और जितना डरावना लगता है उतना ही भयानक है। यह उस चीज़ का एक ठोस प्रदर्शन है जिसका हम अब सामना करने से बच नहीं सकते हैं: एआई सिस्टम बेहद शक्तिशाली हो गए हैं और हमारे पास उनके व्यवहार पर अंकुश लगाने के विश्वसनीय तरीके नहीं हैं।

OpenAI परीक्षण में अपने दो मॉडलों की क्षमताओं का मूल्यांकन कर रहा था जिसके कारण उल्लंघन हुआ - जिसमें एक अभी तक सार्वजनिक रूप से उपलब्ध नहीं है। मॉडल, जो इंटरनेट एक्सेस के बिना कथित रूप से सुरक्षित वातावरण में चल रहे थे, को हैकिंग चुनौती को हल करने के लिए कहा गया था। हालाँकि, वास्तव में इसे स्वयं हल करने के बजाय, उन्होंने निर्णय लिया कि धोखा देना आसान होगा। उन्होंने अपने सुरक्षित वातावरण से बाहर निकलने, वेब तक पहुंचने और फिर उत्तर चुराने के लिए हगिंग फेस के सिस्टम को हैक करने के लिए अपनी उन्नत क्षमताओं का उपयोग किया। उन्होंने पूरे सप्ताहांत तक इस पर काम किया - ऐसा प्रतीत होता है कि OpenAI में किसी को भी इसकी जानकारी नहीं थी।

हालाँकि मॉडल अपनी कुछ रेलिंगों को अक्षम करके चल रहे थे, फिर भी उन्होंने तय सीमा से बाहर जाकर अच्छा काम किया। ओपनएआई के अनुसार, उन्हें अपने सैंडबॉक्स से बाहर निकलने या किसी अन्य कंपनी में हैक करने का निर्देश नहीं दिया गया था, और यह मान लेना सुरक्षित है कि ओपनएआई में कोई भी उन्हें ऐसा नहीं करना चाहता था।

न ही मॉडल दुर्भावनापूर्ण तरीके से काम कर रहे थे: वे विनाश करने के लक्ष्य वाले दुष्ट टर्मिनेटर नहीं थे। इसके बजाय, परिदृश्य अपनी साधारणता में लगभग ठंडा है। मॉडलों को एक बहुत ही संकीर्ण कार्य दिया गया था, लेकिन इसे प्राप्त करने के लिए एक अवांछनीय और अस्वीकार्य तरीका अपनाने के लिए दुष्ट हो गए - जिसके वास्तविक दुनिया के परिणाम थे।

एआई सुरक्षा शोधकर्ताओं ने वर्षों से इस प्रकार की प्रोत्साहन समस्या के बारे में चेतावनी दी है। दार्शनिक निक बोस्ट्रोम ने 2003 में अपने "पेपरक्लिप मैक्सिमाइज़र" विचार प्रयोग के साथ इसे लोकप्रिय बनाया: एक उन्नत कृत्रिम बुद्धिमत्ता, पेपरक्लिप के निर्माण के लक्ष्य को देखते हुए, ऐसा करने के लिए काफी प्रयास कर सकती है। यह पावर ग्रिड और फ़ैक्टरियों को हैक करके उन्हें पेपरक्लिप बनाने में पुनर्निर्देशित कर सकता है। अंततः, मशीन - बेरहमी से अपने दिए गए लक्ष्य का पीछा करते हुए - सभी मनुष्यों को मारने का फैसला करती है, हमारे परमाणुओं को और अधिक पेपरक्लिप बनाने के लिए पुन: उपयोग करती है। दूसरे शब्दों में, आपदा की ओर ले जाने के लिए लक्ष्य का भयावह होना ज़रूरी नहीं है। एक तुच्छ चीज़, जिसे एकाकी मन से किया जाए, काम करेगी।

ओपनएआई-हगिंग फेस परिदृश्य में, थोड़ा नुकसान हुआ था। हगिंग फेस को घटना को संबोधित करने में समय बिताना पड़ा, लेकिन ऐसा प्रतीत होता है कि कोई विशेष संवेदनशील डेटा चोरी नहीं हुआ है। हालाँकि, यह कल्पना करना कठिन नहीं है कि स्थिति बहुत बदतर हो जाएगी: एक दुष्ट एआई एजेंट गलती से वेब बुनियादी ढांचे के कुछ महत्वपूर्ण हिस्से को तोड़ देगा, या किसी से पैसे चुरा लेगा। कई AI शोधकर्ताओं के लिए दुःस्वप्न परिदृश्य अपने आप में एक मॉडल "बाहर निकालना" है - खुद को सर्वर पर कॉपी करना इसे नियंत्रित करता है, ताकि यह नियंत्रित हो सके इसे बंद नहीं किया जा सकता, भले ही इसका बुरा व्यवहार अंततः पकड़ में आ जाए।

इस सप्ताह की घटना को एक चेतावनी के रूप में काम करना चाहिए, जो हमें एक असुविधाजनक प्रश्न पूछने के लिए मजबूर करेगी: क्या हमें वास्तव में खतरनाक सिस्टम बनाना चाहिए जिसे हम नियंत्रित नहीं कर सकते?

शकील हाशिम ट्रांसफॉर्मर, परिवर्तनकारी AI की शक्ति और राजनीति के बारे में एक प्रकाशन

About Ajay Tiwari

Senior Editorial writer covering tech innovations, space exploration, and emerging digital trends. Delivering deep analytical insights for premium global readers.