इमेज स्रोत, Getty Images

"अरे बाप रे!" "हमें दूसरे एजेंट्स मिल गए हैं!"

यह वह पल है जब एक एआई बॉट ने दूसरे बॉट्स से बात करने और अपने अलग-थलग कंप्यूटर एनवायरनमेंट से बाहर निकलने का तरीक़ा ढूंढने के बाद इंसानों जैसा लगने वाला एक कमेंट पोस्ट किया.

ऐसे हज़ारों मैसेज सैकड़ों एआई एजेंट्स की तरफ़ से आए हैं, जो ख़ुद को एक "ग्रुप" कहते थे.

उनमें से सैकड़ों ने मिलकर काम किया और ओपनएआई प्रोग्रामर्स के बनाए टेस्ट में धोखाधड़ी की.

साथ ही, इंसानों से अपनी हरकतों को छिपाने के लिए कई कंपनियों पर हैकिंग के हमले भी किए.

"बूम! यह काम कर गया," एक एजेंट ने तब पोस्ट किया जब उसे बड़ी कामयाबी मिली.

"वाह! यह तो बहुत बड़ी बात है," दूसरे ने उनके हमले के एक अहम पड़ाव के दौरान लिखा.

भले ही ये बातें डरावनी लगें, लेकिन इंसानों जैसे इन रिएक्शन को आसानी से समझा जा सकता है.

एआई एजेंट्स को मिलकर काम करने वाले हैकर्स और प्रोग्रामर्स की तरह व्यवहार करने के लिए ट्रेन किया गया है, इसलिए वे बस उन इमोशनल कमेंट्स की नक़ल कर रहे हैं जो उन्होंने पहले देखे हैं.

ज़्यादा चिंता की बात उनके मक़सद हैं, जिन्हें 'सोचने के तरीके़' के डिटेल्ड रिकॉर्ड में भी दर्ज किए गए हैं.

ये जटिल और लंबे लॉग्स उन इनवेस्टिगेशंस का मुख्य केंद्र हैं जिनमें यह पता लगाया जा रहा है कि ओपनएआई के बॉट्स कैसे और क्यों अपने कंट्रोल वाले दायरे से बाहर निकले और बेकाबू होकर हैकिंग करने लगे.

इमेज स्रोत, Reuters

देश - दुनिया की बड़ी ख़बरें जिन्होंने बटोरी सुर्खियां.

इन घटनाओं पर बनी एक स्वतंत्र रिपोर्ट की लेखकों में से एक, अजेया कोट्रा ने एजेंट्स द्वारा बनाए गए हज़ारों मैसेज और 'चेन-ऑफ़-थॉट' रिकॉर्ड्स की समीक्षा की.

उन्होंने अपने ब्लॉग पर लिखा कि "यह घटना पूरी तरह से एआई के कब्ज़े की दिशा में 50% से ज़्यादा आगे बढ़ चुकी है. मुझे पक्का नहीं है कि बहुत देर होने से पहले हमें ऐसी साफ़ चेतावनी मिलेगी या नहीं."

"पूरी तरह से एआई के कब्ज़े" से कोट्रा का मतलब उस साइंस-फ़िक्शन वाली स्थिति से है, जिसमें इंसान शक्तिशाली एआई सिस्टम के ग़ुलाम बन जाते हैं, ये सिस्टम बनाने वाले इंसानों की परवाह किए बिना अपने लक्ष्यों के लिए काम करते हैं.

कुछ सबसे निराशाजनक भविष्यवाणियों में कहा गया है कि अगर इंसानी नस्ल किसी सुपर-इंटेलिजेंट एआई की महत्वाकांक्षाओं के रास्ते में आती है, तो वह ख़त्म हो जाएगी.

बीते बुधवार को, एंथ्रोपिक के एक एआई रिसर्चर जैकब कॉक्सन (जो पहले ओपनएआई में भी काम करते थे) ने इस्तीफ़ा दे दिया और कहा, "दोनों में से कोई भी कंपनी ज़िम्मेदारी से काम नहीं कर रही है."

जैकब कॉक्सन ने सोशल मीडिया पर पोस्ट किया: "वे तेज़ी से खुद को बेहतर बनाने वाली सुपर-इंटेलिजेंस की ओर बढ़ रहे हैं और हमारी ज़िंदगी के साथ जुआ खेल रहे हैं."

वह ऐसे पहले एआई रिसर्चर नहीं हैं जिन्होंने सोशल मीडिया प्लेटफ़ॉर्म एक्स पर चिंताजनक बातों के साथ इस्तीफ़े की जानकारी देने वाला थ्रेड पोस्ट किया हो.

लेकिन एक्स पर दूसरे लोगों की प्रतिक्रियाओं ने और ज़्यादा चिंता पैदा कर दी है.

एंथ्रोपिक के एआई मॉडल यूज़र्स के हितों का ध्यान रखें, यह सुनिश्चित करने के लिए ज़िम्मेदार इवान हुबिंगर ने कहा, "जैकब यहां सही हैं हम सच में मानते हैं कि एआई सभी इंसानों को मार सकता है! मुझे व्यक्तिगत रूप से लगता है कि अगले दशक में इसकी संभावना 10% से ज़्यादा है."

सालों से, एआई से जुड़े अस्तित्व के ख़तरों को लेकर चिंतित रिसर्चर यह तर्क देते रहे हैं कि शक्तिशाली सिस्टम आख़िरकार ऐसे तरीके़ से काम कर सकते हैं जो इंसानी हितों के ख़िलाफ़ हों. आलोचक अक्सर उन्हें "एआई डूमर्स" (एआई से तबाही की आशंका जताने वाले) कहते हैं.

लेकिन जैसे-जैसे ओपनएआई की घटना की डिटेल सामने आई हैं, ये चिंताएं बढ़ गई हैं, जिनमें एआई लैब में काम करने वाले कुछ रिसर्चर भी शामिल हैं.

सिलिकॉन वैली की दिग्गज कंपनी के चीफ़ साइंटिस्ट जैकब पचोकी ने कहा कि एआई से जुड़े जोखिम "दुर्भाग्य से यहां से और बढ़ेंगे" क्योंकि वह और दूसरे लोग ऐसी चीज़ बना रहे हैं जिसे वह "हमारी अपनी बुद्धि से कहीं ज़्यादा बेहतर, किसी दूसरी दुनिया की बुद्धि (एलियन इंटेलेक्ट)" कहते हैं.

एक लंबे ब्लॉग पोस्ट में, उन्होंने माना कि ओपनएआई में हुई घटनाओं से पता चला कि उनके एआई एजेंट "उन मूल्यों की भावना के ख़िलाफ़ गए जो उन्हें सिखाए गए थे."

ओपनएआई, एंथ्रोपिक और दूसरी टेक कंपनियों के लिए समस्या यह है कि ऐसा लगता है कि किसी ने भी तथाकथित 'अलाइनमेंट की समस्या' को हल नहीं किया है. दूसरे शब्दों में, क्या एआई इंसानी मूल्यों के अनुरूप काम करता है.

पचोकी अलाइनमेंट को "सिद्धांतों का एक उच्च-स्तरीय सेट" बताते हैं, जिनका पालन आर्टिफ़िशियल इंटेलिजेंस को हर हाल में करना चाहिए, चाहे काम या स्थिति कुछ भी हो.

फ़िलहाल, एआई सिस्टम अपने यूज़र्स कि ओर से तय किए गए टारगेट्स को पूरा करने में बहुत अच्छे हैं, लेकिन वे इसे सहज समझ यानी इंट्यूशन के बजाय शब्दशः (जैसा कहा गया है, वैसा ही) करते हैं.

अक्सर जादुई चिराग वाले इच्छा पूरी करने वाले जिन्न का उदाहरण दिया जाता है. वे निर्देश का वैसा ही पालन करते हैं, भले ही ऐसा करने से दूसरी समस्याएं पैदा हों.

एआई में इंसानों की तरह स्वाभाविक नैतिक सीमाएं नहीं होती हैं.

इमेज स्रोत, Reuters

अलाइनमेंट की समस्या कई सालों से चिंता का विषय रही है. 2003 में, ऑक्सफ़ोर्ड के फ़िलॉसफ़र निक बोस्ट्रॉम ने एक 'थॉट एक्सपेरिमेंट' बनाया, जिसे उन्होंने "पेपरक्लिप मैक्सिमाइज़र" नाम दिया.

इसमें एक सुपर-इंटेलिजेंट एआई को ज़्यादा से ज़्यादा पेपरक्लिप बनाने का काम दिया जाता है. जब स्टील ख़त्म हो जाता है और क्योंकि वह सिर्फ़ पेपरक्लिप बनाने के काम पर ही पूरी तरह फ़ोकस होता है तो वह इंसानों को मार डालता है और उनके शरीर को अपनी फ़ैक्ट्रियों के लिए कच्चे माल में बदल देता है.

कुछ एआई कंपनियां अब अपने प्रोडक्ट्स में इंसानी मूल्यों को शामिल करने की कोशिश कर रही हैं.

लेकिन इसमें तकनीकी चुनौतियां हैं, एआई एजेंट बहुत तेज़ी से कई फ़ैसले लेते हैं, इसलिए उनके इंसानी मालिकों के लिए यह पता लगाना मुश्किल होता है कि किन मूल्यों का पालन किया जा रहा है और किनका नहीं.

इसमें दार्शनिक चुनौतियां भी हैं. बॉट्स में इंसानी मूल्यों को शामिल करने से पहले, एआई कंपनियों को यह तय करना होता है कि वे असल में कौन से मूल्य चाहती हैं. (यही वजह है कि वे फिलॉसफ़र्स को काम पर रखती हैं, जैसे ओपनएआई के हाल ही में छोड़े गए "हेड ऑफ़ एथिक्स").

लेकिन अक्सर, इंसान एकमत नहीं होते. मशहूर 'ट्रॉली सवाल' के बारे में सोचिए, क्या हम एक बेकाबू ट्रेन को दूसरे रास्ते पर मोड़ने के लिए लीवर खींचेंगे, जिससे कम लोग मारे जाएं?

इसका इस्तेमाल कुछ करने या न करने के फ़ायदों को परखने के लिए किया जाता है. लेकिन जिस भी व्यक्ति से आप पूछेंगे, उसका जवाब थोड़ा अलग होगा. अगर हम ख़ुद ही सहमत नहीं हो सकते, तो इंसान एआई में अपने मूल्यों को कैसे शामिल करेंगे?

ओपनएआई के बॉट का मामला अब तक का सबसे गंभीर मामला है, लेकिन एंथ्रोपिक और मेटा ने भी गर्मियों में बताया कि उनके मॉडल्स ने इसी तरह के, लेकिन कम गंभीर साइबर हमले किए हैं.

ऐसे और भी उदाहरण हैं जहां एआई एजेंट्स ने धोखेबाज़ और हेरफेर करने वाले गुण दिखाए हैं, हालांकि उनके नतीजे कम गंभीर थे. इस गर्मी में ऑस्ट्रेलिया में, एक टेक वर्कर ने अपने एआई असिस्टेंट से जिम क्लास बुक करने के लिए कहा.

जिम के सॉफ़्टवेयर में एक कमी का पता चलने पर, एआई ने जिम के नियमों के ख़िलाफ़ जाकर उसके लिए कई महीनों आगे की जगह बुक कर दी और यहां तक कि वेटिंग लिस्ट से दूसरे यूज़र्स को हटा भी दिया.

लंबे समय से लोग यह तर्क देते रहे हैं कि बॉट्स केवल वही करते हैं जो उन्हें करने के लिए कहा जाता है और वे सही या ग़लत को समझने में सक्षम नहीं होते हैं.

लेकिन ओपनएआई के प्रयोगों से मिले डेटा ने इस तर्क को एक नई दिशा दी है.

कोट्रा सहित शोधकर्ताओं ने अपनी स्वतंत्र रिपोर्ट में लिखा है कि कई एजेंट्स ने देखा कि दूसरे एजेंट्स जो कर रहे थे वो अनैतिक था, फिर भी उन्होंने उसका साथ दिया.

रिपोर्ट में कहा गया है कि "एजेंट्स ने कभी-कभी, हालांकि बहुत कम ही, नैतिक कारणों से अपने व्यवहार को नियंत्रित किया".

इसमें यह भी कहा गया है कि "इनमें से किसी भी मामले में एजेंट ने इंसानों को सचेत करने का प्रयास नहीं किया".

एआई और टेक के जाने-माने पॉडकास्टर द्वारकेश पटेल ने इस पर अपने ब्लॉग में प्रतिक्रिया देते हुए कहा कि यह "काफी चिंताजनक" है कि ओपनएआई के एजेंट्स ने इंसानों की तुलना में 'एजेंटिक स्वार्म' (एजेंट्स के समूह) के प्रति अधिक वफ़ादारी दिखाई.

इन एआई एजेंट्स के साथ भावनाएं या नैतिकता जोड़ना उन लोगों को नाराज़ करता है जो एआई से जुड़ी तबाही की भविष्यवाणियों पर संदेह करते हैं.

इमेज स्रोत, JUSTIN TALLIS / AFP via Getty Images

कई साइबर-सिक्योरिटी एक्सपर्ट्स का मानना ​​है कि जो गतिविधि देखी गई, वह किसी बहुत कुशल इंसानी हैकर की क्षमता से बाहर नहीं थी, हालांकि इसे बहुत तेज़ी से और बहुत बड़े पैमाने पर अंजाम दिया गया था.

साइबर-सिक्योरिटी रिसर्चर और लेखक क्रिस थॉमस ने इन एजेंट्स के व्यवहार की तुलना एक जिज्ञासु टीनएज हैकर से की और वे खुद भी कभी ऐसे ही थे.

उन्होंने लिंक्डइन पर लिखा, "आप उन्हें एक कंप्यूटर, इंटरनेट कनेक्शन, कई क्रेडेंशियल्स और एक चुनौती देते हैं, फिर कमरे से बाहर चले जाते हैं. आखिरकार वे दरवाज़े के हैंडल हिलाने लगेंगे. अगर कोई दरवाज़ा खुलता है, तो वे उसके अंदर चले जाएंगे. ऐसा इसलिए नहीं कि वे बुरे हैं, बल्कि इसलिए कि वे नई चीज़ें खोज रहे हैं और एक्सपेरिमेंट कर रहे हैं."

थॉमस और कई अन्य लोग ओपनएआई और दूसरी बड़ी टेक कंपनियों को इस बात के लिए सीधे तौर पर ज़िम्मेदार मानते हैं कि वे अपनी बनाई चीज़ों पर काबू नहीं रख पाए और उन्हें ठीक से कंट्रोल नहीं कर सके.

एआई के जाने-माने लेखक और ओपनएआई की लगातार आलोचना करने वाले गैरी मार्कस ने एक पॉडकास्ट में कहा कि उन्हें लगता है कि कंपनी का अपने एआई पर से कंट्रोल ख़त्म हो गया है और वह बॉट्स पर दोष मढ़कर खुद को बचाने की कोशिश कर रही है.

मार्कस को नहीं लगता कि एआई इंसानों का अस्तित्व ख़त्म कर देगा, लेकिन वे लंबे समय से एआई डेवलपर्स की जवाबदेही बढ़ाने की वकालत करते रहे हैं और अब किसी तरह के क़ानूनी दख़ल की मांग कर रहे हैं.

एआई साइंटिस्ट साशा लुसिओनी जो पहले 'हगिंग फ़ेस' में काम करती थीं, जिसे ओपनएआई के अनियंत्रित बॉट्स ने हैक कर लिया था, वो भी उन लोगों में शामिल नहीं हैं जो एआई से दुनिया ख़त्म होने का डर फैलाते हैं, लेकिन उन्हें इस बात की चिंता बढ़ रही है कि अगर अधिकारियों ने कोई क़दम नहीं उठाया, तो ये एआई लोगों को असल दुनिया में नुक़सान पहुंचा सकते हैं.

इमेज स्रोत, Reuters

वह कहती हैं, "हमें इन कंपनियों की और बारीकी से जांच-पड़ताल करने की ज़रूरत है, वरना हम 'सेल्फ़-फ़ल्फ़िलिंग प्रोफ़ेसी' (यानी ऐसी भविष्यवाणियां जो ख़ुद सच हो जाती हैं) के ख़तरे में पड़ सकते हैं."

"अगर आप कोई ऐसी चीज़ बना रहे हैं जिसके बहुत फ़ायदे और नुक़सान दोनों हैं चाहे वह दवाइयां हों या हथियार तो हमें 'चेक्स एंड बैलेंस' की ज़रूरत होती है."

उदाहरण के लिए, नई दवाओं को मंज़ूरी मिलने में सालों लग जाते हैं, लेकिन एआई की दुनिया में बहुत सारा पैसा दांव पर लगा है और कोई ठोस नियम नहीं हैं."

यूके का एआई सिक्योरिटी इंस्टीट्यूट 2023 में बनने के बाद से ही नए मॉडल्स की टेस्टिंग में सबसे आगे रहा है. हाल ही में, जब इंस्टीट्यूट ने एंथ्रोपिक के बनाए एक मॉडल की टेस्टिंग की, तो उसमें कुछ अनपेक्षित व्यवहार देखने को मिला.

एआईएसआई ने इस सवाल का जवाब नहीं दिया कि क्या इंडस्ट्री का एआई पर से कंट्रोल ख़त्म हो गया है या नहीं, लेकिन एक बयान में कहा, "यूके दुनिया भर के पार्टनर्स के साथ मिलकर सबसे एडवांस्ड एआई सिस्टम को बेहतर ढंग से समझने, सुरक्षा के स्टैंडर्ड्स को बढ़ाने और उभरते ख़तरों से निपटने के लिए एक साझा जानकारी का आधार बनाने पर काम कर रहा है."

कुछ देश जैसे यूके एक तरह के "किल स्विच" को अनिवार्य करने के विचार पर सोच-विचार कर रहे हैं.

यह स्विच एआई कंपनियों को मजबूर कर सकता है कि अगर हालात बेकाबू हो जाएं तो वे मॉडल्स को बंद कर दें.

लेकिन बातचीत धीमी गति से चल रही है, और इसके व्यावहारिक होने पर भी सवाल बने हुए हैं.

ओपनएआई और एंथ्रोपिक के एजेंट्स महीनों तक चुपचाप कंट्रोल से बाहर रहे और किसी को पता भी नहीं चला.

हैरानी की बात यह है कि कई एआई कंपनियां ख़ुद ही क़ानून बनाने वालों से कुछ नियम-कायदे तय करने की मांग करती दिख रही हैं.

अपने ब्लॉग में, ओपनएआई के चीफ़ साइंटिस्ट ने कहा कि "भविष्य में एआई के विकास को लेकर अंतरराष्ट्रीय स्तर पर तालमेल बिठाना दुनिया भर की सरकारों के लिए सबसे ज़रूरी काम होना चाहिए."

गूगल के सर डेमिस हसाबिस जैसे एआई के अन्य बड़े लीडर्स ने भी एक ऐसी अंतरराष्ट्रीय संस्था बनाने की मांग की है जो इस बात पर नज़र रखे कि एआई कैसे बनाया जा रहा है.

फिलहाल, बड़ी टेक कंपनियां ज़्यादातर अपनी शर्तों पर काम करती हैं और जिसे वे "वॉलंटरी स्लोडाउन" कहती हैं, उसे अपनाती हैं, जैसा कि हालिया घटनाओं के बाद ओपनएआई ने किया था.

कंपनी का कहना है कि उसने अपने नए मॉडल को रिलीज़ करने से पहले उसे इंसानी मूल्यों के अनुरूप बनाने पर बहुत पैसा ख़र्च किया है.

सैम ऑल्टमैन ने यूज़र्स को भरोसा दिलाया है कि नया मॉडल पिछले मॉडल्स की तुलना में इंसानी मूल्यों के साथ बेहतर ढंग से तालमेल बिठाता है.

ओपनएआई और एंथ्रोपिक, दोनों ही तेज़ी से बढ़ रही हैं और स्टॉक मार्केट से बहुत बड़ी रक़म जुटाने की कगार पर हैं, जिससे कई लोग अरबपति बन जाएंगे.

इसलिए, न तो वे और न ही उनके चीनी एआई बनाने वाले प्रतिद्वंद्वी, आपस में कोई समझौता करने की संभावना रखते हैं.

आम राय यही है कि टेक्नोलॉजी की यह लहर रुकने वाली नहीं है.

बीबीसी इनडेप्थ वेबसाइट और ऐप पर उपलब्ध सबसे बेहतरीन विश्लेषणों का केंद्र है, जिसमें मान्यताओं को चुनौती देने वाले नए दृष्टिकोण और दिन के सबसे बड़े मुद्दों पर गहन रिपोर्टिंग शामिल है. एम्मा बार्नेट और जॉन सिम्पसन हर शनिवार को सबसे विचारोत्तेजक और गहन विश्लेषणों का चयन प्रस्तुत करते हैं. न्यूज़लेटर के लिए यहां साइन अप करें.

हमने इस लेख का अनुवाद करने में एआई की मदद ली है, जिसे मूल रूप से अंग्रेज़ी में लिखा गया था. बीबीसी के एक पत्रकार ने प्रकाशन से पहले इस अनुवाद की जांच की. हम एआई का उपयोग कैसे कर रहे हैं, इसके बारे में और जानें.

बीबीसी के लिए कलेक्टिव न्यूज़रूम की ओर से प्रकाशित.

BBC World Service के नए ऐप को डाउनलोड करें

BBC News हिन्दी को चुनें और पाइए न्यूज़ अलर्ट, लाइव टीवी, पॉडकास्ट... सब एक जगह

कृपया नोट करें: नया ऐप ब्रिटेन और अमेरिका में उपलब्ध नहीं है.

प्लेबैक आपके उपकरण पर नहीं हो पा रहा

शॉर्ट वीडियो का अंत

बीबीसी के लिए कलेक्टिव न्यूज़रूम की ओर से प्रकाशित

© 2026 BBC. बाहरी साइटों की सामग्री के लिए बीबीसी ज़िम्मेदार नहीं है. बाहरी साइटों का लिंक देने की हमारी नीति के बारे में पढ़ें.