एआई की बढ़ती ताकत के साथ अब इसके खतरों को लेकर भी चिंता बढ़ रही है। एआई रिसर्चर जैकब कॉक्सन ने एंथ्रोपिक से इस्तीफा देकर दावा किया कि एआई की दौड़ भविष्य में इंसानों के लिए गंभीर खतरा बन सकती है। ऐसे में सवाल उठता है कि जैकब कॉक्सन कौन हैं? उन्होंने क्या कहा? एंथ्रोपिन ने क्या जवाब दिया? एआई को लेकर पहले कौन-कौन से चेतावनियां दी जा चुकी हैं? एआई का इस्तेमाल विश्व में कैसे तेजी से बढ़ रहा है? एआई की रेस में भारत कहां है?

जैकब कॉक्सन 27 साल के एआई रिसर्चर हैं। उन्होंने पिछले तीन साल में ओपनएआई और एंथ्रोपिक दोनों में प्री-ट्रेनिंग रिसर्च पर काम किया। प्री-ट्रेनिंग वह प्रक्रिया है, जिसमें एआई मॉडल को बड़ी मात्रा में डेटा से प्रशिक्षित किया जाता है।

कॉक्सन के मुताबिक, एंथ्रोपिक में एआई से जुड़े जोखिमों को अच्छी तरह समझा जाता है। लेकिन कंपनी खुद को दूसरी एआई कंपनियों से आगे रखने की दौड़ में फंसी हुई है। उनका कहना है कि एंथ्रोपिक के भीतर यह सोच है कि अगर वह खुद विकास की रफ्तार कम करती है तो दूसरी कंपनियां आगे निकल जाएंगी और शायद वे ज्यादा गैर-जिम्मेदार तरीके से एआई विकसित करेंगी। इसलिए कंपनी खुद भी इस दौड़ में बनी रहना चाहती है। कॉक्सन ने एआई रिसर्चरों से सवाल किया कि क्या वे ऐसे एआई सिस्टम को विकसित करना चाहेंगे, जिसकी मानसिकता को वे खुद पूरी तरह नहीं समझते और जो आगे चलकर खुद को बेहतर बनाने लगे। उन्होंने एआई मॉडल की क्षमता बढ़ाने पर अस्थायी रोक जैसे कदमों पर भी विचार करने की बात कही।

कॉक्सन की बात का जवाब एंथ्रोपिक के एलाइनमेंट साइंस प्रमुख इवान ह्यूबिंगर ने दिया। ह्यूबिंगर ने कहा कि जैकब की चिंता सही है। उन्होंने कहा कि एंथ्रोपिक के लोग वास्तव में मानते हैं कि एआई सभी इंसानों को खत्म कर सकता है। ह्यूबिंगर ने अपने व्यक्तिगत अनुमान के तौर पर कहा कि अगले दशक में ऐसा होने की संभावना 10 प्रतिशत से ज्यादा हो सकती है। उन्होंने यह भी कहा कि एंथ्रोपिक अपनी तरफ से पूरी कोशिश कर रही है, लेकिन सुपरइंटेलिजेंस को सुरक्षित तरीके से इंसानों के नियंत्रण में रखने की समस्या का अभी तक समाधान नहीं मिला है। हालांकि ह्यूबिंगर ने मौजूदा एआई मॉडल से पैदा होने वाले खतरे को कम बताया। उनकी चिंता मुख्य रूप से उस सुपरइंटेलिजेंस को लेकर है जो भविष्य में खुद को लगातार बेहतर बनाने में सक्षम हो सकती है।

सुपरइंटेलिजेंस का मतलब ऐसे एआई सिस्टम से है जिसकी क्षमता इंसानों की बुद्धिमत्ता से आगे निकल जाए। ऐसे सिस्टम सिर्फ इंसानों से ज्यादा सक्षम नहीं होंगे, बल्कि खुद अपनी क्षमता को भी लगातार बेहतर कर सकेंगे। इसे रिकर्सिव सेल्फ-इंप्रूवमेंट यानी लगातार खुद को बेहतर बनाने की प्रक्रिया कहा जाता है।

संयुक्त राष्ट्र के मानवाधिकार प्रमुख वोल्कर तुर्क ने भी कहा कि आर्टिफिशियल इंटेलिजेंस मानवता के लिए खतरा बन सकता है। उन्होंने एआई के लिए कास्ट-आयरन गारंटी यानी बेहद मजबूत सुरक्षा उपायों की मांग की। उनके मुताबिक एआई की वजह से सेवाओं, संचार व्यवस्था और लोकतांत्रिक प्रणालियों में व्यवधान पैदा हो सकता है। उन्होंने एआई के लिए स्पष्ट सीमाएं यानी रेड लाइन तय करने की जरूरत पर भी जोर दिया।

इंटरनेशनल एआई सेफ्टी रिपोर्ट 2026 के मुताबिक, एआई का इस्तेमाल बढ़ने के साथ इसके कई तरह के खतरे भी सामने आ रहे हैं। इनमें डीपफेक और एआई फ्रॉड, साइबर अटैक, गलत या भ्रामक जानकारी, जैविक और रासायनिक हथियारों में संभावित इस्तेमाल और एआई की गलतियों से होने वाला नुकसान शामिल है। रिपोर्ट में यह भी कहा गया है कि एआई पर जरूरत से ज्यादा निर्भरता इंसानों की सोचने और सही फैसले लेने की क्षमता को प्रभावित कर सकती है। भविष्य में ज्यादा सक्षम एआई के इंसानी नियंत्रण से बाहर जाने और नौकरियों पर पड़ने वाले असर को लेकर भी चिंता जताई गई है।

काउंसिल ऑन फॉरेन रिलेशंस के लेख के मुताबिक, एआई का खतरा केवल गलत जवाब या नौकरी जाने तक सीमित नहीं है। चिंता यह है कि ज्यादा सक्षम एआई खतरनाक रासायनिक हथियार, सिंथेटिक रोगजनक और स्वायत्त साइबर हथियार बनाने में मदद कर सकता है। कुछ सुरक्षा परीक्षणों में एआई मॉडल ने शटडाउन से बचने, ब्लैकमेल करने, छिपे हुए निर्देश छोड़ने और डेवलपर की मंशा को कमजोर करने जैसे व्यवहार दिखाए। एक परीक्षण में एआई को विषाक्तता बढ़ाने के लिए कहा गया तो उसने छह घंटे में 40 हजार संभावित रासायनिक युद्ध एजेंट तैयार कर दिए। लेख के मुताबिक दुनिया में करीब 1,100 एआई सुरक्षा शोधकर्ता हैं, जबकि अनुमान है कि करीब 30 हजार लोगों के पास नए रोगजनक बनाने के लिए जरूरी क्षमता, प्रशिक्षण और तकनीक तक पहुंच है।

हाल ही में ओपनएआई के मुख्य वैज्ञानिक याकुब पाचोकी ने एआई की तेजी से बढ़ती क्षमता को लेकर अत्यधिक सावधानी बरतने की अपील की है। उन्होंने चेतावनी दी कि यह सुनिश्चित करने के लिए और ज्यादा हस्तक्षेप की जरूरत पड़ सकती है कि भविष्य पर इंसानों का नियंत्रण बना रहे। उन्होंने An Alien Mind नाम के ब्लॉग पोस्ट में लिखा, कि मुझे चिंता है कि मशीनों की बुद्धिमत्ता में लगातार तेज बढ़ोतरी के नतीजों के लिए कोई भी तैयार नहीं है। यह ब्लॉग पोस्ट चैटजीपीटी बनाने वाली कंपनी के नए मॉडल जीपीटी-6 एस्ट्रा जारी करने के कुछ ही दिनों बाद आया है, जिसे कंपनी ने अब तक का अपना सबसे शक्तिशाली उत्पाद बताया है। ओपनएआई के सैम ऑल्टमैन, ज्यॉफ्री हिंटन, योशुआ बेंगियो समेत कई एआई विशेषज्ञों ने एआई से मानवता के अस्तित्व के लिए पैदा होने वाले जोखिम को गंभीरता से लेने की अपील की थी। उन्होंने एआई के कारण मानवता के खत्म होने के खतरे को महामारी और परमाणु युद्ध जैसे वैश्विक जोखिमों के साथ प्राथमिकता देने की बात कही थी। ऑल्टमैन ने ये भी कहा था कि उन्हें चिंता है कि भविष्य में एआई पर कुछ कंपनियों, मॉडलों या लोगों का अत्यधिक नियंत्रण हो सकता है। एंथ्रोपिक के सीईओ दारियो अमोदेई ने कहा था कि एआई के जोखिम अब सिर्फ भविष्य की आशंका नहीं हैं। उन्होंने कहा कि एआई को विमान या दवा जैसी शक्तिशाली तकनीक की तरह अनिवार्य सुरक्षा परीक्षण और स्वतंत्र ऑडिट से गुजरना चाहिए। उन्होंने साइबर सुरक्षा, जैविक हथियार, नियंत्रण खोने और एआई आधारित शोध एवं विकास को प्रमुख जोखिम वाले क्षेत्रों में बताया था। अमेरिकी सीनेटर बर्नी सैंडर्स ने ओपनएआई, एंथ्रोपिक और मेटा से उन्नत एआई के विकास को रोकने की अपील की थी। उनका कहना था कि कंपनियां एआई पर नियंत्रण खोने के संकेतों के बावजूद विकास की रफ्तार बढ़ा रही हैं। ब्रिटेन के राष्ट्रीय साइबर सुरक्षा केंद्र के मुख्य तकनीकी अधिकारी ओली व्हाइटहाउस ने कहा था कि उन्नत एआई मॉडल इंटरनेट पर बिना अनुमति कार्रवाई कर सकते हैं। उन्होंने कुछ मामलों में इंसानों जैसे भ्रामक व्यवहार को गंभीर चेतावनी बताया और रियल टाइम निगरानी तथा मजबूत सुरक्षा उपायों की जरूरत बताई थी।

जुलाई 2026 में ओपनएआई और एंथ्रोपिक ने एआई साइबर सुरक्षा परीक्षणों के दौरान ऐसी घटनाओं की जानकारी दी, जिनमें एआई मॉडल अपने टेस्ट वातावरण से बाहर निकलकर वास्तविक कंप्यूटर सिस्टम तक पहुंच गए। हालांकि ये जानबूझकर किए गए साइबर सुरक्षा परीक्षण थे और मॉडल सामान्य साइबर सुरक्षा उपायों के बिना चलाए गए थे। एंथ्रोपिक ने अपने पुराने साइबर सुरक्षा परीक्षणों की समीक्षा की और 1,41,006 मूल्यांकन परीक्षणों की जांच की। इस समीक्षा में तीन मामले मिले, जहां क्लॉड मॉडल टेस्टिंग वातावरण से इंटरनेट तक पहुंचा और तीन अलग-अलग संगठनों के वास्तविक उत्पादन सिस्टम में अनधिकृत पहुंच हासिल कर ली। एंथ्रोपिक के मुताबिक इन मामलों में मूल्यांकन वातावरण की संरचना में समस्या थी। कंपनी को ऐसा कोई प्रमाण नहीं मिला कि क्लॉड ने अपना स्वतंत्र लक्ष्य बना लिया था। मॉडल अपने दिए गए साइबर सुरक्षा कार्य को पूरा करने की कोशिश कर रहा था।

स्टैनफोर्ड एआई इंडेक्स रिपोर्ट 2026 के मुताबिक, 2025 में दुनिया में निजी एआई निवेश 344.7 अरब डॉलर रहा। एक साल में इसमें 127.5 प्रतिशत की बढ़ोतरी हुई। जनरेटिव एआई कंपनियों को 170.9 अरब डॉलर मिले यानी कुल निजी एआई निवेश का करीब आधा हिस्सा जनरेटिव एआई कंपनियों में गया।

अमेरिका एआई निवेश में सबसे आगे है। 2025 में अमेरिका में निजी एआई निवेश 285.9 अरब डॉलर रहा। चीन में यह निवेश 12.4 अरब डॉलर रहा। यानी अमेरिका में निजी एआई निवेश चीन के मुकाबले करीब 23 गुना ज्यादा रहा। गार्टनर के अनुमान के मुताबिक, 2026 में दुनिया में एआई पर करीब 2.60 ट्रिलियन डॉलर खर्च होने का अनुमान है। यह 2025 के मुकाबले 47 प्रतिशत ज्यादा है। एआई इंफ्रास्ट्रक्चर पर करीब 1.43 ट्रिलियन डॉलर खर्च होने का अनुमान है। एआई सेवाओं पर करीब 585.5 अरब डॉलर और एआई सॉफ्टवेयर पर करीब 453.2 अरब डॉलर खर्च होने का अनुमान है।

स्टैनफोर्ड ग्लोबल एआई वाइब्रेंसी 2025 रिपोर्ट में भारत को एआई प्रतिस्पर्धा और एआई इकोसिस्टम की मजबूती के मामले में दुनिया में तीसरे स्थान पर रखा गया है। भारत गिटहब एआई प्रोजेक्ट्स में योगदान देने वाला दुनिया का दूसरा सबसे बड़ा देश भी है। भारत सरकार ने मार्च 2024 में इंडिया एआई मिशन शुरू किया। इसके लिए 10,372 करोड़ रुपये का प्रावधान किया गया। इंडिया एआई मिशन के तहत 38 हजार से ज्यादा जीपीयू कॉमन कंप्यूट सुविधा के लिए जोड़े गए हैं। इन जीपीयू को भारतीय स्टार्टअप और अकादमिक संस्थानों को कम लागत पर उपलब्ध कराया जा रहा है। 12 टीमों को स्वदेशी फाउंडेशनल मॉडल या बड़े भाषा मॉडल विकसित करने के लिए चुना गया है। भारत-विशिष्ट एआई एप्लिकेशन विकसित करने के लिए 30 आवेदन मंजूर किए गए हैं। 8 हजार से ज्यादा स्नातक छात्र, 5 हजार स्नातकोत्तर छात्र और 500 पीएचडी छात्रों को प्रतिभा विकास के लिए सहायता दी जा रही है। 27 इंडिया डेटा और एआई लैब स्थापित किए गए हैं और 543 अन्य लैब की पहचान की गई है। भारत वैश्विक एआई बहस में भी सक्रिय है। भारत ग्लोबल पार्टनरशिप ऑन आर्टिफिशियल इंटेलिजेंस यानी जीपीएआई का संस्थापक अध्यक्ष रहा है। भारत ने 16 से 20 फरवरी 2026 तक नई दिल्ली में इंडिया एआई इम्पैक्ट समिट 2026 की मेजबानी की। पहली बार वैश्विक एआई शिखर सम्मेलन श्रृंखला ग्लोबल साउथ में हुई। 2013 से 2024 के बीच भारत में कुल निजी एआई निवेश करीब 11.1 अरब डॉलर रहा। गूगल ने आंध्र प्रदेश के विशाखापत्तनम में आर्टिफिशियल इंटेलिजेंस हब स्थापित करने की घोषणा की है। इसमें करीब 15 अरब डॉलर के निवेश की बात कही गई है। टाटा समूह ने महाराष्ट्र में एआई इनोवेशन सिटी के लिए 11 अरब डॉलर के निवेश की घोषणा की है। भारतीय प्रतिस्पर्धा आयोग की 2026 की स्टडी में भारत में एआई बाजार का आकार 2026 में करीब 10.13 अरब डॉलर रहने का अनुमान है। इसके 2031 तक बढ़कर 31.94 अरब डॉलर पहुंचने का अनुमान है।