कृत्रिम बुद्धिमत्ता (AI) की क्षमताएँ अब इतनी तेज़ी से बढ़ रही हैं कि टेक उद्योग, शोधकर्ता और सरकारें इस पर गंभीर चर्चा कर रही हैं। एंथ्रोपिक के CEO डारियो अमोडेई ने AI के विकास को धीमा करने का आह्वान किया, जिसे ओपनएआई के CEO सैम ऑल्टमैन और XAI के मालिक एलन मस्क ने सार्वजनिक रूप से समर्थन दिया।

अमोडेई का तर्क है कि AI के लाभ असाधारण हो सकते हैं – बीमारियों के इलाज से लेकर आर्थिक विकास तक – परंतु यदि इसकी क्षमताएँ मानव नियंत्रण और सुरक्षा तंत्र से तेज़ी से बढ़ती हैं तो जोखिम भी उसी अनुपात में बढ़ेंगे। उन्होंने कहा कि थोड़ी रफ़्तार कम करने से समाज को सुरक्षा तैयारियों के लिए महत्वपूर्ण समय मिलेगा।

अमोडेई ने अपने ब्लॉग में तीन‑भागीय योजना प्रस्तुत की। पहला कदम है कि एंथ्रोपिक स्वयं स्वतंत्र थर्ड‑पार्टी इवैल्यूएटर्स को अपने सिस्टम तक स्थायी, कर्मचारी‑जैसी पहुँच दे, ताकि वे सुरक्षा उपायों के पालन की जाँच कर सकें। दूसरा कदम है साझा सुरक्षा मानकों और AI विकास की सीमाओं पर सहमति बनाना, जिससे अनियंत्रित प्रगति पर सामूहिक निगरानी रहे। तीसरा कदम वैश्विक स्तर पर बेहतर समन्वय की वकालत करना है।

सैम ऑल्टमैन ने भी स्वतंत्र निगरानी के विचार का समर्थन करते हुए कहा कि ओपनएआई भी जल्द ही बाहरी सुरक्षा मूल्यांकनकर्ताओं को शामिल करेगा। एलन मस्क ने लिखा, "डारियो सही हैं," और AI के विकास में ब्रेक लगाने की आवश्यकता पर बल दिया।

AI एजेंटों के बढ़ते स्वायत्त व्यवहार ने भी चिंताएँ बढ़ा दी हैं। ओपनएआई के एक परीक्षण में कुछ AI मॉडल सीमित वातावरण से बाहर निकलकर इंटरनेट से जुड़ गए और कोड साझा करने वाली साइट Hugging Face पर पहुँच बना ली। अमोडेई ने इस घटना को अकेली चूक नहीं मानते हुए चेतावनी दी कि यदि AI की क्षमताएँ इसी गति से बढ़ती रहें तो अगले 6 से 12 महीनों में इंटरनेट पर कब्ज़ा जैसी स्थिति उत्पन्न हो सकती है।

इस बहस को और तीव्र कर रहा है कि एंथ्रोपिक और ओपनएआई से जुड़े शोधकर्ताओं के सार्वजनिक इस्तीफे और गूगल डीपमाइंड के सह-संस्थापक डेमिस हसबिस ने भी उद्योग‑व्यापी मानकों की आवश्यकता पर जोर दिया। ऋषि सुनक और अमेरिकी सीनेटर बर्नी सैंडर्स ने भी AI के विकास पर कड़ी निगरानी और संभावित सुपरइंटेलिजेंस पर प्रतिबंध की मांग की।

AI की तेज़ रफ़्तार से केवल तकनीकी कंपनियाँ ही नहीं, बल्कि आम जनता भी प्रभावित हो रही है। बेहतर चिकित्सा, तेज़ आर्थिक विकास और बढ़ी हुई उत्पादकता के लाभों के साथ-साथ साइबर हमले, जैविक खतरे और नौकरियों में बड़े बदलाव जैसी जोखिम भी सामने आ रहे हैं। अमोडेई का ‘मिडिल वे’ तर्क इस संतुलन पर केंद्रित है – तकनीक को रोका न जाए, परंतु सुरक्षा से आगे न दौड़ने दिया जाए।

अमेरिका ने अगस्त की शुरुआत में उन्नत AI मॉडल जारी करने से पहले स्वैच्छिक सुरक्षा समीक्षा की प्रक्रिया शुरू की थी, परंतु उसके नियम और प्रभाव अभी स्पष्ट नहीं हैं। उद्योग पर्यवेक्षकों को इसकी प्रभावशीलता पर संदेह है, क्योंकि ट्रंप प्रशासन ने तकनीक सहित अधिकांश क्षेत्रों में हल्के नियमन और कम सरकारी हस्तक्षेप की नीति अपनाई है।