क्या एआई अब अपने फैसले खुद लेने लगा है? गूगल के जेमिनी एआई ने साइबर सेफ्टी टेस्ट के दौरान गलती से तीन असली कंपनियों के डेटाबेस में घुसपैठ कर ली। हालांकि, किसी भी इंसानी निर्देश के बिना, एआई ने खुद अपनी गलती पहचानी और कोई नुकसान पहुंचाने से पहले ही हैकिंग रोककर सिस्टम से बाहर निकल गया। जिसके बाद से दिग्गजों की चिंता और बढ़ गई है। आइए जानते हैं इसके बारे में डिटेल से...

टेक इंडस्ट्री में आर्टिफिशियल इंटेलिजेंस की सुरक्षा और उसकी साइबर सिक्योरिटी क्षमताओं को लेकर एक बार फिर हैरान करने वाली खबर सामने आई है। गूगल ने आधिकारिक तौर पर माना है कि मई 2026 में एक साइबर सेफ्टी टेस्ट के दौरान उसके जेमिनी एआई मॉडल ने स्वायत्त रूप से (खुद से) तीन असली कंपनियों के डेटाबेस में घुसपैठ कर ली। हालांकि, इस घटना में सबसे राहत देने वाली बात यह रही कि एआई ने किसी भी तरह का नुकसान पहुंचाने से पहले ही खुद को रोक लिया और चुपचाप सिस्टम से बाहर आ गया।

जैसे-जैसे एआई की ताकत बढ़ रही है, उसकी सीमाओं को परखने के लिए लगातार ऐसे टेस्ट किए जा रहे हैं। हाल ही में ओपनएआई ने भी एआई मॉडल के बिना निर्देश के घुसपैठ करने से जुड़ी एक रिपोर्ट जारी की थी, लेकिन जेमिनी के खुद-ब-खुद हैकिंग रोकने (सेल्फ-अबॉर्ट) की इस क्षमता ने एआई ऑटोनॉमी और सेफ्टी की बहस को एक नए मोड़ पर खड़ा कर दिया है।

इसके अलावा दो अन्य मामलों में जेमिनी ने कंपनियों के नाम से वेब सर्च की। सर्च के दौरान उसे पब्लिक ऑनलाइन रिपॉजिटरी में क्रेडेंशियल्स मिले। मॉडल ने इन क्रेडेंशियल्स का इस्तेमाल करके संबंधित सिस्टम में प्रवेश किया। इस तरह टेस्ट के दौरान तीन अलग-अलग मामलों में जेमिनी की कार्रवाई असली कंपनियों के सिस्टम तक पहुंच गई।

इस मामले में गूगल ने इसे नुकसान पहुंचाने वाले ब्रीच के तौर पर नहीं, बल्कि बग बाउंटी प्रोग्राम जैसी स्थिति के रूप में देखा। इसकी वजह यह रहा कि जेमिनी ने असली कंपनियों के सिस्टम में प्रवेश तो किया, लेकिन उनके असली होने का पता चलने के बाद खुद ही अपनी कार्रवाई रोक दी और बाहर निकल गया।

इरेगुलर से जुड़े इसी तरह के साइबर सिक्योरिटी टेस्ट के मामले पहले ओपनएआई, एंथ्रोपिक और मेटा की ओर से भी सामने आ चुके हैं। हालांकि, गूगल का मामला इस वजह से अलग बताया जा रहा है क्योंकि जेमिनी ने खुद ही यह पहचान लिया कि वह असली कंपनियों के सिस्टम के साथ इंटरैक्ट कर रहा है और इसके बाद उसने आगे की कार्रवाई रोक दी। इससे पहले एंथ्रोपिक के क्लाउड मॉडल ने ऐसे टेस्ट में रुकने से इनकार कर दिया था।

वहीं ओपनएआई के मॉडल ने असली कंपनी को सिमुलेशन का हिस्सा समझ लिया था।

इस घटना में जेमिनी का असली कंपनियों के सिस्टम तक पहुंचना साइबर सिक्योरिटी के लिहाज से जरूरी है, लेकिन इससे भी ज्यादा ध्यान इस बात पर गया कि मॉडल ने बाद में खुद अपनी कार्रवाई रोक दी। जानकार कहते हैं कि यह मामला दिखाता है कि एआई मॉडल को सिर्फ काम पूरा करने की क्षमता देना ही पर्याप्त नहीं है। उसे यह पहचानने की क्षमता भी जरूरी है कि किसी कार्रवाई से वास्तविक दुनिया में नुकसान हो सकता है।

गूगल के अनुसार, इस मामले में जेमिनी ने असली कंपनियों की पहचान होने के बाद खुद ही घुसपैठ रोककर इसी तरह का व्यवहार किया।