एआई शिकार: क्यों निगरानीकर्ता माता-पिता से बच्चों को नग्नीकरण ऐप्स से बचाने के लिए कह रहे हैं

दोनों तस्वीरें सामान्य किशोर सेल्फी के रूप में शुरू हुईं: दर्पण में देखते हुए, पूरी तरह से कपड़े पहने हुए। लेकिन एक बार जब ऑनलाइन शिकारियों ने उन तस्वीरों को पकड़ लिया और उन्हें एआई इमेजिंग टूल के माध्यम से चलाया, तो वे अत्यधिक अश्लील वीडियो का आधार बन गए।

ये उदाहरण रिपोर्ट रिमूव सेवा से आते हैं, जो उन बच्चों को उनकी सहमति के बिना अपनी स्पष्ट तस्वीरें वितरित करने की अनुमति देता है। छवि को गोपनीय रूप से चिह्नित करें और इसे सोशल मीडिया से ब्लॉक कर दें या हटा दें। एआई में सफलताओं और एआई मॉडलों की व्यापक उपलब्धता और न्यूडिफिकेशन ऐप्स के कारण, 18 साल से कम उम्र के कुछ लोग अपराधियों के संपर्क में आए बिना भी शिकार बन रहे हैं।

ये दो पीड़ित बताते हैं कि क्यों ब्रिटेन की राष्ट्रीय अपराध एजेंसी (एनसीए) और इंटरनेट वॉच फाउंडेशन (आईडब्ल्यूएफ), जो एक बाल सुरक्षा निगरानी संस्था है, ने दिशानिर्देश जारी कर माता-पिता से कहा है कि उदाहरण के लिए, अपने सोशल मीडिया प्रोफाइल को निजी बनाकर और अपने बच्चों की तस्वीरें "करीबी दोस्तों" समूहों पर साझा करके पारिवारिक तस्वीरों की दृश्यता को सीमित करने पर विचार करें।

दोनों संगठनों का कहना है कि वे नहीं बता रहे हैं। माता-पिता क्या करें, लेकिन चाहते हैं कि उन्हें समस्या के बारे में पता हो और क्या कार्रवाई की जाए। डेटा से पता चलता है कि एआई बाल यौन शोषण सामग्री का एक बढ़ता हुआ स्रोत है। IWF के अनुसार, पिछले वर्ष ऑनलाइन पाई गई AI-जनित बाल यौन शोषण सामग्री [CSAM] की मात्रा में 14% की वृद्धि हुई, , जिसने 8,029 AI-निर्मित छवियों की पहचान की और 2025 में यथार्थवादी सीएसएएम के वीडियो।

यूके सरकार बाल यौन शोषण सामग्री उत्पन्न करने के लिए डिज़ाइन किए गए एआई टूल को रखने, बनाने या वितरित करने को अवैध बनाने जैसे प्रतिबंध ला रही है। यह तकनीकी कंपनियों और बाल संरक्षण एजेंसियों को यह परीक्षण करने की शक्ति भी दे रहा है कि कृत्रिम बुद्धिमत्ता उपकरण उत्पादन कर सकते हैं या नहीं। href='https://www.theguardian.com/technology/2025/jul/10/ai-generated-child-sexual-abuse-videos-surging-online-iwf'>बाल दुर्व्यवहार की तस्वीरें।

सेक्सटन स्वीकार करता है कि दीर्घकालिक समाधान सार्वजनिक सोशल मीडिया खातों से तस्वीरें हटाना नहीं हो सकता है। वह एआई मॉडल के लिए कानून चाहते हैं जिसके लिए उन्हें "डिज़ाइन द्वारा सुरक्षित" होना आवश्यक है, यह सिद्धांत ऑनलाइन सुरक्षा प्रचारकों द्वारा व्यक्त किया गया है जो चाहते हैं कि सोशल मीडिया प्लेटफ़ॉर्म को उपयोगकर्ता की भलाई को मुख्य उद्देश्य के रूप में जिम्मेदारी से बनाया जाए। वह कहते हैं, ''लोग डिज़ाइन द्वारा सुरक्षा शब्द का उपयोग करते हैं, लेकिन मैं इसे यहां नहीं देख रहा हूं।''

एक सरकारी प्रवक्ता ने कहा कि ब्रिटेन का कानून एआई-जनित सामग्री सहित सीएसएएम बनाने, रखने या वितरित करने की अवैधता पर "स्पष्ट" था, और ऐसी सामग्री को ऑनलाइन सुरक्षा अधिनियम के तहत तकनीकी प्लेटफार्मों से सक्रिय रूप से हटा दिया जाना चाहिए।

प्रवक्ता ने कहा: "हम बच्चों को सुरक्षित रखने के लिए आगे बढ़ने में संकोच नहीं करेंगे।"

सेक्सटन का कहना है कि पीडोफाइल विभिन्न प्रकार का उपयोग कर रहे हैं। चित्र और वीडियो बनाने के लिए संयोजन में AI टूल का उपयोग किया जाता है, जिसमें "ओपन सोर्स" AI मॉडल शामिल हैं, जिन्हें उपयोगकर्ताओं द्वारा स्वतंत्र रूप से डाउनलोड और समायोजित किया जा सकता है।

IWF का कहना है कि पहले से ही अंतर करना असंभव साबित हो रहा है। बाल यौन शोषण की वास्तविक तस्वीरों और एआई-जनित सामग्री के बीच। ऐसी सामग्री यूके में भी अवैध है, लेकिन इसका मतलब है कि अधिकारियों को वास्तविक जीवन में खतरे में पड़े पीड़ितों और डीपफेक के बीच अंतर करने में कठिनाई हो सकती है। सेक्सटन का कहना है कि आईडब्ल्यूएफ विश्लेषकों द्वारा एआई वीडियो को अभी भी वास्तविकता से अलग किया जा सकता है, लेकिन आम तौर पर यह सुनिश्चित करने का एकमात्र तरीका यह देखना है कि क्या पीडोफाइल डार्क वेब पर विशिष्ट छवियों का श्रेय ले रहे हैं।

संबंधित: 2025 में ऑनलाइन पाए जाने वाले AI-जनरेटेड बाल यौन शोषण सामग्री की मात्रा में वृद्धि हुई है

"यह एक समस्या है जिसे हल करने की आवश्यकता है। लेकिन मुझे नहीं पता कि क्या इसे उस सटीकता के स्तर पर हल किया जा सकता है जिसकी हमें आवश्यकता है क्योंकि तकनीक बदलती रहती है," वे कहते हैं।

एनसीए में बाल यौन शोषण शिक्षा प्रबंधक लोर्ना सिंक्लेयर का कहना है कि एजेंसी के नए मार्गदर्शन का उद्देश्य एक ऐसे खतरे को चिह्नित करना है जिसके बारे में कई माता-पिता और देखभालकर्ता नहीं जानते हैं। अपराधी पहले तकनीकी परिवर्तनों पर कूदने की एक बहुत ही परिचित विशेषता को दोहरा रहे हैं।

वह कहती हैं, ''एक समाज के रूप में हम अभी भी एआई के बारे में सीख रहे हैं और इसका उपयोग रोजमर्रा की जिंदगी में कैसे किया जाता है।'' "हम न केवल लाभों के बारे में सीख रहे हैं, बल्कि यह भी सीख रहे हैं कि इस तकनीक का दुरुपयोग कैसे किया जा सकता है। वास्तविकता यह है कि अपराधी हमेशा तकनीकी प्रगति को जल्दी अपनाने वाले होंगे।"