अल्फाबेट के Google ने शुक्रवार को कहा कि वह एक AI इमेज-जेनरेशन फीचर को वापस ला रहा है, जो उसने एक दिन पहले ही Google Earth में पेश किया था, क्योंकि उपयोगकर्ताओं ने ऐसी छवियां साझा की थीं जो कंपनी की नीतियों का उल्लंघन करती दिखाई देती थीं।

Google के नैनो बनाना 2 AI मॉडल द्वारा संचालित इस सुविधा ने उपयोगकर्ताओं को दुनिया के किसी भी स्थान के लिए टेक्स्ट प्रॉम्प्ट टाइप करके Google Earth के उपग्रह, हवाई और 3D इमेजरी में आधारित फोटोयथार्थवादी छवियां उत्पन्न करने की अनुमति दी थी।

यह टूल गलत सूचना देने की अपनी क्षमता के कारण आलोचना के घेरे में आ गया था क्योंकि इसने उपयोगकर्ताओं को स्मारकों और स्थलों की वास्तविक छवियों के शीर्ष पर नकली परिदृश्य बनाने की अनुमति दी थी।

Google ने एक्स पर कहा, "हमने भू-स्थानिक पेशेवरों को कई उपयोगी उद्देश्यों के लिए इस सुविधा का उपयोग करते देखा है, हालांकि हमने लोगों को जेनरेट की गई इमेजरी के स्क्रीनशॉट साझा करते हुए भी देखा है जो हमारी नीतियों का उल्लंघन करते प्रतीत होते हैं।"

Google ने यह निर्दिष्ट नहीं किया कि किस प्रकार की छवियों ने उसकी नीतियों का उल्लंघन किया है। ​इसमें कहा गया है कि छवियां मुख्य Google Earth अनुभव में दिखाई नहीं दीं और उन्हें AI जनित के रूप में वॉटरमार्क किया गया।

जबकि टेक दिग्गज अपने उत्पादों में AI टूल को एकीकृत करने के लिए दौड़ पड़े हैं, उन्हें उपयोगकर्ता के उल्लंघन, गलत सूचना और नीतिगत चिंताओं के जवाब में सुविधाओं को समायोजित, प्रतिबंधित या अस्थायी रूप से अक्षम करना पड़ा है।

इस महीने की शुरुआत में मेटा ने म्यूज़ इमेज को बंद कर दिया, एक AI सुविधा जो उपयोगकर्ताओं को हॉलीवुड यूनियन सहित गोपनीयता संबंधी चिंताओं पर व्यापक आलोचना के बाद सार्वजनिक इंस्टाग्राम खातों का उपयोग करके छवियां उत्पन्न करने की अनुमति देती थी।