Google के वीओ और क्लिंग AI जैसे AI वीडियो जनरेटर के आगमन से, एक ही टेक्स्ट प्रॉम्प्ट से मिनटों के फोटोरिअलिस्टिक फुटेज तैयार करने की क्षमता के साथ, सिंथेटिक सामग्री और प्रामाणिक, वास्तविक दुनिया के फुटेज के बीच अंतर करना कठिन हो गया है।

भविष्य में, ये उपकरण और भी अधिक सक्षम होने की संभावना है क्योंकि कई AI अनुसंधान प्रयोगशालाएं और Startup ऐसे मॉडल बना रहे हैं जो यथार्थवादी गति, प्रकाश व्यवस्था और भौतिकी का अनुकरण कर सकते हैं।

AI उद्योग C2PA कंटेंट क्रेडेंशियल्स और Google के SynthID जैसे मानकों को अपनाकर वॉटरमार्किंग और उद्गम की दिशा में कदम उठा रहा है जो अनिवार्य रूप से मीडिया के लिए सत्यापन योग्य मूल जानकारी संलग्न करते हैं। लेकिन समीकरण के दूसरी ओर, पता लगाना अभी भी प्रारंभिक चरण में है।

इसलिए, वर्तमान में प्रत्येक उपयोगकर्ता पर किसी चीज़ को सोशल मीडिया पर साझा करने से पहले उसे सत्यापित करने का बोझ है। आज, AI-जनरेटेड या AI-प्रोसेस्ड वीडियो देखना एक डिजिटल साक्षरता कौशल बन गया है जिसे हर सोशल मीडिया उपयोगकर्ता को सीखने की जरूरत है। यहां सबसे बड़े लाल झंडे हैं कि एक वीडियो AI-संशोधित है, और क्या देखना है।

फ़ोटो-यथार्थवादी लोगों को प्रदर्शित करने वाले AI-संसाधित वीडियो आम तौर पर उन्हें बहुत तेज़ या बहुत धीमी गति से झपकाते हुए दिखाते हैं। उनकी अभिव्यक्तियाँ भी अजीब तरह से नियमित लगती हैं और दृश्य की भावनाओं से बिल्कुल मेल नहीं खातीं। इसके अतिरिक्त, उनकी त्वचा, आंखें और बालों की बनावट एक फ्रेम से दूसरे फ्रेम में बदल सकती है।

शरीर की गतिविधियां भी आम हैं क्योंकि AI-जनित, फोटोरिअलिस्टिक लोग बहुत आसानी से आगे बढ़ सकते हैं, बिना किसी अपूर्ण सुधार के जो एक वास्तविक मानव शरीर करता है।

AI-हेरफेर या सिंथेटिक वीडियो का एक और आम संकेत यह है कि होठों की हरकतें बोले गए शब्दों के साथ बिल्कुल मेल नहीं खाती हैं, खासकर एक वाक्य के अंत में।

हालाँकि, पिछले दो वर्षों में वॉयस क्लोनिंग में तेजी से प्रगति हुई है। इसलिए बेमेल ऑडियो और होठों की हरकतें सबसे विश्वसनीय संकेतक नहीं हो सकती हैं।