डीपफेक: रश्मिका मंदाना की फेक फोटो देख क्यों परेशान हुए सरकारी अफसर और सेलिब्रेटीज, क्या है Deepfake जिसने चिंता बढ़ाई लेकिन रोकना नामुमकिन!

डिजिटल डेस्क, नई दिल्ली। सोशल मीडिया पर आए दिन अजीबो गरीब फोटो और वीडियो वायरल होते रहते हैं जिसका सच्चाई से कोई वास्ता नहीं होता है। कुछ ऐसा ही साउथ की मशहूर एक्ट्रेस रश्मिका मंदाना का एक डीपफेक वीडियो इंटरनेट पर तेजी से वायरल हो रहा है। ये किसी दूसरी लड़की का वीडियो है जिसे बड़ी चालाकी से एडिट कर मंदाना का चेहरा लगा दिया गया है। यह वीडियो सामने आते ही डीपफेक चर्चा में आ गया है। लेकिन वायरल हो रहे वीडियो को ध्यान से देखा जाए तो पता चलता है कि ये नकली है। लेकिन अन्य डीपफेक वीडियो और फोटो साधरण तौर पर पकड़ पाना मुश्किल होता है।

Deepfake नया टर्म नहीं है, बीते कुछ सालों से Deepfake के जरिए लोगों का बड़ा नुकसान किया जा रहा है। ऐसा इसलिए क्योंकि मौजूदा समय में आर्टिफिशियल इंटेलिजेंस टूल का ऐक्सेस आसान हो गया है। इसके कॉन्टेंट के लिए एआई का यूज किया जाता है। स्कैमर्स डीपफेक का इस्तेमाल लोगों को अपने जाल में फंसाने के लिए करते हैं। वहीं रश्मिका की फोटो से छेड़छाड़ को लेकर सदी के महानायक अमिताभ बच्चन ने चिंता जताई है।

पूरी तरह प्रतिबंधित करना बड़ा ही मुश्किल

जैसा की फोटो में देख सकते हैं कि दाई तरफ रियल वीडियो का स्क्रीनशॉट है, जबकि बाई तरफ डीपफेक वाला फोटो है। फेस को इस तरह एडिट किया गया है जैसे की दोनों एक ही तस्वीर हो, लेकिन वीडियो को ध्यान से देखने पर लिपसिंक सही से मैच नहीं कर रहा है जिससे पता चलता है कि वीडियो फेक है। कई सरकारी अफसरों ने X पर पोस्ट करके Deepfake से लड़ने के लिए सिस्टम तैयार करने की बात की है ताकि इसे तेजी से फैलने से रोका जा सके। सरकार की तरफ से भी इसे रोकने के लिए कहा है हालांकि, सच ये भी है कि इसे कम तो किया जा सकता है लेकिन पूरी तरह प्रतिबंधित करना बड़ा ही मुश्किल है।

क्या है Deepfake?

Deep Learning से Deepfake टर्म आया है। यह एक Machine Learning का पार्ट है। Deepfake में डीप का अर्थ मल्टीपल लेयर्स होता है और ये ऑर्टिफिशियल न्यूरल नेटवर्क पर आधरित होता है। इस एल्गोरिद्म में काफी सारा डेटा एंटर करके फेक कॉन्टेंट को असली में बदल दिया जाता है।

Deepfake के कई ऐसे एप्स प्ले स्टोर और ऐप स्टोर पर आसानी से मिल जाएंगे। लेकिन ये ऐप Deepfake बनाने का दावा नहीं करते हैं लेकिन ये ऐप फोटोज का एक्स्प्रेशन बदला, किसी का चेहरा हटा कर दूसरा लगाना, बॉडी शेप चेंज करने से लेकर किसी वीडियो कॉन्टेंट में किसी दूसरे शख्स की आवाज तक लगा सकते हैं।

Deepfake कैसे बनाए जाते हैं?

Deepfake वीडियो बनाने के लिए सबसे पहले जिसका वीडियो बनाना है उसकी असली तस्वीर और वीडियोज को Deepfake वीडियो बनाने के तैयार किए गए टूल में डाला जाता है। उसके बाद Encoder और Decoder का इस्तेमाल किया जाता है। आर्टिफिशियल इंटेलिजेंस यानी AI इन फोटोज और वीडियोज को अनालइज करता है। जिसके बाद ओरिजिनल की तरह डुप्लीकेट तस्वीर तैयार हो जाती है।