लिफ्ट में प्रवेश करने के एक साधारण वीडियो के कारण प्रौद्योगिकी के दुरुपयोग पर भारी विवाद हो गया है। सोशल मीडिया पर प्रसारित हो रहे रश्मिका मंदाना के एक डीपफेक वीडियो ने केंद्रीय मंत्री राजीव चंद्रशेखर को सोशल मीडिया प्लेटफार्मों को ऐसी गलत सूचनाओं से सख्ती से निपटने के लिए चेतावनी देने के लिए प्रेरित किया।
वीडियो में काली पोशाक पहने एक महिला को लिफ्ट में प्रवेश करते हुए दिखाया गया है। हालाँकि, डीपफेक वीडियो में उसका चेहरा अभिनेता के चेहरे से बदल जाता है। वीडियो में मूल रूप से ब्रिटिश-भारतीय प्रभावशाली ज़ारा पटेल को दिखाया गया था। वीडियो को शुरुआत में 9 अक्टूबर को शेयर किया गया था।
AltNews के फैक्टचेक पत्रकार अभिषेक कुमार ने पुष्टि की कि क्लिप में मंदाना नहीं थी। एक्स पर एक पोस्ट में उन्होंने कहा, “भारत में डीपफेक से निपटने के लिए एक कानूनी और नियामक ढांचे की तत्काल आवश्यकता है। आपने इंस्टाग्राम पर अभिनेत्री रश्मिका मंदाना का यह वायरल वीडियो देखा होगा। लेकिन रुकिए, यह एक डीपफेक वीडियो है ज़ारा पटेल का”।
डीपफेक क्या हैं?
डीपफेक विज़ुअल और ऑडियो डेटा उत्पन्न करने के लिए एआई तकनीक का उपयोग करते हैं, जिसका उपयोग किसी व्यक्ति के कुछ करने और कहने के यथार्थवादी वीडियो बनाने के लिए किया जा सकता है जो उन्होंने नहीं किया या कहा है। डीपफेक प्रोग्राम आम तौर पर डेटा उत्पन्न करने के लिए “जेनरेटिव एडवरसैरियल नेटवर्क” का उपयोग करते हैं जो मूल से लगभग अप्रभेद्य होता है और हेरफेर या गलत सूचना के लिए आसानी से उपयोग किया जाता है।
आईटी मंत्री राजीव चन्द्रशेखर की चेतावनी
एक्स पर, पूर्व में ट्विटर पर, केंद्रीय मंत्री राजीव चंद्रशेखर ने कहा कि अप्रैल 2023 में अधिसूचित आईटी नियमों के तहत, किसी भी उपयोगकर्ता या सरकार द्वारा रिपोर्ट किए जाने पर किसी भी गलत सूचना को हटाना प्लेटफॉर्म का कानूनी दायित्व है। चंद्रशेखर ने कहा, “डीप फेक गलत सूचना का नवीनतम और उससे भी अधिक खतरनाक और हानिकारक रूप है और प्लेटफार्मों द्वारा इससे निपटने की जरूरत है।” उन्होंने कहा कि भारतीय दंड संहिता के प्रावधानों के तहत, यदि प्लेटफॉर्म आईटी नियमों का पालन नहीं करते हैं, तो पीड़ित व्यक्ति द्वारा प्लेटफॉर्म को अदालत में ले जाया जा सकता है।
डीपफेक वीडियो पर रश्मिका मंदाना की प्रतिक्रिया
एक्स पर पोस्ट किए गए एक बयान में, रश्मिका मंदाना ने कहा कि इस मुद्दे को “तत्कालता से संबोधित किया जाना चाहिए, इससे पहले कि हममें से अधिक लोग इस तरह की पहचान की चोरी से प्रभावित हों”। “मुझे इसे साझा करते हुए वास्तव में दुख हो रहा है और मुझे ऑनलाइन फैलाए जा रहे मेरे डीपफेक वीडियो के बारे में बात करनी है। ऐसा कुछ न केवल मेरे लिए बल्कि हममें से प्रत्येक के लिए ईमानदारी से बेहद डरावना है, जो आज इसके कारण बहुत अधिक नुकसान की चपेट में है। प्रौद्योगिकी का किस प्रकार दुरुपयोग किया जा रहा है। आज, एक महिला और एक अभिनेता के रूप में, मैं अपने परिवार, दोस्तों और शुभचिंतकों की आभारी हूं जो मेरी सुरक्षा और सहायता प्रणाली हैं। लेकिन अगर मेरे साथ ऐसा तब हुआ जब मैं स्कूल या कॉलेज में थी , मैं वास्तव में कल्पना नहीं कर सकती कि मैं इससे कैसे निपट सकती हूं। हमें एक समुदाय के रूप में और तत्काल इस पर ध्यान देने की जरूरत है, इससे पहले कि हममें से अधिक लोग इस तरह की पहचान की चोरी से प्रभावित हों,” उन्होंने लिखा।
अभिनेता अमिताभ बच्चन ने भी रश्मिका मंदाना के डीपफेक वीडियो को रीपोस्ट किया और कानूनी कार्रवाई की मांग की।
