Meta On PM Modi AI Video: देश में AI का प्रभाव लगातार बढ़ता जा रहा है वहीं अभी AI की मदद से तैयार किए गए मॉर्फ्ड वीडियो को लेकर Meta India एक बार फिर विवादों में घिर गया है। जिसमें प्रधानमंत्री नरेंद्र मोदी से जुड़े कथित AI-जनरेटेड वीडियो मामले में हैदराबाद साइबर क्राइम पुलिस ने Meta India के प्रमुख अरुण श्रीनिवास और कई सोशल मीडिया यूजर्स के खिलाफ FIR दर्ज की है। वहीं यह मामला ऐसे समय सामने आया है जब कुछ ही दिनों पहले Facebook पर प्रधानमंत्री का एक वीडियो कुछ समय के लिए हटाए जाने को लेकर भी Meta सवालों के घेरे में आ गया था।

AI से बदले गए वीडियो पर पुलिस की सख्त नजर

पुलिस ने जानकारी दी है कि कुछ लोगों ने पीएम मोदी के वीडियो को एडिट कर सोशल मीडिया पर शेयर किया था जिससे गलत जानकारी फैलने का आरोप है। बताया जा रहा है कि प्रधानमंत्री नरेंद्र मोदी ने Cockroach Janta Party के प्रदर्शन के दौरान एक वीडियो पोस्ट किया था। जिसके बाद कुछ यूजर्स ने AI टूल्स की मदद से उसमें बदलाव किए और उसे अलग संदर्भ में वायरल कर दिया। वहीं जांच एजेंसियों का मानना है कि इस तरह के वीडियो लोगों को भ्रमित कर सकते हैं और सोशल मीडिया पर फर्जी सूचनाओं के प्रसार का कारण बन सकते हैं।

Facebook और Instagram पर वायरल वीडियो की जांच

मीडिया रिपोर्ट्स में यह भी सामने आया है कि कथित मॉर्फ्ड वीडियो Facebook और Instagram पर शेयर किए गए थे। वहीं अब हैदराबाद साइबर क्राइम पुलिस यह पता लगाने में जुटी है कि इन वीडियो के जरिए भारतीय न्याय संहिता (BNS) और सूचना प्रौद्योगिकी अधिनियम (IT Act) के प्रावधानों का उल्लंघन हुआ है या नहीं। बता दें कि जांच का दायरा सिर्फ वीडियो बनाने वालों तक सीमित नहीं है बल्कि उन लोगों की भूमिका भी खंगाली जा रही है जिन्होंने इन्हें सोशल मीडिया पर आगे बढ़ाया या वायरल करने में मदद की।

Meta से मांगा गया जवाब

इस मामले के सामने आने के बाद से पहले भी हैदराबाद साइबर क्राइम पुलिस ने Meta के अधिकारियों को तलब कर AI आधारित फर्जी कंटेंट, स्कैम और मॉर्फ्ड वीडियो को पहचानने और हटाने की कंपनी की व्यवस्था पर जवाब मांगा था। वहीं Meta की ओर से जांच अधिकारियों के सामने पेश होकर कंपनी के कंटेंट मॉडरेशन सिस्टम और नियमों की जानकारी दी गई है। कंपनी ने जांच में सहयोग करने की बात कही है।

ये भी पढ़े: Flipkart Pay Later सर्विस अब सामान खरीदें आज, पैसे दें 30 दिन बाद, Freedom Sale में खास ऑफर

क्या होते हैं मॉर्फ्ड वीडियो और क्यों बढ़ रही चिंता?

मॉर्फ्ड वीडियो के बारे में बताए तो यह ऐसे वीडियो होते हैं जिनमें किसी व्यक्ति के चेहरे, आवाज या हाव-भाव को डिजिटल तकनीक AI या एडिटिंग सॉफ्टवेयर की मदद से बदल दिया जाता है। इसका उद्देश्य अक्सर ऐसा दिखाना होता है कि कोई व्यक्ति कुछ ऐसा बोल या कर रहा है जो उसने वास्तव में नहीं किया होता।

वहीं इसको लेकर विशेषज्ञों का मानना है कि AI तकनीक के तेजी से बढ़ते इस्तेमाल के साथ ऐसे फर्जी वीडियो लोकतांत्रिक प्रक्रियाओं, सार्वजनिक भरोसे और ऑनलाइन सुरक्षा के लिए बड़ी चुनौती बनते जा रहे हैं। लेकिन अभी के लिए पुलिस ने स्पष्ट किया है कि जांच शुरुआती चरण में है और आगे की कार्रवाई डिजिटल सबूतों तथा जांच के नतीजों के आधार पर की जाएगी। पर अभी तक किसी भी व्यक्ति को दोषी साबित नहीं किया गया है।