AI-Generated Deepfake Tools: दुनिया के दो सबसे बड़े सोशल मीडिया प्लेटफॉर्म YouTube और X को लेकर एक नई रिपोर्ट के बाद गंभीर सवालों के घेरे दिख रहे है। बता दें कि इंस्टिट्यूट फॉर स्ट्रेटेजिक डायलॉग (ISD) की हालिया स्टडी में दावा किया गया है कि इन दोनों प्लेटफॉर्म्स ने महज चार महीनों के भीतर लाखों यूज़र्स को ऐसे AI टूल्स वाली वेबसाइट्स तक पहुंचाया जहां कोई भी कुछ ही क्लिक में अश्लील तस्वीरें तैयार कर सकता है।
वहीं रिपोर्ट सामने आने के बाद सोशल मीडिया प्लेटफॉर्म्स की कंटेंट मॉडरेशन नीति और डीपफेक से जुड़ी सुरक्षा व्यवस्थाओं पर नई बहस छिड़ गई है। इसको लेकर विशेषज्ञों का मानना है कि ऐसे टूल्स का बढ़ता इस्तेमाल ऑनलाइन सुरक्षा और निजता दोनों के लिए बड़ा खतरा बन सकता है।
स्टडी में बताया गया कि शोधकर्ताओं ने डीपफेक बनाने वाले 10 सबसे अधिक इस्तेमाल होने वाले ऐप्स और वेबसाइट्स का विश्लेषण किया। जांच में पाया गया कि दिसंबर 2025 से मार्च 2026 के बीच इन वेबसाइट्स पर सोशल मीडिया के जरिए 5.7 मिलियन से अधिक विज़िट दर्ज हुईं। इनमें सबसे बड़ा योगदान YouTube का रहा। रिपोर्ट में यह भी देखा गया कि YouTube के जरिए 1.82 मिलियन विज़िट हुईं जो कुल रेफरल ट्रैफिक का 30 प्रतिशत से ज्यादा हिस्सा है। वहीं X दूसरे स्थान पर रहा जहां से 1.3 मिलियन से अधिक विज़िट इन वेबसाइट्स तक पहुंचीं।
रिपोर्ट में यह भी सामने आया कि अनड्रेस ऐप जैसे शब्द सर्च करने वाले यूज़र्स को ऐसे वीडियो सुझाए गए जिनमें इन AI टूल्स का रिव्यू और प्रचार किया जा रहा था। कई वीडियो में संबंधित वेबसाइट्स के सीधे लिंक और फ्री क्रेडिट देने वाले प्रोमो कोड भी मौजूद थे जिससे इन सर्विसेज़ तक पहुंच और आसान हो गई। वहीं इसको लेकर विशेषज्ञों का कहना है कि इस तरह की सामग्री एल्गोरिद्म के जरिए तेजी से फैल सकती है और गलत इस्तेमाल की आशंका को बढ़ा सकती है।
इस पूरे मामले पर विशेषज्ञों का कहना है कि इन नतीजों से तो साफ है कि कंपनी अश्लील कंटेंट पर प्रतिबंध लगाने वाली खुद की बनाई नीतियों का उल्लंघन कर रही है। उनका तर्क है कि नियम उन वेबसाइटों और टूल पर भी लागू होने चाहिए जो इस तरह की अश्लील तस्वीरें जेनरेट करते हैं। अब यह मामला केवल कंटेंट मॉडरेशन का नहीं बल्कि AI तकनीक के जिम्मेदार उपयोग और सोशल मीडिया प्लेटफॉर्म्स की जवाबदेही से भी जुड़ गया है। आने वाले समय में इस रिपोर्ट के आधार पर नियामक संस्थाएं और टेक कंपनियां क्या कदम उठाती हैं इस पर सभी की नजर रहेगी।