YouTube और X पर बड़ा आरोप, AI से अश्लील तस्वीरें बनाने वाली वेबसाइट्स तक पहुंचा रहे लाखों यूज़र्स

AI Deepfake: YouTube और X को लेकर एक नई रिपोर्ट के बाद गंभीर सवालों के घेरे दिख रहे है। ISD की हालिया स्टडी में दावा किया गया है कि इन दोनों प्लेटफॉर्म्स से लोगों ऐसी साइट पर जा रहे है।

AI-Generated Deepfake Tools: दुनिया के दो सबसे बड़े सोशल मीडिया प्लेटफॉर्म YouTube और X को लेकर एक नई रिपोर्ट के बाद गंभीर सवालों के घेरे दिख रहे है। बता दें कि इंस्टिट्यूट फॉर स्ट्रेटेजिक डायलॉग (ISD) की हालिया स्टडी में दावा किया गया है कि इन दोनों प्लेटफॉर्म्स ने महज चार महीनों के भीतर लाखों यूज़र्स को ऐसे AI टूल्स वाली वेबसाइट्स तक पहुंचाया जहां कोई भी कुछ ही क्लिक में अश्लील तस्वीरें तैयार कर सकता है।

वहीं रिपोर्ट सामने आने के बाद सोशल मीडिया प्लेटफॉर्म्स की कंटेंट मॉडरेशन नीति और डीपफेक से जुड़ी सुरक्षा व्यवस्थाओं पर नई बहस छिड़ गई है। इसको लेकर विशेषज्ञों का मानना है कि ऐसे टूल्स का बढ़ता इस्तेमाल ऑनलाइन सुरक्षा और निजता दोनों के लिए बड़ा खतरा बन सकता है।

चार महीने में 57 लाख से ज्यादा विज़िट दर्ज

स्टडी में बताया गया कि शोधकर्ताओं ने डीपफेक बनाने वाले 10 सबसे अधिक इस्तेमाल होने वाले ऐप्स और वेबसाइट्स का विश्लेषण किया। जांच में पाया गया कि दिसंबर 2025 से मार्च 2026 के बीच इन वेबसाइट्स पर सोशल मीडिया के जरिए 5.7 मिलियन से अधिक विज़िट दर्ज हुईं। इनमें सबसे बड़ा योगदान YouTube का रहा। रिपोर्ट में यह भी देखा गया कि YouTube के जरिए 1.82 मिलियन विज़िट हुईं जो कुल रेफरल ट्रैफिक का 30 प्रतिशत से ज्यादा हिस्सा है। वहीं X दूसरे स्थान पर रहा जहां से 1.3 मिलियन से अधिक विज़िट इन वेबसाइट्स तक पहुंचीं।

वीडियो के जरिए मिल रहे थे लिंक और प्रोमो कोड

रिपोर्ट में यह भी सामने आया कि अनड्रेस ऐप जैसे शब्द सर्च करने वाले यूज़र्स को ऐसे वीडियो सुझाए गए जिनमें इन AI टूल्स का रिव्यू और प्रचार किया जा रहा था। कई वीडियो में संबंधित वेबसाइट्स के सीधे लिंक और फ्री क्रेडिट देने वाले प्रोमो कोड भी मौजूद थे जिससे इन सर्विसेज़ तक पहुंच और आसान हो गई। वहीं इसको लेकर विशेषज्ञों का कहना है कि इस तरह की सामग्री एल्गोरिद्म के जरिए तेजी से फैल सकती है और गलत इस्तेमाल की आशंका को बढ़ा सकती है।

ये भी पढ़े: iPhone 16 खरीदने का शानदार मौका, 13,000 से ज्यादा की छूट के साथ मिल रहा Apple का प्रीमियम फोन, जानें पूरी डील

क्या अपनी ही पॉलिसी तोड़ रहे हैं प्लेटफॉर्म्स?

इस पूरे मामले पर विशेषज्ञों का कहना है कि इन नतीजों से तो साफ है कि कंपनी अश्लील कंटेंट पर प्रतिबंध लगाने वाली खुद की बनाई नीतियों का उल्लंघन कर रही है। उनका तर्क है कि नियम उन वेबसाइटों और टूल पर भी लागू होने चाहिए जो इस तरह की अश्लील तस्वीरें जेनरेट करते हैं। अब यह मामला केवल कंटेंट मॉडरेशन का नहीं बल्कि AI तकनीक के जिम्मेदार उपयोग और सोशल मीडिया प्लेटफॉर्म्स की जवाबदेही से भी जुड़ गया है। आने वाले समय में इस रिपोर्ट के आधार पर नियामक संस्थाएं और टेक कंपनियां क्या कदम उठाती हैं इस पर सभी की नजर रहेगी।