तस्वीरें बिगाड़कर बदनाम करने का खेल खत्म? Elon Musk के X ने Grok पर लगा दी बड़ी रोक

Grok AI Trend: एलन मस्क का सोशल मीडिया प्लेटफॉर्म X पिछले कई दिनों से लगातार सुर्खियों में रहा है। इसकी वजह बना X का AI चैटबॉट Grok, जिसने अपनी इमेज एडिटिंग कैपेबिलिटी से यूजर्स को हैरान कर दिया।

AI Image Editing Elon Musk X: एलन मस्क का सोशल मीडिया प्लेटफॉर्म X पिछले कई दिनों से लगातार सुर्खियों में रहा है। इसकी वजह बना X का AI चैटबॉट Grok, जिसने अपनी इमेज एडिटिंग कैपेबिलिटी से यूजर्स को हैरान कर दिया। लेकिन यही तकनीक धीरे-धीरे विवाद की वजह बन गई।

कई यूजर्स ने Grok का गलत इस्तेमाल करते हुए लोगों की तस्वीरों को बिना अनुमति अश्लील और अभद्र रूप में बदलना शुरू कर दिया। खासकर महिलाओं की तस्वीरों के साथ छेड़छाड़ कर उन्हें सोशल मीडिया पर वायरल किया गया, जिससे X की सुरक्षा व्यवस्था पर गंभीर सवाल खड़े हो गए।

क्या था पूरा मामला?

बीते कुछ दिनों से X पर एक ट्रेंड देखने को मिला, जिसे “Grok AI बिकिनी इमेज ट्रेंड” कहा जा रहा है। इस ट्रेंड में AI की मदद से सामान्य तस्वीरों को अश्लील रूप में बदला जा रहा था। भारत, ब्रिटेन समेत कई देशों में इसे लेकर तीखी प्रतिक्रिया देखने को मिली। सवाल उठे कि क्या X अपने यूजर्स की निजता और सुरक्षा को गंभीरता से नहीं ले रहा है? इसी बढ़ते दबाव के बाद X ने बड़ा फैसला लिया और Grok की इमेज एडिटिंग सुविधा को फ्री यूजर्स के लिए बंद कर दिया।

X ने क्यों लगाया पेड सिस्टम?

अब Grok से फोटो एडिट या नई तस्वीर बनाने की सुविधा सिर्फ उन्हीं यूजर्स को मिलेगी, जिन्होंने X का पेड सब्सक्रिप्शन लिया है। X का कहना है कि पेड यूजर्स की पहचान आसानी से की जा सकती है, जिससे गलत काम करने वालों पर कार्रवाई संभव होगी। कंपनी के मुताबिक इससे डीपफेक और फर्जी तस्वीरों के दुरुपयोग पर लगाम लगेगी। हालांकि, कुछ एक्सपर्ट्स मानते हैं कि सिर्फ पैसे लेने से समस्या पूरी तरह खत्म नहीं होगी, बल्कि तकनीक को और ज्यादा सुरक्षित बनाना जरूरी है।

भारत सरकार ने लिया था सख्त रुख

• भारत सरकार ने Grok AI बिकिनी ट्रेंड पर कड़ा स्टैंड लेते हुए साफ कहा था कि देश में इस तरह का कंटेंट बर्दाश्त नहीं किया जाएगा।
• सरकार ने X से न सिर्फ आपत्तिजनक कंटेंट हटाने को कहा, बल्कि यह भी पूछा कि भविष्य में ऐसे मामलों को रोकने के लिए कंपनी क्या कदम उठाएगी।
• इसके जवाब में X ने कहा कि अगर कोई यूजर AI का गलत या गैरकानूनी इस्तेमाल करता है, तो उसके खिलाफ सख्त कार्रवाई होगी।

ये भी पढ़े: अब AI का भविष्य दिल्ली से तय होगा! भारत करेगा आर्टिफिशियल इंटेलिजेंस की नई दिशा तय

ब्रिटेन ने बताया बेहद गंभीर मामला

ब्रिटेन के प्रधानमंत्री Keir Starmer ने भी इस मुद्दे पर गंभीर चिंता जताई। ब्रिटिश अखबार Telegraph की रिपोर्ट के मुताबिक, ब्रिटेन में X को लेकर सभी संभावित कार्रवाइयों पर विचार किया जा रहा है। प्रधानमंत्री ने कहा कि अगर आपत्तिजनक कंटेंट तुरंत नहीं हटाया गया, तो X ऐप को ब्रिटेन में पूरी तरह ब्लॉक भी किया जा सकता है।

अब आगे क्या?

अब सबकी नजर इस बात पर है कि क्या X का पेड सिस्टम वाकई डीपफेक और अश्लील कंटेंट की समस्या को कम कर पाएगा या नहीं।