Meta AI Content Moderation: Instagram और Facebook पर पोस्ट की निगरानी अब पहले से ज्यादा AI आधारित होने जा रही है। देखा जा रहा है कि Meta ने कंटेंट मॉडरेशन के लिए आर्टिफिशियल इंटेलिजेंस का इस्तेमाल बढ़ाने का फैसला किया है। जिसमें कंपनी का दावा है कि उसका नया AI सिस्टम रोजाना 5,000 से ज्यादा ऐसे स्कैम पकड़ रहा है जो पुराने रिव्यू सिस्टम की नजर से बच निकलते थे। वहीं इसके साथ ही कंपनी ने गलत कंटेंट रिव्यू फैसलों में भी 60 प्रतिशत से ज्यादा की कमी का दावा किया है।
Meta ने इसको लेकर बताया है कि AI का इस्तेमाल सिर्फ पोस्ट की जांच तक सीमित नहीं रहेगा। इसका सिस्टम Facebook और Instagram पर स्कैम, ड्रग्स, यौन शोषण और अन्य गंभीर कम्यूनिटी गाइडलाइन उल्लंघनों की पहचान करने में मदद करेगा। वहीं सोशल मीडिया अकाउंट्स की गतिविधियों की भी जांच की जाएगी। जिसको लेकर कंपनी का दावा है कि AI आधारित मॉडरेशन से ऐसे कंटेंट को पहचानना आसान होगा जो नियमों का उल्लंघन करते हैं। जिसका एक बड़ा फायदा सेलिब्रिटी के नाम पर बनाए जाने वाले फर्जी अकाउंट्स के मामले में भी देखने को मिला है। Meta के अनुसार, ऐसे अकाउंट्स की शिकायतों में 80 प्रतिशत तक की कमी आई है।
AI सिस्टम के फैसले हमेशा सही हों ऐसा जरूरी नहीं है। इसी वजह से Meta ने साफ किया है कि वह कंटेंट रिव्यू से इंसानों को पूरी तरह हटाने नहीं जा रहा है। इसमें अगर AI किसी पोस्ट या अकाउंट पर गलत कार्रवाई करता है तो यूजर के पास अपील करने का विकल्प रहेगा। वहीं खासकर अकाउंट बैन जैसे गंभीर मामलों में ह्यूमन रिव्यू की भूमिका बनी रहेगी। जिसका सीधा मतलब है कि अंतिम फैसलों में इंसानी जांच अभी भी महत्वपूर्ण होगी।
Meta का कहना है कि वह थर्ड-पार्टी ह्यूमन मॉडरेटर्स पर अपनी निर्भरता कम करना चाहता है। बड़ी मात्रा में आने वाले कंटेंट की मैनुअल जांच करना मुश्किल है और कई बार नियम तोड़ने वाली पोस्ट इंसानी रिव्यू से बच निकलती हैं। AI इस प्रक्रिया को बड़े पैमाने पर और तेजी से संभाल सकता है। कंपनी का कहना है कि सामान्य उल्लंघनों की पहचान में AI ज्यादा सटीक और प्रभावी साबित हो रहा है।
Meta की नई रणनीति का मतलब यह नहीं है कि इंसानी मॉडरेशन खत्म हो जाएगा। बल्कि कंपनी सामान्य नियम उल्लंघनों की पहचान के लिए AI पर ज्यादा जिम्मेदारी डालना चाहती है जबकि संवेदनशील और गंभीर मामलों में इंसानी समीक्षा जारी रहेगी।
अगर यह मॉडल सफल रहता है तो आने वाले समय में Facebook और Instagram पर स्कैम, फर्जी अकाउंट और आपत्तिजनक कंटेंट की पहचान पहले से तेज हो सकती है। लेकिन AI के फैसलों की पारदर्शिता और गलत कार्रवाई के खिलाफ अपील की प्रक्रिया भी उतनी ही अहम होगी।
