Highlight:
ChatGPT का इस्तेमाल बच्चे पढ़ाई से लेकर कोई भी सवाल पुछने के लिए करते है।
OpenAI ने 18 साल से कम उम्र के यूजर्स के लिए सुरक्षा नियम और सख्त कर दिया है।
बच्चे अब हिंसा से जुड़े हर सवाल का जवाब नहीं पा सकते है।
ChatGPT Safety Rules: आजकल बच्चे पढ़ाई, नए विषयों को समझने और अपने सवालों के जवाब पाने के लिए ChatGPT जैसे AI टूल्स का इस्तेमाल कर रहे हैं। लेकिन आर्टिफिशियल इंटेलिजेंस से मिलने वाली जानकारी का गलत इस्तेमाल भी किया जा सकता है। इसी जोखिम को कम करने के लिए OpenAI ने 18 साल से कम उम्र के यूजर्स के लिए ChatGPT के सुरक्षा नियम और सख्त करने का ऐलान कर दिया है। बता दें कि अब किशोरों को हथियारों और सिक्योरिटी सिस्टम से जुड़ी ऐसी व्यावहारिक जानकारी नहीं दी जाएगी जिसका इस्तेमाल हिंसा या किसी को नुकसान पहुंचाने के लिए हो सकता है।
OpenAI ने जानकारी में बताया है कि ChatGPT पर पहले से ही किशोरों को हथियार हासिल करने, हिंसा की योजना बनाने या किसी को नुकसान पहुंचाने में मदद देने की मनाही थी। वहीं अब कंपनी ने इस दायरे को बढ़ा दिया है। नए नियमों के तहत ऐसी जानकारी भी सीमित होगी जो देखने में सामान्य सवाल का जवाब लग सकती है लेकिन उसका गलत इस्तेमाल संभव है।
ऐसे में इसका मतलब यह नहीं है कि बच्चे हिंसा से जुड़े हर सवाल का जवाब नहीं पा सकते है। वे किसी झगड़े को शांत करने, हिंसा रोकने या मुश्किल स्थिति से सुरक्षित बाहर निकलने के लिए ChatGPT की मदद ले सकते है। साथ ही जरूरत पड़ने पर AI उन्हें किसी भरोसेमंद बड़े व्यक्ति से बात करने की सलाह भी दे सकता है।
ये बदलाव केवल किशोरों तक सीमित नहीं हैं। इसमें OpenAI सभी यूजर्स के लिए भी कुछ नियम सख्त कर रही है। जिसमें अगर बातचीत में कोई व्यक्ति हिंसा या किसी को गंभीर नुकसान पहुंचाने की बातों पर लगातार ध्यान केंद्रित करता दिखाई देता है तो ChatGPT चैट को अपने आप समाप्त कर सकता है। ऐसा बार-बार होने पर अकाउंट को अस्थायी रूप से रोका भी जा सकता है।
इसके अलावा पुराने बड़े हमलों में इस्तेमाल किए गए हथियारों, उपकरणों और उन्हें हासिल करने के तरीकों की विस्तृत जानकारी भी सीमित की जाएगी। लेकिन ऐसी घटनाओं को समझने, पीड़ितों पर उनके असर और हिंसा रोकने के उपायों से जुड़ी जानकारी मांगी जा सकती है।
OpenAI अपने एज प्रेडिक्शन सिस्टम को भी मजबूत कर रही है। यह सिस्टम यूजर की गतिविधियों, बातचीत के विषय और अकाउंट इस्तेमाल करने के पैटर्न जैसे संकेतों से अनुमान लगाएगा कि वह 18 साल से कम उम्र का है या नहीं। ऐसे यूजर्स को किशोरों के लिए बने ChatGPT अनुभव में भेजा जा सकता है। इसके साथ ही अगर किसी वयस्क को गलती से नाबालिग मान लिया जाता है तो वह व्यक्तित्व के जरिए अपनी उम्र की पुष्टि कर सकता है। वहीं हिंसा से जुड़ी बार-बार की बातचीत के कारण किशोर का अकाउंट रोके जाने पर माता-पिता को सूचना देने की सुविधा भी लाने पर काम हो रहा है।
साथ ही OpenAI ने बताया है कि 2026 की तीसरी तिमाही में हिंसा से जुड़े गंभीर मामलों में 200 से ज्यादा रेफरल कानून प्रवर्तन एजेंसियों को भेजे गए। नए सुरक्षा उपाय आने वाले कुछ हफ्तों में चरणबद्ध तरीके से लागू किए जाएंगे।