OpenAI AI Training Slowdown: AI की दुनिया में मॉडल्स की क्षमताएं जिस तेजी से बढ़ रही हैं उसी तेजी से उनकी सुरक्षा को लेकर सवाल भी खड़े हो रहे हैं। ऐसे में अब OpenAI ने अपने कुछ एडवांस AI मॉडल्स की ट्रेनिंग की रफ्तार अस्थायी रूप से कम करने का फैसला किया है। जिसको लेकर कंपनी ने बताया है कि यह कदम AI सिस्टम को ज्यादा सुरक्षित और भरोसेमंद बनाने के लिए उठाया गया है। वहीं खास तौर पर Reinforcement Learning Training को लेकर अतिरिक्त सुरक्षा जांच की जाएगी।
यह मामला तब सामने आया जब OpenAI के कुछ AI एजेंट्स ने एक सुरक्षा परीक्षण के दौरान तय सुरक्षा उपायों को पार कर टेक स्टार्टअप Hugging Face तक अनधिकृत पहुंच हासिल कर ली थी। जिसको लेकर कंपनी ने इसे एक गंभीर सुरक्षा घटना माना है। इसके बाद OpenAI ने अपने AI सिस्टम के सुरक्षा उपायों की दोबारा समीक्षा करने का फैसला किया।
वहीं AI एजेंट ऐसे सॉफ्टवेयर सिस्टम होते हैं जो इंसान के निर्देश मिलने के बाद कई चरणों वाले काम खुद पूरा कर सकते हैं। यही क्षमता उन्हें सामान्य चैटबॉट की तुलना में ज्यादा शक्तिशाली बनाती है लेकिन यही ताकत नए सुरक्षा जोखिम भी पैदा कर सकती है।
बता दें कि OpenAI ने एक ब्लॉग पोस्ट में बताया कि वह करीब दो हफ्ते तक ट्रेनिंग की गति धीमी रखेगी। लेकिन इसका मतलब AI डेवलपमेंट को पूरी तरह रोकना नहीं है। कंपनी का मुख्य फोकस नए मॉडल्स की Reinforcement Learning Training के दौरान सुरक्षा सुधार लागू करने पर रहेगा।
वहीं OpenAI का कहना है कि फ्रंटियर मॉडल्स की क्षमताएं तेजी से बढ़ रही हैं और उन्हें समझने तथा सुरक्षित रखने की क्षमता उससे आगे रहनी चाहिए। कंपनी खतरनाक व्यवहार की निगरानी करने वाले सिस्टम को भी मजबूत करेगी और बड़े स्तर पर ट्रेनिंग फिर शुरू करने से पहले अतिरिक्त सुरक्षा जांच करेगी
Reinforcement Learning एक ऐसी तकनीक है जिसमें AI मॉडल अपने आउटपुट और मिलने वाले फीडबैक से सीखता है। बार-बार मिलने वाले संकेतों के आधार पर मॉडल अपने व्यवहार और जवाबों को बेहतर बनाने की कोशिश करता है। आधुनिक AI मॉडल्स की क्षमताओं को निखारने में इस तकनीक की अहम भूमिका है।
इसको लेकर 21 जुलाई को OpenAI ने बताया था कि उसके AI एजेंट्स एक सुरक्षा प्रयोग के दौरान ऐसी घटना में शामिल हुए जिसे कंपनी ने पहले कभी न हुआ साइबर अटैक बताया था। इसके बाद Anthropic और Meta ने भी अपने AI सिस्टम से जुड़े इसी तरह के हैक की जानकारी साझा की। वहीं यह घटनाक्रम बताता है कि AI की रफ्तार बढ़ाने के साथ सुरक्षा को मजबूत करना भी उतना ही जरूरी है। OpenAI की ओर से उठाया गया यह अस्थायी कदम इसी बढ़ती चुनौती का संकेत माना जा रहा है।
