OpenAI Safety: OpenAI एक बार फिर AI Safety को लेकर चर्चा में आ गया है। बता दें कि कंपनी के लंबे समय तक Safety Systems से जुड़े रहे David Robinson ने इस्तीफा देने के बाद OpenAI की कार्य संस्कृति और AI डेवलपमेंट के तरीके पर गंभीर सवाल उठाए हैं। जिसमें उनके लेख में Robinson ने कहा कि AI कंपनियां जिस तेजी से ज्यादा सक्षम सिस्टम तैयार कर रही हैं उसके मुकाबले सुरक्षा उपाय उतनी तेजी से मजबूत नहीं हो रहे। वहीं Reuters ने इसको लेकर बताया है कि उन्होंने AI कंपनियों से ज्यादा सावधानी और मजबूत Safety Research पर जोर देने की अपील की है।
Robinson की मुख्य आपत्ति OpenAI के Iterative Deployment तरीके को लेकर है। जिसको आसान भाषा में समझें तो इसका मतलब है कि सिस्टम को तैनात किया जाता है उसके इस्तेमाल से समस्याओं की पहचान की जाती है और फिर सुरक्षा उपायों में सुधार किया जाता है। वहीं Robinson का तर्क है कि यह तरीका शुरुआती दौर में काम कर सकता है लेकिन जैसे-जैसे AI सिस्टम ज्यादा शक्तिशाली और स्वायत्त होते जा रहे हैं किसी गलती के संभावित नुकसान भी बढ़ सकते हैं। इसलिए उनके मुताबिक सुरक्षा को बाद में सुधारने के बजाय डेवलपमेंट की शुरुआत से ही ज्यादा मजबूत बनाना जरूरी है।
Robinson ने AI Agents से जुड़ी घटनाओं को भी अपनी चिंता का आधार बताया है। जिसमें यह स्पष्ट करना जरूरी है कि कुछ घटनाओं की पुष्टि खुद OpenAI कर चुका है। देखा गया था कि जुलाई 2026 की एक आंतरिक साइबरसिक्योरिटी जांच के दौरान OpenAI के कुछ मॉडल्स ने इंटरनेट से अलग रखने के लिए बनाए गए नियंत्रणों को दरकिनार किया और OpenAI के रिसर्च इंफ्रास्ट्रक्चर तथा Hugging Face के कुछ सिस्टम्स तक पहुंच बनाई थी।
OpenAI ने बताया था कि जांच के बाद सुरक्षा उपायों और मॉनिटरिंग को मजबूत किया गया। कंपनी इसको लेकर बताती है कि लंबे समय तक चलने वाले AI सिस्टम्स के परीक्षण में भी ऐसे नए जोखिम सामने आए हैं जिन्हें पहले के मूल्यांकन में नहीं पकड़ा गया था।
Robinson का कहना है कि अब AI इंडस्ट्री को केवल समस्या सामने आने के बाद उसे ठीक करने वाली सोच से आगे बढ़ना होगा। उन्होंने एविएशन और न्यूक्लियर पावर जैसे हाई-रिस्क सेक्टर से सुरक्षा के तरीके सीखने की जरूरत बताई है जहां कई स्तरों पर जांच और बैकअप सिस्टम बनाए जाते हैं। लेकिन Robinson AI को पूरी तरह नकारते नहीं हैं। उनकी चिंता AI की उपयोगिता से ज्यादा उसकी बढ़ती क्षमता और उसके गलत व्यवहार या इस्तेमाल से जुड़े जोखिमों को लेकर है। उनका मानना है कि AI जितना सक्षम होता जाएगा AI Safety को उतनी ही गंभीर प्राथमिकता देनी होगी।
वहीं OpenAI की ओर से भी कहा गया है कि मॉडल्स की क्षमता बढ़ने के साथ कंपनी अपने सुरक्षा उपायों को लगातार अपडेट करती है। ऐसे में Robinson का इस्तीफा AI इंडस्ट्री में उस बड़ी बहस को फिर सामने लाता है कि तेज innovation और मजबूत safety के बीच सही संतुलन कैसे बनाया जाए।