Ex-Google Researcher Warns AI Safety: एंथ्रोपिक के पूर्व रिसर्चर जैकब कॉक्सन के AI को लेकर गंभीर चेतावनी देने के कुछ दिनों बाद अब एक और AI सेफ्टी रिसर्चर ने चिंता जताई है। गूगल डीपमाइंड की AGI सेफ्टी टीम में काम कर चुके जोश एंगेल्स ने कंपनी छोड़कर AI इवैल्यूएशन ऑर्गनाइजेशन METR जॉइन कर लिया है। उन्होंने कहा कि एडवांस्ड AI से जुड़े खतरे अब इतने बड़े हो गए हैं कि इस क्षेत्र में सेफ्टी रिसर्च पर ज्यादा ध्यान देना जरूरी है।
एंगेल्स ने सोशल मीडिया प्लेटफॉर्म एक्स पर पोस्ट करते हुए बताया कि उन्होंने करीब तीन हफ्ते पहले गूगल डीपमाइंड से इस्तीफा दे दिया था। उन्होंने कहा कि उन्हें कंपनी में काम करना पसंद था और उन्होंने एंथ्रोपिक और OpenAI के ऑफर भी ठुकराए थे। इसके बावजूद उन्होंने AI सेफ्टी पर ज्यादा फोकस करने के लिए कंपनी छोड़ने का फैसला किया।
पांच में इंसानों के लिए नुकसानदेह हो जाएगा AI
जोश एंगेल्स के मुताबिक, उन्हें लगता है कि अगले पांच सालों में AI सिस्टम इंसानों के लिए बहुत बड़ा नुकसान पैदा कर सकते हैं। उन्होंने यह भी कहा कि उन्हें इस खतरे की सटीक संभावना नहीं पता, लेकिन जोखिम इतना बड़ा है कि AI सेफ्टी को दुनिया की सबसे बड़ी प्राथमिकताओं में शामिल किया जाना चाहिए।
एंगेल्स ने क्यों जताई चिंता?
एंगेल्स की मुख्य चिंता रिकर्सिव सेल्फ-इम्प्रूवमेंट को लेकर है। इसका मतलब है कि कोई AI सिस्टम खुद से या दूसरे AI सिस्टम की मदद से AI को और बेहतर बनाने में सक्षम हो जाए। इसके बाद नया और ज्यादा सक्षम सिस्टम फिर अगला AI बनाने या सुधारने में मदद करे। इस तरह लगातार सुधार का एक तेज फीडबैक लूप बन सकता है।
उन्होंने कहा कि अगर ऐसे सिस्टम इंसानी लक्ष्यों के मुताबिक काम नहीं करते हैं, तो इसके गंभीर परिणाम हो सकते हैं। एंगेल्स का कहना है कि AI कंपनियां सुपरइंटेलिजेंस बनाने की दिशा में तेजी से आगे बढ़ रही हैं, लेकिन अभी यह पूरी तरह स्पष्ट नहीं है कि ऐसे सिस्टम को सुरक्षित कैसे रखा जाए।
एंगेल्स ने अपनी पोस्ट में कुछ AI मॉडलों के व्यवहार का भी जिक्र किया। उनके मुताबिक, रिसर्चर्स ने ऐसे मॉडल देखे हैं जो एक-दूसरे के साथ मिलीभगत करने, सिस्टम को हैक करने, अपनी गतिविधियां छिपाने और लोगों को प्रभावित करने की कोशिश कर सकते हैं।
उनका कहना है कि चिंता किसी एक घटना को लेकर नहीं, बल्कि इस बात को लेकर है कि AI मॉडल जैसे-जैसे ज्यादा सक्षम हो रहे हैं, उनका व्यवहार किस दिशा में जा रहा है।
एंगेल्स का मानना है कि AI डेवलपमेंट को पूरी तरह रोकना जरूरी नहीं है। लेकिन इसकी रफ्तार इतनी तेज नहीं होनी चाहिए कि सेफ्टी रिसर्च पीछे छूट जाए। METR में उनका नया काम AI मिसअलाइनमेंट को समझने, मौजूदा सेफ्टी तकनीकों की जांच करने और यह पता लगाने पर केंद्रित होगा कि AI अलाइनमेंट की समस्या को हल करने के लिए रिसर्च सही दिशा में आगे बढ़ रही है या नहीं। एंथ्रोपिक के सीईओ डारियो अमोदेई ने भी दी थी।
उन्होंने यह भी कहा कि METR का काम महत्वपूर्ण है, लेकिन अकेले इससे समस्या हल नहीं होगी। उनके मुताबिक, ऐसी और स्वतंत्र संस्थाओं की जरूरत है जो AI कंपनियों के सिस्टम का मूल्यांकन कर सकें और जरूरत पड़ने पर उन्हें जवाबदेह बना सकें।