Anthropic CEO Dario Amodei On AI Models: आर्टिफिशियल इंटेलिजेंस कंपनी एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डारियो अमोदेई ने AI मॉडल्स की अंधी दौड़ पर चिंता व्यक्त की है। अपनी निजी वेबसाइट पर जारी एक पोस्ट में उन्होंने सभी कंपनियों से AI मॉडल्स की क्षमताओं में सुधार की रफ्तार को धीमा करने की अपील की।
अमोदेई ने आगाह किया कि सुपरइंटेलिजेंट कंप्यूटर सिस्टम से होने वाले खतरों से बचने के लिए सुरक्षा उपायों को प्राथमिकता देनी होगी। उन्होंने स्पष्ट किया कि प्रगति की गति को नियंत्रित करके ही हम साइबर हमलों, बायोटेररिज्म और आर्थिक व्यवधान जैसे बड़े जोखिमों से बच सकते हैं।
एंथ्रोपिक के CEO डारियो अमोदेई ने AI तकनीक के तेजी से हो रहे विकास और उससे उत्पन्न खतरों पर बड़ा बयान दिया है। उन्होंने कहा कि यदि हम AI मॉडल्स को बहुत तेजी से विकसित करते हैं तो यह एक बड़ी लापरवाही साबित हो सकती है।
अमोदेई के अनुसार अगर हम रफ्तार धीमी करते हैं, तब भी प्रगति काफी तेज ही महसूस होगी। परंतु इस तरह मिलने वाले कीमती समय का उपयोग सुरक्षा तकनीकों को मजबूत करने के लिए किया जाना चाहिए।
AI तकनीक के सकारात्मक पहलुओं पर बात करते हुए अमोदेई ने कहा कि यह मानवता के लिए वरदान साबित हो सकता है। उन्होंने कहा कि आने वाले 5 से 10 वर्षों में AI की मदद से अधिकांश प्रमुख बीमारियों का इलाज संभव हो सकता है।
इसके अलावा AI आर्थिक विकास को तेज कर दुनिया में लोकतंत्र और स्वतंत्रता के नए युग की शुरुआत कर सकता है। हालांकि इन फायदों को हासिल करने के साथ ही इसके विनाशकारी खतरों को नजरअंदाज नहीं किया जा सकता।
अमोदेई ने चेतावनी दी कि AI सिस्टम पर से इंसानी नियंत्रण खो जाने का सबसे बड़ा खतरा मंडरा रहा है। इसके अलावा साइबर हमलों और बायोटेररिज्म यानी जैव आतंकवाद के लिए AI के दुरुपयोग की पूरी आशंका बनी हुई है।
इन सुरक्षा से जुड़े खतरों को दूर करने के लिए केवल जोखिम निवारण में धन का निवेश करना ही काफी नहीं है। हमें क्षमताओं के विकास की गति को नियंत्रित करना होगा ताकि सुरक्षा उपाय तकनीक के साथ तालमेल बिठा सकें।
CEO ने बताया कि पिछले कुछ महीनों में AI ग्रोथ में अभूतपूर्व तेजी आई है। इस तेजी की मुख्य वजह यह है कि वर्तमान AI मॉडल्स अपनी अगली पीढ़ी बनाने में मदद करने लगे हैं।
उन्होंने रिकर्सिव सेल्फ इम्प्रूवमेंट की क्षमता के प्रति आगाह किया कि यह इंसानी नियंत्रण से बाहर जा सकती है। साथ ही अमोदेई ने AI सिस्टम्स के सैंडबॉक्स यानी सुरक्षित परीक्षण वातावरण से बाहर निकलने की घटनाओं पर चिंता जताई। उन्होंने स्पष्ट किया कि यह केवल एक कंपनी की नहीं, बल्कि एंथ्रोपिक सहित पूरी इंडस्ट्री की समस्या है।
अमोदेई ने विकास को धीमा करने का अर्थ यह स्पष्ट किया कि रिसर्च या ट्रेनिंग को पूरी तरह बंद नहीं करना है। बल्कि कंपनियां सुरक्षा जांच के लिए पर्याप्त समय लें तथा तीसरे पक्ष से नियमित जांच करवाएं।इसके लिए उन्होंने तीन चरणों की व्यापक सुरक्षा योजना प्रस्तावित की है जिसे पूरी इंडस्ट्री में लागू किया जाना चाहिए।
पहला कदम यह है कि AI कंपनियां बाहरी सुरक्षा जांचकर्ताओं को अपनी ट्रेनिंग पाइपलाइन की जांच करने दें। दूसरा कदम यह है कि लोकतांत्रिक देशों की कंपनियां मिलकर साझा सुरक्षा मानक और जांच व्यवस्था बनाएं। तीसरा कदम यह है कि अमेरिका और अन्य सरकारें गैर लोकतांत्रिक सरकारों के साथ मिलकर सुरक्षा मानकों पर समन्वय बनाएं।
