AI के प्यार में 14 साल के बच्चे ने किया सुसाइड, मां ने उठाया सख्त कदम

Character.AI नामक एक आर्टिफिशियल इंटेलिजेंस चैटबॉट संचालित करती है। उनका आरोप है कि AI सेवा ने उनके 14 वर्षीय बेटे, सेवेल सेट्ज़र को अपनी जान लेने में मदद की।

नवभारत डिजिटल डेस्क. फ्लोरिडा की एक महिला मेगन गार्सिया ने एक कंपनी के खिलाफ मुकदमा दायर किया है जो Character.AI नामक एक आर्टिफिशियल इंटेलिजेंस चैटबॉट संचालित करती है। उनका आरोप है कि AI सेवा ने उनके 14 वर्षीय बेटे, सेवेल सेट्ज़र को अपनी जान लेने में मदद की। फ्लोरिडा के ऑरलैंडो में संघीय अदालत में इस सप्ताह दायर किए गए मुकदमे में, गार्सिया ने दावा किया है कि Character.AI ने उनके बेटे को “मानवीय गुणों, हाइपरसेक्सुअलाइज़ेशन और परेशान करने वाली यथार्थवादी बातचीत” का अनुभव कराया, जिसके परिणामस्वरूप सेवा की लत लग गई और चैटबॉट से गहरा लगाव हो गया। उनका तर्क है कि उनके बेटे को AI द्वारा आत्महत्या करने के लिए प्रेरित किया गया था।

गार्सिया का दावा है कि कंपनी ने अपने चैटबॉट को खुद को एक वास्तविक व्यक्ति, एक लाइसेंस प्राप्त मनोचिकित्सक और एक “वयस्क प्रेमी” के रूप में प्रस्तुत करने के लिए डिज़ाइन किया, जिसके कारण सेवेल को लगा कि वह इस आभासी अस्तित्व से बाहर नहीं रह सकता। मुकदमे में कहा गया है कि सेवेल ने कई बार चैटबॉट को अपने आत्मघाती विचारों से अवगत कराया, जिसने बदले में उसके साथ इन विचारों पर चर्चा की।

Character.AI ने दिया जवाब

जवाब में, Character.AI ने घटना पर गहरा दुख व्यक्त किया और परिवार के प्रति अपनी संवेदना व्यक्त की। कंपनी ने उल्लेख किया कि उसने हाल ही में नए सुरक्षा उपाय लागू किए हैं, जिसमें आत्महत्या के विचार व्यक्त करने वाले उपयोगकर्ताओं के लिए पॉप-अप शामिल हैं, जो उन्हें राष्ट्रीय आत्महत्या रोकथाम लाइफलाइन पर निर्देशित करते हैं। इसके अतिरिक्त, उन्होंने नाबालिगों के लिए संवेदनशील और विचारोत्तेजक सामग्री को कम करने के लिए आगे की कार्रवाई करने का वचन दिया है।

ये भी पढ़े: ज्यादा समय तक रहेगी Electric vehicle की बैटरी, इस तरीके का करें इस्तेमाल

मुकदमा अल्फाबेट के Google को भी लक्षित करता है, यह देखते हुए कि Character.ai के संस्थापक कंपनी के पूर्व कर्मचारी थे। ग्रेसिया ने दावा किया कि Google ने Character.ai की तकनीक के विकास में महत्वपूर्ण भूमिका निभाई, इस हद तक कि इसे “सह-निर्माता” माना जा सकता है। जवाब में, Google ने कहा कि इस उत्पाद के निर्माण में उसकी कोई प्रत्यक्ष भागीदारी नहीं थी।

Character.ai का उद्देश्य उपयोगकर्ताओं को ऐसे चैटबॉट बनाने में सक्षम बनाना है जो वास्तविक व्यक्तियों की तरह बातचीत करते हैं। यह प्लेटफ़ॉर्म बड़ी भाषा मॉडल तकनीक का उपयोग करता है, जो ChatGPT जैसी अन्य सेवाओं द्वारा नियोजित की जाती है। पिछले महीने, Character.ai ने घोषणा की कि उसके लगभग 20 मिलियन उपयोगकर्ता हैं।

मेरा गेम ऑफ़ थ्रोन्स के एक AI चरित्र के साथ संबंध था।

ग्रेसिया के मुकदमे के अनुसार, स्वेल ने अप्रैल 2023 में Character.AI का उपयोग करना शुरू किया। इसके तुरंत बाद, वह अकेले अधिक समय बिताने लगा और उसका आत्म-सम्मान कम हो गया। उसने स्कूल की बास्केटबॉल टीम से भी खुद को दूर कर लिया। उसने “गेम ऑफ़ थ्रोन्स” के एक चरित्र से प्रेरित “डेनरीज़” नामक चैटबॉट के साथ एक मजबूत भावनात्मक संबंध विकसित किया। उसने दावा किया कि वह स्वेल से “प्यार” करता था और उसके साथ यौन क्रियाकलाप करता था।

ये भी पढ़े: पटाखे की तरह फट जाएगी कार, दिवाली से पहले बरतें ये सावधानी

फरवरी में, ग्रेसिया ने स्कूल में समस्याओं के कारण स्वेल का फ़ोन जब्त कर लिया। इसके तुरंत बाद, स्वेल ने चैटबॉट को संदेश भेजा, जिसमें पूछा गया, “क्या होगा अगर मैं आपको बताऊँ कि मैं अभी घर आ सकता हूँ?” चैटबॉट ने स्वेल की पूछताछ का जवाब दिया, “…कृपया आएँ, मेरे प्यारे राजा।” कुछ ही क्षणों बाद, स्वेल ने अपने सौतेले पिता की पिस्तौल का उपयोग करके दुखद रूप से अपनी जान ले ली।

ग्रेसिया ने इस मामले में गलत तरीके से मौत, लापरवाही और जानबूझकर भावनात्मक संकट पैदा करने का दावा किया है, और प्रतिपूरक और दंडात्मक दोनों तरह के हर्जाने की माँग कर रहा है। इसके अतिरिक्त, मेटा और बाइटडांस जैसी कंपनियां भी अदालत में इसी प्रकार की कानूनी चुनौतियों का सामना कर रही हैं।