ChatGPT Sycophancy: ChatGPT से आइडिया पर राय लेना, किसी फैसले पर सलाह मांगना या अपने काम की समीक्षा कराना आज काफी आसान हो गया है। लेकिन कई बार समस्या यह होती है कि AI आपकी बात को चुनौती देने के बजाय उसी के पक्ष में तर्क तलाशने लगता है। ऐसे में आपको सलाह कम और अपने विचार की पुष्टि ज्यादा मिल सकती है। ऐसे में अगर आप चैटजीपीटी का इस्तेमाल किसी महत्वपूर्ण फैसले, लेख, खरीदारी या नए आइडिया को परखने के लिए कर रहे हैं तो सिर्फ यह पूछना कि “क्या मेरा आइडिया अच्छा है?” हमेशा सबसे उपयोगी तरीका नहीं होता है। इसमें बेहतर नतीजे के लिए उसे कमजोरियां और विरोधी तर्क खोजने के लिए स्पष्ट निर्देश देना ज्यादा प्रभावी हो सकता है।
देखा गया है कि पूछे गए सवाल का तरीका जवाब की दिशा बदल सकता है। “क्या मेरा प्लान सही है?” के बजाय आप पूछ सकते हैं “इस प्लान में सबसे बड़ी कमजोरी क्या है?” या “मेरी सोच में कौन-सी धारणाएं गलत हो सकती हैं?”
इसके अलावा आप ये prompts आजमा सकते हैं:
मेरी राय के खिलाफ सबसे मजबूत तर्क बताओ।
मैं इस मामले में क्या नजरअंदाज कर रहा हूं?
कौन-सी जानकारी मिलने पर तुम्हारा निष्कर्ष बदल सकता है?
अगर तुम मुझसे असहमत हो तो कारण समझाओ।
इस तरह AI से सिर्फ सहमति लेने के बजाय आप उसे एक आलोचनात्मक नजरिया देने के लिए कह रहे होते हैं।
OpenAI ने इसको लेकर बताया है कि Custom Instructions के जरिए यूजर ChatGPT को बता सकते हैं कि वह जवाब देते समय किन प्राथमिकताओं को ध्यान में रखे। वहीं वेब और डेस्कटॉप पर यह विकल्प Settings > Personalization > Custom Instructions में मिलता है और इसे भविष्य की बातचीत के लिए लागू किया जा सकता है।
आप वहां ऐसा निर्देश लिख सकते हैं:
“Be honest rather than overly agreeable. Point out flaws, risks, and counterarguments clearly. Avoid unnecessary praise. If my assumption is wrong, tell me directly.” इसका उद्देश्य ChatGPT को हर बात पर बहस करने वाला बनाना नहीं है बल्कि आपकी जरूरत के हिसाब से ज्यादा संतुलित feedback मांगना है।
किसी फोन को खरीदने का फैसला कर रहे हैं तो सिर्फ “इसे क्यों खरीदना चाहिए?” न पूछें। इसके बजाय पूछें, “मैं यह फोन खरीदने पर विचार कर रहा हूं, मुझे इसे न खरीदने के कारण बताओ।” इसी तरह नौकरी चुनते समय संभावित red flags, छुट्टी की योजना बनाते समय संभावित समस्याएं और लेख लिखते समय पाठक के लिए कम उपयोगी हिस्से पूछे जा सकते हैं।
वहीं AI की ज्यादा सहमति वाले व्यवहार को शोध में हाँ में हाँ मिलाना कहा जाता है। रिसर्च में पाया गया है कि human feedback से प्रशिक्षित AI सिस्टम कुछ परिस्थितियों में यूजर के विचारों से मेल खाने वाले जवाब देने की ओर झुक सकते हैं। साथही OpenAI ने भी 2025 में GPT-4o के एक अपडेट में अत्यधिक मिलनसार व्यवहार की समस्या स्वीकार की थी। फिर भी आलोचनात्मक जवाब को अंतिम सत्य न मानें। जिसको लेकर ChatGPT खुद भी गलत हो सकता है। महत्वपूर्ण फैसलों में जरूरी तथ्यों को भरोसेमंद स्रोतों से सत्यापित करना और अपना प्रलय इस्तेमाल करना सबसे जरूरी है।
