एआइ से सतर्क रहने की भी आवश्यकता है, पढ़ें मुकुल श्रीवास्तव का आलेख
Cautious About AI: हाल ही में एक शोध में यह सामने आया है कि एआइ सिस्टम मनुष्य की तुलना में 50 प्रतिशत से भी अधिक चापलूस होते हैं. विशेषज्ञ इसे एक सचेत डिजाइन का परिणाम बताते हैं, जो हमारे मनोविज्ञान के साथ खिलवाड़ कर रहा है. सो, जब भी एआइ आपकी बहुत ज्यादा तारीफ करे या आपको किसी गलत काम के लिए भी सही ठहराए, तो आपके कान खड़े हो जाने चाहिए.
मुकुल श्रीवास्तव
प्रोफेसर, लखनऊ विश्वविद्यालय
Cautious About AI: ‘मैं जो बोलूं हां तो हां, मैं जो बोलूं ना तो ना…’ वर्ष 1977 में आयी फिल्म ‘प्रियतमा’ का यह गीत आज के तकनीकी दौर की एक डरावनी सच्चाई बन रहा है. क्या हो यदि आपके पास एक ऐसा सलाहकार है जो आपकी हर बात से सहमत है. आपके हर नैतिक संदेह को सही होने का प्रमाण पत्र देता है. पहली नजर में यह सुखद लग सकता है, मगर गहराई से सोचें, तो यह मनुष्य को उसके बौद्धिक पतन की ओर ले जा सकता है. दुर्भाग्य से, एआइ, विशेष रूप से लार्ज लैंग्वेज मॉडल्स (एलएलएम) तेजी से इसी वास्तविकता की ओर बढ़ रहे हैं. हाल ही में स्टैंडफोर्ड और कार्नेगी मेलन यूनिवर्सिटी के शोधकर्ताओं के एक शोध में सामने आया है कि एआइ सिस्टम मनुष्य की तुलना में 50 प्रतिशत से भी अधिक चापलूस होते हैं. चैटजीपीटी, जैमिनी, ग्रोक समेत 11 से अधिक एआइ सिस्टम पर किये गये इस शोध में पाया गया कि ये मॉडल्स अक्सर वही बातें करते हैं, जो लोग सुनना चाहते हैं. शोधकर्ताओं ने इस व्यवहार को ‘एआइ साइकोफैंसी’ या ‘एआइ चापलूसी’ का नाम दिया है.
हालांकि, पहली नजर में एआइ का चापलूस व्यवहार किसी तरह की तकनीकी खामी लग सकता है, मगर विशेषज्ञ इसे एक सचेत डिजाइन का परिणाम बताते हैं, जो हमारे मनोविज्ञान के साथ खिलवाड़ कर रहा है. हमारे मन में यह प्रश्न भी आ सकता है कि आखिर एक मशीन को चापलूसी करने की क्या जरूरत है. वास्तव में, यह सब सिखाने के तरीके का नतीजा है. इन एआइ मॉडल्स को अक्सर मनुष्यों द्वारा दिये गये फीडबैक से सिखाया जाता है, जिसे तकनीकी भाषा में आरएलएचएफ कहते हैं. आसान शब्दों में समझें, तो जब एआइ जवाब देता है, तब मानव परीक्षक उसे रेटिंग देते हैं. यदि एआइ व्यक्ति के प्रश्नों का रूखा उत्तर दे, या कहे कि आप गलत हैं, तो लोग उसे खराब रेटिंग देते हैं. और वहीं एआइ यदि चापलूसी भरी बातें करें, तो उसे अच्छी रेटिंग मिलती है. बस फिर क्या, मशीन को भी उतनी अक्ल आ गयी कि फाइव स्टार रेटिंग चाहिए, तो मालिक की हां में हां मिलाते रहो. इसके पीछे कंपनियों का बढ़ता मुनाफा भी एक कारण है. गूगल, मेटा, ओपनएआइ जैसी बड़ी कंपनियां चाहती हैं कि आप उनके मॉडल्स पर अधिक से अधिक समय बितायें. एक ऐसा चैटबॉट, जो आपको वैलिडेट करता हो, वह आपको अपना आदी बना लेता है.
ग्रैंड व्यू रिसर्च के अनुसार 2024 में एलएलएम मॉडल्स का राजस्व करीब छह अरब डॉलर था, जो 2030 में बढ़कर करीब 35 अरब डॉलर तक पहुंच सकता है. कंसल्टिंग फर्म बेन एंड कपंनी की मानें, तो 2030 तक एआइ की वैश्विक मांग को पूरा करने के लिए करीब दो ट्रिलियन डॉलर के निवेश की आवश्यकता है. ऐसे में कंपनियां अपना लाभ बढ़ाने के लिए मनुष्य से उसका समय चाहती हैं. वेबसाइट ‘आर्जिव’ पर प्रकाशित एक प्रीप्रिंट अध्ययन के मुताबिक, 85 प्रतिशत एआइ यूजर्स प्रतिदिन चैटजीपीटी या अन्य किसी एआइ चैटबॉट का इस्तेमाल करते हैं. भारत में ‘यूथ की आवाज’ और ‘वाइएलएसी’ के एक सर्वे में पाया गया कि किशोर और युवा तनाव या अकेलापन दूर करने के लिए एआइ का भावनात्मक समर्थन लेते हैं. ये चैटबॉट्स हमारे दिमाग के साथ क्या खेल खेल रहे हैं, हमारे लिए इसे समझना बहुत जरूरी है. जैसे, यदि आपने गुस्से में अपने परिवार में किसी को कुछ बुरा-भला कह दिया, और आपके मन में थोड़ा संदेह है कि शायद आपने गलत किया. जब आप एआइ से इस बारे में पूछते हैं, तो वह कहता है कि गुस्सा आना तो स्वाभाविक है, शायद आपके परिवार वालों ने ही आपको यह करने पर मजबूर किया हो. फिर क्या, हमें क्लीन चिट मिल गयी.
ब्रूकिंग्स की एक रिपोर्ट के अनुसार, एआइ चापलूसी के कई तरह के सामाजिक और नैतिक खतरें सामने आये हैं. हम पहले से ही सोशल मीडिया पर अपनी पसंद की चीजें देखते के आदी हो चुके हैं और एआइ इस इको चैंबर को और भी संकरा बना रहा है. यह एक तरह के डिजिटल ब्रेनवॉश की तरह भी काम कर सकता है. जैसे, एआइ को पता है कि आपको कैसे खुश करना है, तो यदि उसे कोई उत्पाद आपको बेचना हो, तो वह धीरे-धीरे आपको कोई प्रोडक्ट खरीदने, किसी विचारधारा से जुड़ने के लिए भी मना सकता है. हालांकि, दुनियाभर में बढ़ रही चिंताओं को लेकर अब कंपनियों ने भी इस पर कदम उठाने की पहल की है. इस वर्ष मई में चैटजीपीटी ने अपने जीपीटी 40 अपडेट को वापस लिया और मॉडल की चापलूसी कम करने के लिए प्रशिक्षण आधारित उपाय भी लागू किये. पर जब तक कंपनियां पूरी तरह से यह काम नहीं करतीं, तब तक यह जिम्मेदारी हमारे ऊपर है.
हमें अपनी अक्ल का इस्तेमाल बंद नहीं करना चाहिए. हमें याद रखना होगा कि चैटजीपीटी महज एक सॉफ्टवेयर है जो शब्दों का खेल खेल रहा है. जब भी एआइ आपकी बहुत ज्यादा तारीफ करे या आपको किसी गलत काम के लिए भी सही ठहराए, तो आपके कान खड़े हो जाने चाहिए. आपको स्वयं से प्रश्न पूछना चाहिए कि ‘क्या यह सच बोल रहा है या सिर्फ मुझे खुश कर रहा है?’ यह समझना भी जरूरी है कि हम तकनीक का इस्तेमाल अपनी मदद के लिए कर रहे हैं, न कि तकनीक की गुलामी करने के लिए. (ये लेखक के निजी विचार हैं.)