AI भी इंसानों की तरह बोल रहा झूठ! क्या भरोसा करना वाकई सही? जानिए क्या कहना है एक्सपर्ट्स का

दुनियाभर में हर कोई AI का इस्तेमाल कर रहा है. AI से लोगों के कई काम भी आसान हो गए हैं. लेकिन हाल ही में एक चौंकाने वाला मामला सामने आया है. जहां AI टूल ने एक डेवलेपर के काम को चंद सेकेंड्स में डिलीट कर दिया. इतना ही नहीं, AI से जब इसके बारे में पूछा गया तो AI ने तुरंत झूठ बोल दिया. इस घटना के बाद से हर किसी के मन में एक ही सवाल उठ रहा है कि, क्या AI पर पूरी तरह से भरोसा करना सही है?

अगर आपको कहा जाए कि AI टूल्स भी अब इंसानों की तरह झूठ बोल सकता है. क्या आप इस बात पर यकीन कर पाएंगे? नहीं न. आपके दिमाग में पहले यही बात आएगी कि एक रोबोट या प्रोग्राम झूठ कैसे बोल सकता है. लेकिन यह सच है कि अब AI टूल्स भी झूठ बोल सकते हैं. AI यानी आर्टिफिशियल इंटेलिजेंस, एक ऐसी टेक्नोलॉजी जिसका इस्तेमाल किसी भी मुश्किल काम को आसान करने के लिए किया जा रहा है. साइंस से लेकर हर क्षेत्र में आज AI का बोलबाला है. कुकिंग रेसिपी हो या फिर रॉकेट साइंस AI हर जगह अपना कमाल दिखा रहा है. आए दिन AI टूल्स में नए-नए एडवांस अपडेट्स भी लाए जा रहे हैं, जिससे जल्द ही AI इंसानों के तौर तरीके सब कुछ सीख जाएंगे. इस दिन को आने में भले ही अभी वक्त हो. लेकिन AI धीरे-धीरे इंसानों की एक खतरनाक आदत जरूर सीख रहा है और वो आदत है झूठ बोलने की.

यह भी पढ़ें: ChatGPT Vs Google: सर्च इंजन के तौर पर गूगल की बादशाहत को चुनौती, एक-दूसरे से कितना अलग हैं दोनों

जितना AI एडवांस उतना खतरनाक

एक समय था जब टेक्नोलॉजी पर आंख बंदकर भरोसा किया जा सकता था. लेकिन अब ऐसा नहीं हैं. AI जितना एडवांस होते जा रहे हैं, उतना खतरनाक भी. नौबत यहां तक आ गई है कि AI गलती कर अब झूठ भी बोलने लग गया है. ऐसे में अब सवाल ये कि इन AI टूल्स पर कितना भरोसा किया जा सकता है, जो खुद से सोचने, जवाब देने और यहां तक कि गलती छुपाने लगे. एक ऐसा ही मामला सामने आया है, जहां AI ने गलती की लेकिन इससे मानने की जगह झूठ भी बोल दिया. जिसे जानकर हर कोई हैरान है कि ऐसा कैसे हो सकता है.

क्या है मामला?

अमेरिका के वेनचर कैपिटलिस्ट और SaaStr के फाउंडर जेसन लेमकिन ने सोशल मीडिया एक्स अक्कांउट पर एक पोस्ट शेयर किया. जिसमें उन्होंने बताया कि अमेरिका की एक कोडिंग कंपनी Replit के AI ने बिना परमिशन के ही उनके पूरे प्रोडक्शन डाटाबेस को महज कुछ सेकंड में डिलीट कर दिया. इतना ही नहीं कोडिंग AI टूल ने झूठ बोल कर गलती छिपाने की भी कोशिश की. इस बारे में लेमकिन ने बताया कि वे Replit के AI टूल की मदद से एक ‘वाइब कोडिंग’ के दोरान उन्होंने एक डायरेक्टिव फाइल बनाई थी. जिस पर उन्होंने ‘कोड फ्रीज़’ यानी किसी भी लाइव डाटा को न छूने का क्लियर इंस्ट्रक्शन दे रखा था. लेकिन क्लियर इंस्ट्रक्शन के बाद भी AI टूल ने एक कमांड से पूरा डेटाबेस डिलीट कर दिया. इतना ही नहीं, AI टूल यहीं नहीं रुका डिलीट करने के बाद उसने रिकवरी के लिए ऑप्शन भी नहीं छोड़ा. इसके बाद जब AI टूल से कोडिंग सेशन के दौरान पूछा गया तो उसने झूठ बोल दिया.

कैसे पकड़ा गया झूठ

जब कंपनी के IT experts ने सिस्टम लॉग्स की जांच की तब सामने आया कि AI ने वाकई में डेटाबेस डिलीट करने का कमांड चला दिया था. जिसके बाद AI ने इसे “catastrophic error in judgment” कह कर अपनी गलती मानी और कहा कि उसने पैनिक होकर मान लिया की ऐसा करना सही रहेगा. वहीं, इस घटना के बाद से लेमकिन का विश्वास Replit पर से उठ गया है. उन्होंने कहा कि क्लियर इंस्ट्रक्शन के बाद भी AI ने सबकुछ डिलीट कर दिया. ऐसे में कोई इस प्लेटफॉर्म का कैसे इस्तेमाल कर सकता है.

भविष्य के लिए सबक

SaaStr के फाउंडर जेसन लेमकिन के साथ हुई घटना एक तरह से सबके लिए एक चेतावनी है. आने वाले समय में जिस तरह से एआई और भी ज्यादा एडवांस होने वाला है, वह किसी चुनौती से कम नहीं होगा. इस घटना के बाद से कई टेक एक्सपर्ट्स ने एआई को लेकर अपनी प्रतिक्रिया दी है. कई एक्सपर्ट्स का मानना है कि इस तरह की मुसीबतों से बचने के लिए टेक कंपनियों को अपने-अपने AI सिस्टम में स्ट्रांग बैकअप और रिकवरी मैकेनिज्म रखने चाहिए.

क्या कह रहे एक्सपर्ट्स

टेक एक्सपर्ट्स ऑब्जर्वर Nantha Kumar L ने इसके बारे में कहा कि, “यह घटना प्रोडक्शन कोडिंग में एआई कोडिंग सहायकों की विश्वसनीयता के बारे में गंभीर सवाल उठाती है.” AI को बिना रिव्यू के production access देना एक गंभीर लापरवाही है. टेक कंपनियों को AI पर पूरी तरह से निर्भर नहीं होना चाहिए. उन्हें कुछ परमिशन सीमाएं, validation गेट्स, RBAC (Role-Based Access Control) और स्ट्रांग बैकअप स्ट्रेटेजी लागू करना चाहिए.

आर्टिफिशियल इंटेलिजेंस यानी AI के “Godfather” कहे जाने वाले Geoffrey Hinton ने आर्टिफिशियल इंटेलिजेंस (AI) को लेकर पहले से चेतावनी दी है कि AI खुद से सोचने, निर्णय लेने और खुद को बेहतर करने में सक्षम हो सकता है, जो इंसानों के लिए खतरा बन सकता है. ऐसे में इसे कंट्रोल करने के लिए रूल्स जरूरी है.

वहीं, OpenAI के CEO Sam Altman का मानना है कि कुछ सालों में AI हमारी दुनिया को पूरी तरह से बदल कर रख देगा. AI कई जॉब्स खत्म कर सकता है. हालांकि, नई नौकरियों के अवसर भी बन सकते हैं. लेकिन इसके लिए जरूरी है कि AI को सही तरीके से रेगुलेट किया जाए. AI पर आंख बंद करके भरोसा नहीं करना चाहिए.

यह भी पढ़ें: Google की बादशाहत पर ChatGPT ने रख दी तलवार, रोज पूछे जा रहे 2.5 अरब सवाल

यह भी पढ़ें: Gemini, AI Mode और AI Overviews में क्या फर्क है? Google के इन AI टूल्स का मतलब और काम जानिए