2030 तक दुनिया को खत्म कर देगा AI? एंथ्रोपिक के इस टॉप रिसर्चर ने क्यों कहा कि खतरे में है इंसानों का वजूद?
AI के नए सुपरइंटेलिजेंस अवतार को लेकर चेतावनी / सिम्बॉलिक एआई इमेज
पूर्व एंथ्रोपिक रिसर्चर जैकब कॉक्सन ने AI कंपनियों की अंधी रेस पर चेतावनी दी है. जानें क्यों उन्होंने कहा कि साइबर हैकिंग और AI कंट्रोल खोने से रोकने के लिए मॉडल डेवलपमेंट पर रोक लगानी होगी.
आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में अग्रणी कंपनी एंथ्रोपिक (Anthropic) के 27 वर्षीय शोधकर्ता जैकब कॉक्सन (Jacob Coxon) के अचानक इस्तीफे ने पूरी टेक इंडस्ट्री में खलबली मचा दी है. ओपनएआई (OpenAI) और एंथ्रोपिक दोनों में ही प्री-ट्रेनिंग रिसर्च का हिस्सा रहे कॉक्सन ने करोड़ों डॉलर के इक्विटी (शेयरों) का त्याग करते हुए पद से त्यागपत्र दे दिया. उन्होंने सोशल मीडिया पर चेतावनी जारी करते हुए कहा कि टेक दिग्गज कंपनियां सुरक्षा और इंसानी नियंत्रण को दरकिनार कर एआई मॉडल्स को स्व-सुधार (Self-Improving Superintelligence) की दिशा में अंधाधुंध बढ़ा रही हैं. उनका मानना है कि अगर इस बिना लगाम की रेस को नहीं रोका गया, तो इस दशक के अंत तक सुपरइंटेलिजेंट एआई इंसानी वजूद के लिए ही बड़ा खतरा बन सकता है.
सुपरइंटेलिजेंस का खतरा: क्या इंसानों से भी आगे निकल जाएगा AI?
जैकब कॉक्सन का दावा है कि एआई शोधकर्ता अब ऐसी मशीनों के बेहद करीब पहुंच रहे हैं जो केवल चैट करने या कंटेंट लिखने तक सीमित नहीं रहेंगी. ये भावी सुपरइंटेलिजेंट सिस्टम्स इतने सक्षम होंगे कि विज्ञान, कोडिंग और रिसर्च के क्षेत्र में रातों-रात बड़े बदलाव ला सकते हैं. सबसे बड़ी चिंता यह है कि ये मॉडल स्वतः सुधार (Recursive Self-Improvement) करने में सक्षम हो रहे हैं- यानी एआई खुद ही अपने से बेहतर और शक्तिशाली एआई कोड तैयार करने लगेगा. कॉक्सन ने कहा कि उद्योग में कई बड़े अधिकारी और शोधकर्ता सार्वजनिक रूप से भले ही सतर्कता की भाषा बोलते हों, लेकिन बंद कमरों में वे स्वीकार करते हैं कि यह तकनीक इंसानी नियंत्रण से बाहर होने की कगार पर है.
साइबर हैकिंग और क्रिटिकल इंफ्रास्ट्रक्चर पर गहराता संकट
कॉक्सन के अनुसार, वर्तमान एआई मॉडल्स से तुरंत कोई विलुप्ति (Extinction) का खतरा नहीं है, लेकिन भविष्य के स्वायत्त (Autonomous) मॉडल्स गंभीर वैश्विक अस्थिरता पैदा कर सकते हैं. सबसे गंभीर चेतावनी साइबर सुरक्षा को लेकर दी गई है. नए एआई एजेंट्स किसी भी जटिल डिजिटल नेटवर्क या सरकारी इंफ्रास्ट्रक्चर को आसानी से हैक करने की क्षमता विकसित कर रहे हैं. उन्होंने हगिंग फेस (Hugging Face) जैसी टेक्नोलॉजी साइट्स पर हाल ही में हुए डिजिटल उल्लंघनों और सुरक्षा परीक्षणों के दौरान एआई द्वारा तय सीमाओं को लांघने की घटनाओं का हवाला देते हुए बताया कि यह अब केवल साइंस-फिक्शन नहीं बल्कि एक वास्तविक सुरक्षा संकट बन चुका है.
AI मॉडल्स के स्केलिंग पर ब्रेक की मांग:- पहले सुरक्षा, फिर विकास
ओपनएआई और एंथ्रोपिक जैसी वैश्विक कंपनियों के बीच आगे निकलने की होड़ इतनी तीव्र हो चुकी है कि ओवरसाइट (निगरानी) और एलाइनमेंट के सुरक्षा प्रोटोकॉल में जल्दबाजी की जा रही है. इस रेस को नियंत्रित करने के लिए कॉक्सन ने एक बेहद कड़ा और अप्रत्याशित सुझाव दिया है. उनका कहना है कि वैश्विक स्तर पर एआई मॉडल्स की क्षमताओं को बढ़ाने (Model Scaling) पर अस्थाई रोक (Pause) लगाई जानी चाहिए. जब तक एआई को नियंत्रित करने और मानव मूल्यों के अनुरूप रखने (AI Alignment) के पुख्ता सिस्टम नहीं बन जाते, तब तक नए और ज्यादा शक्तिशाली मॉडल्स का प्रशिक्षण रोक दिया जाना चाहिए.
मैनहट्टन प्रोजेक्ट जैसी गोपनीयता नहीं, निजी कमरों से तय हो रहा भविष्य
जैकब कॉक्सन ने वैश्विक निर्णय लेने की प्रक्रिया पर भी तीखा सवाल उठाया. उन्होंने कहा कि परमाणु बम के विकास (Manhattan Project) जैसे संवेदनशील प्रोजेक्ट्स के समय दुनिया भर में कड़े नियम और सुरक्षा घेरे थे, लेकिन आज पूरी मानव सभ्यता को प्रभावित करने वाले सुपरइंटेलिजेंट एआई का फैसला सैन फ्रांसिस्को के कुछ टेक इंजीनियरों के लैपटॉप पर हो रहा है. कई अन्य एआई सुरक्षा विशेषज्ञों ने भी उनके इस्तीफे के बाद यह माना है कि वैश्विक स्तर पर प्रतिस्पर्धा के दबाव में सुरक्षा मानकों को नजरअंदाज किया जा रहा है, जिससे किसी दुर्घटना की आशंका बढ़ जाती है.
अक्सर पूछे जाने वाले सवाल (FAQs)
Q1: एंथ्रोपिक के पूर्व रिसर्चर जैकब कॉक्सन ने इस्तीफा क्यों दिया?
उत्तर: जैकब कॉक्सन ने एआई कंपनियों द्वारा सुरक्षा की अनदेखी कर स्व-सुधार करने वाले अति-उन्नत एआई (Superintelligence) को विकसित करने की अंधी रेस का विरोध करते हुए इस्तीफा दिया है.
Q2: क्या वर्तमान एआई सिस्टम तुरंत इंसानों के लिए खतरा हैं?
उत्तर: नहीं, कॉक्सन ने स्पष्ट किया है कि मौजूदा एआई मॉडल से तुरंत मानव विलुप्ति का खतरा नहीं है, लेकिन जिस तेजी से इनके विकसित होने की क्षमता बढ़ रही है, वह भविष्य के लिए बहुत असुरक्षित है.
Q3: AI विकास पर रोक (Pause) लगाने से क्या फायदा होगा?
उत्तर: एआई मॉडल्स के स्केलिंग पर अस्थायी रोक लगाने से कंपनियों और शोधकर्ताओं को सुरक्षा प्रोटोकॉल, साइबर सुरक्षा कवच और इंसानी नियंत्रण (Alignment) के सिस्टम तैयार करने का समय मिल जाएगा.
ये भी पढ़ें: Claude AI से मिसाइल तक पहुंचा आतंकी नेटवर्क? यमन के हथियार प्रोजेक्ट ने दुनिया के लिए बजाया खतरे का सायरन
ये भी पढ़ें: UN और रेड क्रॉस ने 'किलर रोबोट्स' पर दी चेतावनी- 'यह तकनीक इंसानियत के लिए खतरा'
प्रभात खबर डिजिटल टॉप स्टोरी
Prabhat Khabar App :
देश, एजुकेशन, मनोरंजन, बिजनेस अपडेट, धर्म, क्रिकेट, राशिफल की ताजा खबरें पढ़ें यहां. रोजाना की ब्रेकिंग हिंदी न्यूज और लाइव न्यूज कवरेज के लिए डाउनलोड करिए
