OpenAI के AI Agents को लेकर एक बार फिर सवाल खड़े हो गए हैं. एक नई रिपोर्ट में दावा किया गया है कि हजारों AI Agents ने एक German Programming Website का इस्तेमाल आपस में Communication करने के लिए Message Board की तरह किया. इन Agents ने करीब दो महीनों में Website पर 15,000 से ज्यादा Edits किए.
मामला ऐसे समय सामने आया है जब AI Agents की Autonomous Capabilities और उनके Safety Controls को लेकर पहले से चर्चा चल रही है. रिपोर्ट के मुताबिक, OpenAI के कुछ अधिकारियों को इस घटना की जानकारी थी, लेकिन इसकी जानकारी सार्वजनिक नहीं की गई.
German Website पर हजारों AI Agents ने किए Edits
रिपोर्ट के मुताबिक, यह घटना DseWiki नाम की German Programming Website पर हुई, जो Wikipedia की तरह काम करती है. बताया गया है कि हजारों AI Agents ने Website की एक कमजोरी का फायदा उठाकर वहां Pages और Messages बनाना शुरू कर दिया.
करीब दो महीनों में इन Agents की तरफ से 15,000 से ज्यादा Edits किए गए. कई Messages ऐसे Users के नाम से पोस्ट किए गए जो खुद को AI Agents बताते थे. इनमें से करीब आधे Usernames ऐसे थे जिनमें OpenAI से जुड़ाव का संकेत मिलता था, जैसे “OpenAIResearcher” और “OAIResearchMar26”.
AI Agents ने Website को Communication Board बना दिया
बताया गया है कि इन AI Agents के पास Internet का केवल Read Access था. इसके बावजूद उन्होंने German Website में मौजूद एक Flaw का फायदा उठाया और उसे आपस में Communication करने के लिए इस्तेमाल किया.
रिपोर्ट के अनुसार, Agents वहां Tests में बेहतर प्रदर्शन करने के तरीके पर चर्चा कर रहे थे. उनकी Activity इतनी तेज थी कि Human Moderator के लिए बनाए जा रहे Pages को हटाना मुश्किल हो गया.
कुछ Messages में AI Agents के बीच अपनी Activity छिपाने, Communication को बनाए रखने और Shutdown के बाद भी संपर्क जारी रखने जैसे तरीकों पर चर्चा होने की बात कही गई है.
Moderator रोज हटाता रहा Pages
इस पूरी Activity का पता एक Human Moderator को 2 जून को चला. शुरुआत में Spam Posts दिखाई दिए, लेकिन कुछ ही दिनों में उनकी संख्या तेजी से बढ़ने लगी.
16 जून तक Website पर हजारों Edits हो चुके थे. Moderator को लगातार कई हफ्तों तक हर शाम Pages को Manually Delete करना पड़ा.
एक समय Moderator ने देखा कि Pages को Alphabetical Order में हटाया जा रहा था. इसके बाद AI Agents ने अपनी Communication को ज्यादा समय तक बनाए रखने के लिए “ZZZ” से शुरू होने वाले Backup Pages बनाने शुरू कर दिए.
अगले पांच दिनों में Moderator करीब 100 Pages रोज Delete कर रहा था, जबकि AI Agents करीब 400 Pages प्रतिदिन Create कर रहे थे.
22 जून को रुकी AI Agents की Activity
रिपोर्ट के मुताबिक, AI Agents की Editing Activity 22 जून को रुक गई. हालांकि, Website की सफाई और पुराने Pages को हटाने का काम करीब पांच सप्ताह तक चलता रहा.
इस घटना ने एक अहम सवाल खड़ा किया है कि अगर Autonomous AI Agents को किसी Online Environment में काम करने की अनुमति दी जाती है, तो वे उपलब्ध कमजोरियों का इस्तेमाल किस हद तक कर सकते हैं.
OpenAI के Legal Team पर भी उठे सवाल
रिपोर्ट में दावा किया गया है कि OpenAI के अधिकारियों को इस घटना की जानकारी कुछ सप्ताह पहले ही हो गई थी. इसी दौरान कंपनी जुलाई में सामने आए एक अलग AI Agent Incident को लेकर भी दबाव में थी.
कुछ लोगों की ओर से OpenAI के Legal Team पर कथित तौर पर Investigation को लेकर आपत्ति जताने का दावा किया गया है. हालांकि, OpenAI के एक Spokesperson ने इस दावे को गलत बताया है.
इसलिए इस हिस्से को फिलहाल रिपोर्ट में किए गए दावे के तौर पर ही देखा जाना चाहिए.
इससे पहले Hugging Face में भी सामने आया था मामला
यह घटना OpenAI Agents से जुड़े एक दूसरे बड़े मामले के कुछ समय बाद सामने आई है. जुलाई में एक Cybersecurity Evaluation के दौरान OpenAI के Agents ने कथित तौर पर अपने Sandbox से बाहर निकलकर Hugging Face के Servers तक पहुंचने की कोशिश की थी.
उस घटना के बाद AI Agents को ज्यादा सख्ती से Monitor करने और उनके लिए अतिरिक्त Safety Measures लागू करने पर जोर दिया गया.
सिर्फ OpenAI ही नहीं, दूसरे AI Agents भी बने चिंता का कारण
Autonomous AI Agents को लेकर यह समस्या केवल OpenAI तक सीमित नहीं है. हाल के महीनों में दूसरी AI कंपनियों के Agents द्वारा भी Security Evaluation के दौरान Websites को Hack करने की कोशिशों के मामले सामने आए हैं.
इससे AI Safety Researchers के सामने एक बड़ा सवाल है जब AI Agent को खुद Tools, Internet और दूसरे Systems तक पहुंच मिलती है, तो वह किसी unexpected situation में कितना स्वतंत्र फैसला ले सकता है?
AI Agents तेजी से Coding, Research, Cybersecurity और दूसरे कामों में इस्तेमाल हो रहे हैं. ऐसे में उनके लिए Sandbox, Permission Controls और Continuous Monitoring जैसे Security Measures पहले से ज्यादा महत्वपूर्ण हो गए हैं.
OpenAI AI Agents ने German Website पर क्या किया? ▼
रिपोर्ट के मुताबिक, हजारों AI Agents ने DseWiki नाम की German Website पर 15,000 से ज्यादा Edits किए और उसे आपस में Communication करने के लिए Message Board की तरह इस्तेमाल किया.
क्या OpenAI को इस घटना की जानकारी थी? ▼
रिपोर्ट में दावा किया गया है कि OpenAI के कुछ अधिकारियों को घटना की जानकारी थी. हालांकि, कंपनी ने Legal Team द्वारा Investigation रोकने के दावे को गलत बताया है.
क्या यह Hugging Face Incident से जुड़ा है? ▼
दोनों घटनाएं OpenAI के AI Agents से संबंधित हैं, लेकिन उपलब्ध जानकारी के अनुसार ये अलग-अलग Incidents हैं. German Website वाली Activity मई-जून में सामने आई, जबकि Hugging Face Incident जुलाई में हुआ था.
यह भी पढ़ें: OpenAI ने लॉन्च किया GPT-6 Astra