फेक अकाउंट्स से फैली अश्लीलता, एक्स की रिपोर्ट जांच के घेरे में, आईटी मिनिस्ट्री ने कसी नकेल

X Grok Report: सूचना प्रौद्योगिकी मंत्रालय ने सोशल मीडिया मंच एक्स से ग्रोक एआई दुरुपयोग पर विस्तृत रिपोर्ट मांगी है. महिलाओं और नाबालिगों की अश्लील सामग्री हटाने के आदेश के बाद अब कंपनी की कार्रवाई जांच के घेरे में है.

X Grok Report: भारत सरकार का सूचना प्रौद्योगिकी मंत्रालय सोशल मीडिया मंच ‘एक्स’ पर कड़ी नजर रख रहा है. मामला है एलन मस्क के स्वामित्व वाले प्लैटफॉर्म के एआई चैटबॉट ‘ग्रोक’ का, जिसके जरिए कथित तौर पर महिलाओं और नाबालिगों की अश्लील और आपत्तिजनक सामग्री तैयार कर साझा की जा रही थी. मंत्रालय ने एक्स से विस्तृत कार्रवाई रिपोर्ट (ATR) मांगी थी, जो अब जांच के दायरे में है.

मंत्रालय की पड़ताल शुरू

पीटीआई भाषा ने सूत्रों के आधार पर जो रिपोर्ट प्रकाशित की है, उसके अनुसार, एक्स ने अपनी रिपोर्ट मंत्रालय को सौंप दी है. फिलहाल उस जवाब की गहन जांच की जा रही है. मंत्रालय यह देख रहा है कि कंपनी ने ग्रोक के दुरुपयोग को रोकने के लिए कौन-कौन से तकनीकी और संगठनात्मक कदम उठाए हैं.

सरकार की कड़ी चेतावनी

सरकार ने एक्स को साफ शब्दों में चेतावनी दी थी कि ग्रोक का इस्तेमाल कर बनाई जा रही अश्लील और यौन प्रकृति की सामग्री तुरंत हटाई जाए. मंत्रालय ने 2 जनवरी को आदेश जारी कर गैरकानूनी कंटेंट हटाने और 72 घंटे में विस्तृत रिपोर्ट देने को कहा था.

अनुपालन अधिकारी की भूमिका पर सवाल

मंत्रालय ने एक्स से यह भी स्पष्ट करने को कहा है कि उसके मुख्य अनुपालन अधिकारी ने इस मामले में क्या कदम उठाए. साथ ही, उन खातों और उपयोगकर्ताओं पर की गई कार्रवाई की जानकारी भी मांगी गई है जो अश्लील सामग्री फैलाने में शामिल पाए गए.

फर्जी खातों से बढ़ा खतरा

सूत्रों का कहना है कि ग्रोकएआई का दुरुपयोग कर फर्जी अकाउंट बनाए जा रहे हैं और महिलाओं की तस्वीरों और वीडियो को अपमानजनक तरीके से प्रसारित किया जा रहा है. यह प्लेटफॉर्म की सुरक्षा व्यवस्था की गंभीर नाकामी को उजागर करता है.

कानूनी कार्रवाई की तैयारी

सरकार ने साफ कर दिया है कि आईटी अधिनियम और उससे जुड़े नियमों का पालन अनिवार्य है. धारा 79 के तहत मिलने वाली ‘सेफ हार्बर’ छूट तभी लागू होगी जब प्लैटफॉर्म जांच-पड़ताल में पूरी तरह खरा उतरे. नियमों के उल्लंघन की स्थिति में एक्स पर भारतीय न्याय संहिता और आईटी अधिनियम के तहत कार्रवाई हो सकती है.