Grok अब नहीं बनाएगा AI से अश्लील तस्वीरें, X ने रोकी इमेज क्रिएशन

Grok AI Policy: xAI द्वारा तैयार किया गया और X में जोड़ा गया AI टूल Grok के गलत इस्तेमाल से बनायी गई अश्लील तस्वीरों को लेकर कड़ी आलोचना झेल रहे सोशल मीडिया प्लैटफॉर्म X ने आखिरकार कदम उठाया है. कंपनी ने अपने आर्टिफिशियल इंटेलिजेंस टूल Grok पर नई पाबंदियां लगाने का ऐलान किया है. अब यह टूल असली लोगों की तस्वीरों को इस तरह एडिट नहीं कर पाएगा कि वे भड़काऊ या आपत्तिजनक कपड़ों में नजर आएं. यह फैसला यूके और अमेरिका समेत कई देशों में जताई जा रही उस चिंता के बाद लिया गया है, जहां बिना इजाजत लोगों की तस्वीरों को अश्लील तरीके से पेश करने के लिए AI टूल्स के गलत इस्तेमाल पर सवाल उठ रहे थे.

कंपनी ने क्या कहा? 

X ने कहा कि उसने तकनीकी बदलाव किए हैं, ताकि Grok अब असली लोगों की तस्वीरों को इस तरह एडिट न कर सके, जिससे वे बिकिनी या किसी और भड़काऊ कपड़ों में दिखें. कंपनी ने साफ किया कि यह रोक सभी यूजर्स पर लागू होगी, चाहे वे फ्री यूजर हों या पैसे देकर सब्सक्रिप्शन लेने वाले. लगातार सवालों के घेरे में है. वजह यह है कि सरकारें और रेगुलेटर टेक कंपनियों पर दबाव बढ़ा रहे हैं, ताकि AI से बनने वाले कंटेंट से होने वाले नुकसान को रोका जा सके.

कई देश की सरकारों ने लिया एक्शन 

Grok के ‘स्पाइसी मोड’ फीचर को लेकर xAI पर अंतरराष्ट्रीय दबाव लगातार बढ़ रहा था. इस फीचर के जरिए लोग सिर्फ नॉर्मल टेक्स्ट लिखकर महिलाओं और बच्चों की आपत्तिजनक डीपफेक तस्वीरें बना पा रहे थे. शनिवार को यानी 10 जनवरी को इंडोनेशिया ऐसा पहला देश बना, जिसने Grok की सर्विस को पूरी तरह ब्लॉक कर दिया. इसके अगले ही दिन पड़ोसी देश मलेशिया ने भी ऐसा ही कदम उठाया. 

भारत ने रविवार को कहा कि उसकी शिकायतों के बाद X ने हजारों पोस्ट हटाए हैं और कई यूजर अकाउंट्स पर कार्रवाई की है. वहीं, ब्रिटेन की मीडिया रेगुलेटर संस्था Ofcom ने सोमवार को जांच शुरू करने की बात कही है कि कहीं X ने यौन तस्वीरों को लेकर ब्रिटेन के कानूनों का उल्लंघन तो नहीं किया. 

फ्रांस में बच्चों से जुड़ी मामलों की कमिश्नर सारा एल हेरी ने मंगलवार को कहा कि उन्होंने Grok से बनी तस्वीरों का मामला फ्रांसीसी सरकारी वकील, मीडिया रेगुलेटर Arcom और यूरोपीय संघ को भेज दिया है.