अश्लीलता के विरुद्ध

Grok AI Obscene Content: एआइ टूल ग्रोक से बनायी गयी अश्लील तस्वीरों को एक्स पर पोस्ट किये जाने पर सरकार की सख्ती के बाद एक्स को मामले की गंभीरता का अहसास हुआ. यह प्रसंग एक और उदाहरण है कि भारत में सोशल मीडिया प्लेटफॉर्म्स को यहां के नियम-कानूनों के अनुरूप चलना पड़ेगा.

Grok AI Obscene Content: एआइ टूल ग्रोक से बनायी गयी अश्लील तस्वीरों को एक्स पर पोस्ट किये जाने पर भारत सरकार की सख्त चेतावनी के बाद एक्स ने जिस तरह रक्षात्मक रवैया अपनाया, वह एक और उदाहरण है कि सख्ती बरतकर ही सोशल मीडिया प्लेटफॉर्म्स की मनमानियों पर रोक लगायी जा सकती है. दरअसल, एक्स पर बीते कई दिनों से महिलाओं की अश्लील तस्वीरें पोस्ट की जा रही थीं. हद तो तब हो गयी, जब एक यूजर ने एआइ की मदद से मस्क की बिकिनी पहने हुई तस्वीर बनायी और उसे पोस्ट कर दिया. उस पोस्ट पर गंभीरता बरतने के बजाय मस्क मजे लेते नजर आये. उन्होंने ग्रोक का बचाव करते हुए कहा था कि कलम यह तय नहीं करती कि क्या लिखा जाये.

यह कलम पकड़ने वाला शख्स तय करता है. उनका मंतव्य यह था कि आपत्तिजनक कंटेंट की जिम्मेदारी टूल की नहीं, बल्कि उसका इस्तेमाल करने वाले व्यक्ति की होती है. मस्क के इस रवैये ने लोगों को गुस्से से भर दिया. पूरे मामले में राज्यसभा सदस्य प्रियंका चतुर्वेदी ने केंद्रीय मंत्री अश्विनी वैष्णव को चिट्ठी लिखकर कहा था कि कुछ लोग एआइ की मदद से महिला की असली तस्वीरों को आपत्तिजनक कंटेंट में बदल रहे हैं, जो बेहद गंभीर मामला है. उन्होंने अविलंब इस पर कार्रवाई करने की मांग की. इस पर सरकार की तरफ से एक्स को नोटिस भेजकर 72 घंटों में जवाब देने के लिए कहा गया कि कंपनी ने इस मामले में क्या कार्रवाई की है.

मंत्रालय ने इस पर भी चिंता जतायी कि ग्रोक का दुरुपयोग महिलाओं के अश्लील और अभद्र कंटेंट बनाने के लिए किया जा रहा है, तथा एक्स इस संदर्भ में आइटी एक्ट, 2000 और आइटी रूल्स, 2021 के तहत अपनी जिम्मेदारियां निभाने में नाकाम रहा है. केंद्र सरकार के सख्त रवैये पर मस्क को मामले की गंभीरता का अहसास हुआ.

सरकार की चेतावनी के बाद एक्स ने ग्रोक से अश्लील कंटेंट तुरंत हटाने की बात तो कही ही, यह भी कहा कि अगर कोई यूजर ग्रोक का इस्तेमाल करके आपत्तिजनक कंटेंट बनाता है, तो उसके खिलाफ भी वही कार्रवाई होगी, जो सीधे गैरकानूनी कंटेंट अपलोड करने पर होती है. यानी यूजर के अकाउंट को प्रतिबंधित कर दिया जायेगा. गौरतलब है कि एआइ टूल ग्रोक पहले भी विवादों में रहा है. पिछले साल उसने नेताओं और मंत्रियों के लिए अभद्र भाषा का इस्तेमाल किया था. पर भारत में, जाहिर है, ऐसी मनमानी नहीं चलने वाली.