Meta AI Images: सोशल मीडिया क्षेत्र की दिग्गज कंपनी मेटा के निगरानी बोर्ड ने दो मामलों में एआई की मदद से तैयार अश्लील तस्वीरों पर की जाने वाली कार्रवाई पर सार्वजनिक राय मांगी है. ये मामले भारत और अमेरिका में मशहूर हस्तियों से संबंधित हैं. कंटेंट मॉडरेशन पर फैसला करनेवाले बोर्ड ने कहा कि इनमें से एक मामला इंस्टाग्राम पर पोस्ट की गई एक महिला की तस्वीर से जुड़ा है. इस तस्वीर को एआई की मदद से तैयार किया गया है.
मेटा की ओर से आये एक बयान के मुताबिक, यह तस्वीर भारत की एक मशहूर शख्सियत से मिलता-जुलता है और इसे कृत्रिम मेधा (एआई) का इस्तेमाल करके बनाया गया है. जिस खाते से इस कंटेंट को पोस्ट किया गया है, वह केवल भारतीय महिलाओं के एआई से तैयार चित्रों को साझा करता है. इस पर प्रतिक्रिया देने वाले अधिकांश उपयोगकर्ता भारत के हैं, जहां डीपफेक की समस्या बढ़ती जा रही है.
Meta AI का अपडेट आया, Llama 3 के साथ मिला अपग्रेड
मेटा ने इस मुद्दे पर जनता की राय मांगी है. हालांकि इलेक्ट्रॉनिक्स एवं आईटी मंत्रालय पहले ही सोशल मीडिया फर्मों को एआई की मदद से तैयार नकली तस्वीरों और वीडियो को हटाने के लिए कह चुका है. रश्मिका मंदाना और प्रियंका चोपड़ा सहित कई भारतीय अभिनेत्रियों की नकली तस्वीरें और वीडियो इंस्टाग्राम, फेसबुक और ‘एक्स’ सहित सोशल मीडिया मंचों पर वायरल हो चुके हैं.
बोर्ड ने कहा कि भारत से संबंधित मामले में पोस्ट को हटा दिया गया है. बोर्ड ने अमेरिका में एक मामले पर सार्वजनिक विचार भी आमंत्रित किये हैं, जहां एक फेसबुक समूह में एक अमेरिकी मशहूर हस्ती की एआई से तैयार अश्लील तस्वीर पोस्ट की गई थी. इस मामले में तस्वीर को पहले ही फेसबुक के सामुदायिक मानकों का उल्लंघन मानते हुए मंच से हटा दिया गया था. (भाषा इनपुट के साथ)