सोशल मीडिया पर आर्टिफिशियल इंटेलिजेंस से बने भ्रामक कंटेंट को लेकर बहस तेज होती जा रही है. इसी बीच Meta एक नये विवाद में घिर गई है. कंपनी के इंडिपेंडेंट मॉनिटरिंग बॉडी Meta Oversight Board ने एक वायरल वीडियो के मामले में Meta की नीतियों पर सवाल उठायेहैं. यह वीडियो एआई की मदद से बनाया गया था और इसमें 2025 के Israel-Iran conflict के दौरान Haifa में इमारतों के भारी नुकसान का दृश्य दिखाया गया था. बाद में जांच में पता चला कि वीडियो असली नहीं था, लेकिन तब तक इसे 7 लाख से अधिक बार देखा जा चुका था.
एआई से बना वीडियो बन गया वायरल
यह वीडियो एक ऐसे सोशल मीडिया अकाउंट से पोस्ट किया गया था, जो खुद को न्यूज प्लैटफॉर्म बताता था. बाद में जांच से पता चला कि यह पेज फिलीपींस में रहने वाले एक व्यक्ति द्वारा चलाया जा रहा था. वीडियो में युद्ध के बाद शहर में तबाही का दृश्य दिखाया गया था, जिससे लोगों को लगा कि यह असली घटना का फुटेज है. हालांकि जांच में सामने आया कि यह पूरा क्लिप एआई टूल्स की मदद से तैयार किया गया था.
लेबल लगाने में भूल पर उठे सवाल
मामले की समीक्षा के बाद Meta Oversight Board ने कहा कि कंपनी को इस वीडियो पर स्पष्ट चेतावनी लेबल लगाना चाहिए था. Meta के पास AI Info और High Risk AI जैसे लेबल लगाने का सिस्टम है, जिनका उद्देश्य यूजर्स को यह बताना होता है कि कंटेंट एआई से बनाया गया या बदला गया है. लेकिन इस मामले में Meta ने न तो वीडियो हटाया और न ही उस पर हाई रिस्क वाला एआई लेबल लगाया, जबकि कंटेंट की शिकायत पहले ही की जा चुकी थी.
फर्जी अकाउंट से जुड़े प्रोफाइल बंद
बोर्ड ने यह भी कहा कि अकाउंट से जुड़े कई संकेत ऐसे थे जो धोखाधड़ी की ओर इशारा कर रहे थे. समीक्षा के बाद Meta ने उस पेज से जुड़े तीन अकाउंट को बंद कर दिया. इस घटना ने यह सवाल भी खड़ा किया है कि सोशल मीडिया प्लैटफॉर्म पर एआई से तैयार किये गए वीडियो कितनी तेजी से लोगों को भ्रमित कर सकते हैं.
एआई कंटेंट के लिए अलग नियम बनाने की सलाह
Oversight Board ने Meta को सलाह दी है कि एआई से बने कंटेंट के लिए अलग और स्पष्ट नियम तैयार किये जाएं. फिलहाल ऐसे मामलों को गलत सूचना (misinformation) से जुड़े व्यापक नियमों के तहत देखा जाता है. बोर्ड का मानना है कि यूजर्स को साफ तौर पर बताना जरूरी है कि कब किसी वीडियो, तस्वीर या ऑडियो को एआई से बनाया गया है और ऐसा न बताने पर क्या कार्रवाई होगी.
नयी तकनीक की जरूरत पर जोर
बोर्ड ने यह भी कहा कि मौजूदा सिस्टम काफी हद तक यूजर्स पर निर्भर है कि वे खुद बताएं कि उन्होंने एआई टूल का इस्तेमाल किया है. चूंकि ऐसे खुलासे बहुत कम होते हैं, इसलिए यह तरीका तेजी से फैल रहे एआई मीडिया से निपटने के लिए पर्याप्त नहीं है.
पैनल ने Meta से ऐसे टूल्स विकसित करने की भी सिफारिश की है जो एआई से बने फोटो, ऑडियो और वीडियो को खुद से पहचान सकें. कंपनी को इन सिफारिशों पर जवाब देने के लिए 60 दिनों का समय दिया गया है.
यह भी पढ़ें: फेसबुक-इंस्टाग्राम की कंपनी मेटा की बड़ी डील, एआई फील्ड में खुलकर खेलने को तैयार