Facebook-Instagram पर AI कंटेंट को लेकर सरकार सख्त, Meta से मांगी रिपोर्ट

केंद्र सरकार ने Meta पर डीपफेक और AI-जेनरेटेड कंटेंट को लेकर दबाव बढ़ा दिया है. लगातार बैठकों में कंपनी से बाल यौन शोषण सामग्री (CSAM) और बिना लेबल वाले AI वीडियो हटाने पर जवाब मांगा गया है. सरकार ने सिर्फ आश्वासन नहीं, बल्कि ठोस नतीजे देखने की बात कही है.

सोशल मीडिया पर बढ़ते डीपफेक, फर्जी वीडियो और एआई से तैयार किए गए कंटेंट को लेकर केंद्र सरकार ने Meta पर दबाव और बढ़ा दिया है. लगातार तीसरे दिन हुई बैठक में सरकार और Meta की तकनीकी टीम के बीच विस्तार से चर्चा हुई. इस दौरान Deepfake, बाल यौन शोषण सामग्री (CSAM), बिना लेबल वाले AI-जनित वीडियो और कंटेंट मॉडरेशन जैसे अहम मुद्दों पर कंपनी से जवाब मांगा गया. सरकार ने साफ कर दिया कि सिर्फ आश्वासन नहीं, बल्कि ठोस नतीजे भी दिखने चाहिए.

Deepfake और AI कंटेंट पर सरकार ने जताई चिंता

बैठक में सबसे बड़ा मुद्दा AI से तैयार किए गए ऐसे वीडियो और तस्वीरों का रहा, जो पहचान होने के बाद भी दोबारा प्लैटफॉर्म पर दिखाई देने लगते हैं. सरकार ने Meta से पूछा कि मौजूदा आईटी नियमों के बावजूद बिना लेबल वाले AI-जनित कंटेंट को पूरी तरह हटाने में दिक्कत क्यों आ रही है.

सूत्रों के अनुसार, सरकार ने कंपनी से ऐसे मामलों में तेज और प्रभावी कार्रवाई करने के साथ-साथ नियमित प्रगति रिपोर्ट भी साझा करने को कहा है.

कंटेंट मॉडरेशन में भारतीय भाषाओं पर भी जोर

सरकार ने Meta को सुझाव दिया कि कंटेंट मॉडरेशन केवल ऑटोमेटेड सिस्टम पर निर्भर नहीं होना चाहिए. भारतीय भाषाओं और स्थानीय संदर्भों को बेहतर तरीके से समझने के लिए अधिक मानवीय निगरानी की जरूरत बताई गई.

अधिकारियों का मानना है कि स्थानीय भाषा और सांस्कृतिक संदर्भों को सही ढंग से समझे बिना कई बार आपत्तिजनक या भ्रामक कंटेंट समय पर नहीं हटाया जा पाता.

Meta ने क्या दिया जवाब?

बैठक के दौरान Meta की टीम ने अपने AI सिस्टम और कंटेंट मॉडरेशन प्रक्रिया की जानकारी अधिकारियों के साथ साझा की. कंपनी ने दावा किया कि Deepfake, CSAM और बॉट अकाउंट्स जैसी समस्याओं से निपटने के लिए उसके पास तकनीकी समाधान मौजूद हैं और इन्हें और मजबूत बनाने की दिशा में काम किया जा रहा है.

Meta ने पहले भी इन चुनौतियों को स्वीकार करते हुए सुधारात्मक कदम उठाने का भरोसा दिया था. अब सरकार ने इन दावों की नियमित समीक्षा करने की बात कही है.

अगले सप्ताह फिर हो सकती है बैठक

सूत्रों के मुताबिक, इन मुद्दों पर सरकार और Meta के बीच अगले सप्ताह फिर बैठक हो सकती है. इस बार चर्चा तकनीकी उपायों की प्रगति और उनके प्रभाव पर केंद्रित रहने की संभावना है.

सरकार का कहना है कि उसका उद्देश्य किसी भी सोशल मीडिया प्लैटफॉर्म पर सेंसरशिप लागू करना नहीं है, बल्कि यह सुनिश्चित करना है कि भारत के कानूनों का पूरी तरह पालन हो और यूजर्स को सुरक्षित डिजिटल वातावरण मिले.

प्रधानमंत्री की पोस्ट विवाद के बाद बढ़ी सख्ती

Meta के साथ बैठकों का यह सिलसिला उस घटना के बाद शुरू हुआ, जब प्रधानमंत्री नरेंद्र मोदी की एक Facebook पोस्ट को AI आधारित सिस्टम ने अस्थायी रूप से रोक दिया था. बाद में Meta ने इसे तकनीकी गलती बताते हुए पोस्ट बहाल की और सार्वजनिक रूप से माफी भी मांगी. इसके बाद सरकार ने कंपनी के कंटेंट एल्गोरिद्म, AI फिल्टर और भारतीय कानूनों के अनुपालन को लेकर विस्तृत समीक्षा शुरू की.