AI को बेहतर बनाने के लिए हिंसक और आपत्तिजनक कंटेंट देखने को मजबूर हैं ये महिलाएं, झारखंडी लड़कियां भी शामिल

AI Trainer Women : आधुनिक समय की सबसे चौंकाने वाली तकनीक है एआई यानी आर्टिफिशियल इंटेलिजेंस. एआई ने आम लोगों के जीवन को जितना सुंदर और चमकदार बनाया है उतनी ही समस्या उन भारतीय महिलाओं के लिए खड़ी की है, जो एआई को अधिक उपयोगी और सुरक्षित बनाने के काम में जुटी हैं.डेटा एनोटेशन और कंटेंट मॉडरेशन के काम में जुटी महिलाएं मानसिक स्वास्थ्य की समस्याओं से जूझ रही हैं, लेकिन पैसों की जरूरत ने उन्हें इस काम में उलझा दिया है. the guardian.com में Anuj Behal के नाम से एक विशेष लेख इस मुद्दे पर प्रकाशित हुआ था, जिसका अनुवाद यहां प्रकाशित किया जा रहा है.

AI Trainer Women :अपने घर के बरामदे में दीवार में बनी मिट्टी की एक स्लैब पर अपना लैपटॉप बैलेंस कर मोनसुमी मुर्मू काम करती है. उसके साथ समस्या मोबाइल सिग्नल की भी है, इसी वजह से वह उस जगह को तलाशती है, जहां सिग्नल आसानी से आ जाए. उसके घर के अंदर से घरेलू कामकाज की आवाजें सुनाई पड़ती हैं, मसलन बर्तनों की खनक, कदमों की आहट इत्यादि. मोनसुमी मुर्मू के लैपटाॅप की स्क्रीन पर एक बहुत ही अलग सीन चलता है- एक महिला को आदमियों के एक ग्रुप ने पकड़ रखा है, कैमरा हिलता है, चिल्लाने और सांस लेने की आवाज आती है. वीडियो बहुत परेशान करने वाला है इसलिए मोनसुमी उसे देखने से बचना चाहती है और उसकी स्पीड बढ़ा देती है, लेकिन उसकी मजबूरी ऐसी है कि उसे ना चाहते हुए भी वीडियो आखिर तक देखना पड़ता है.

26 साल की मोनसुमी एक ग्लोबल टेक कंपनी में कंटेंट मॉडरेटर हैं,उनका काम उन इमेज, वीडियो और टेक्स्ट की जांच करना है जिन्हें ऑटोमेटेड सिस्टम ने ऑनलाइन प्लेटफॉर्म पर नियमों के संभावित उल्लंघन के तौर पर फ़्लैग किया है. जब कंप्यूटर सिस्टम को लगता है कि कोई कंटेंट हिंसा, अश्लीलता, नफरत फैलाने वाली भाषा या किसी अन्य नियम का उल्लंघन कर सकता है, तो वह उसे फ्लैग कर देता है. फ्लैग करने का अर्थ होता है उसकी जांच करना, ताकि यह पता किया जा सके वह कंटेंट वास्तव में नियमों के खिलाफ है या नहीं. जांच के बाद यह तय किया जाता है कि उस कंटेंट को सीमित करना है या प्लेटफॉर्म पर रहने देना है.

एक दिन में 800 वीडियो और इमेज की जांच करती है मोनसुमी

मोनसुमी बताती हैं कि वह एक आम दिन में 800 तक वीडियो और इमेज देखती हैं. उसके बाद ऐसे फ़ैसले लेती हैं जो एल्गोरिदम को हिंसा, गलत व्यवहार और नुकसान को पहचानने के लिए ट्रेन करते हैं.यह काम मशीन लर्निंग की हालिया सफलताओं का आधार है, जो इस बात पर आधारित है कि एआई उतना ही अच्छा है, जितने अच्छे डेटा पर उसे ट्रेन किया जाता है. एआई के काम को बेहतर बनाने के लिए डेटा वेरिफिकेशन के इस काम में भारत की काफी महिलाएं कार्यरत हैं. इस वर्कफोर्स को घोस्ट वर्कर कहा जाता है. मोनसुनी बताती हैं कि जब उन्होंने काम शुरू किया था तब उन्हें कुछ महीनों तक नींद नहीं आती थी. मैं अपनी आंखें बंद कर लेती थी, फिर भी स्क्रीन लोड होती दिखती थी. तस्वीरें उसके सपनों में भी उसका पीछा करती थीं. जानलेवा हादसों की, परिवार के सदस्यों को खोने की, यौन हिंसा की जिसे वह रोक नहीं सकती थी या जिससे बच नहीं सकती थी. वह बताती हैं कि उन रातों में उनकी मां जागती और उसके साथ बैठती थी. मोनसुनी मुर्मू को डर था कि अगर उनके परिवार ने उनके काम को समझ लिया, तो उन्हें गांव की दूसरी लड़कियों की तरह नौकरी छोड़कर शादी करने के लिए मजबूर होना पड़ेगा.उनके कॉन्ट्रैक्ट में सिर्फ चार महीने बचे हैं, जिसमें उन्हें हर महीने लगभग £260 मिलते हैं, बेरोज़गारी का डर उन्हें अपनी मेंटल हेल्थ के बारे में चिंता जताने से रोकता है. वह कहती हैं कि मुझे काम से अधिक दूसरी नौकरी ढूंढने की चिंता है. उसने इस परेशानी के साथ जीने के तरीके ढूंढ लिए हैं. वह बताती है कि मैं जंगल में लंबी सैर पर जाती हूं, खुले आसमान के नीचे बैठती हूं और अपने आस-पास की शांति में खो जाती हूं.

अब तस्वीरें पहले की तरह नहीं चौंकाती हैं

मोनसुमी कहती हैं कि कई महीने काम करने के बाद तस्वीरें अब उन्हें पहले की तरह चौंकाती नहीं हैं, लेकिन अभी भी कुछ रातें ऐसी होती हैं, जब सपने वापस आते हैं. यह स्थिति यह बताने के लिए काफी है कि आपके काम ने आपके साथ क्या किया है. कंटेंट माॅडरेशन के काम में जुटी महिलाओं पर रिसर्च करने वाले रिसर्चर्स का कहना है कि यह भावनात्मक सुन्नपन की स्थिति है, जिसके दीर्घकालिक मनोवैज्ञानिक असर होते हैं. कंटेंट मॉडरेशन के काम की एक खास बात है कि हो सकता है कि कुछ मॉडरेटर साइकोलॉजिकल नुकसान से बच जाएं, लेकिन मुझे अभी तक इसका सबूत नहीं मिला है. डेटा वर्कर्स इंक्वायरी को लीड करने वाले सोशियोलॉजिस्ट मिलाग्रोस मिसेली कहते हैं, यह एक प्रोजेक्ट है जो AI में वर्कर्स की भूमिकाओं की जांच करता है.

खतरनाक काम की कैटेगरी में आता है कंटेंट मॉडरेशन

मिलाग्रोस मिसेली कहती हैं कि रिस्क के मामले में, कंटेंट मॉडरेशन खतरनाक काम की कैटेगरी में आता है, जिसकी तुलना किसी भी जानलेवा इंडस्ट्री से की जा सकती है. स्टडीज से पता चलता है कि कंटेंट मॉडरेशन का काम करने वालों में लंबे समय तक सोचने-समझने में परेशानी और भावनात्मक तनाव रहता है, जिसकी वजह से उनका व्यवहार बदल जाता है. मसलन अत्यधिक सावधानी बरतना. चिंता और नींद में गड़बड़ी की समस्या भी नजर आती है. दिसंबर 2025 में पब्लिश हुई कंटेंट मॉडरेटर्स की एक स्टडी, जिसमें भारत के वर्कर्स भी शामिल थे, ने ट्रॉमेटिक स्ट्रेस को सबसे बड़ा साइकोलॉजिकल रिस्क बताया. स्टडी में पाया गया कि जहां वर्कप्लेस पर दखल और सपोर्ट के तरीके मौजूद थे, वहां भी सेकेंडरी ट्रॉमा काफी अधिक बना रहा.

AI को ट्रेंड करने में भारत में 70 हजार से अधिक लोग जुटे

भारत में हजारों लोग एआई को सिखाने का काम करते हैं. उनका काम फोटो, वीडियो, टेक्स्ट और दूसरे डेटा को देखकर यह बताना होता है कि उसमें क्या है. इसे डेटा एनोटेशन और कंटेंट मॉडरेशन कहा जाता है. आईटी उद्योग संगठन नैसकॉम के अनुसार, 2021 में भारत में करीब 70,000 लोग यह काम कर रहे थे. इस उद्योग का आकार लगभग 25 करोड़ डॉलर था. इसमें सबसे ज्यादा काम अमेरिका की कंपनियों के लिए किया जाता था. इस काम में लगे लगभग 80% लोग गांवों, छोटे शहरों या आर्थिक रूप से कमजोर समुदायों से आते हैं. कंपनियां जानबूझकर ऐसे इलाकों में काम कराती हैं क्योंकि वहां ऑफिस का खर्च और कर्मचारियों की लागत कम होती है. इंटरनेट की बेहतर सुविधा के कारण अब लोगों को बड़े शहरों में जाने की जरूरत नहीं पड़ती. वे अपने गांव या कस्बे से ही दुनिया की बड़ी एआई कंपनियों के लिए काम कर सकते हैं.

डेटा एनोटेशन और कंटेंट मॉडरेशन में महिलाओं की संख्या ज्यादा क्यों है?

डेटा एनोटेशन और कंटेंट मॉडरेशन की इंडस्ट्री पर अगर ध्यान दें तो पाएंगे कि इस काम में महिलाएं ज्यादा जुटी हुई है. इस क्षेत्र में आधी या उससे ज्यादा कर्मचारी महिलाएं हैं. कंपनियों का ऐसा मानना है कि महिलाएं काम को ध्यान से करती हैं और घर से काम करने के लिए अधिक तैयार रहती हैं. कई महिलाओं के लिए यह नौकरी महत्वपूर्ण है क्योंकि उन्हें रोजगार पाने के लिए घर छोड़कर दूसरे शहर नहीं जाना पड़ता.

दलित और आदिवासी समुदाय के लोग इस नौकरी में ज्यादा है

डेटा एनोटेशन और कंटेंट मॉडरेशन का काम में बड़ी संख्या में दलित और आदिवासी समुदाय के लोग कर रहे हैं. उनके लिए यह नौकरी खेती, खदानों या दिहाड़ी मजदूरी की तुलना में ज्यादा सुरक्षित, नियमित और बेहतर वेतन वाली मानी जाती है. लेकिन इस काम के कई नुकसान भी हैं. शोधकर्ता प्रियम वडालिया के अनुसार, चूंकि यह नौकरी घर बैठे मिल जाती है, इसलिए कर्मचारियों पर यह दबाव रहता है कि वे शिकायत न करें और नौकरी देने वालों के प्रति हमेशा कृतज्ञ रहें. यही वजह है कि कई लोग काम से होने वाले मानसिक तनाव के बारे में खुलकर बात नहीं करते.

रैना सिंह के मानसिक स्वास्थ्य पर पड़ा असर

उत्तर प्रदेश के बरेली की रैना सिंह ने पढ़ाई पूरी करने के बाद डेटा एनोटेशन का काम शुरू किया. इस काम में वह कंटेंट की लेबलिंग करती थीं, जिसमें की कैटेगरी को चिन्हित करती थीं. शुरुआत में उनका काम छोटे-छोटे संदेशों को पढ़ना, स्पैम पहचानना और फर्जी संदेशों को चिन्हित करना था. उन्हें यह काम साधारण लगा और यह अच्छा भी लगा कि वे एआई के पीछे होने वाले असली काम को समझ रही हैं. धीरे-धीरे उनके काम को अचानक बदला जाने लगा.करीब छह महीने बाद बिना किसी चेतावनी के उन्हें एक नए प्रोजेक्ट में भेज दिया गया. वहां उनका काम बच्चों के यौन शोषण से जुड़े कंटेंट को पहचानना और हटाना था. रैना इस तरह की सामग्री देखकर परेशान हो गईं. जब उन्होंने शिकायत की तो उन्हें कहा गया कि वे बच्चों को सुरक्षित रखने का महत्वपूर्ण काम कर रही हैं. उन्हें घंटों पोर्न देखना पड़ा, कुछ समय बाद उन्हें और उनकी टीम को अश्लील वीडियो और तस्वीरों को अलग-अलग श्रेणियों में बांटने का काम दिया गया. रैना के अनुसार, उन्हें हर दिन कई घंटों तक पोर्नोग्राफिक सामग्री देखनी पड़ती थी. इसका असर धीरे-धीरे उनके मानसिक स्वास्थ्य और निजी जीवन पर पड़ने लगा. उन्हें सेक्स और रिश्तों के बारे में सोचकर घिन महसूस होने लगी. वे अपने साथी से भावनात्मक रूप से दूर होती चली गईं. तंग आकर उन्होंने एक साल बाद यह नौकरी छोड़ दी, लेकिन अभी भी वो उस काम के प्रभाव से पूरी तरह निकल नहीं पाई है.

नौकरी की सच्चाई पहले छिपाई जाती है

डेटा एनोटेशन और माॅडरेशन के कामों पर विशेषज्ञों का कहना है कि नौकरी के विज्ञापनों में अक्सर यह नहीं बताया जाता कि कर्मचारियों को वास्तव में किस तरह का कंटेंट देखना पड़ेगा. लोगों को डेटा एनोटेशन या AI ट्रेनिंग जैसे सामान्य नामों के तहत भर्ती किया जाता है. असली काम का पता उन्हें कॉन्ट्रैक्ट साइन करने और प्रशिक्षण शुरू होने के बाद चलता है.यूट्यूब, लिंक्डइन और टेलीग्राम जैसे प्लेटफॉर्म पर इन नौकरियों को अक्सर आसान कमाई और घर बैठे काम के रूप में प्रचारित किया जाता है, जबकि वास्तविकता कई बार कहीं अधिक कठिन और मानसिक रूप से थका देने वाली होती है.
द गार्जियन ने भारत में आठ डेटा-एनोटेशन और कंटेंट-मॉडरेशन कंपनियों से बात की. सिर्फ दो ने कहा कि वे वर्कर्स को साइकोलॉजिकल सपोर्ट देती हैं; बाकी ने कहा कि काम इतना ज्यादा मुश्किल नहीं था कि मेंटल हेल्थकेयर की जरूरत पड़े.