किशोर ने खुद को नुकसान पहुंचाने की बात की, तो पैरेंट्स को अलर्ट करेगा मेटा एआई का नया फीचर

Meta AI एक नया सुरक्षा फीचर पेश कर रहा है जो किशोरों को संभावित नुकसान से बचाने में मदद करेगा. अगर कोई किशोर AI से आत्महत्या या खुद को नुकसान पहुंचाने संबंधी बातें करता है, तो उसके माता-पिता को तुरंत अलर्ट भेजा जाएगा. यह सुविधा किशोरों की सुरक्षा सुनिश्चित करने की दिशा में एक महत्वपूर्ण कदम है.

आर्टिफिशियल इंटेलिजेंस का इस्तेमाल तेजी से बढ़ रहा है और अब किशोर भी पढ़ाई, सलाह और बातचीत के लिए एआई चैटबॉट का सहारा लेने लगे हैं. इसी बीच Meta ने Teen Safety को मजबूत बनाने के लिए एक बड़ा कदम उठाया है. कंपनी ने नया फीचर लॉन्च किया है, जिसके तहत अगर कोई किशोर Meta AI से आत्महत्या या खुद को नुकसान पहुंचाने जैसी बातें करता है, तो उसके माता-पिता को अलर्ट भेजा जाएगा. Meta का कहना है कि इस फीचर का मकसद संकट की स्थिति में परिवार को समय रहते जानकारी देना और जरूरी मदद उपलब्ध कराना है.

Meta AI कैसे भेजेगा माता-पिता को अलर्ट?

Meta के नये सिस्टम के तहत अगर कोई किशोर Meta AI पर ऐसी बातचीत करता है, जिससे आत्महत्या या खुद को नुकसान पहुंचाने का संकेत मिलता है, तो सबसे पहले एआई उस चैट को फ्लैग करेगा. इसके बाद Meta की टीम उस बातचीत की मैनुअल समीक्षा करेगी. अगर समीक्षा में जोखिम की संभावना नजर आती है, तभी माता-पिता को नोटिफिकेशन भेजा जाएगा.

यह अलर्ट फिलहाल Instagram Supervision अकाउंट वाले माता-पिता को मिलेगा. इसके साथ ही Meta AI का इस्तेमाल Instagram, WhatsApp, Facebook Messenger और Standalone Meta AI प्लैटफॉर्म पर भी कवर किया गया है.

किन देशों में शुरू हुई नई सुविधा?

फिलहाल यह फीचर अमेरिका, ब्रिटेन, कनाडा और ऑस्ट्रेलिया में लाइव कर दिया गया है. Meta ने घोषणा की है कि साल के अंत तक इसे दुनिया के दूसरे देशों में भी उपलब्ध कराया जाएगा.

माता-पिता को ऐप नोटिफिकेशन के अलावा ईमेल, एसएमएस या WhatsApp के जरिये भी सूचना मिल सकती है. इसके साथ विशेषज्ञों द्वारा तैयार की गई सलाह भी दी जाएगी, ताकि वे अपने बच्चे से सही तरीके से बातचीत कर सकें.

पहले क्या होता था, अब क्या बदला?

इससे पहले अगर कोई किशोर Meta AI से आत्महत्या या खुद को नुकसान पहुंचाने जैसी बातें करता था, तो चैटबॉट उसे Crisis Helpline की जानकारी देता था और किसी भरोसेमंद व्यक्ति से बात करने की सलाह देता था.

अब नया बदलाव यह है कि जरूरत पड़ने पर माता-पिता को भी इसकी जानकारी दी जाएगी. Meta ने बताया कि सिस्टम फिलहाल सावधानी बरतने के सिद्धांत पर काम करेगा, यानी हल्का संदेह होने पर भी बातचीत की समीक्षा की जा सकती है. कंपनी भविष्य में ऐसे मामलों में इमरजेंसी सर्विसेज से संपर्क करने वाला सिस्टम भी विकसित कर रही है.

Teen Safety को लेकर क्यों बढ़ी चिंता?

पिछले कुछ समय से एआई चैटबॉट्स की भूमिका को लेकर दुनियाभर में सवाल उठ रहे हैं. खासकर मानसिक स्वास्थ्य से जुड़े मामलों में विशेषज्ञ लगातार बेहतर सुरक्षा उपायों की मांग कर रहे हैं. Meta का कहना है कि इस फीचर को तैयार करने में 75 से अधिक मानसिक स्वास्थ्य विशेषज्ञों और चिकित्सकों की राय ली गई है.

हालांकि कई बाल सुरक्षा संगठनों का मानना है कि केवल पैरेंटल अलर्ट पर्याप्त नहीं हैं. उनका कहना है कि एआई प्लैटफॉर्म को पहले से ही अधिक सुरक्षित बनाया जाना चाहिए, ताकि किशोर जोखिम भरी परिस्थितियों तक पहुंचें ही नहीं.

Meta AI में Limited Content Setting भी हुई मजबूत

Meta ने अपने किशोर उम्र के यूजर्स के लिए Limited Content Setting को भी और सख्त बनाया है. इस मोड में Meta AI ज्यादा आक्रामक तरीके से संवेदनशील या अनुचित सवालों की पहचान करेगा और कई तरह के अनुरोधों का जवाब देने से इनकार कर देगा.

कंपनी के मुताबिक Meta AI पहले से ही Teens के साथ रोमांटिक, यौन या शराब से जुड़े विषयों पर बातचीत नहीं करता. अब नये फिल्टर के साथ ऐसे मामलों में सुरक्षा और मजबूत हो जाएगी.