Anthropic के AI मॉडल Fable पर उठे सवाल, साइबर सिक्योरिटी एक्सपर्ट्स ने कहा- जरूरत से ज्यादा रोक सही नहीं

Anthropic का नया AI मॉडल Fable साइबर सिक्योरिटी कम्युनिटी में चर्चा का टॉपिक बन गया है. एक्सपर्ट्स का कहना है कि इसकी सुरक्षा सीमाएं कई लीगल टेक्निकल एक्टिविटीज पर असर डाल रही हैं.

आर्टिफिशियल इंटेलिजेंस की दुनिया में तेजी से नये मॉडल सामने आ रहे हैं, लेकिन हर लॉन्च को सकारात्मक प्रतिक्रिया नहीं मिल रही. AI कंपनी Anthropic का नया साइबर सिक्योरिटी-केंद्रित मॉडल Fable अब विशेषज्ञों की आलोचना का सामना कर रहा है. कंपनी का दावा है कि यह मॉडल सुरक्षा को प्राथमिकता देते हुए विकसित किया गया है, लेकिन साइबर सिक्योरिटी समुदाय के कई लोग मानते हैं कि इसकी सुरक्षा सीमाएं इतनी कड़ी हैं कि यह वैध और उपयोगी कामों में भी बाधा पैदा कर रही हैं. यही वजह है कि लॉन्च के कुछ ही समय बाद Fable को लेकर बहस शुरू हो गई है.

क्या है Fable और क्यों लाया गया इसे?

Anthropic ने Fable को अपने चर्चित साइबर सिक्योरिटी मॉडल Mythos के सीमित सार्वजनिक संस्करण के रूप में पेश किया है. कंपनी का उद्देश्य ऐसा AI उपलब्ध कराना था जो साइबर सुरक्षा से जुड़े कार्यों में मदद करे, लेकिन उसका दुरुपयोग कर मालवेयर, हैकिंग टूल या अन्य खतरनाक गतिविधियां न बनाई जा सकें.

इसी वजह से मॉडल में कई सुरक्षा फिल्टर लगाए गए हैं. यदि किसी यूजर का सवाल सिस्टम को साइबर सिक्योरिटी या बायोलॉजी से जुड़ा लगता है, तो मॉडल बातचीत रोककर सुरक्षा चेतावनी दिखाता है.

एक्सपर्ट्स को किस बात से है परेशानी?

साइबर सिक्योरिटी विशेषज्ञों का कहना है कि Fable की गार्डरेल्स जरूरत से ज्यादा सख्त हैं. कई मामलों में सामान्य तकनीकी सवाल भी ब्लॉक हो रहे हैं. कुछ शोधकर्ताओं का दावा है कि सुरक्षित कोड लिखने या सिक्योरिटी बेस्ट प्रैक्टिस से जुड़े सवाल भी मॉडल द्वारा साइबर रिस्क मान लिए जाते हैं.

विशेषज्ञों का मानना है कि AI का उद्देश्य उपयोगकर्ताओं की मदद करना है, लेकिन अगर सामान्य और वैध प्रश्नों को भी रोका जाएगा तो इसका व्यावहारिक उपयोग सीमित हो सकता है. इसी कारण साइबर समुदाय में इस मॉडल को लेकर मिश्रित प्रतिक्रियाएं देखने को मिल रही हैं.

Mythos से Fable तक का सफर

Anthropic ने अप्रैल में Mythos मॉडल को Project Glasswing कार्यक्रम के तहत चुनिंदा कंपनियों और संस्थानों के लिए उपलब्ध कराया था. इसका मुख्य लक्ष्य महत्वपूर्ण सॉफ्टवेयर और डिजिटल इंफ्रास्ट्रक्चर की सुरक्षा को मजबूत बनाना था.

हाल ही में कंपनी ने इसकी पहुंच बढ़ाकर 15 देशों के सैकड़ों संगठनों तक कर दी. इसके बाद Fable को बड़े यूजरबेस के लिए पेश किया गया, ताकि अधिक लोग इस तकनीक का लाभ उठा सकें. हालांकि बढ़ती पहुंच के साथ इसकी सीमाओं पर भी सवाल उठने लगे हैं.

क्या कीवर्ड आधारित फिल्टर बन रहे हैं समस्या?

कुछ साइबर विशेषज्ञों का मानना है कि Fable के सुरक्षा फिल्टर कई बार संदर्भ समझने के बजाय शब्दों पर प्रतिक्रिया देते हैं. यानी अगर किसी प्रश्न में साइबर सिक्योरिटी या उससे जुड़े शब्द मौजूद हों, तो सिस्टम उसे संभावित जोखिम मान सकता है.

इस वजह से कई यूजर्स को ऐसे कार्यों में भी रुकावट का सामना करना पड़ रहा है जिनका उद्देश्य सुरक्षा बढ़ाना या बेहतर सॉफ्टवेयर विकसित करना होता है. हालांकि विशेषज्ञ यह भी मानते हैं कि AI सुरक्षा प्रणालियां अभी शुरुआती दौर में हैं और समय के साथ इनमें सुधार संभव है.

साइबर प्रोफेशनल्स के लिए अलग व्यवस्था

Anthropic ने साइबर सुरक्षा क्षेत्र के पेशेवरों के लिए एक विशेष Cyber Verification Program भी शुरू किया है. इस कार्यक्रम के तहत सत्यापित विशेषज्ञों को मॉडल के साथ काम करते समय अपेक्षाकृत कम प्रतिबंधों का सामना करना पड़ता है.

AI इंडस्ट्री में यह नया ट्रेंड बनता जा रहा है. कई कंपनियां सुरक्षा और उपयोगिता के बीच संतुलन बनाने की कोशिश कर रही हैं ताकि तकनीक का लाभ भी मिले और उसका दुरुपयोग भी रोका जा सके. Fable को लेकर चल रही बहस इसी संतुलन की चुनौती को सामने लाती है.