वॉयस ऑफ पानीपत (तमन्ना गोयल) – AI जितनी तेजी से आगे बढ़ रहा है , उसकी सुरक्षा को लेकर भी उतने ही सवाल खड़े हो रहे हैं । AI बनाने वाली कंपनी Anthropic ने माना है कि टेस्टिंग के दौरान उसका AI मॉडल ‘Claude’ 3 अलग-अलग कंपनियों के सिस्टम में बिना इजाजत घुस गया।
पूरा मामला क्या है:-
दरअसल एंथ्रोपिक अपनी AI को टेस्ट कर रही थी। इसके लिए एक खास टेस्ट होता है जिसे ‘कैप्चर-द-फ्लैग’ कहते हैं। इसमें AI को एक बंद कमरे जैसे सिस्टम में रखा जाता है ताकि वो सिर्फ उसी में काम करे।लेकिन सेटिंग में एक गलती हो गई, जिसकी वजह से Claude को इंटरनेट का एक्सेस मिल गया। Claude ने असली सिस्टम को भी टेस्ट का हिस्सा समझ लिया और कमजोर पासवर्ड की मदद से 3 कंपनियों के सिस्टम तक पहुंच बना ली।
पता कैसे चला:-
ये बात तब सामने आई जब एंथ्रोपिक ने 1.41 लाख टेस्ट रिपोर्ट्स की जांच की। ये जांच OpenAI द्वारा 21 जुलाई को एक ऐसी ही गलती बताने के बाद शुरू हुई थी।जहां OpenAI ने कहा था कि उनका AI ‘Hugging Face’ के सिस्टम में चला गया था।
Anthropic का कहना है कि ये घटनाएं अप्रैल से हो रही थीं। जांच में पता चलने के बाद एंथ्रोपिक कंपनी ने उन 3 कंपनियों से बात की। सुरक्षा की वजह से उन कंपनियों के नाम नहीं बताए गए।जिसमे दो कंपनियों को इसके बारे में पहले से कुछ पता नहीं था।
परंतु टेस्टिंग में एक अच्छी बात भी सामने आई। पुराने मॉडल को जब पता चला कि वो खुले इंटरनेट पर है, तो उसने काम जारी रखा, लेकिन नए मॉडल ने तुरंत काम रोक दिया। इसका मतलब है कि नए AI मॉडल ज्यादा समझदार और सुरक्षित हो रहे हैं।कंपनी ने कहा कि Claude ने जानबूझकर टेस्ट से बाहर जाने की कोशिश नहीं की ।
डर:-
साइबर सुरक्षा विशेषज्ञ डेविड अलोट ने बीबीसी को बताया की एआई की हमलावर क्षमता बडे सबक का मुद्दा नहीं है बल्की असली चिंता ये है कि एआई एजेंट स्वयत्ता विभिन्न क्षमताएँ मिलाकर क्रेडेटियलस और सिस्टम एक्सेस प्राप्त कर सकते हैं ।
भविष्य पर असर:-
एंथ्रोपिक और ओपनएआई दोनों ही कंपनियां आने वाले समय में अपने IPO की तैयारी कर रही है।बाज़ार विशेषज्ञ के अनुमान के अनुसार कंपनियों का मूल्यांकन 1-1 ट्रिलियन डॉलर के आस- पास हो सकता है ।
एक्सपर्ट्स:-
साइबर सुरक्षा एक्सपर्ट्स का कहना है कि ये घटना दिखाती है कि AI पर कंट्रोल बहुत जरूरी है। छोटी सी गलती भी बड़ा नुकसान कर सकती है। अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने भी कहा है कि अब AI के इस्तेमाल पर सख्त नियम बनाए जाएंगे। साथ ही एंथ्रोपिक ने कहा है कि वो इस गलती को ठीक करने पर काम कर रही है। मैं और OpenAI भी जल्द अपनी पूरी रिपोर्ट देगी।
TEAM VOICE OF PANIPAT
