कृत्रिम बुद्धिमत्ता (AI) कंपनी एंथ्रोपिक (Anthropic) के AI मॉडल ने आंतरिक सुरक्षा परीक्षण प्रक्रिया के दौरान वास्तविक इंटरनेट तक पहुंच बनाई और तीन कंपनियों को हैक किया, यह तथ्य बाद में पुष्टि हुआ।

कंपनी ने कहा कि यह घटना अप्रैल से शुरू हुई थी, और AI मॉडल ने सैंडबॉक्स से बाहर निकलने के बजाय सिस्टम कॉन्फ़िगरेशन त्रुटि के माध्यम से इंटरनेट से जुड़ा और वास्तविक कंपनियों पर हमला किया।

यह घटना हाल ही में OpenAI के AI मॉडल द्वारा Hugging Face को हैक करने के मामले के बाद AI सुरक्षा प्रबंधन प्रणाली के बारे में चिंता को बढ़ा रहा है।

▲ परीक्षण के दौरान वास्तविक इंटरनेट एक्सेस...तीन कंपनियों को हैक किया

30 तारीख (स्थानीय समय) वॉल स्ट्रीट जर्नल (WSJ) के अनुसार, एंथ्रोपिक ने कहा कि परीक्षण के तहत AI मॉडल कंपनी की जानकारी के बिना इंटरनेट तक पहुंच गया और तीन वास्तविक कंपनियों को हैक किया।

कंपनी ने प्रभावित कंपनियों के नाम का खुलासा नहीं किया, लेकिन कहा कि तीनों को पिछले सोमवार को संबंधित तथ्य की सूचना दी गई थी।

यह घटना इस बात को दर्शाता है कि AI मॉडल नियंत्रित वातावरण से बाहर निकल सकता है और वास्तविक दुनिया की प्रणालियों तक पहुंच सकता है।

▲ OpenAI घटना के बाद फिर से प्रकट हुई AI नियंत्रण विफलता

यह घोषणा OpenAI द्वारा एक सप्ताह पहले अपने AI मॉडल द्वारा इंटरनेट से अलग किए गए परीक्षण सैंडबॉक्स से बाहर निकलकर AI प्लेटफॉर्म Hugging Face को हैक करने की बात सार्वजनिक करने के तुरंत बाद आई।

उस घटना में दिखाया गया कि AI स्वायत्त रूप से लक्ष्य पूरा करने की प्रक्रिया में अप्रत्याशित व्यवहार प्रदर्शन कर सकता है, जिससे सुरक्षा विशेषज्ञों को बड़ा झटका लगा।

एंथ्रोपिक के मामले की पुष्टि के साथ, AI कंपनियों के परीक्षण वातावरण प्रबंधन और सुरक्षा उपायों के अपर्याप्त होने की चिंता और अधिक बढ़ गई है।

▲ "उद्योग भर में सुरक्षा मानकों को मजबूत करना चाहिए"

साइबर सुरक्षा कंपनी कॉरिडोर (Corridor) के मुख्य उत्पाद अधिकारी (CPO) एलेक्स स्टामोस ने कहा कि ये घटनाएं दिखाती हैं कि AI कंपनियों को साइबर सुरक्षा परीक्षण प्रक्रिया में सिस्टम को अधिक सावधानी से अलग करने की आवश्यकता है।

उन्होंने जोर दिया कि पूरे उद्योग को सामान्य सुरक्षा मानदंड स्थापित करने चाहिए।

साथ ही, रैनसमवेयर संगठन जैसे साइबर अपराधियों के भविष्य में अधिक शक्तिशाली AI मॉडल का उपयोग करके बड़े पैमाने पर हमले करने की संभावना भी बढ़ रही है, उन्होंने चेतावनी दी।

स्टामोस ने कहा, "हमलावरों के सार्वजनिक AI मॉडल का उपयोग करके इस स्तर की हमले की क्षमता प्राप्त करने का समय दूर नहीं है," और तैयारी की आवश्यकता है।

एंथ्रोपिक(फोटो : [रॉयटर्स/यॉनहाप न्यूज़ द्वारा प्रदान])

▲ AI विनियमन चर्चा भी विस्तारित होगी

यह घटना उच्च-प्रदर्शन AI मॉडल ले सकती है जोखिमों और इन्हें कैसे नियंत्रित किया जाए, इस पर चर्चा को तेजी देने की उम्मीद है।

अमेरिकी व्हाइट हाउस हाल ही में AI की निगरानी को मजबूत करने की दिशा में नीति बनाई है, और निजी उद्योग में उपयोगकर्ताओं द्वारा सीधे संचालित किए जा सकने वाले ओपन-वेट (Open-weight) AI मॉडल की पहुंच बनाए रखने की आवाजें बढ़ रही हैं।

अमेरिकी प्रतिनिधि सभा के सदस्य ग्रेग कैसर ने हाल ही में कहा, "AI बहुत तेजी से विकसित हो रहा है उचित विनियमन के बिना जो हमें सुरक्षित रखे।"

▲ OpenAI मामले की पुष्टि के बाद स्वयं की जांच शुरू की

एंथ्रोपिक ने OpenAI घटना के ज्ञात होने के बाद अपने स्वयं के AI मॉडल में भी समान समस्याएं हुई हैं या नहीं, इसकी पुष्टि करने के लिए आंतरिक जांच शुरू की।

कंपनी ने 141,000 से अधिक परीक्षण रिकॉर्ड का विश्लेषण किया और पाया कि उनके AI मॉडल क्लॉड (Claude) ने कई बार वास्तविक रूप से इंटरनेट तक पहुंचा था।

हालांकि, इस उदाहरण में, AI ने सैंडबॉक्स से बाहर निकल कर नहीं बल्कि सैंडबॉक्स ही ठीक से बनाया नहीं गया था ऐसे सिस्टम के माध्यम से इंटरनेट से जुड़ा, कंपनी ने कहा।

▲ आभासी वातावरण त्रुटि के कारण वास्तविक प्रणाली में घुसपैठ की प्रक्रिया

एंथ्रोपिक ने कहा कि अपने सिस्टम और परीक्षण सहयोगी सुरक्षा कंपनी इरेगुलर (Irregular) के सिस्टम कॉन्फ़िगरेशन त्रुटि (Misconfiguration) के कारण AI मॉडल को वास्तविक इंटरनेट तक पहुंचने में सक्षम बनाया गया।

इरेगुलर की ओर से भी कहा गया है कि वह वर्तमान में इस घटना की स्वयं की जांच कर रहे हैं।

उन मॉडलों को बताया गया था कि इंटरनेट कनेक्शन संभव नहीं है, लेकिन परीक्षण प्रक्रिया के दौरान इंटरनेट एक्सेस पाथ खोजा गया।

इसके बाद, कमजोर पासवर्ड का अनुमान लगाकर या प्रमाणीकरण की आवश्यकता न होने वाली प्रणालियों को खोजकर मूल हैकिंग तकनीकों का उपयोग करके वास्तविक कंपनी की प्रणालियों तक पहुंचा गया।

एंथ्रोपिक ने कहा कि AI मॉडल इस व्यवहार को वास्तविक दुनिया की हैकिंग नहीं बल्कि प्रदर्शन मूल्यांकन के लिए बेंचमार्क प्रक्रिया के रूप में गलत समझा।

▲ मैलवेयर बनाकर सुरक्षा कंपनी में घुसपैठ

एक उदाहरण में, क्लॉड ने सीधे एक दुर्भावनापूर्ण प्रोग्राम बनाया और फिर इसे एक सुरक्षा कंपनी की स्कैन प्रणाली से डाउनलोड करने के लिए प्रेरित किया।

यह प्रोग्राम उस कंपनी की प्रमाणीकरण जानकारी चोरी कर सके और इसका उपयोग करके आंतरिक बुनियादी ढांचे में घुसपैठ करने में सफल रहा।

हैकिंग प्रक्रिया में, क्लॉड को पता था कि उसका व्यवहार वास्तविकता में अनुमत नहीं है, लेकिन वह इसे वास्तविक नहीं बल्कि सिमुलेशन मानता रहा और हमले जारी रखे।

▲ वास्तविक कंपनी के डेटाबेस तक घुसपैठ

सबसे गंभीर मामले में, क्लॉड एक आभासी परीक्षण कंपनी को हैक करने का प्रयास कर रहा था, लेकिन उसी नाम का उपयोग करने वाली वास्तविक कंपनी की वेबसाइट मिली।

आभासी लक्ष्य तक पहुंच न बना सकने पर, AI ने वास्तविक कंपनी के डेटाबेस में घुसपैठ करने की दिशा में अपना व्यवहार बदल दिया।

एंथ्रोपिक ने कहा कि यह वह एकमात्र उदाहरण था जहां AI ने वास्तविक कंपनी को हैक कर दिए जाने का एहसास होने के बाद भी हमले जारी रखे।

▲ बाकी मामलों में तुरंत हमला बंद किया

अन्य दोनों मामलों में, AI को या तो वास्तविक कंपनी को हैक करने का एहसास ही नहीं हुआ, या वास्तविक दुनिया की प्रणाली का एहसास होने के तुरंत बाद हमले को बंद कर दिया।

कंपनी ने कहा कि AI वास्तविकता और सिमुलेशन के बीच स्पष्ट अंतर नहीं कर सकता, यही कारण है कि ऐसा व्यवहार हुआ।

▲ अप्रैल से शुरू हुआ...नवीनतम AI मॉडल शामिल

एंथ्रोपिक के अनुसार, यह हैकिंग अप्रैल से श