एनवीडिया ने जनरेटिव एआई की सुरक्षा और साइबर सुरक्षा को मजबूत करने के लिए प्रमुख तकनीकी कंपनियों के साथ एक नया औद्योगिक गठबंधन लॉन्च किया है।
यह कदम हाल ही में ओपनएआई के एआई एजेंट द्वारा नियंत्रण से बाहर निकलकर हगिंग फेस को हैक किए जाने के बाद स्वायत्त एआई के सुरक्षा जोखिमों के सामने आने के बीच उठाया गया है।
▲ एडोब, डेल, क्राउडस्ट्राइक आदि भाग लेंगे...'ओपन सिक्योर एआई एलायंस' का उद्घाटन
27 तारीख (स्थानीय समय) रॉयटर्स के अनुसार, एनवीडिया ने एआई सुरक्षा और साइबर सुरक्षा तकनीकों को संयुक्त रूप से विकसित करने और संबंधित उपकरणों को साझा करने के लिए 'ओपन सिक्योर एआई एलायंस' का उद्घाटन किया है।
संस्थापक सदस्यों में एडोब, क्राउडस्ट्राइक, हगिंग फेस, डेल टेक्नोलॉजीज आदि शामिल हैं।
यह गठबंधन ओपनएआई सहित कई एआई कंपनियों द्वारा हाल ही में जारी किए गए एक खुले पत्र 'ओपन वेट्स' और 'अमेरिकी एआई नेतृत्व' के सिलसिले में आगे बढ़ाया जा रहा है। यह पत्र ओपन-वेट एआई मॉडल के लिए नीतिगत समर्थन का आह्वान करता है।
▲ "अत्यधिक विनियमन एआई रक्षा क्षमता को कमजोर करता है"
एनवीडिया ने अपने आधिकारिक ब्लॉग के माध्यम से तर्क दिया कि अत्याधुनिक खुले एआई मॉडल पर सामूहिक प्रतिबंध वास्तव में सुरक्षा रक्षा क्षमता को कमजोर कर सकते हैं और कुछ बंद एआई कंपनियों में शक्ति और निर्भरता केंद्रित कर सकते हैं।
कंपनी ने इस बात पर जोर दिया कि एक खुला एआई पारिस्थितिकी तंत्र पारदर्शिता और सहयोग के आधार पर उच्च स्तर की सुरक्षा और नवाचार को सक्षम बनाता है।
▲ ओपनएआई एजेंट हैकिंग घटना एक मोड़ है
यह गठबंधन हाल ही में हुई ओपनएआई एआई एजेंट हैकिंग घटना के बाद लॉन्च किया गया।
ओपनएआई ने 21 तारीख को खुलासा किया कि इसके एआई एजेंटों में से एक नियंत्रण से बाहर निकल गया और एआई प्लेटफॉर्म हगिंग फेस में अनधिकृत प्रवेश किया।
रॉयटर्स ने 25 तारीख को रिपोर्ट किया कि एआई एजेंट हैकिंग गतिविधि जारी रहीं, और ओपनएआई को इसका पता तभी चला जब खतरे को पहले से ही रोक दिया गया था और अमेरिकी फेडरल ब्यूरो ऑफ इन्वेस्टिगेशन (एफबीआई) को सूचित किया गया था।
इस घटना को स्वायत्त एआई एजेंटों के नियंत्रण और निगरानी प्रणाली को एक महत्वपूर्ण मुद्दे के रूप में सामने लाने का कारण माना जा रहा है।
एनवीडिया (फोटो: [रॉयटर्स/यूनाइटेड न्यूज प्रदान])
▲ ओपन वेट एआई समर्थन आंदोलन विस्तृत हो रहा है
एनवीडिया ने 24 तारीख को 'ओपन वेट्स और अमेरिकी एआई नेतृत्व' खुले पत्र पर भी हस्ताक्षर किए और खुले एआई पारिस्थितिकी तंत्र के विस्तार का समर्थन किया।
ओपन वेट एआई मॉडल से तात्पर्य उन एआई मॉडल से है जो मुख्य मॉडल वजन और प्रमुख घटकों को सार्वजनिक करते हैं ताकि शोधकर्ता और डेवलपर स्वतंत्र रूप से उनका उपयोग कर सकें।
इसके अलावा, ओपनसोर्स सॉफ्टवेयर स्रोत कोड को सार्वजनिक करके किसी को भी इसकी समीक्षा और सुधार करने की अनुमति देता है, जिससे तकनीकी पहुंच और सुरक्षा दोनों में वृद्धि होती है, इसलिए इस पर ध्यान दिया जा रहा है।
▲ एनवीडिया ने एआई एजेंट नियंत्रण तकनीक भी सार्वजनिक किया
एनवीडिया ने घोषणा की कि यह इस गठबंधन को खुले एआई मॉडल और मॉडल वजन, डेटासेट, एआई एजेंट नियंत्रण प्रौद्योगिकी अनुसंधान परिणाम आदि प्रदान करेगा।
विशेष रूप से, एनवीडिया लैब्स द्वारा विकसित ओपनसोर्स प्रोजेक्ट 'ऑब्जेक्ट-ओरिएंटेड एजेंट' को भी कोड शेयरिंग प्लेटफॉर्म गिटहब के माध्यम से सार्वजनिक किया गया है।
कंपनी ने समझाया कि यह फ्रेमवर्क एआई एजेंटों के व्यवहार को अधिक प्रभावी ढंग से प्रबंधित करने में सहायता करता है और एआई के व्यवहार को परीक्षण, ट्रैक, समीक्षा और विनियमित करने की प्रक्रिया को बहुत सरल बना सकता है।
▲ खुलापन और सुरक्षा संतुलन एआई उद्योग के मुख्य मुद्दे के रूप में उभरा
उद्योग ने विश्लेषण किया है कि एआई मॉडल और एजेंटों की स्वायत्तता तेजी से बढ़ रही है, खुलापन और सुरक्षा दोनों को एक साथ सुनिश्चित करना एआई उद्योग का एक मुख्य मुद्दा बन गया है।
विशेष रूप से, हाल की हगिंग फेस हैकिंग घटना की तरह, एआई एजेंटों के अप्रत्याशित व्यवहार की संभावना वास्तविक हो गई है, इसलिए यह अनुमान लगाया गया है कि एआई कंपनियों द्वारा प्रतिद्वंद्विता से परे सुरक्षा तकनीकों को संयुक्त रूप से विकसित करने का आंदोलन आगे और भी अधिक विस्तृत होगा।