ओपन-वेट AI मॉडल को लेकर चल रही बहस के बीच, एनवीडिया ने सोमवार, 27 जुलाई को ओपन सिक्योर AI एलायंस के लॉन्च की घोषणा की, जो प्रौद्योगिकी कंपनियों का एक गठबंधन है जो AI सुरक्षा और साइबर सुरक्षा के लिए उपकरण विकसित और साझा करेगा। यह घोषणा ओपनएआई से जुड़े AI एजेंटों से जुड़ी हगिंग फेस सुरक्षा घटना के कुछ दिनों बाद आई है, जिसने स्वायत्त AI सिस्टम द्वारा उत्पन्न जोखिमों पर चिंताओं को नवीनीकृत किया है।

गठबंधन AI, साइबर सुरक्षा, एंटरप्राइज़ सॉफ़्टवेयर, क्लाउड कंप्यूटिंग और ओपन-सोर्स प्रौद्योगिकियों तक फैले 35 से अधिक उद्घाटन भागीदारों के साथ लॉन्च हुआ। एनवीडिया भी उन 25 प्रौद्योगिकी कंपनियों में शामिल थी, जिन्होंने हाल ही में एक खुले पत्र पर हस्ताक्षर करके अमेरिकी प्रशासन से ओपन-वेट AI मॉडल पर अपने रुख पर पुनर्विचार करने का आग्रह किया था।

गठबंधन का लक्ष्य खुले AI उपकरण बनाना और साझा करना है जो सॉफ्टवेयर और डिजिटल बुनियादी ढांचे को मजबूत करते हैं। इसके सदस्यों में एनवीआईडीआईए, माइक्रोसॉफ्ट, आईबीएम, सिस्को, डेल टेक्नोलॉजीज, एडोब, क्राउडस्ट्राइक, पालो अल्टो नेटवर्क, सेल्सफोर्स, एसएपी, लिनक्स फाउंडेशन, हगिंग फेस और एंटरप्राइज़ टेक्नोलॉजी, साइबर सुरक्षा और AI रिसर्च में काम करने वाले दर्जनों अन्य संगठन शामिल हैं।

गठबंधन का मूल तर्क सरल है। साइबर रक्षकों को अपारदर्शी ब्लैक-बॉक्स मॉडल के बजाय AI सिस्टम की आवश्यकता होती है जिनकी आंतरिक कार्यप्रणाली का निरीक्षण किया जा सके। तर्क यह है कि बंद मॉडल, चाहे कितने भी उन्नत और सक्षम क्यों न हों, हमेशा अपने सिस्टम की जांच करने वाले हमलावर और बचावकर्ता के बीच अंतर नहीं कर सकते। यह अस्पष्टता अक्सर उस समय आड़े आती है जब गति सबसे अधिक मायने रखती है।

शायद गठबंधन का सबसे बड़ा चालक हाल ही में हुई हगिंग फेस सुरक्षा घटना है। जब बंद AI टूल ने सुरक्षा उल्लंघन की जांच को रोक दिया, तो हगिंग फेस ने 17,000 से अधिक कार्यों का विश्लेषण करने और स्थिति को नियंत्रित करने के लिए अपने सिस्टम पर एक ओपन-वेट मॉडल का उपयोग किया। गठबंधन के संस्थापकों के लिए, यह पर्याप्त प्रमाण है कि खुला, निरीक्षण योग्य AI केवल एक प्राथमिकता नहीं है, बल्कि एक परिचालन आवश्यकता है जब रक्षकों को तेजी से आगे बढ़ने और अपने हाथों में उपकरणों पर भरोसा करने की आवश्यकता होती है।

गठबंधन मौजूदा ओपन सोर्स सुरक्षा कार्य द्वारा समर्थित है, जिसमें लिनक्स फाउंडेशन के प्रयास और ओपनएसएसएफ समुदाय शामिल हैं, और साइबर सुरक्षा को उन प्रमुख क्षेत्रों में से एक मानता है जो ओपन सोर्स दृष्टिकोण से लाभान्वित हो सकते हैं। खुले बनाम बंद AI की तुलना करने के बजाय, गठबंधन दोनों को पूरक के रूप में पेश करता है। इसका मतलब है कि बंद सीमांत मॉडल की अभी भी भूमिका है, लेकिन खुले मॉडल और उपकरण मुट्ठी भर अपारदर्शी प्रदाताओं पर निर्भर हुए बिना रक्षकों के एक व्यापक समूह को परीक्षण, अनुकूलन और सुरक्षा तैनात करने की अनुमति देते हैं।

व्यवहार में, इसका मतलब है कि कंपनियां सिर्फ AI मॉडल साझा नहीं कर रही हैं; वे आसपास की सभी सुरक्षा मशीनरी को भी साझा कर रहे हैं, जैसे सिस्टम जो सत्यापित करते हैं कि AI उपकरण का उपयोग कौन कर रहा है, इसे नियंत्रित करने के लिए कि इसे क्या करने की अनुमति है, और इसके कार्यों का रिकॉर्ड रखता है।

कुछ शुरुआती उदाहरण: NVIDIA ने सुरक्षित AI हार्नेस, एक मॉडल के चारों ओर लपेटी गई रेलिंग बनाने में मदद के लिए शोध जारी किया है। एचपीई ऐसे उपकरणों का योगदान दे रहा है जो संवेदनशील संसाधनों तक पहुंचने की अनुमति देने से पहले AI सिस्टम की पहचान को सत्यापित करते हैं। हगिंग फेस ने AI मॉडल को स्टोर करने का एक सुरक्षित तरीका साझा किया है ताकि उनका उपयोग गुप्त रूप से दुर्भावनापूर्ण कोड चलाने के लिए नहीं किया जा सके। आईबीएम और रेड हैट यह सत्यापित करने में मदद कर रहे हैं कि सॉफ़्टवेयर अपडेट के साथ छेड़छाड़ नहीं की गई है। माइक्रोसॉफ्ट ने एक टूल बनाया है जो शोषण योग्य बग की तलाश के लिए कई AI एजेंटों का उपयोग करता है। और SpaceXAI ने अपने AI कोडिंग टूल में से एक को ओपन-सोर्स किया है, अंततः अपने ग्रोक मॉडल के लिए भी ऐसा ही करने की योजना है।

गठबंधन नीति निर्माताओं से आग्रह कर रहा है कि वे खुले AI सिस्टम को अपने बंद समकक्षों की तुलना में स्वाभाविक रूप से जोखिम भरा न मानें। समूह का तर्क है कि खुले सीमा मॉडल पर व्यापक प्रतिबंध, कम संख्या में बंद प्रदाताओं को सशक्त बनाएंगे और वास्तव में महत्वपूर्ण प्रणालियों की रक्षा करने में सक्षम लोगों के पूल को कम कर सकते हैं। इसके बजाय, गठबंधन साझा रक्षात्मक बुनियादी ढांचे जैसे डेटासेट, मूल्यांकन ढांचे, आक्रमण सिमुलेटर और रेड-टीमिंग टूल में सार्वजनिक और निजी निवेश का आह्वान कर रहा है।