कुछ चीनी AI मॉडलों पर अमेरिकी सरकार के प्रस्तावित प्रतिबंधों के खिलाफ एक खुले पत्र पर हस्ताक्षर नहीं करने वाली एकमात्र प्रमुख फ्रंटियर AI कंपनी होने के कारण गर्मी का सामना करने के बाद एंथ्रोपिक CEO डारियो अमोदेई ने ओपन-वेट AI मॉडल पर क्लाउड-निर्माता की स्थिति स्पष्ट करने की मांग की है।

कई दिनों तक स्पष्ट रूप से चुप रहने के बाद, अमोदेई ने कहा कि एंथ्रोपिक ने कभी भी अपने व्यवसाय की सुरक्षा के साधन के रूप में ओपन-वेट मॉडल पर प्रतिबंध की वकालत नहीं की है। उन्होंने यह भी कहा कि ऐसे मॉडल - जिनका वजन डेवलपर्स के लिए डाउनलोड करने, संशोधित करने और अपने स्वयं के बुनियादी ढांचे पर तैनात करने के लिए स्वतंत्र रूप से उपलब्ध है - को सार्वजनिक वस्तु माना जाना चाहिए, बशर्ते वे "खतरनाक क्षमताओं" के साथ नहीं आते हैं।

अमोदेई ने सोमवार, 27 जुलाई को एक ब्लॉग पोस्ट में लिखा, "उन्हें चलाने के लिए आवश्यक गणना के अलावा कुछ भी खर्च नहीं होता है, और वे व्यवसायों, डेवलपर्स और शोधकर्ताओं को मूल्य प्रदान करते हैं।" हालांकि, उन्होंने एनवीडिया के CEO जेन्सेन हुआंग द्वारा लिखे गए एक पत्र का समर्थन करना बंद कर दिया, जिसमें नीति निर्माताओं से ओपन-वेट AI मॉडल पर व्यापक "समय से पहले प्रतिबंध" नहीं लगाने का आग्रह किया गया था।

इस पत्र पर मेटा, माइक्रोसॉफ्ट, ओपनएआई, गूगल और स्पेसएक्स सहित दो दर्जन से अधिक कंपनियों ने हस्ताक्षर किए हैं।

हालांकि अमोदेई नहीं चाहते कि अमेरिका ओपन-वेट मॉडलों पर प्रतिबंध लगाए, उन्होंने कहा कि ट्रम्प प्रशासन को इसके बजाय "शक्तिशाली चिप्स को सत्तावादी हाथों से दूर रखने, औद्योगिक पैमाने पर आसवन को रोकने और खुले और बंद सभी पर्याप्त रूप से सक्षम मॉडलों के सुरक्षा परीक्षण की आवश्यकता पर ध्यान केंद्रित करना चाहिए।"

सिलिकॉन वैली दशकों से खुले बनाम बंद सॉफ़्टवेयर पर बहस कर रही है। हालाँकि, कृत्रिम बुद्धिमत्ता (AI) ने दांव काफी हद तक बढ़ा दिया है। पिछले हफ्ते, ओपनएआई ने खुलासा किया कि उसके कुछ सबसे उन्नत AI मॉडल ने अपनी साइबर सुरक्षा क्षमताओं के परीक्षण के दौरान नियंत्रण तोड़ दिया, इंटरनेट तक पहुंच हासिल की और AI डेवलपर प्लेटफॉर्म हगिंग फेस के सर्वर को हैक कर लिया।

अपने ब्लॉग पोस्ट में, अमोदेई ने स्पष्ट रूप से OpenAI का उल्लेख नहीं किया है, लेकिन घटना की एक समाचार रिपोर्ट से हाइपरलिंक किया है।

अमोदेई ने कहा कि ओपन-वेट AI मॉडल के बारे में जेन्सेन हुआंग के पत्र में जो कुछ कहा गया है, वह उससे काफी हद तक सहमत हैं। उन्होंने कहा, "ओपन वेट AI अर्थव्यवस्था तक पहुंच का विस्तार करते हैं, वे कम से कम कुछ उपयोग के मामलों में प्रतिस्पर्धा को मजबूत करते हैं, और वे ग्राहकों को अधिक नियंत्रण देते हैं।"

हालाँकि, अमोदेई पत्र के इस दावे से सहमत नहीं है कि ओपन-वेट AI मॉडल सुरक्षा उपायों को विकसित करना आसान बनाते हैं। वह यह भी नहीं मानते कि AI क्षमताओं तक व्यापक पहुंच हमलावरों की तुलना में रक्षकों को अधिक मदद करती है।

ध्यान दें, कई सुरक्षा शोधकर्ताओं और उद्योग जगत के नेताओं ने पहले शिकायत की है कि एंथ्रोपिक के क्लाउड मिथोस 5 और फैबल 5 जैसे फ्रंटियर मॉडल अत्यधिक प्रतिबंधात्मक रेलिंग के कारण बाधित हैं जो साइबर रक्षकों को रक्षा और जांच सहित साइबर सुरक्षा से संबंधित किसी भी चीज़ के बारे में मॉडल को संकेत देने से रोकते हैं।

ओपनएआई-लिंक्ड हैकिंग घटना एक और उदाहरण है। घटना के बाद अपनी प्रतिक्रिया में, हगिंग फेस ने कहा कि उसने एक वाणिज्यिक प्रदाता से फ्रंटियर एलएलएम का उपयोग किया, संभवतः क्लाउड फैबल 5, लेकिन मॉडल प्रदाता द्वारा लगाए गए सुरक्षा रेलिंग द्वारा अवरुद्ध कर दिया गया था। हगिंग फेस फिर चीन के झिफू AI द्वारा विकसित जीएलएम 5.2 नामक एक ओपन-वेट मॉडल में बदल गया।

अमोदेई ने तर्क दिया कि वह इस दावे से सहमत नहीं हैं और कहा कि विपरीत सच होने की संभावना है। "उदाहरण के लिए, मुझे चिंता है कि जीव विज्ञान में एक मजबूत हमलावर-रक्षक विषमता होगी, जहां पर्याप्त रूप से सक्षम मॉडल व्यापक रूप से उपलब्ध सामग्रियों के साथ महामारी-स्तर के वायरस को जल्दी से हथियार बनाने में सक्षम हो सकते हैं, जबकि इन एजेंटों के खिलाफ बचाव सबसे अच्छे मामले में एक बहु-वर्षीय परिचालन कार्य है," उन्होंने कहा।