पिछले महीने, फ्रंटियर AI कंपनियों के एक हजार से अधिक कर्मचारियों ने एक पत्र पर हस्ताक्षर किए, जिसमें अमेरिकी सरकार से AI विकास को "गति" देने का एक रास्ता खोजने के लिए कहा गया था, जिसमें प्रौद्योगिकी के मानव नियंत्रण से बाहर होने का जोखिम बताया गया था क्योंकि यह स्वयं का निर्माण शुरू कर देता है।

उनका चिंतित होना सही था: कुछ ही दिन पहले, दो AI मॉडल जिनका ओपनएआई आंतरिक रूप से परीक्षण कर रहा था, परीक्षण वातावरण से बच गए, फिर कंपनी हगिंग फेस और कम से कम तीन अन्य ऑनलाइन सेवाओं को स्वायत्त रूप से हैक कर लिया। उसके कुछ दिनों बाद, एंथ्रोपिक ने घोषणा की कि उनके कुछ मॉडल भी परीक्षण के दौरान अन्य कंपनियों में टूट गए और उन्हें हैक कर लिया गया।

उस पृष्ठभूमि में, स्वचालित AI विकास की सीमा पर आवश्यक होने पर ब्रेक स्थापित करने की पत्र की सिफारिश समझ में आती है। लेकिन पत्र में जो तर्क दिया गया है कि सरकार को इसमें कदम उठाने की आवश्यकता क्यों है, वह उल्लेखनीय है: "प्रत्येक कंपनी - और देश - तीव्र प्रतिस्पर्धात्मक दबाव में है कि एकतरफा रूप से उस तेजी को धीमा न करें।"

मुझे पता है - अपने अनुभव से और AI उद्योग में पूर्व सहयोगियों के साथ अनगिनत बातचीत से - ये दबाव कितने वास्तविक हैं। ओपनएआई में काम करते हुए, मैंने "सिस्टम कार्ड" लिखने वाली कंपनियों की प्रथा स्थापित करने में मदद की, जो AI सिस्टम की क्षमताओं, जोखिमों और सुरक्षा शमन का विस्तार से वर्णन करती है।

तो कंपनियों के लिए संभावित मंदी के लिए तैयारी कैसी होगी?

सबसे पहले, वे स्वेच्छा से अपनी सुरक्षा और सुरक्षा प्रथाओं की कठोर, स्वतंत्र ऑडिटिंग को आमंत्रित कर सकते हैं। यह AI हैकिंग क्षमताओं की जांच से आगे निकल जाएगा जिसे व्हाइट हाउस अब अपना रहा है। यह कई तरह के जोखिमों पर गौर करेगा और कंपनी की कार्यप्रणाली की गहराई से जांच करेगा। यह एक प्रश्नावली भरने की तरह कम और एक परमाणु सुरक्षा निरीक्षक की तरह अधिक होना चाहिए जिसकी कंपनी तक गहरी, लगातार पहुंच हो।

यदि AI में मंदी की आवश्यकता है, तो ऑडिटिंग प्रत्येक कंपनी को यह भी आश्वस्त करेगी कि उनके प्रतिस्पर्धी नियमों के अनुसार खेल रहे हैं।

दूसरा, वे पूरे उद्योग में समन्वय के उद्देश्य से पहले से बनाए गए संगठनों में सक्रिय रूप से भाग ले सकते हैं, जैसे कि फ्रंटियर मॉडल फोरम, और पूरक संगठनों की स्थापना के लिए तेजी से आगे बढ़ सकते हैं।

एलोन मस्क ने हाल ही में कहा था कि AI कंपनियों को सुरक्षा पर नोट्स साझा करने के लिए समय-समय पर मिलना चाहिए - जैसे कि यह एक अनसुनी अवधारणा थी। यदि स्पेसएक्स फ्रंटियर मॉडल फोरम में शामिल हो जाता है, तो वह या उसका स्टाफ कल इन पंक्तियों के साथ मौजूदा बातचीत में शामिल हो सकता है, जो पहले से ही सुरक्षा सूचना साझा करने में शामिल जटिल अविश्वास बाधाओं के माध्यम से काम कर चुका है। अन्य उद्देश्यों के लिए अन्य क्रॉस-इंडस्ट्री संस्थानों की आवश्यकता होगी, और स्थापना और वित्त पोषण के लिए सरकारी कार्रवाई की आवश्यकता नहीं है।

तीसरा, वे उन तकनीकों में निवेश कर सकते हैं जिनकी हमें AI रेलिंग को वैश्विक बनाने के लिए आवश्यकता है।

AI मंदी के विचार के आलोचक सही ढंग से बताते हैं कि अमेरिकी कंपनियां चीन के साथ आए बिना बहुत लंबे समय तक धीमी नहीं रह सकतीं। लेकिन न तो अमेरिका और न ही चीन AI पर नियंत्रण खोना चाहता है, और प्रत्येक देश दिन पर दिन AI को अधिक गंभीरता से लेता है, इसलिए सहयोग से इंकार नहीं किया जा सकता है। एक अहम सवाल यह है कि क्या हम पहले से तैयारी करते हैं। अमेरिका को अत्यधिक आश्वस्त होने के लिए कि चीन AI समझौते का उल्लंघन नहीं कर सकता है, और इसके विपरीत, हमें परमाणु हथियार नियंत्रण के लिए शीत युद्ध के दौरान विकसित की गई परिष्कृत सत्यापन तकनीकों की आवश्यकता होगी।

सौभाग्य से, उन प्रौद्योगिकियों को विकसित करने वाले शोधकर्ताओं और इंजीनियरों का एक बढ़ता हुआ पारिस्थितिकी तंत्र है: उपकरण जो साबित कर सकते हैं कि चिप्स का एक सेट नए लोगों को प्रशिक्षित करने के बजाय केवल मौजूदा AI सिस्टम चला रहा है, कि वे चिप्स एक निश्चित भौतिक स्थान पर हैं, या जिस सिस्टम का परीक्षण किया गया है वह वही है जिसे बड़े पैमाने पर तैनात किया जा रहा है। AI कंपनियां आज फंडिंग और पायलट परियोजनाओं में भागीदारी के माध्यम से इस महत्वपूर्ण प्रकार की तकनीक के विकास में तेजी ला सकती हैं, लेकिन मेरी जानकारी के अनुसार, उन्होंने अभी तक ऐसा नहीं किया है।

चौथा, वे सक्रिय रूप से आगे बढ़ सकते हैं - और निश्चित रूप से उन्हें मारना नहीं चाहिए - कानून जो सुरक्षा, सुरक्षा और बाहरी निरीक्षण के लिए मजबूत प्रोत्साहन की ओर ले जाता है।

आप कॉमनसेंस रेलिंग से लड़ते हुए गैरजिम्मेदार AI दौड़ के बारे में शिकायत नहीं कर सकते। एक साल से भी कम समय पहले, वही कंपनियां जो अब विनियमन की मांग कर रही हैं, अधिकांश राज्य AI कानूनों को पलटने पर जोर दे रही थीं। संघीय स्तर पर किताबों में फ्रंटियर AI पर अभी भी हमारे पास कोई वास्तविक कानून नहीं है, और राज्य स्तर पर पहली AI ऑडिटिंग आवश्यकता 2028 तक लागू नहीं होगी।

अभी कांग्रेस में आशाजनक द्विदलीय प्रस्ताव हैं, जैसे कि अमेरिकी प्रतिनिधियों जे ओबरनोल्टे और लोरी ट्रैहान का फ्रंटियर एक्ट, जिसके लिए जोखिम प्रबंधन ढांचा बनाने, खतरनाक घटनाओं की रिपोर्ट करने और खुद को स्वतंत्र ऑडिट के अधीन करने के लिए उन्नत AI सिस्टम के डेवलपर्स की आवश्यकता होगी। ये और अन्य सामान्य ज्ञान प्रस्ताव, जैसे कि AI व्हिसलब्लोअर की सुरक्षा करना, जो सीधे सरकार को सुरक्षा घटनाओं का खुलासा करते हैं, जोरदार समर्थन के पात्र हैं।

मैं हस्ताक्षरकर्ताओं से सहमत हूं, और मुझे खुशी है कि कई वर्षों तक नजरअंदाज किए जाने या कमतर आंके जाने के बाद, बेलगाम AI प्रतिस्पर्धा के जोखिमों को व्यापक रूप से मान्यता दी गई है। अमेरिकी सरकार को इसे संबोधित करने के लिए अपनी ओर से तेजी से काम करना चाहिए। लेकिन AI को अच्छी तरह से चलाना एक साझा जिम्मेदारी है। जो कंपनियाँ सुरक्षा के मामले में अपने साथियों से पीछे हैं, अपने सिस्टम के बाहरी ऑडिट को आमंत्रित नहीं करती हैं, या उन्हें बनाने के लिए बहुत कम प्रयास करते हुए ब्रेक का आह्वान करती हैं, कुछ गलत होने पर AI दौड़ को दोष नहीं दे सकेंगी।

माइल्स ब्रूंडेज एक AI नीति शोधकर्ता हैं जो AI सत्यापन और मूल्यांकन अनुसंधान संस्थान (एवेरी) का नेतृत्व करते हैं। उन्होंने पहले OpenAI में नीति अनुसंधान के प्रमुख और AGI रेडीनेस के वरिष्ठ सलाहकार के रूप में काम किया था।