एआई विकसित करने वाली कंपनियों की तेज होड़ ने अब खुद दिग्गजों की चिंता बढ़ा दी है। अब एंथ्रोपिक के सीईओ और पूर्व एआई रिसर्चर ने इसे लेकर चेतावनी भी जारी की है। आइए जानते हैं कि एआई सेफ्टी के लिए डारियो अमोदेई ने क्या कहा है...

आर्टिफिशियल इंटेलिजेंस की तेजी से बढ़ती क्षमताओं के बीच एंथ्रोपिक के सीईओ डारियो अमोदेई ने एआई डेवलपमेंट की रफ्तार को लेकर बड़ी चेतावनी दी है। उनका कहना है कि एआई जितना शक्तिशाली होता जा रहा है, उतनी ही तेजी से इसके सुरक्षा जोखिम भी बढ़ रहे हैं। ऐसे में कंपनियों को अपने एआई मॉडल की क्षमताएं बढ़ाने की रफ्तार कुछ धीमी करनी चाहिए, ताकि सुरक्षा उपायों को उनके साथ आगे बढ़ने का पर्याप्त समय मिल सके।

एक मीडिया इंटरव्यू के दौरान अमोदेई ने एआई के इंसानों के लिए गंभीर खतरा बनने की संभावना पर भी बात की। उन्होंने कहा कि वह पूर्व एंथ्रोपिक रिसर्चर जैकब कॉक्सन की चिंताओं से असहमत होने के बजाय उनसे ज्यादा सहमत हैं।

एआई डेवलपमेंट को सुरक्षित तरीके से आगे बढ़ाने के लिए अमोदेई ने तीन-चरणीय फ्रेमवर्क पेश किया है।

उनका प्रस्ताव है कि हर फ्रंटियर एआई कंपनी को स्वतंत्र थर्ड-पार्टी एवलुटर्स को इम्पलॉय-लाइक ऑनगोइंग एक्सेस देना चाहिए। इन एवलुटर्स का काम एआई मॉडल, ट्रेनिंग प्रोसेस और सेफ्टी प्रैक्टिस की निगरानी करना और संभावित घटनाओं की रिपोर्ट करना होगा। अमोदेई ने कहा कि एंथ्रोपिक इस दिशा में खुद यह कदम उठाने के लिए प्रतिबद्ध है।

अमोदेई चाहते हैं कि लोकतांत्रिक देशों में काम करने वाली फ्रंटियर एआई कंपनियां मिलकर सामान्य सुरक्षा मानक तैयार करें। इसके साथ एआई की अनियंत्रित प्रगति की रफ्तार को सीमित करने के तरीकों पर भी समन्वय किया जाए। उनका मानना है कि कुछ कदमों के लिए सरकारों की मदद और नियमों की जरूरत पड़ सकती है।

तीसरे चरण में अमेरिका और दूसरे लोकतांत्रिक देशों की सरकारों को अधिनायकवादी देशों के साथ भी एआई सुरक्षा पर समन्वय करने की कोशिश करनी चाहिए। हालांकि, अमोदेई ने माना कि ऐसा करना आसान नहीं होगा। उनका कहना है कि एआई को लेकर वैश्विक स्तर पर किसी भी समझौते में निगरानी और नियमों के पालन की पुष्टि करना बेहद जरूरी होगा।