हाल के समय में एआई एजेंट्स के बेकाबू व्यवहार से जुड़ी कई घटनाओं के बाद, एनवीडिया ने एक नया सुरक्षा प्लेटफ़ॉर्म लॉन्च किया है। इस प्लेटफ़ॉर्म का मुख्य उद्देश्य एआई एजेंट्स को नियंत्रित रखना और उन्हें अनधिकृत कार्यों से रोकना है।

एनवीडिया ने इस नई प्रणाली को ओपनशेल और सेंट्री के दो प्रमुख घटकों में विभाजित किया है। ओपनशेल एक ओपन-सोर्स रनटाइम है, जो एआई एजेंट्स को सैंडबॉक्स जैसे सीमित वातावरण में चलाता है। इस वातावरण में यह तय किया जाता है कि एजेंट किन फाइलों को पढ़ सकता है, किन टूल्स तक पहुँच सकता है, और कौन से नेटवर्क संसाधन इस्तेमाल कर सकता है।

सेंट्री, दूसरी ओर, हार्डवेयर स्तर पर काम करता है और एआई एजेंट के व्यवहार की लगातार निगरानी करता है। यह अलग हार्डवेयर पर चलता है, जिससे एजेंट स्वयं इस मॉनिटरिंग सिस्टम को नियंत्रित नहीं कर पाता। यदि एजेंट अपनी निर्धारित सीमा से बाहर जाने की कोशिश करता है, तो सेंट्री तुरंत उसे क्वारंटीन कर देता है।

एनवीडिया के अनुसार, इस दो-स्तरीय दृष्टिकोण से एआई एजेंट्स के बेकाबू व्यवहार को रोका जा सकता है। कंपनी ने बताया कि यदि यह तकनीक पहले उपलब्ध होती, तो हाल के कुछ सुरक्षा उल्लंघनों को रोका जा सकता था।

यह कदम एआई उद्योग में बढ़ती चिंता के बीच आया है, जहाँ कई कंपनियाँ ऐसे एजेंट्स लॉन्च कर रही हैं जो बिना मानवीय हस्तक्षेप के स्वायत्त रूप से कार्य कर सकते हैं। एआई एजेंट्स को इंटरनेट, कोडिंग टूल्स, और डेटाबेस तक पहुँच देने से वे कई कदम स्वयं उठा सकते हैं, जिससे जोखिम बढ़ जाता है।

एनवीडिया ने यह भी स्पष्ट किया कि केवल एआई मॉडल के अंदर सुरक्षा नियंत्रण रखना पर्याप्त नहीं है। इसलिए उन्होंने बाहरी स्तर पर भी नियंत्रण लागू करने का निर्णय लिया है।

ओपनशेल के माध्यम से एआई एजेंट्स को एक डिजिटल कमरे में रखा जाता है, जहाँ पहले से तय नियम लागू होते हैं। उदाहरण के लिए, यदि किसी एजेंट को सिर्फ एक फोल्डर की फाइलें पढ़ने की अनुमति है, तो वह अपने आप पूरे कंप्यूटर की फाइलों तक पहुँच नहीं सकता।

सेंट्री की भूमिका है कि वह एजेंट के व्यवहार को रीयल‑टाइम में ट्रैक करे और किसी भी अनियमित गतिविधि पर तुरंत प्रतिक्रिया दे। यह सुरक्षा परत एआई एजेंट्स के लिए अतिरिक्त ब्रेक और गार्ड्स की तरह काम करती है।

एनवीडिया के इस प्रयास को उद्योग में सकारात्मक प्रतिक्रिया मिली है, और अन्य प्रमुख एआई कंपनियाँ भी अपने एजेंट्स की सुरक्षा को लेकर समान कदम उठाने पर विचार कर रही हैं।

इस नई सुरक्षा व्यवस्था से उम्मीद है कि एआई एजेंट्स के बेकाबू व्यवहार में काफी कमी आएगी और उपयोगकर्ताओं को अधिक भरोसेमंद अनुभव मिलेगा।