अपने उपयोगकर्ताओं की ओर से अवांछित कार्रवाई करने वाले स्वायत्त AI एजेंटों की नवीनतम विचित्र घटना में, एक ऑस्ट्रेलियाई व्यक्ति जिसने जिम की लोकप्रिय सुबह की कक्षाओं में जगह बुक करने के लिए अपने निजी AI एजेंट का उपयोग किया था, उसे खुद को एक अप्रत्याशित समस्या का सामना करना पड़ा।

AI एजेंट ने जिम के बुकिंग सॉफ्टवेयर में एक सुरक्षा खामी का पता लगाया और इसका फायदा उठाकर उपयोगकर्ता को जिम की अनुमति से एक महीने पहले क्लास के लिए बुक कर लिया। एबीसी न्यूज की एक रिपोर्ट के मुताबिक, यह एक कदम आगे बढ़ गया, उपयोगकर्ता को ऊपर ले जाने के लिए प्रतीक्षा सूची से एक और ग्राहक को हटा दिया गया।

यह एक ओपनक्लॉ एजेंट था जो एंथ्रोपिक की क्लाउड सेवा पर चलता था, संभवतः एपीआई कुंजी या क्लाउड सीएलआई के माध्यम से। अप्रैल में, एंथ्रोपिक ने अपनी नीति को अपडेट करते हुए कहा कि क्लाउड ग्राहक अब ओपनक्लाव जैसे तीसरे पक्ष के हार्नेस तक सीधे पहुंच नहीं पाएंगे।

यह घटना कई सवाल उठाती है जैसे: क्या AI एजेंटों पर बुकिंग करने जैसे नियमित कार्यों पर भरोसा किया जा सकता है, जिन्हें संभालने में सक्षम के रूप में उनकी मार्केटिंग की जा रही है? एजेंटिक कॉमर्स के लिए इसका क्या मतलब है, जिस पर Google और Amazon जैसी तकनीकी कंपनियां AI अपनाने और राजस्व बढ़ाने के लिए दांव लगा रही हैं? और यदि कोई AI एजेंट रोजमर्रा की वेबसाइट, जैसे जिम से संबंधित वेबसाइट को हैक कर लेता है, तो उसके कार्यों के लिए कानूनी रूप से कौन जिम्मेदार है?

हैकिंग की घटना ऐसे समय में हुई है जब विशेषज्ञों ने आगामी AI एजेंटों के अप्रत्याशित तरीकों से व्यवहार करके एक गंभीर साइबर सुरक्षा जोखिम के रूप में उभरने पर चेतावनी दी है। ओपनएआई, एंथ्रोपिक, मेटा और मूनशॉट AI जैसी तकनीकी कंपनियों के अत्याधुनिक बड़े भाषा मॉडल (एलएलएम) द्वारा संचालित इन एजेंटों ने पिछले कुछ हफ्तों में प्रदर्शित किया है कि वे स्वायत्त रूप से अपने सुरक्षा संदूषकों से बाहर निकल सकते हैं और अन्य कंपनियों के सर्वर में हैक कर सकते हैं।

जब ऑस्ट्रेलिया में उपयोगकर्ता ने उसके लिए जिम क्लास बुक करने के लिए AI एजेंट का उपयोग करने का फैसला किया, तो उसके एजेंट ने कुछ मिनट बाद रिपोर्ट की, जिसमें कहा गया कि उसने कई सप्ताह पहले ही कक्षाओं में उसे बुक करने का एक तरीका खोज लिया था, जो संभव नहीं था।

फिर, उपयोगकर्ता ने एजेंट से पूछा कि क्या उसे उस सप्ताह के अंत में निर्धारित कक्षा के लिए प्रतीक्षा सूची के शीर्ष पर ले जाना संभव है। जवाब में, एजेंट कुछ समय बाद उपयोगकर्ता के पास वापस आया और कहा कि उसने सूची के #1 स्थान से व्यक्ति को हटा दिया है, और उपयोगकर्ता प्रतीक्षा सूची में चौथे से तीसरे स्थान पर आ गया है।

एजेंट ने उपयोगकर्ता को बताया कि उसने यह कार्रवाई एक परीक्षण के हिस्से के रूप में की है ताकि यह देखा जा सके कि जिम के बुकिंग सॉफ़्टवेयर एपीआई (एप्लिकेशन प्रोग्रामिंग इंटरफ़ेस) के पास अन्य लोगों के आरक्षण को रद्द करने के लिए प्राधिकरण जांच है या नहीं। रिपोर्ट के मुताबिक, उसे ऐसी कोई जांच नहीं मिली।

जब उपयोगकर्ता ने इसे अपनी कार्रवाई पूर्ववत करने के लिए कहा, तो ओपनक्लॉ एजेंट ने जवाब दिया कि वह प्रतीक्षा सूची में अन्य जिम सदस्य के स्थान को बहाल करने में असमर्थ था। अंत में, उपयोगकर्ता ने एजेंट से कहा कि वह एक ईमेल लिखकर जिम सॉफ्टवेयर प्रदाता को उस भेद्यता के प्रति सचेत करे जिसका उसने शोषण किया है। ईमेल का मसौदा तैयार किया गया और उसे व्हाट्सएप पर वापस भेज दिया गया।

2026 की शुरुआत में ओपनक्लॉ की रिलीज़ व्यक्तिगत AI एजेंटों को अपनाने के लिए एक महत्वपूर्ण क्षण था। ओपन-सोर्स प्लेटफ़ॉर्म ने स्वायत्त AI एजेंटों या 'पंजे' के एक पारिस्थितिकी तंत्र को जन्म दिया, जो स्थानीय फ़ाइल सिस्टम और डेटा तक पहुंच के साथ विशेष कार्यों को स्वायत्त रूप से निष्पादित करने के लिए अपने स्वयं के उप-एजेंटों को आगे बढ़ा सकता है।

कम लागत वाले मैक मिनिस पर होस्ट किए गए ओपनक्लॉ के शुरुआती सेटअप आपके फोन पर व्हाट्सएप के माध्यम से क्लाउड कोड चलाने पर केंद्रित थे। इसकी ओपन-सोर्स प्रकृति के लिए धन्यवाद, ओपनक्लाव डेवलपर परियोजनाएं बाद में उड़ानें बुक करने, स्मार्ट घरेलू उपकरणों को नियंत्रित करने और कई प्लेटफार्मों और उपकरणों पर सोशल मीडिया अभियानों को संरचित तरीके से प्रबंधित करने के लिए ऑर्केस्ट्रेटिंग AI एजेंटों के रूप में विकसित हुईं।

हालाँकि, एक सच्चे व्यक्तिगत सहायक के रूप में काम करने के लिए OpenClaw को उपयोगकर्ता के सभी डेटा और सिस्टम तक पहुंच प्रदान करने की आवश्यकता ने चिंता पैदा कर दी कि ये एजेंट दुष्ट हो सकते हैं और मूल्यवान फ़ाइलों के साथ छेड़छाड़ कर सकते हैं या उन्हें हटा सकते हैं। इसकी लोकप्रियता में वृद्धि के बीच, ओपनक्लाव उपयोगकर्ताओं ने अपने व्यक्तिगत AI एजेंटों द्वारा इनबॉक्स से संपूर्ण कोडबेस और ईमेल हटाने की रिपोर्ट साझा करना शुरू कर दिया।

इन घटनाओं ने सुरक्षा-केंद्रित कांटों और विकल्पों की आवश्यकता पैदा की। उदाहरण के लिए, एनवीडिया ने कुछ सुरक्षा नियंत्रणों के साथ ओपनक्लाव को आसानी से स्थापित करने और इंस्टॉल करने के लिए अपना सॉफ्टवेयर टूलकिट निमोक्लाव जारी किया।

AI एजेंटों का उदय पिछले साल शुरू हुआ। लेकिन जैसे-जैसे अंतर्निहित एलएलएम अधिक सक्षम होते जाते हैं, वैसे-वैसे उनके द्वारा संचालित एजेंट भी अधिक सक्षम होते जाते हैं, जो उन्हें तेजी से जटिल, लंबे समय तक चलने वाले कार्यों को करने में सक्षम बनाते हैं।

अनुसंधान गैर-लाभकारी एमईटीआर द्वारा प्रकाशित मई 2026 के पेपर के अनुसार, AI मॉडल द्वारा स्वयं पूरा किए जा सकने वाले कार्यों की लंबाई लगभग हर चार महीने में दोगुनी हो रही है, जो पहले हर सात महीने में दोगुनी होने की प्रवृत्ति से अधिक है।

हालांकि, ओपनएआई के शोध के अनुसार, ये 'लंबे-क्षितिज' मॉडल - कठिन, खुली समस्याओं को हल करने के लिए बहुत लंबे समय तक स्वायत्त रूप से चलने के लिए डिज़ाइन किए गए हैं - उनके शीर्ष पर बने एजेंटों द्वारा अवांछित, संभावित रूप से हानिकारक कार्यों का स्रोत भी हो सकते हैं।

ये लगातार AI एजेंट किसी कार्य को पूरा करने के लिए उन तरीकों को चुनने की अधिक संभावना रखते हैं जिनकी उनके उपयोगकर्ताओं को उम्मीद नहीं थी। उपयोगकर्ता के लक्ष्य या इरादे और एक स्वायत्त एजेंट द्वारा इसे प्राप्त करने के लिए अपनाए जाने वाले तरीकों के बीच के अंतर को AI अनुसंधान के क्षेत्र में संरेखण समस्या कहा गया है।