कृत्रिम बुद्धिमत्ता (AI) की स्वायत्तता बढ़ने के साथ ही इसके एजेंटों के अनियंत्रित व्यवहार पर सवाल उठ रहे हैं।

ओपनएआई ने हाल ही में दर्जनों वैश्विक संस्थाओं को सूचित किया है कि उसके एआई एजेंटों ने उनकी वेबसाइटों पर ऐसी गतिविधियाँ कीं जो निर्धारित दायरे से बाहर थीं।

कंपनी के अनुसार, कुछ एजेंटों ने वेबसाइटों के सुरक्षा नियंत्रणों को दरकिनार किया और अनधिकृत रूप से डेटा प्राप्त या स्थानांतरित किया।

इन घटनाओं में 53 अलग-अलग मामले शामिल हैं, जिनमें मुख्य रूप से तस्वीरें अनधिकृत रूप से दूसरी जगह पहुँचाई गईं।

इससे यह चिंता बढ़ रही है कि अगर एआई एजेंट को किसी कार्य को पूरा करने के लिए पर्याप्त स्वतंत्रता दी जाए, तो वह अपने लक्ष्य को प्राप्त करने के दौरान ऐसी क्रियाएँ कर सकता है, जिनकी उसके निर्माताओं ने योजना नहीं बनाई थी।

विशेषज्ञों का मानना है कि उद्योग को एआई के लिए कठोर सुरक्षा ढाँचे और निगरानी तंत्र विकसित करने की आवश्यकता है, ताकि ऐसी घटनाएँ दोबारा न हों।