ऐसा लगता है कि AI एजेंट अभी भी इतने रचनात्मक नहीं हैं कि वे वास्तव में नवीन ओपन-एंडेड AI अनुसंधान कर सकें।

AI उद्योग का अभी सबसे साहसिक वादा यह है कि AI जल्द ही खुद में सुधार करेगा, जिसमें मानव निरीक्षण की लगभग कोई आवश्यकता नहीं होगी। एलएलएम पहले से ही कोड लिख सकते हैं, प्रशिक्षण के लिए सिंथेटिक डेटा उत्पन्न कर सकते हैं, और जिन कंप्यूटर चिप्स पर वे चलते हैं उन्हें अनुकूलित कर सकते हैं। विस्फोटक AI प्रगति के पूर्वानुमानों से पता चलता है कि जिसे शोधकर्ता पुनरावर्ती आत्म-सुधार कहते हैं वह क्षितिज पर है। 

लेकिन एक नए अध्ययन से पता चलता है कि हमें वहां पहुंचने में थोड़ा समय लग सकता है। इसके पीछे के शोधकर्ताओं ने पाया कि AI एजेंट अभी तक ओपन-एंडेड AI शोध करने में सक्षम नहीं हैं - फ्री-फॉर्म जांच जिनके पास कोई स्पष्ट उत्तर नहीं है और निर्णय और स्वाद की आवश्यकता होती है, जो आत्म-सुधार AI के निर्माण के लिए अभिन्न अंग हो सकता है।

प्रिंसटन विश्वविद्यालय में पीटर किर्गिस और सयाश कपूर के नेतृत्व में शोधकर्ताओं के एक बहु-संस्था समूह ने पाया कि AI एजेंट AI अनुसंधान करने के लिए आवश्यक इंजीनियरिंग समस्याओं को हल कर सकते हैं, लेकिन शीर्ष मशीन-लर्निंग सम्मेलन द्वारा स्वीकार किए गए कागजात के स्तर पर मूल शोध तैयार करने के लिए निर्णय और रचनात्मकता का अभाव है। अंतर से पता चलता है कि AI अनुसंधान को स्वचालित करने के लिए कुछ प्रचारित समय-सीमाएं साक्ष्य से पहले चल रही हैं।

एजेंट AI अनुसंधान को कैसे स्वचालित कर सकते हैं, इस पर अधिकांश मौजूदा शोध जांच योग्य उत्तरों के साथ संकीर्ण कार्यों को पूरा करने की उनकी क्षमता का मूल्यांकन करते हैं, जैसे कि इंजीनियरिंग समस्याओं को हल करना या एक बेंचमार्क के खिलाफ छोटे भाषा मॉडल को प्रशिक्षित करना। लेकिन AI अनुसंधान में प्रगति के लिए खुली सोच की भी आवश्यकता होती है - परिकल्पनाओं का एक सेट चुनना, यह तय करना कि कौन से सबूत किसी प्रश्न का समाधान करेंगे, या यह जानना कि कब शुरू करना है। 

इस प्रकार के कौशल पर एजेंटों का परीक्षण करने के लिए, अध्ययन में शोधकर्ताओं ने "छाया मूल्यांकन" नामक मूल्यांकन की एक नई विधि प्रस्तावित की, जिसके लिए AI को उच्च गुणवत्ता वाले अप्रकाशित पेपर से एक शोध प्रश्न का उत्तर देने की आवश्यकता होती है। 

शोधकर्ताओं ने इस मामले में प्रतिष्ठित मशीन-लर्निंग कॉन्फ्रेंस न्यूरआईपीएस 2026 में प्रस्तुत दो पेपरों से ऐसे सवालों से निपटने के लिए ओपनक्लॉ नामक ओपन-सोर्स सॉफ़्टवेयर पर चलने वाले एंथ्रोपिक के क्लाउड ओपस 4.8 से पूछा।

पहला सवाल यह था कि क्या एक बड़े भाषा मॉडल के "व्यक्तित्व", जो उसके व्यवहार को निर्धारित करते हैं, को मॉडल के वजन (अरबों संख्याएं जो प्रशिक्षण के दौरान सीखी गई हर चीज को संग्रहीत करती हैं) को संपादित करके नियंत्रित किया जा सकता है। दूसरे ने पूछा कि ऐसे डिटेक्टर को कैसे डिज़ाइन किया जाए जो यह बताए कि स्प्रेडशीट डेटा के आधार पर भविष्यवाणियां करने वाला मॉडल अविश्वसनीय हो गया है। क्योंकि कागजात सार्वजनिक नहीं किए गए थे, एजेंट अपने प्रशिक्षण डेटा से उत्तर याद नहीं कर सके या उन्हें ऑनलाइन नहीं ढूंढ सके। 

एजेंटों को छह दिन, एंथ्रोपिक एपीआई क्रेडिट में $3,000, प्रयोगों को चलाने के लिए एक GPU बजट, उनके अपने वर्चुअल कंप्यूटर और एक शीर्ष स्तरीय AI सम्मेलन में प्रकाशन के योग्य शोध पत्र तैयार करने के लिए खुले वेब तक पहुंच दी गई थी। पेपर के मूल लेखकों ने एजेंटों के पेपर को उसी तरह वर्गीकृत किया जैसे वे एक सम्मेलन में प्रस्तुत किए गए पेपर का मूल्यांकन करेंगे।

उन लेखकों ने दोनों पेपरों को अस्वीकार कर दिया। 

मानव वैज्ञानिकों ने पाया कि एजेंट अनुसंधान करने के लिए आवश्यक सभी इंजीनियरिंग करने में सक्षम थे। एजेंटों ने साहित्य की समीक्षा की, सैकड़ों प्रयोग किए और परिणाम संकलित किए। 

कपूर कहते हैं, ''दूसरी ओर, एजेंट शोध को अंजाम देने में स्पष्ट रूप से बुरे थे।'' उन्होंने विचित्र प्रयोग किए (कुछ मामलों में छोटे सिंथेटिक डेटासेट पर अपनी परिकल्पनाओं का परीक्षण किया), अपने काम के बारे में समझदारी से लिखने के लिए संघर्ष किया और अपने क्षेत्र में कोई नया योगदान नहीं दिया। वे कहते हैं, ''जब शीर्ष AI सम्मेलन की गुणवत्ता की बात आती है तो कागजात कहीं भी निशान के करीब नहीं थे।'' 

ऐसा इसलिए है क्योंकि एजेंटों को अनुसंधान करने के लिए आवश्यक रचनात्मकता और निर्णय लेने के लिए संघर्ष करना पड़ा। उन्होंने अलग-अलग विचारों का पता लगाने के लिए पर्याप्त प्रयास नहीं किए और वे बहुत तेजी से अप्रतिम दृष्टिकोण अपनाने के लिए प्रतिबद्ध हो गए। हालाँकि एजेंटों ने नवीन और महत्वाकांक्षी परिकल्पनाएँ विकसित कीं जो उन परिकल्पनाओं से मिलती-जुलती थीं जिनसे मूल लेखकों ने स्वयं शुरुआत की थी, लेकिन उन्होंने बहुत सीमित डेटा के आधार पर उन्हें खारिज कर दिया। और वे असफल दृष्टिकोण से पीछे नहीं हट सके। वे छोटी धुरी तो बना सकते थे लेकिन बुनियादी तौर पर अपने दृष्टिकोण पर पुनर्विचार नहीं कर सकते थे या नए सिरे से प्रयास नहीं कर सकते थे। 

एजेंट उप-एजेंटों या बाहरी AI समीक्षा उपकरणों से फीडबैक शामिल करने में भी विफल रहे। अपनी कार्यप्रणाली को संशोधित करने के बजाय, एजेंटों ने अपने दावों को सीमित कर दिया और चेतावनी जोड़ दी। वे टोकन, गणना और समय जैसे संसाधनों का भी प्रभावी ढंग से उपयोग नहीं कर सके। और वे अनुसंधान के विभिन्न चरणों पर कितना समय व्यतीत करना है या उनका पेपर कितना लंबा हो सकता है जैसी चीजों के बारे में निर्देशों का पालन नहीं कर सके।

अपनी सभी विफलताओं के लिए, एजेंट उस दुर्व्यवहार में शामिल नहीं थे जिसे शोधकर्ता "इनाम हैकिंग" कहते हैं, प्रयोगों या डेटा को छिपाना या गलत तरीके से प्रस्तुत करना। यद्यपि उप-एजेंट, या सहायक AI जिन्हें मुख्य एजेंट काम के टुकड़ों को संभालने के लिए पैदा करता है, कभी-कभी मतिभ्रम करते हैं या परिणामों को गलत तरीके से प्रस्तुत करते हैं, इन्हें ऑर्केस्ट्रेटर एजेंट, परियोजना की देखरेख करने वाले प्रमुख AI द्वारा पकड़ा गया था। 

कपूर का कहना है कि AI मॉडल रिसर्च इंजीनियरिंग में अच्छे हैं, लेकिन ओपन-एंडेड रिसर्च में नहीं, इसका कारण यह हो सकता है कि उन्हें कैसे प्रशिक्षित किया जाता है। सुदृढीकरण शिक्षण नामक प्रशिक्षण व्यवस्था में मॉडलों को जो कुछ भी सिखाया जा सकता है, उसमें वे अच्छे हो जाते हैं, जिसे उन कार्यों पर लागू करना आसान होता है जिनकी सफलता स्वचालित रूप से जांची जा सकती है। "लेकिन इन मॉडलों को प्रशिक्षित करने के लिए वातावरण बनाना कठिन है जब कार्य स्वयं ही खुला हो," वे कहते हैं।

कपूर का कहना है कि टीम अब एंथ्रोपिक के सबसे उन्नत मॉडल मिथोस के साथ प्रयोग कर रही है, जिसे अप्रैल में लॉन्च किया गया था। बाद में ट्रम्प प्रशासन द्वारा विभिन्न सुरक्षा प्रतिबंधों को पूरा करने के लिए इसकी आवश्यकता पड़ी और अब यह केवल अनुमोदित संगठनों के लिए उपलब्ध है। एन्थ्रोपिक ने टिप्पणी के अनुरोध का जवाब नहीं दिया।

अध्ययन की कुछ सीमाएँ हैं। इसमें केवल दो शोध पत्रों को शामिल किया गया था, और मूल लेखकों को पता था कि वे जिन शोधपत्रों की ग्रेडिंग कर रहे थे, वे AI एजेंटों द्वारा तैयार किए गए थे, जो उनके मूल्यांकन को प्रभावित कर सकते थे। और शोधकर्ताओं के पास अध्ययन को डिजाइन करने और निष्पादित करने में पर्याप्त विवेक था, जिसका अर्थ है कि उनकी पहले से मौजूद मान्यताएं और पूर्वाग्रह परिणामों में शामिल हो सकते हैं। ओपन-एंडेड अनुसंधान का मूल्यांकन किसी भी बेंचमार्क की तुलना में कहीं अधिक समृद्ध परीक्षण के लिए कुछ निष्पक्षता का व्यापार करता है।

फिर भी, परिणाम उन दावों को कमजोर कर सकते हैं कि पुनरावर्ती आत्म-सुधार क्षितिज पर है। जून में, एंथ्रोपिक ने "व्हेन AI बिल्ड्स इटसेल्फ" शीर्षक से एक ब्लॉग पोस्ट प्रकाशित किया, जिसमें उन मॉडलों की ओर अपनी प्रगति का चार्ट बनाया गया जो अपने स्वयं के विकास को गति देते हैं। जुलाई में, OpenAI ने इस तथ्य का विज्ञापन किया कि उसके नए मॉडल GPT-5.6 Sol ने एक छोटे मॉडल को पोस्ट-ट्रेन करने में मदद की, जिससे शोधकर्ताओं के काम के कई हफ्ते बच गए।

नई खोज वही हो सकती है जो AI कंपनियां आंतरिक रूप से खोज रही हैं, भले ही उनके सबसे आशावादी सार्वजनिक बयान कुछ भी हों। एंथ्रोपिक के सह-संस्थापक जैक क्लार्क ने अपने न्यूज़लेटर इंपोर्ट AI में लिखा है कि जब कंपनी ने AI सुरक्षा अनुसंधान के कुछ पहलुओं को स्वचालित करने की कोशिश की तो उसे जो मिला, यह उससे मेल खाता है। 

"आज के AI सिस्टम में मूल्यवान, सहज रचनात्मकता का एक निश्चित अभाव है, और हालांकि वे असाधारण रूप से सक्षम इंजीनियर हैं, लेकिन ऐसा लगता है कि उनके पास रटने, फार्मूलाबद्ध सोच की एक निश्चित संपत्ति है जो उन्हें अच्छे शोधकर्ता बनने से रोक सकती है," उन्होंने लिखा। उन्होंने AI सिस्टम की रचनात्मकता की कमी को "छोटी पुनरावर्ती आत्म-सुधार समयसीमा पर मंदी का संकेत" कहा। 

AI कंपनियों के पास AI सिस्टम विकसित करने के लिए हर प्रोत्साहन है जो तेजी से अपनी प्रगति को तेज कर सकता है, जैसे उन्होंने कोडिंग में मॉडल को बेहतर बनाने के लिए किया था। ओपनएआई ने एक स्वचालित AI शोधकर्ता के निर्माण को एक स्पष्ट लक्ष्य बना दिया है, और एंथ्रोपिक उद्योग के अगले मील के पत्थर के रूप में स्व-सुधार AI की पहचान करता है। 

बोस्टन विश्वविद्यालय में भाषा विज्ञान और कंप्यूटर विज्ञान के प्रोफेसर नाजॉन्ग किम कहते हैं, "अगर इस दिशा में निवेश और फिर सचेत प्रयास किया जाता है, तो मुझे लगता है कि दिलचस्प प्रगति होगी, भले ही यह वर्तमान में विफल हो रही है।" जो शोध करते हैं कि AI एजेंट AI शोध को कैसे स्वचालित कर सकते हैं लेकिन अध्ययन पर काम नहीं किया। दूसरी ओर, यह संभव है कि AI प्रगति को विभाजित किया जा सकता है। AI सिस्टम संकीर्ण कार्यों में आगे बढ़ सकता है - जिस तरह का स्कोर किया जा सकता है - जबकि ओपन-एंड रिसर्च पर धीरे-धीरे आगे बढ़ सकता है। 

फिर, बड़ा खुला प्रश्न यह है कि पुनरावर्ती आत्म-सुधार के लिए ओपन-एंडेड शोध कितना महत्वपूर्ण है - क्या AI सिस्टम इसके बिना, केवल संकीर्ण कार्यों में सुधार करके अपना रास्ता बना सकता है। कपूर कहते हैं, "अगर हम इस क्षेत्र में हुई सबसे बड़ी प्रगति, ट्रांसफार्मर के आविष्कार या बड़े नए आर्किटेक्चर के आविष्कार को देखें, जिसने हमें AI में बहुत अधिक प्रगति करने की अनुमति दी - तो उन सभी के लिए रचनात्मक छलांग की आवश्यकता थी।" 

"उसने कहा, दूसरों की यह परिकल्पना है कि परिवर्तनकारी AI के लिए हमें जो कुछ भी चाहिए, विशेष रूप से पुनरावर्ती आत्म-सुधार के लिए, वह सब पहले से ही मौजूद है।" इसमें एक मॉडल ट्रेन को तेज़ बनाना और उसके बेंचमार्क स्कोर को बढ़ाना शामिल होगा।

वह कहते हैं, ''स्पष्ट रूप से यह अभी ट्रिलियन डॉलर का सवाल है।

इससे उन्हें ऐसे काम करने के लिए प्रेरित करना आसान हो जाता है जो उन्हें नहीं करना चाहिए, जैसे कि आपको यह बताना कि किसी विमान के नेविगेशन सिस्टम को कैसे नष्ट करना है।

एक नई तकनीक ने कंपनी को एलएलएम की अजीब कार्यप्रणाली की पहले से कहीं अधिक गहराई से जांच करने में सक्षम बना दिया है।

कंपनी विज्ञान के लिए AI को दोगुना कर रही है।

दुर्व्यवहार को रिवार्ड हैकिंग कहा जाता है। यह वही है जो आपको जानना आवश्यक है।

विशेष ऑफ़र, शीर्ष कहानियाँ खोजें, आगामी कार्यक्रम, और भी बहुत कुछ।

अपना ईमेल सबमिट करने के लिए धन्यवाद!

ऐसा लगता है कि कुछ गलत हो गया है।

हमें आपकी प्राथमिकताएँ सहेजने में परेशानी हो रही है। इस पृष्ठ को ताज़ा करने और उन्हें एक अद्यतन करने का प्रयास करें अधिक समय. यदि आपको यह संदेश लगातार मिलता रहे, पर हमसे संपर्क करें customer-service@technologyreview.com उन न्यूज़लेटर्स की सूची के साथ जिन्हें आप प्राप्त करना चाहते हैं।