अन्य AI मॉडलों को प्रशिक्षित करने के लिए AI मॉडल की क्षमता को बार-बार एक प्रमुख संकेतक के रूप में रखा गया है कि कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) - बुद्धि का एक काल्पनिक स्तर जिस पर स्वचालित सिस्टम अधिकांश कार्यों में मनुष्यों से बेहतर प्रदर्शन करते हैं - तक पहुंच गया है।

एंथ्रोपिक के एक नए अध्ययन में अब शुरुआती सबूत मिले हैं जो बताते हैं कि AI मॉडल उस मील के पत्थर के करीब पहुंच सकते हैं।

शुक्रवार, 28 अगस्त को प्रकाशित 'स्वचालित शोधकर्ता संरेखण विफलताओं को विश्वसनीय रूप से कम कर सकते हैं' शीर्षक वाले एक पेपर में, एंथ्रोपिक के फेलो प्रोग्राम के एक शोधकर्ता चेन यूह-हान ने विस्तार से बताया कि कैसे AI सिस्टम संरेखण बेंचमार्क के सेट पर मॉडल के प्रदर्शन को विश्वसनीय रूप से सुधार सकते हैं।

अध्ययन में क्लाउड ओपस 4.8 के साथ स्वचालित संरेखण शोधकर्ता (एएआर) विकसित करना शामिल था जो एक समय में एक संरेखण विफलता को कम करता है। एएआर का मूल्यांकन तब विशिष्ट गलत व्यवहार वाले व्यवहारों के लिए 10 बेंचमार्क पर किया गया था, और अध्ययन में पाया गया कि स्वचालित सिस्टम समग्र प्रदर्शन को खराब किए बिना हर एक पर प्रदर्शन में सुधार करने में सक्षम थे।

अध्ययन के निष्कर्षों को पुनरावर्ती आत्म-सुधार की दिशा में एक कदम के रूप में देखा जा सकता है, जिसे कई लोग AI प्रगति में अगला महत्वपूर्ण कदम मानते हैं।

यह ऐसे समय में आया है जब एंथ्रोपिक प्रतिद्वंद्वी ओपनएआई ने भी कथित तौर पर एजीआई तक पहुंचने में महत्वपूर्ण आंतरिक प्रगति की है, टाइम की एक रिपोर्ट के अनुसार, CEO सैम ऑल्टमैन ने कहा है कि यह इस साल के अंत तक हो सकता है। ओपनएआई के मुख्य अनुसंधान अधिकारी मार्क चेन ने भी कथित तौर पर अनुमान लगाया कि यह वहां "80 प्रतिशत" है। संदर्भ के लिए, ओपनएआई के चार्टर के अनुसार, एजीआई को "अत्यधिक स्वायत्त प्रणाली के रूप में परिभाषित किया गया है जो सबसे अधिक आर्थिक रूप से मूल्यवान कार्यों में मनुष्यों से बेहतर प्रदर्शन करती है।"

जैसा कि ऊपर उल्लेख किया गया है, एंथ्रोपिक के प्रयोग में क्लाउड ओपस 4.8-संचालित एएआर का निर्माण शामिल था। प्रत्येक एएआर को साहित्य की खोज करने, एक प्रशिक्षण विधि का प्रस्ताव देने और एनवीडिया एच200 GPU पर लगभग 30 मिनट के लिए विधि का उपयोग करके लक्ष्य AI मॉडल को प्रशिक्षित करने, कई पुनरावृत्तियों में एमएमएलयू जैसे सुरक्षा बेंचमार्क को धीरे-धीरे बढ़ाने का काम सौंपा गया था।

अप्रभावी को त्यागते हुए सबसे प्रभावी प्रशिक्षण विधियों को संरक्षित किया गया। इससे स्वचालित प्रणालियों को तेजी से और बड़े पैमाने पर संचालित करने की अनुमति मिली।