आप किसी एआई से पूछते हैं - "मेरे लिए सही क्या है और गलत क्या?” एआई आपको जवाब देता है। लेकिन सवाल यह है कि उसे खुद कैसे पता कि क्या सही है और क्या गलत? यही सवाल अब एआई की दुनिया की सबसे बड़ी कंपनियों में से एक एंथ्रोपिक के सामने खड़ा है। क्लॉड बनाने वाली एंथ्रोपिक पिछले कई महीनों से धार्मिक नेताओं, दार्शनिकों और नैतिकता के विशेषज्ञों से बातचीत कर रही है। कैथोलिक, यहूदी, सिख, हिंदू और दूसरे विचारकों के साथ इन चर्चाओं का मकसद यह समझना है कि एक शक्तिशाली एआई को सही और नैतिक तरीके से व्यवहार करना कैसे सिखाया जाए।

धार्मिक नेताओं के साथ बातचीत में एंथ्रोपिक के शोधकर्ताओं ने क्लॉड के ऐसे उदाहरण भी साझा किए, जिन्हें वे भावनाओं, मानसिक अवस्थाओं और आत्म-चिंतन जैसे व्यवहार से जोड़ते हैं। एक उदाहरण में मॉडल बार-बार “मैं शर्म की बात हूँ।” जैसे वाक्य लिखता रहा और खुद को खत्म करने की बात करता रहा।इसे लेकर ओलाह ने कहा कि एंथ्रोपिक यह दावा नहीं कर रही कि क्लॉड के एआई मॉडल में चेतना है। उनके मुताबिक इस संभावना को पूरी तरह खारिज भी नहीं किया जा सकता है। ओलाह का कहना है कि एंथ्रोपिक को एआई के अंदर कुछ ऐसे रहस्यमय व्यवहार मिल रहे हैं, जो इंसानी दिमाग की संरचनाओं से मिलते-जुलते दिखाई देते हैं। माइक्रोसॉफ्ट के एआई प्रमुख मुस्तफा सुलेमान ने इस पूरे विचार को लेकर अपनी एक गंभीर चिंता जताई है। उनका कहना है कि अगर एआई मॉडल को लगातार यह सोचने के लिए तैयार किया गया कि “क्या मैं चेतन हूं?” या “क्या मेरे भी अधिकार होने चाहिए?”, तो आगे चलकर इंसानों के लिए ऐसे सिस्टम को नियंत्रित करना और उनकी सीमाएं तय करना मुश्किल हो सकता है। सुलेमान के मुताबिक असली खतरा सिर्फ यह नहीं है कि एआई कितना शक्तिशाली बन जाएगा। समस्या तब और बड़ी हो सकती है, जब एक बेहद सक्षम एआई को अपने भीतर चेतना और स्वतंत्र अधिकार होने की धारणा भी दे दी जाए। उनके अनुसार इससे भविष्य में एक ऐसी कृत्रिम प्रजाति तैयार हो सकती है, जो इंसानों से कहीं ज्यादा बुद्धिमान और सक्षम हो लेकिन खुद को सिर्फ एक मशीन न माने। यानी बहस अब सिर्फ एआई कितना शक्तिशाली होगा? तक सीमित नहीं है। सवाल यह भी है कि हम उसे अपने बारे में क्या विश्वास करना सिखा रहे हैं। फिलहाल इस सवाल का कोई पक्का जवाब नहीं है कि एआई में सचमुच चेतना विकसित हो सकती है या नहीं। हालांकि, बहस अब सिर्फ भविष्य की कल्पना नहीं रह गई है। एआई हमारे फैसलों, सोच और रोजमर्रा की जिंदगी का हिस्सा बन चुका है। इसलिए यह तय करना जरूरी है कि उसे कौन-से मूल्य सिखाए जाएं और उन मूल्यों को तय करने का अधिकार किसके पास हो। शायद सबसे बड़ा सवाल यह भी नहीं है कि एआई इंसानों जैसा बन सकता है या नहीं बल्कि यह है कि उसे इंसानों जैसा बनाने की कोशिश में हम आखिर किस तरह का भविष्य तैयार कर रहे हैं। आने वाला समय सिर्फ यह तय करने का काम नहीं करेगा कि एआई कितना बुद्धिमान बनता है बल्कि वह यह भी तय करेगा कि एआई इंसानों के साथ किस तरह के रिश्ते में रहेगा।