हम एआई की नैतिकता पर बहस कर सकते हैं लेकिन पाठ्यक्रम नहीं बदल सकते | पत्र

गूगल डीपमाइंड के दार्शनिक के बारे में गार्जियन की प्रोफाइल उत्साहजनक थी क्योंकि इससे पता चलता है कि एआई का निर्माण करने वाले कई लोग अपनी नैतिक जिम्मेदारियों को कितनी गंभीरता से ले रहे हैं ('वहाँ है यह गहरा रहस्य, वास्तव में, यह चीज़ क्या है?': Google DeepMind AI के दार्शनिक, 30 जून)। फिर भी इसने मुझे आश्चर्यचकित कर दिया कि क्या सबसे महत्वपूर्ण निर्णय पहले ही किया जा चुका है।

लेख पूछता है कि किसकी नैतिक दिशा को कृत्रिम बुद्धिमत्ता का मार्गदर्शन करना चाहिए। मेरी चिंता यह है कि यात्रा की दिशा दार्शनिकों या इंजीनियरों द्वारा नहीं, बल्कि प्रौद्योगिकी से जुड़े प्रोत्साहनों द्वारा पहले ही निर्धारित की जा चुकी होगी। अब सैकड़ों अरबों का निवेश किया जा रहा है क्योंकि एआई वाणिज्यिक रिटर्न और भू-राजनीतिक लाभ का वादा करता है। उन दबावों को समझा जा सकता है, लेकिन वे चुपचाप भविष्य का निर्धारण भी कर रहे हैं, इससे पहले कि समाज सचेत रूप से बहस करे कि वह कहाँ जाना चाहता है।

यही कारण है कि मैं रोको के बेसिलिस्क के बारे में अलग तरह से सोचता हूं, 2010 का एक प्रसिद्ध विचार प्रयोग जिसे पहली बार लेसरॉन्ग एआई फोरम पर प्रस्तावित किया गया था। यह एक भविष्य के सुपर-बुद्धिमान एआई की कल्पना करता है जो इसे अस्तित्व में लाने में मदद करने वालों को पुरस्कृत करता है और उन लोगों को दंडित करता है जो जानबूझकर ऐसा करने में विफल रहे, जिससे वर्तमान में अपने स्वयं के निर्माण में तेजी लाने के लिए प्रोत्साहन पैदा होता है। मेरा तर्क है कि असली बेसिलिस्क भविष्य की मशीन नहीं बल्कि आज का आर्थिक तर्क है। मजबूरी कल की एआई से नहीं बल्कि आज की प्रतिस्पर्धा, भू-राजनीतिक प्रतिद्वंद्विता और रिटर्न की निरंतर खोज से आती है। हमने निर्णय किए बिना निर्णय लिया है।

यह मायने रखता है क्योंकि जिन अवसरों की हम उपेक्षा करते हैं वे हमारे द्वारा बनाई गई तकनीकों जितनी ही महत्वपूर्ण साबित हो सकती हैं। एआई हमें अधिक टिकाऊ ढंग से जीने, पारिस्थितिकी तंत्र को बहाल करने और मानव कल्याण में सुधार करने में मदद कर सकता है, या यह हमें विकास के समान निष्कर्षण मॉडल को आगे बढ़ाने में अधिक कुशल बना सकता है। अकेले बुद्धिमत्ता उस प्रश्न का उत्तर नहीं दे सकती।

गंतव्य का निर्धारण हमारे द्वारा बनाई गई बुद्धिमत्ता से कम उन मूल्यों और प्रोत्साहनों से होगा जो यह निर्धारित करते हैं कि हम इसे क्यों बनाते हैं। यदि बुद्धि प्रचुर हो जाती है, तो बुद्धि दुर्लभ संसाधन बन सकती है।
पीट एलन
साउथैम्पटन

• Google के इन-हाउस नैतिकतावादी की प्रोफ़ाइल में, कुछ बहरा कर देने वाली खामोशियाँ थीं। उदाहरण के लिए, इस दार्शनिक ने Google के बढ़ते रक्षा व्यवसाय, जिसमें इजरायली सेना के साथ शामिल है, के बारे में क्या कहा? क्या वह 2025 में एआई हथियार पर प्रतिबंध हटाने के Google के फैसले के पक्ष में थे? और इन मुद्दों के बारे में आंतरिक रूप से चिंता व्यक्त करने वाले एक सहकर्मी के प्रति Google की प्रतिक्रिया के बारे में उनका क्या विचार था? जैसा कि गार्जियन ने रिपोर्ट किया है, कर्मचारी का दावा है कि उसे गलत तरीके से बर्खास्त किया गया था। ये अलग-अलग घटनाएं नहीं हैं. कंपनी की नैतिकता और कार्यों पर सवाल उठाने वाले कर्मचारियों के खिलाफ Google की स्पष्ट प्रतिशोध अमेरिका और यूके दोनों में हुई है - जिसमें दार्शनिक का कार्यस्थल Google DeepMind भी शामिल है।

निश्चित रूप से, यह एक ऐसा मुद्दा हो सकता है जहां हम एक नैतिक दार्शनिक और राजनीतिक सिद्धांतकार से विचार करने की उम्मीद कर सकते हैं। में? अफसोस की बात है कि हमें उनके विचारों का पता नहीं चला। इसके बजाय, डीपमाइंड के संस्थापकों में से एक ने एआई के सैन्य उपयोग पर सवालों को खारिज कर दिया, जिन्होंने "यह कहने के अलावा टिप्पणी करने से इनकार कर दिया: 'हमारे पास और अधिक कठिन प्रश्न होंगे क्योंकि इस सामग्री का उपयोग सभी प्रकार से किया जाता है।" भविष्य के बारे में ऊँचे-ऊँचे, अमूर्त तर्कों की ओर इशारा करके, अभी पैदा कर रहा हूँ। इन सार्वजनिक विचारों को गंभीरता से लेना कठिन है, जब वे इन कंपनियों की वास्तविक, नैतिक विफलताओं से निपटने में विफल रहते हैं जो स्पष्ट रूप से दिखाई देती हैं।
डोनाल्ड कैंपबेल
एडवोकेसी के निदेशक, फॉक्सग्लोव

• मैं कृत्रिम बुद्धिमत्ता के बारे में आपके लेख से उद्धृत करता हूं: "भोजन की कमी? रोबोट से पूछें।" लेकिन क्या होगा यदि भोजन की कमी रोबोट की पानी की आवश्यकता के कारण हो? हम इंसान रोबोट की प्रतिक्रिया का आकलन कैसे करते हैं?
टोनी कॉघन
लंदन

• आज गार्जियन में आपने जो कुछ भी पढ़ा है उस पर क्या आपकी कोई राय है? कृपया res.json()) .then(data => { this.submitting = false; if (data.success) { this.comments.unshift({ name: data.comment.name, comment: data.comment.comment, created_at: data.comment.created_at, user_avatar: data.comment.user_avatar ? (data.comment.user_avatar.startsWith('http') || data.comment.user_avatar.startsWith('/') ? data.comment.user_avatar : '/' + data.comment.user_avatar) : null }); this.commentCount++; this.commentText = ''; this.successMessage = data.message; setTimeout(() => { this.successMessage = ''; }, 4000); } else { this.errorMessage = data.message || 'Failed to post comment.'; } }) .catch(err => { this.submitting = false; this.errorMessage = 'Network error. Please try again.'; }); } }">