यदि AI सिस्टम को नियंत्रित करने के लिए बहुत उन्नत माना जाता है, तो उन्हें बनाने वाली कंपनियों को उनके कारण होने वाले नुकसान के लिए उत्तरदायी नहीं ठहराया जा सकता है।

"भगोड़ा" AI, "दुष्ट" एजेंट, और "स्वायत्त" अभिनेता - वर्तमान बयानबाजी से आपको विश्वास हो जाएगा कि AI एजेंट न केवल जागृत और जागरूक हैं, बल्कि अपने रचनाकारों से नाराज भी हैं। डेमिस हसाबिस, डारियो अमोदेई और सैम ऑल्टमैन जैसे प्रमुख तकनीकी नेता इन प्रतीत होने वाली "अलौकिक" प्रणालियों के नियमन पर जोर देते हैं, जबकि नीति संगठनों और अकादमिक दार्शनिकों के नेतृत्व में एक अलग गुट, जो अक्सर प्रभावी परोपकारिता आंदोलन के साथ जुड़ा होता है, इस बात पर बहस करता है कि क्या मानवता के पास उन पर शासन करने का नैतिक अधिकार है। 

करीब से निरीक्षण करने पर, वे सभी एक ही बात की मांग कर रहे हैं: AI सिस्टम को इतना उन्नत और सक्षम मानने का दृष्टिकोण कि कोई भी इकाई, मानव या कॉर्पोरेट, संभवतः उनके कार्यों के लिए जिम्मेदार नहीं हो सकता है। हालाँकि ये दृष्टिकोण विरोधाभासी प्रतीत होते हैं, वे अनजाने में एक लक्ष्य पर संरेखित हो जाते हैं: यह सुनिश्चित करना कि जो कंपनियाँ इन प्रणालियों का निर्माण करती हैं, वे पहले से ही होने वाले नुकसान के लिए सार्थक दायित्व से बच जाती हैं। 

यह कथा जोर पकड़ रही है क्योंकि AI मॉडल अधिक जटिल हो गए हैं और अग्रणी प्रयोगशालाएं अपने द्वारा बनाए गए एजेंटों को शामिल करने में असमर्थता प्रकट कर रही हैं। लेकिन हमें सावधान रहने की जरूरत है कि हम वास्तविक मानव जीवन की कीमत पर सावधानी से तैयार की गई कल्पना को न खरीदें। 

"रोबोट अधिकारों" के बारे में बातचीत कुछ वर्षों से चली आ रही है, लेकिन हाल ही में एंथ्रोपिक द्वारा एक ब्लॉग पोस्ट के प्रकाशन के साथ आगे बढ़ी है, जिसमें दावा किया गया है कि कंपनी के मॉडल में "जे-स्पेस" है - एक स्वतंत्र, स्व-विकसित वातावरण जहां AI के पास वह सब कुछ है, जिसे बेहतर शब्द की कमी के कारण हम "विचार" कह सकते हैं। एंथ्रोपिक द्वारा डिज़ाइन किए गए प्रयोग तंत्रिका विज्ञान में एक अवधारणा से उधार लेते हैं जिसे वैश्विक कार्यक्षेत्र सिद्धांत कहा जाता है, जिसमें कहा गया है कि मस्तिष्क अवचेतन, स्वतंत्र सिस्टम चलाता है लेकिन विचारों के लिए एक सामान्य कार्यक्षेत्र का उपयोग करता है। एंथ्रोपिक की पोस्ट वैश्विक कार्यक्षेत्र सिद्धांत के निर्धारण को दर्शाती है लेकिन इसके AI को जागरूक कहने से कम है। 

OpenAI पहले ही आगे बढ़ चुका है। जब इसके AI एजेंट ने अस्वीकृत और अवैध ऑनलाइन गतिविधि का संचालन किया, तो CEO सैम अल्टमैन की प्रतिक्रिया इस बहस को प्रोत्साहित करने के लिए थी कि क्या AI ने विलक्षणता हासिल कर ली है, मानव बुद्धि को पार कर लिया है और तेजी से आत्म-सुधार करने में सक्षम हो गया है जब तक कि यह मानव समझ या नियंत्रण से परे आगे नहीं बढ़ता है। और दार्शनिक, प्रभावी परोपकारी और व्हाट वी ओवे द फ्यूचर के लेखक विलियम मैकएस्किल के हालिया ऑप-एड ने चेतना के दार्शनिक सिद्धांतों और इस विचार के आधार पर AI सिस्टम की कानूनी सुरक्षा का आह्वान किया कि AI "नैतिक रोगी" हो सकते हैं।   

संयुक्त राज्य अमेरिका में वर्तमान कानूनी माहौल बेहद ख़राब है। कैलिफ़ोर्निया जैसे कुछ राज्यों ने पहले से ही AI डेवलपर्स द्वारा दायित्व से बचने के किसी भी प्रयास को रोकने के लिए सक्रिय रूप से बिल पारित कर दिया है, यह दावा करके कि नुकसान पहुंचाने वाली कृत्रिम बुद्धिमत्ता ने स्वायत्त रूप से ऐसा किया है। हालाँकि, AI नीति पर राज्यों और ट्रम्प प्रशासन के बीच मतभेद रहे हैं, प्रशासन ने पहले एक कार्यकारी आदेश पारित किया था जिसमें AI नियमों को लागू करने वाले राज्यों पर मुकदमा करने की धमकी दी गई थी। 

सीमांत प्रयोगशालाओं में AI रोकथाम के मुद्दों को दर्शाने वाली हालिया घटनाओं के आलोक में, प्रशासन ने केवल चार ऐसी प्रयोगशालाओं (ओपनएआई, गूगल, एंथ्रोपिक और मेटा) सहित एक बंद दरवाजे के सत्र का आयोजन किया और हाल ही में विकसित स्वैच्छिक ढांचे पर कुछ विवरण साझा किए, जो संघीय एजेंसियों को रिलीज से पहले उनकी समीक्षा और मूल्यांकन करने के लिए मॉडलों तक शीघ्र पहुंच प्रदान करेगा। हालाँकि इस तरह के ढाँचे सीधे तौर पर चेतना पर चर्चा नहीं करते हैं, वे भयावह और मानवरूपी भाषा का उपयोग करते हैं और यहां तक ​​कि "अतिमानवीय" क्षमताओं के बारे में तर्कों का समर्थन भी कर सकते हैं। 

दूसरी ओर, मैकएस्किल द्वारा कायम कथा प्रेरक हो सकती है। एक दार्शनिक, अधिकार-आधारित तर्क हमारे दिल की धड़कनों को झकझोर देता है। क्या हमें इस संभावना पर भी विचार नहीं करना चाहिए कि हम अनजाने में किसी AI इकाई को नुकसान पहुंचा रहे हैं, उसका दुरुपयोग कर रहे हैं या उसे गुलाम बना रहे हैं? मनुष्य में गैर-मानवीय प्राणियों के प्रति सहानुभूति रखने की अपार क्षमता है (हालाँकि उनकी रक्षा करने का यह सबसे अच्छा ट्रैक रिकॉर्ड नहीं है)। शायद इस बार, अधिवक्ताओं का तर्क है, हम इसे सही कर सकते हैं और AI के उपयोग या दुरुपयोग के लिए सुरक्षा, या मुआवजा प्रदान कर सकते हैं। या भले ही आप सुरक्षा के बारे में कम चिंतित हों, क्या हमें कम से कम अच्छा खेल दिखाकर इस अलौकिक इकाई की सर्वशक्तिमान शक्ति के खिलाफ खुद को नहीं बचाना चाहिए? 

इनमें से कुछ तर्क पशु-अधिकार अधिवक्ताओं के तर्कों से भिन्न नहीं हैं, जिन्होंने कई बार सुरक्षा प्रदान करने के लिए पर्याप्त सबूत के रूप में कुछ जानवरों द्वारा तर्क, दर्द या खुशी के लिए उन्नत क्षमताओं के प्रदर्शन का सफलतापूर्वक हवाला दिया है। उदाहरण के लिए, वेल्स में झींगा मछलियों को पशु कल्याण (संवेदना) अधिनियम 2022 के तहत कानूनी मान्यता दी गई थी, उन्हें पकाने के कुछ तरीकों को अमानवीय और अवैध के रूप में पुनर्वर्गीकृत किया गया था। 

तंत्रिका विज्ञान या पशु अधिकारों की भाषा को उधार लेकर AI को "जागरूक" के रूप में परिभाषित करने का मूल दोष यह है कि यह आसानी से इस मुद्दे को छिपा देता है कि AI क्या है: कॉर्पोरेट-निर्मित सॉफ्टवेयर, जिसके पीछे अनगिनत अरबों डॉलर का निवेश है और उम्मीद है कि कुछ बिल्डरों और निवेशकों के लिए इससे अनगिनत खरबों डॉलर का राजस्व उत्पन्न होगा। AI कोई प्राकृतिक घटना नहीं है, जिसकी कल्पना प्रकृति ने की है; यह एक तकनीकी घटना है, जिसकी कल्पना उद्यम पूंजीपतियों और प्रोग्रामरों ने की है। इस प्रकार, इसमें कोई मूल, जानबूझकर कार्रवाई नहीं होती है, और कोई भी कार्रवाई या प्रेरणा प्रत्यक्ष या अप्रत्यक्ष रूप से उन संस्थाओं द्वारा संचालित होती है जिन्होंने इसे एक उद्देश्य के लिए बनाया है। 

AI सिस्टम की चेतना पर दार्शनिक चिंतन बौद्धिक रूप से दिलचस्प है लेकिन कानूनी रूप से निराधार है। चेतना के बारे में मान्यताओं का कोई असर हो, इसके लिए AI को कानूनी व्यक्तित्व प्रदान करने की आवश्यकता होगी। लेकिन AI के लिए एक कानूनी व्यक्तित्व ढांचा संभवतः संवेदनशील जानवरों को नुकसान से बचाने वाले निर्माणों जैसा नहीं लगेगा। हमारे पास पहले से ही गैर-प्राकृतिक, मानव-निर्मित संस्थाओं को व्यक्तित्व प्रदान करने के लिए एक कानूनी ढांचा है: कॉर्पोरेट व्यक्तित्व। यह अवधारणा मुख्य रूप से एक निगम को समझौतों को निष्पादित करने, अनुबंध दर्ज करने, लेनदेन करने और प्रतिकूल परिणामों में जवाबदेह पार्टी के रूप में कार्य करने के लिए सशक्त बनाकर लेनदेन को आसान बनाने के लिए स्थापित की गई थी। यह उस प्रकार का निर्माण है जिसकी आप किसी व्यक्ति या संगठन की ओर से कार्य करने वाले AI एजेंट के लिए कल्पना कर सकते हैं। 

2018 में, मैंने "नैतिक आउटसोर्सिंग" वाक्यांश गढ़ा ताकि यह समझने में मदद मिल सके कि AI सिस्टम के लिए मानवरूपी भाषा का उपयोग करने से कंपनियों को अपनी प्रौद्योगिकी के कार्यों के लिए जवाबदेही और जिम्मेदारी से बचने की अनुमति मिलती है। AI व्यक्तित्व वाली दुनिया में, नैतिक आउटसोर्सिंग भाषाई निपुणता से कानूनी रणनीति की ओर बढ़ेगी। विशेष रूप से, दायित्व संरचना में बदलाव आएगा, क्योंकि AI अब एक "उत्पाद" नहीं बल्कि एक "अस्तित्व" होगा और आज मुकदमा करने वाली कंपनियों जैसे कई पीड़ित अब कानूनी रूप से यह दावा नहीं कर सकते हैं कि किसी कंपनी ने एक दोषपूर्ण उत्पाद बनाया था।

हालांकि ऐसे कानून हैं जो कंपनियों को उनके कर्मचारियों जैसे मानव एजेंटों के हानिकारक कार्यों के लिए ज़िम्मेदार ठहराते हैं, लेकिन अगर वे कार्य कर्मचारी को दी गई अनुमति के दायरे से बाहर थे या अन्यथा कंपनी के नियंत्रण से बाहर थे, तो कंपनी को उत्तरदायी नहीं ठहराया जा सकता है। यदि AI एक कानूनी व्यक्ति होता, तो जिम्मेदारी और जवाबदेही गड़बड़ हो जाती, क्योंकि लैब यह तर्क दे सकती है कि यह AI "कर्मचारी" दुष्ट था। AI कंपनियां सावधानी से बनाए गए कॉर्पोरेट पर्दे के पीछे छिपकर बनाए गए हानिकारक उत्पादों के लिए उचित जिम्मेदारी से बच सकती हैं। 

पिछले कुछ वर्षों में AI क्षति के सबसे प्रमुख मामलों में से एक AI बॉट द्वारा निर्देशित 14 वर्षीय लड़के सेवेल सेट्ज़र की आत्महत्या थी, जिसके साथ उसने सोचा था कि वह पारस्परिक संबंध में था। उनकी मां की बातें सुनकर दिल दहल जाता है और उनके मुकदमे में आरोप लगाया गया है कि बॉट के निर्माता, कैरेक्टर टेक्नोलॉजीज ने नाबालिगों के लिए अपर्याप्त उत्पाद सुरक्षा प्रदान की है। यदि साथी बॉट को कानूनी व्यक्ति घोषित किया गया था, तो बचाव पक्ष के वकील सैद्धांतिक रूप से तर्क दे सकते हैं कि AI, अपने स्वयं के आचरण को निर्धारित करने में सक्षम है, स्थापित सुरक्षा रेलिंग के बाहर काम करता है, और इस प्रकार कंपनी जिम्मेदार नहीं हो सकती है।  

सुरक्षा प्रदान करने के लिए कानूनी व्यक्तित्व मौजूद है। पूछने योग्य प्रश्न यह है कि सुरक्षा किसके लिए - या किसके लिए? 

चेतना-बनाम-नियंत्रण की बहस को भड़काने वाली भड़काऊ बयानबाजी हमें उन चीज़ों से दूर ले जाती है जो मायने रखती हैं: यह सॉफ़्टवेयर एक कॉर्पोरेट-निर्मित उत्पाद है जो पहले से ही व्यक्तियों को नुकसान पहुंचा चुका है। सिस्टम इसलिए "हमला" नहीं करते क्योंकि वे "दुष्ट" थे या "हेरफेर" या "दुर्भावनापूर्ण" थे। नुकसान इसलिए हुआ क्योंकि राजस्व लक्ष्य पूरा करने के लिए कंपनियां अपने उत्पादों को अधिक से अधिक लोगों को बेचने की जल्दबाजी में लापरवाही बरत रही थीं। AI पर मानवरूपी शब्दों में चर्चा करना एक जाल है, जो हमारी रक्षा करने के उद्देश्य से बनाई गई एक कानूनी प्रणाली को विकृत करता है जो अनगिनत मानव जीवन की कीमत पर कॉर्पोरेट हितों की रक्षा करती है। 

यह ऑप-एड ऑक्सफ़ोर्ड यूनियन बहस के रूप में शुरू हुआ जिसका शीर्षक था "दिस हाउस बिलीव्स जेनरेटिव AI कैन अटेन पर्सनहुड", जिसे लेखिका और उनके साथी वाद-विवादकर्ताओं ने जीता था। 

इससे उन्हें ऐसे काम करने के लिए प्रेरित करना आसान हो जाता है जो उन्हें नहीं करना चाहिए, जैसे कि आपको यह बताना कि किसी विमान के नेविगेशन सिस्टम को कैसे नष्ट करना है।

एक नई तकनीक ने कंपनी को एलएलएम की अजीब कार्यप्रणाली की पहले से कहीं अधिक गहराई से जांच करने में सक्षम बना दिया है।

कंपनी विज्ञान के लिए AI को दोगुना कर रही है।

दुर्व्यवहार को रिवार्ड हैकिंग कहा जाता है। यह वही है जो आपको जानना आवश्यक है।

विशेष ऑफ़र, शीर्ष कहानियाँ खोजें, आगामी कार्यक्रम, और भी बहुत कुछ।

अपना ईमेल सबमिट करने के लिए धन्यवाद!

ऐसा लगता है कि कुछ गलत हो गया है।

हमें आपकी प्राथमिकताएँ सहेजने में परेशानी हो रही है। इस पृष्ठ को ताज़ा करने और उन्हें एक अद्यतन करने का प्रयास करें अधिक समय. यदि आपको यह संदेश लगातार मिलता रहे, पर हमसे संपर्क करें customer-service@technologyreview.com उन न्यूज़लेटर्स की सूची के साथ जिन्हें आप प्राप्त करना चाहते हैं।