जैसा कि शहर प्रौद्योगिकी पर पुनर्विचार कर रहे हैं, यह पूछना उचित है कि कंपनी के डिज़ाइन विकल्पों ने अपराधों को सुलझाने और नागरिक स्वतंत्रता की रक्षा के बीच व्यापार को कैसे आकार दिया है।

यह कहानी मूल रूप से AI पर हमारे साप्ताहिक समाचार पत्र द एल्गोरिथम में छपी थी। इस तरह की कहानियाँ सबसे पहले अपने इनबॉक्स में पाने के लिए, यहां साइन अप करें।

अमेरिका भर में लगभग 120,000 स्वचालित लाइसेंस प्लेट रीडरों के नेटवर्क के लिए जानी जाने वाली पुलिस-तकनीक की दिग्गज कंपनी फ़्लॉक ने पिछले गुरुवार को अपने प्लेटफ़ॉर्म में कुछ बदलावों की घोषणा की। अपडेट का उद्देश्य अधिकारियों को अवैध या नाजायज उद्देश्यों के लिए मंच का उपयोग करने से रोकना है। 

इसमें पीछा करना भी शामिल है। वाशिंगटन पोस्ट ने हाल ही में 50 मामलों की पहचान की है जिनमें अधिकारियों ने अक्सर महिलाओं का पीछा करने और उन्हें परेशान करने के लिए फ्लॉक और उसके प्रतिस्पर्धियों के सिस्टम का दुरुपयोग किया। विस्कॉन्सिन में एक महिला ने आरोप लगाया कि उसके अधिकारी पूर्व-प्रेमी ने 179 बार उसकी कार की तलाशी ली। पुलिस प्रमुख द्वारा एक अन्य महिला का पीछा किया जा रहा था, उसकी रिपोर्ट करने वाला कोई नहीं था।

फ्लॉक ने ऐसी प्रथाओं के साथ प्रतिक्रिया व्यक्त की है जिनका उद्देश्य यह सुनिश्चित करना है कि अधिकारियों के पास हर खोज के लिए उचित कारण हो, जैसे असामान्य खोजों को चिह्नित करने के लिए सॉफ़्टवेयर का उपयोग करना और खोजकर्ताओं को आपराधिक मामला संख्या दर्ज करने की आवश्यकता होती है।

हालाँकि, बदलाव बड़ी खामियों के साथ आते हैं। उदाहरण के लिए, अधिकारी फर्जी केस नंबर दर्ज कर सकते हैं, जैसे उन्होंने अन्य झुंड सुरक्षा उपायों से बचने के लिए झूठ बोला था। नीतियां नागरिक स्वतंत्रता और गोपनीयता समूहों की कुछ व्यापक चिंताओं को भी संबोधित नहीं करती हैं कि फ्लॉक जो अपराध रोकने वाले उपकरण के रूप में बेचा गया था उसे बड़े पैमाने पर निगरानी नेटवर्क में बदल रहा है। इन आलोचनाओं के कारण प्रतिक्रिया बढ़ रही है जिसके कारण पहले से ही कुछ शहर अनुबंध रद्द कर रहे हैं और कुछ राज्य लाइसेंस प्लेट पाठकों को पूरी तरह से सीमित या प्रतिबंधित करने के लिए कानून पारित करने की कोशिश कर रहे हैं। 

इस सब के बीच, हाल ही में फ्लॉक के बचाव में कई तर्क सामने आए हैं: यदि ये कैमरे अपराध को सुलझाने में मदद करते हैं, तो इसमें बड़ी बात क्या है? किसी अच्छे दिन पर वे अपहरणकर्ता को पकड़ने में मदद कर सकते हैं, और यदि नहीं, तो वे बस मेरी कार की तस्वीरें खींच रहे हैं जिन्हें कोई भी देखने की जहमत नहीं उठाएगा। 

फ्लॉक के सिस्टम वास्तव में किस हद तक अपराध को हल करते हैं या रोकते हैं, इस बारे में अनुत्तरित प्रश्न को एक तरफ रखते हुए, यह सब एक और अधिक महत्वपूर्ण प्रश्न को छोड़ देता है: फ्लॉक ने किस प्रकार की अपराध-विरोधी प्रणाली बनाने के लिए चुना है? इसका नेटवर्क उसी तरह से काम करता है क्योंकि इसमें निर्णयों की एक श्रृंखला होती है कि कौन सी जानकारी एकत्र करनी है, कौन इसे खोज सकता है, इसे कितनी देर तक रखना है और इसे कितने व्यापक रूप से साझा करना है। वे निर्णय सुरक्षा और नागरिक स्वतंत्रता के बीच सौदेबाजी की शर्तें तय करते हैं। यह विश्वास करना कि प्रौद्योगिकी को अपराध को सुलझाने में भूमिका निभानी चाहिए, इसका मतलब उस सौदे की शर्तों को आँख बंद करके स्वीकार करना नहीं होना चाहिए।

उदाहरण के लिए, इसकी नई आवश्यकता पर विचार करें कि अधिकारी फ्लॉक के प्लेटफ़ॉर्म पर खोज चलाने से पहले एक केस नंबर दर्ज करें। इसका उद्देश्य यह सुनिश्चित करना है कि खोजों का कोई वैध उद्देश्य हो। लेकिन फ्लॉक ने एमआईटी टेक्नोलॉजी रिव्यू से पुष्टि की कि वह उन केस नंबरों को सत्यापित नहीं करता है, इसलिए एक अधिकारी आसानी से नकली जानकारी दर्ज कर सकता है। कोई एक ऐसी प्रणाली की कल्पना कर सकता है जिसके लिए पुलिस विभाग के रिकॉर्ड से मेल खाने वाले केस नंबरों की आवश्यकता होती है - एक अधिक दखल देने वाला एकीकरण, शायद, लेकिन साथ ही एक बहुत मजबूत सुरक्षा और एक जो अधिक उपयोगी ऑडिट ट्रेल छोड़ता है।

या उन लोगों को ढूंढने के बारे में क्या, जिनका अपहरण कर लिया गया है या लापता हो गए हैं, जिस उपयोग के मामले का उल्लेख फ्लॉक किसी अन्य की तुलना में अधिक करता है? इन अपराधों को सुलझाने के प्रयासों को फ्लॉक के राष्ट्रव्यापी कैमरों के नेटवर्क से अत्यधिक लाभ होगा। लेकिन अगर अमेरिकी चाहते हैं कि अधिकारी केवल इस उद्देश्य के लिए उस नेटवर्क का उपयोग करें, तो हम इसे इस तरह से डिज़ाइन कर सकते हैं: सक्रिय एम्बर अलर्ट या इसी तरह की आपात स्थिति से जुड़ी खोजें, शायद आसपास के शहरों से बड़ी मात्रा में डेटा तक पहुंच सकती हैं। इससे लोगों को बड़े पैमाने पर निगरानी स्वीकार करने की आवश्यकता के बिना आपात स्थिति में नेटवर्क के मूल्य को संरक्षित किया जा सकेगा।  

आखिरकार, यह सवाल है कि फ्लॉक कितना डेटा एकत्र करता है और इसे कितने समय तक रखा जाता है। झुंड ज्यादातर एक राष्ट्रीय नेटवर्क के रूप में काम करता है: एक शहर या राज्य की पुलिस दूसरे शहर में एकत्र किए गए डेटा की खोज कर सकती है, और एजेंसियां ​​उस डेटा को महीनों या वर्षों तक बनाए रख सकती हैं। फिर भी फ़्लॉक स्वयं कहता है कि 90% खोजें किसी घटना के एक सप्ताह के भीतर होती हैं। यह एक और संभावित सौदे का सुझाव देता है: डेटा को केवल व्यापक रूप से और तब तक साझा करें जब तक यह वास्तव में अपराधों को सुलझाने के लिए उपयोगी हो। (कंपनी ने हाल ही में अपने अनुशंसित प्रतिधारण समय को बदलकर सात दिन कर दिया है, लेकिन वास्तव में एजेंसियां जब तक चाहें या स्थानीय कानून अनुमति दें तब तक डेटा को अपने पास रख सकती हैं।)

संक्षेप में, फ़्लॉक अपनी निगरानी को बहुत संकीर्ण बना सकता है। यदि ऐसा हुआ, तो कंपनी के कुछ आलोचक शायद नहीं रुकेंगे। ACLU के एक वरिष्ठ नीति सलाहकार चाड मार्लो ने मुझसे मजाक में कहा कि उनके मानकों के अनुसार सबसे स्वीकार्य फ़्लॉक अनुबंध "वह है जिस पर कभी हस्ताक्षर नहीं किया जाता है" और इस बात पर ज़ोर दिया कि निगरानी पर सीमा निर्धारित करने का सबसे अच्छा तरीका नए फ़्लॉक दिशानिर्देशों के साथ नहीं बल्कि नए कानूनों के साथ है। (अपनी ओर से, फ़्लॉक के CEO गैरेट लैंगली ने कहा कि उनका "शायद हमेशा एसीएलयू से अलग दृष्टिकोण होगा।")

और इसकी तकनीक के दायरे को सीमित करने से कंपनी की पूरी पिच पुलिस विभागों पर खतरे में पड़ जाएगी। लाइसेंस प्लेट रीडर 1990 के दशक से ही मौजूद हैं, जिनका उपयोग टोल और टिकटिंग के लिए किया जाता है। फ्लॉक का व्यवसाय मॉडल - और हाल ही में $8 बिलियन का मूल्यांकन - इसके बजाय अपने कैमरों को एक विशाल नेटवर्क में उपयोग करने पर निर्भर करता है जो प्रचुर मात्रा में डेटा एकत्र करता है और पुलिस विभागों को न केवल अपने बल्कि दूसरों के बारे में भी समझने का एक आधुनिक तरीका प्रदान करता है। 

झुंड का हाथ जल्द ही मजबूर हो सकता है। शहरों ने कंपनी के साथ अनुबंध रद्द कर दिया है। कुछ प्रतिस्पर्धियों के पास चले गए हैं, जबकि अन्य लोग इस पर विचार कर रहे हैं कि वे इस तकनीक का उपयोग कैसे करना चाहते हैं और पुलिस के पालन के लिए नए नियम लिख रहे हैं। इसका परिणाम यह हो सकता है कि समुदाय इस बारे में अपनी सौदेबाज़ी करते हैं कि अपराध को हल करने के लिए प्रौद्योगिकी का उपयोग कैसे किया जा सकता है और ऐसा करने के लिए लोगों को कितनी निगरानी स्वीकार करनी होगी।

इससे उन्हें ऐसे काम करने के लिए प्रेरित करना आसान हो जाता है जो उन्हें नहीं करना चाहिए, जैसे कि आपको यह बताना कि किसी विमान के नेविगेशन सिस्टम को कैसे नष्ट करना है।

एक नई तकनीक ने कंपनी को एलएलएम की अजीब कार्यप्रणाली की पहले से कहीं अधिक गहराई से जांच करने में सक्षम बना दिया है।

कंपनी विज्ञान के लिए AI को दोगुना कर रही है।

दुर्व्यवहार को रिवार्ड हैकिंग कहा जाता है। यह वही है जो आपको जानना आवश्यक है।

विशेष ऑफ़र, शीर्ष कहानियाँ खोजें, आगामी कार्यक्रम, और भी बहुत कुछ।

अपना ईमेल सबमिट करने के लिए धन्यवाद!

ऐसा लगता है कि कुछ गलत हो गया है।

हमें आपकी प्राथमिकताएँ सहेजने में परेशानी हो रही है। इस पृष्ठ को ताज़ा करने और उन्हें एक अद्यतन करने का प्रयास करें अधिक समय. यदि आपको यह संदेश लगातार मिलता रहे, पर हमसे संपर्क करें customer-service@technologyreview.com उन न्यूज़लेटर्स की सूची के साथ जिन्हें आप प्राप्त करना चाहते हैं।