पिछले चार वर्षों से, एरिन किस्टलर ने पेपैल, माइक्रोसॉफ्ट और नेटफ्लिक्स जैसी कंपनियों में हजारों नौकरियों के लिए आवेदन किया है, लेकिन पता चला कि उनका बायोडाटा एक ब्लैक होल में गायब हो गया है। लगभग 20 वर्षों के अनुभव के साथ एक उत्पाद प्रबंधक, किस्टलर का मानना है कि वह हर भूमिका के लिए योग्य थीं, फिर भी उन्हें कभी एक भी साक्षात्कार नहीं मिला।

अब, किस्टलर एक वर्ग-कार्रवाई मुकदमे में एटफोल्ड AI पर मुकदमा कर रही है, जो सैकड़ों कंपनियों द्वारा उपयोग किए जाने वाले सॉफ्टवेयर को काम पर रखने वाली सिलिकॉन वैली निर्माता है, जिसमें वह कंपनी भी शामिल है जहां उसने आवेदन किया था। किस्टलर की कानूनी टीम के अनुसार, कैलिफोर्निया की अदालत में जनवरी में दायर किया गया मामला यह तर्क देने वाले पहले मामलों में से एक है कि स्वचालित स्क्रीनिंग एक अज्ञात उपभोक्ता रिपोर्ट या आवेदक डोजियर के रूप में कार्य करती है, जो नौकरी आवेदकों को परिणामों को देखने या चुनौती देने का मौका दिए बिना उनकी सफलता की संभावना के आधार पर रैंकिंग देती है।

मुकदमा रोजगार निर्णयों में कंपनियों द्वारा AI के उपयोग पर कई नई कानूनी लड़ाइयों में से एक है। कर्मचारी आंतरिक AI सिस्टम को लेकर मेटा पर भी मुकदमा कर रहे हैं जिसने कथित तौर पर उन्हें छंटनी के लिए लक्षित किया क्योंकि उन्होंने माता-पिता या चिकित्सा अवकाश लिया था। और आईबीएम के खिलाफ एक हालिया मुकदमे में आरोप लगाया गया है कि AI उपकरण पुराने श्रमिकों के साथ भेदभाव करते हैं।

अमेरिका में कंपनियां तेजी से और अधिक कुशल कार्यस्थल निर्णय लेने के लिए अक्सर निष्पक्षता की आड़ में AI की ओर रुख कर रही हैं। लेकिन इस प्रकार के सॉफ़्टवेयर का अध्ययन करने वाले विशेषज्ञों का कहना है कि यह पूर्वाग्रह भी पैदा कर सकता है या बढ़ा सकता है जो सभी कंपनियों में उम्मीदवारों का अनुसरण कर सकता है। कानून निर्माता नोटिस ले रहे हैं. कानूनी लड़ाइयों के नतीजे भविष्य की रोजगार प्रथाओं, उनके आसपास पारदर्शिता और प्रक्रिया में उम्मीदवारों की शक्ति को आकार दे सकते हैं।

एमोरी यूनिवर्सिटी स्कूल ऑफ लॉ के प्रोफेसर और AI और भविष्य के कार्य कार्यक्रम के संस्थापक निदेशक इफियोमा अजुनवा ने कहा, "वास्तव में इन AI हायरिंग सिस्टम के उपयोग के नोटिस या प्रकटीकरण की आवश्यकता वाला कोई कानून नहीं है।" "इसलिए कंपनियां आवश्यक रूप से श्रमिकों को यह नहीं बता रही हैं कि उनका मूल्यांकन AI के साथ कब किया जा रहा है।"

विश्व आर्थिक मंच की एक रिपोर्ट के अनुसार, पिछले साल 90% नियोक्ताओं ने नियुक्ति प्रक्रिया में किसी न किसी रूप में स्वचालन का उपयोग किया था। ये उपकरण बुनियादी फ़िल्टरिंग से लेकर हैं - जैसे कि उन उम्मीदवारों को बाहर करना जिनके पास चार साल की डिग्री या कोई अन्य शर्त नहीं है - नौकरी आवेदक के कौशल का आकलन करने या यहां तक ​​कि प्रारंभिक फोन साक्षात्कार करने के लिए AI का उपयोग करना।

एटफोल्ड के मामले में, कंपनी खुद को "प्रतिभा डेटा का दुनिया का सबसे बड़ा, स्वयं-ताज़ा स्रोत" के रूप में पेश करती है। यह एक अरब से अधिक श्रमिकों के बायोडाटा, लिंक्डइन प्रोफाइल और सोशल मीडिया प्रोफाइल की जानकारी के साथ एक आंतरिक डेटाबेस को लगातार अपडेट करता है, जिन्होंने इसके प्लेटफॉर्म के माध्यम से नौकरियों के लिए आवेदन किया है। इस डेटा का उपयोग करते हुए, यह आवेदकों को 0 से 5 के पैमाने पर स्कोर करने के लिए AI का उपयोग करता है, यह भविष्यवाणी करता है कि वे किसी दिए गए काम में कितना अच्छा प्रदर्शन करेंगे। अंततः, स्कोर साक्षात्कार के लिए कुछ उम्मीदवारों को दूसरों की तुलना में प्राथमिकता दे सकता है।

किस्टलर का प्रतिनिधित्व करने वाले वकील राचेल डेम्पसे ने कहा, "समस्या का एक बड़ा हिस्सा यह है कि नौकरी आवेदकों को पता नहीं है...रिपोर्ट क्या कहती है।"

डेम्पसी का तर्क है कि नौकरी के आवेदक नियुक्ति प्रक्रिया में उसी पारदर्शिता के हकदार हैं जो अमेरिकियों को पहले से ही उनकी क्रेडिट रिपोर्ट में मिलती है। उस जानकारी के साथ, वे या तो अशुद्धियों पर विवाद कर सकते हैं या उनकी उम्मीदवारी को प्रभावित करने वाले कारकों में सुधार करने के लिए काम कर सकते हैं। लेकिन किसी भी अंतर्दृष्टि के बिना, यह जानना असंभव है कि क्या ये एल्गोरिदम स्पष्ट तरीकों से नौकरी के उम्मीदवारों के साथ भेदभाव करते हैं, डेम्पसी ने कहा।

वह कहती हैं, ''ब्लैक बॉक्स की अवधारणा बहुत डरावनी है।

गार्जियन को दिए एक बयान में, एटफोल्ड AI ने आरोपों से इनकार किया। एटफोल्ड AI के प्रवक्ता ने एक ईमेल में लिखा, "हमारा मानना है कि किए गए दावे बेबुनियाद हैं और हम सख्ती से अपना बचाव करने का इरादा रखते हैं।"

आईबीएम के खिलाफ दायर मुकदमे के जवाब में, कंपनी ने स्वचालित रूप से उम्मीदवारों की जांच करने के लिए AI का उपयोग करने से इनकार किया और एक बयान में कहा कि यह "किसी भी प्रकार के भेदभाव को स्वीकार या बर्दाश्त नहीं करती है।" मेटा ने अपने मुकदमे पर टिप्पणी के अनुरोध का जवाब नहीं दिया।

हालांकि रोजगार सॉफ्टवेयर प्रदाता भर्ती प्रबंधकों को योग्य उम्मीदवारों के साथ अधिक समय बिताने और मानवीय व्यक्तिगत पूर्वाग्रहों को दूर करने की छूट देने का दावा करते हैं, लेकिन विशेषज्ञ इससे सहमत नहीं हैं। उनका कहना है कि AI कुछ जनसांख्यिकी के श्रमिकों को लाभ पहुंचाने जैसे पूर्वाग्रहों को बढ़ा सकता है।

अजुनवा ने कहा, "जैसा कि हमने AI हायरिंग सिस्टम पर अधिक शोध किया है, हम वास्तव में देखते हैं कि वे मानव प्रबंधकों के समान ही पूर्वाग्रहों को दोहराते हैं।"

लगभग सभी AI सिस्टम को पैटर्न देखने के लिए प्रशिक्षित किया जाता है, जो रूढ़िवादिता या विरासत पूर्वाग्रहों को मजबूत कर सकता है। उदाहरण के लिए, अमेज़ॅन ने एक बार AI टूल का इस्तेमाल किया था, जिसने महिलाओं के रिज्यूमे को नीचे गिरा दिया था क्योंकि कंपनी के शीर्ष प्रदर्शनकर्ता पुरुष थे। समस्या का पता चलने के बाद अमेज़न ने इसका उपयोग बंद कर दिया। अन्य मामलों में, AI हायरिंग सिस्टम अपने स्वयं के पूर्वाग्रह पेश कर सकते हैं। अपनी पुस्तक, द क्वांटिफाइड वर्कर के लिए शोध में, अजुनवा ने पाया कि AI ने दक्षिणी उच्चारण वाले नौकरी आवेदकों को खराब स्कोर दिया, क्योंकि आवाज साक्षात्कार के दौरान उन्हें समझने में कठिनाई हुई।

जबकि मानव नियुक्ति प्रबंधक अनुचित हो सकते हैं - ऐसे आवेदक को चुनना जो एक ही बिरादरी में हो, उदाहरण के लिए - "पूर्वाग्रह का परिमाण और भी मजबूत है [AI के साथ]," शिकागो विश्वविद्यालय के सहायक प्रोफेसर ज़ुएचुन्ज़ी बाई कहते हैं, जिन्होंने नियुक्ति पूर्वाग्रह पर शोध किया है।

बाई ने एक हालिया अध्ययन का सह-लेखन किया जहां AI मॉडल को तुफा, आइमा, रेकु और वेकी नामक जनसांख्यिकीय समूहों को सौंपे गए काल्पनिक आवेदकों के बारे में नियुक्ति निर्णय लेने के लिए कहा गया था। भर्ती निर्णयों के कुछ दौर के बाद, AI मॉडल ने उन उम्मीदवारों के बारे में निष्कर्ष निकाला जिनका उनकी योग्यता से कोई लेना-देना नहीं था, वास्तव में उन्हें स्टीरियोटाइप कर दिया गया। यदि एक टुफ़ा एक अच्छा डॉक्टर था, तो टुफ़ा उम्मीदवारों को डॉक्टर के रूप में चुने जाने की अधिक संभावना थी, और वेकी उम्मीदवारों को चौकीदार के रूप में नियुक्त किए जाने की अधिक संभावना थी।

अध्ययन में पिछले साल मानव नियुक्ति निर्णयों की तुलना में AI में अधिक पूर्वाग्रह पाया गया। यह भी पाया गया कि नए और अधिक उन्नत मॉडल अधिक पूर्वाग्रह के साथ नियुक्ति संबंधी निर्णय लेते हैं।

बाई ने कहा, ''हम यह परिणाम देखकर काफी हैरान थे।'' AI मॉडल उन समस्याओं को हल करने में बहुत अच्छे हैं जहां एक उद्देश्य समाधान होता है, जैसे गणित या कोडिंग में। बाई ने कहा, "लेकिन... अन्य विकल्प तलाशने के मामले में उनकी हालत खराब होती जा रही है।" "नियुक्ति के संदर्भ में, अन्वेषण काफी महत्वपूर्ण है, लेकिन इन मॉडलों को ऐसा करने के लिए प्रशिक्षित नहीं किया गया है।"

किसी आवेदक के लिए AI के पूर्वाग्रहों के परिणाम एक नौकरी के उद्घाटन से आगे भी बढ़ सकते हैं। जब किसी कर्मचारी को किसी व्यक्ति द्वारा अस्वीकार कर दिया जाता है, तो वे एक अलग भर्ती प्रबंधक के साथ एक अलग कंपनी में फिर से प्रयास कर सकते हैं। अजुनवा ने कहा, लेकिन जब किसी कर्मचारी को कंपनियों में उपयोग की जाने वाली एल्गोरिथम प्रणाली द्वारा खारिज कर दिया जाता है, तो सिस्टम "पहले से किए गए निर्णय को याद रखता है और दक्षता के लिए इसे फिर से करता है"। "वास्तव में, आपको एल्गोरिदमिक रूप से ब्लैकबॉल किया गया है।"

चूंकि बहुत सी कंपनियां एक ही मूलभूत AI मॉडल पर निर्मित हायरिंग सॉफ्टवेयर का उपयोग करती हैं, इसलिए चिंता की बात यह है कि एक नकारात्मक ध्वज संभावित रूप से उम्मीदवार के लिए नौकरी पाना बहुत कठिन बना सकता है, केटी क्रेल ने कहा, हाल ही में एक अध्ययन के सह-लेखक ने भर्ती प्रणालियों में "एल्गोरिदमिक मोनोकल्चर" के जोखिमों की जांच की। उन्होंने कहा, "लोगों की नौकरियाँ उससे कहीं अधिक बंद होने जा रही हैं जितनी अन्यथा होती।"

आठ गुना AI ने इस मामले पर कोई टिप्पणी नहीं की।

हालांकि AI उपकरण समय बचा सकते हैं या उम्मीदवारों के कौशल का परीक्षण करने में मदद कर सकते हैं, लेकिन नियुक्ति प्रबंधकों को AI को निर्णय लेने की अनुमति नहीं देनी चाहिए, इनक्रेडिबल हेल्थ के CEO इमान अबुज़िद ने कहा, 1,500 से अधिक स्वास्थ्य सेवा नियोक्ताओं द्वारा उपयोग किया जाने वाला AI भर्ती मंच। अतुल्य स्वास्थ्य फोन साक्षात्कार करने के लिए एक AI एजेंट की पेशकश करता है, लेकिन अबुज़िद के अनुसार, AI ऑटोरिजेक्ट, स्कोर, रैंक या निर्णय नहीं लेता है कि कौन आगे बढ़ता है।

अबुज़ेद ने कहा, "यह उम्मीदवारों से जानकारी एकत्र करने के बारे में है ताकि एक इंसान निर्णय लेने के लिए बेहतर ढंग से तैयार हो सके।"

अबुज़िद ने यह भी कहा कि इनक्रेडिबल हेल्थ के लगभग 10% AI साक्षात्कारों का मानव द्वारा पूर्वाग्रह के लिए ऑडिट किया जाता है, एक ऐसी प्रक्रिया जो बढ़ती संख्या में शहरों और राज्यों के लिए एक कानूनी आवश्यकता बनती जा रही है।

न्यूयॉर्क शहर में, 2023 में प्रभावी होने वाले एक कानून के तहत नियोक्ताओं को वार्षिक पूर्वाग्रह ऑडिट करने और तकनीक के उपयोग के बारे में उम्मीदवारों को पहले से सूचित करने के लिए भर्ती में स्वचालित सिस्टम का उपयोग करने की आवश्यकता होती है। हालाँकि, कानून केवल उस सॉफ़्टवेयर पर लागू होता है जो "पर्याप्त रूप से सहायता करता है" या निर्णय लेने की जगह लेता है, उन मामलों के लिए एक बचाव का रास्ता बनाता है जहां मनुष्य प्रक्रिया का हिस्सा हैं। इलिनोइस और कोलोराडो के हालिया कानून भी नियोक्ताओं द्वारा AI टूल के उपयोग पर रोक लगाते हैं जिसके परिणामस्वरूप गैरकानूनी भेदभाव होता है।

तेजी से, शहर और राज्य के नियमों का उद्देश्य नौकरी आवेदकों को सूचित करना है कि AI का उपयोग आधारभूत आवश्यकता के रूप में किया जा रहा है। लेकिन आदर्श रूप से, उम्मीदवारों को इस बात में पारदर्शिता होगी कि उनके एल्गोरिथम डोजियर उनके बारे में क्या कहते हैं, एटफोल्ड AI के खिलाफ मुकदमे में वादी का प्रतिनिधित्व करने वाली कानूनी फर्म, आउटटेन एंड गोल्डन की पार्टनर जेनी यांग ने कहा।

"यह प्रारंभिक पारदर्शिता बेहतर ढंग से पहचानने में सहायक है कि कहां समस्याएं हो सकती हैं," यांग ने अधिसूचनाओं का जिक्र करते हुए कहा कि AI का उपयोग किया गया था। "श्रमिकों के बीच यह चिंता बढ़ रही है कि उन्हें उन कारणों से अवसर से वंचित किया जा सकता है जिन्हें कोई नहीं समझता है।"