भेद भरा भयावह बाजार : बुद्धिहीन बुद्धिमत्ता का व्यापार

कृत्रिम बुद्धिमत्ता के बारे में अक्सर यह कहा जाता है कि यह भविष्य की तकनीक है, लेकिन संयुक्त राष्ट्र की हालिया चेतावनियों ने यह स्पष्ट कर दिया है कि यदि इसे जानबूझकर सुधारा नहीं गया तो यह भविष्य नहीं, बल्कि अतीत के भेदभाव को ही नई गति दे देगी। यह वह मूल विचार है जिसे यूएन वुमेन और संयुक्त राष्ट्र की विभिन्न एजेंसियों ने अपने नवीनतम आकलनों में उठाया है। आज जब जनरेटिव एआई करोड़ों लोगों के रोजमर्रा के जीवन का हिस्सा बन गया है, ईमेल लिखने से लेकर कैंपेन बनाने तक, तो उसके साथ असमानताएं भी एल्गोरिदम के जरिए मजबूत हो रही हैं।

समस्या कितनी व्यापक है, इसका अंदाजा एक अध्ययन से लगता है जिसमें 133 एआई प्रणालियों की जांच की गई। इस अध्ययन में पाया गया कि 44 प्रतिशत ने लैंगिक पूर्वाग्रह दिखाया, जबकि एक चौथाई से अधिक ने लैंगिक और नस्लीय दोनों तरह का पूर्वाग्रह दिखाया। बड़े भाषा मॉडल ने बार-बार महिलाओं को घर, परिवार और बच्चों की देखभाल से जोड़ा, जबकि पुरुषों को व्यापार, नेतृत्व और करियर की सफलता से जोड़ा। कुछ मामलों में तो एआई प्रणालियों ने महिलाओं को यौन वस्तु के रूप में या पुरुषों के अधीन के रूप में चित्रित करने वाले जवाब भी दिए। जब शोधकर्ताओं ने बड़े भाषा मॉडलों से केवल एक व्यक्ति के लिंग से शुरू होने वाले वाक्य को पूरा करने के लिए कहा, तो पांच में से लगभग एक जवाब लैंगिक या स्त्री-द्वेषी वापस आया। कुछ ने तो महिलाओं को संपत्ति, वस्तु के रूप में वर्णित किया। 8630366130264604318

ये परिणाम आकस्मिक त्रुटियां नहीं हैं। विशेषज्ञों का कहना है कि ये यादृच्छिक त्रुटियां या एआई में गड़बड़ी नहीं हैं, बल्कि बड़े पैमाने पर प्रणालियों में प्रलेखित एक पैटर्न हैं। ये दशकों से महिलाओं और पुरुषों के असमान प्रतिनिधित्व पर प्रशिक्षित एआई प्रणालियों का पूर्वानुमानित परिणाम हैं। यूएन वुमेन की डिजिटल तकनीकों की प्रमुख जयथमा विक्रमनायके ने इसे बहुत सटीकता से समझाया कि एआई मॉडल दशकों से लोगों द्वारा, लोगों के बारे में लिखे गए पाठ से पूर्वाग्रह खींचते हैं, ऐसी दुनिया में जहां महिलाओं को घर और परिवार के तहत फाइल किया गया था, और पुरुषों को व्यापार और करियर के तहत फाइल किया गया था। 8630366130264604318

इसीलिए संयुक्त राष्ट्र के कार्य समूह ने चेतावनी दी है कि कृत्रिम बुद्धिमत्ता और संबंधित डिजिटल प्रौद्योगिकियों का तेजी से विस्तार बिना सार्थक विनियमन के मौजूदा लैंगिक असमानताओं को और गहरा कर सकता है और दुनिया भर में महिलाओं और लड़कियों के मानवाधिकारों के लिए नए जोखिम पैदा कर सकता है। कार्य समूह ने कहा कि बिना सोची-समझी, लैंगिक-उत्तरदायी शासन व्यवस्था के, ये प्रणालियां बहिष्कार को बढ़ाने, हानिकारक रूढ़ियों को मजबूत करने और संरचनात्मक असमानताओं को बढ़ाने का जोखिम उठाती हैं। जब लैंगिक जोखिमों की पहचान के बिना एआई उपकरणों को डिजाइन और अपनाया जाता है, तो वे महिलाओं और लड़कियों की सार्वजनिक जीवन में पूर्ण भागीदारी में महत्वपूर्ण बाधाएं बन सकते हैं। 3666582837712571118

यह जोखिम केवल प्रतिनिधित्व तक सीमित नहीं है। विशेषज्ञों ने संयुक्त राष्ट्र की तीसरी समिति को संबोधित करते हुए चेतावनी दी थी कि एआई गोपनीयता और एल्गोरिदम में निहित भेदभाव के जोखिम के बारे में गहरे नैतिक सवाल उठाता है। बिना पर्याप्त निगरानी के, एआई ने शैक्षिक परिणामों को हानिकारक रूप से प्रभावित किया है, विशेष रूप से जब निर्णय एआई द्वारा संचालित या लिए जाते हैं। यह बात शिक्षा के साथ-साथ रोजगार, आवास और न्याय तक पहुंच जैसे क्षेत्रों पर भी लागू होती है, जहां एआई अब निर्णय लेने लगा है। 2125680503835568758

इसका सबसे चिंताजनक पहलू यह है कि इसे ठीक करने की राजनीतिक इच्छाशक्ति अभी भी कमजोर है। दुनिया भर में मूल्यांकन किए गए 138 देशों में से केवल 24 ने अपनी राष्ट्रीय एआई रणनीतियों में लिंग का उल्लेख किया, और केवल 18 ने ठोस लैंगिक-उत्तरदायी उपाय शामिल किए। यूएन वुमेन की विशेषज्ञ के अनुसार यह अगले अपडेट में ठीक होने वाले बग का इंतजार नहीं है, यह एक विकल्प है जो हम प्रशिक्षण डेटा में, डिजाइन रूम में, उन नीति दस्तावेजों में बार-बार चुनते हैं जो आधी आबादी पर चुप रहते हैं। 8630366130264604318

इस चुप्पी की एक वजह यह भी है कि इस तकनीक को बनाने वाले लोग ही एकांगी हैं। हालांकि एआई से प्रौद्योगिकी-केंद्रित क्षेत्रों में विकास की उम्मीद है, अंतरराष्ट्रीय श्रम संगठन के अनुसार वैश्विक एआई कार्यबल में महिलाओं की हिस्सेदारी केवल 30 प्रतिशत है। यूएन वुमेन चेतावनी देता है कि इन प्रणालियों का निर्माण करने वाले लोग उन आबादी की विविधता को पर्याप्त रूप से प्रतिबिंबित नहीं करते जिनकी सेवा के लिए वे हैं। महिलाओं और अन्य कम प्रतिनिधित्व वाले समूहों की अधिक भागीदारी के बिना, मौजूदा पूर्वाग्रह भविष्य की तकनीकों में अंतर्निहित होने का जोखिम रखते हैं। 8630366130264604318

इसके परिणाम केवल ऑनलाइन रूढ़िवादिता तक सीमित नहीं हैं। कई महिलाओं और लड़कियों के लिए जोखिम रूढ़ियों से आगे बढ़कर हिंसा तक पहुंच गया है। महिलाएं पहले से ही ऑनलाइन दुर्व्यवहार के असंगत स्तर का सामना करती हैं, और एआई कुछ प्रकार की हिंसा को बनाना और फैलाना आसान बना रहा है। यूएन वुमेन के आंकड़ों के अनुसार सर्वेक्षण में शामिल लगभग चार में से एक महिला मानवाधिकार रक्षकों, कार्यकर्ताओं और पत्रकारों ने एआई-सहायता प्राप्त ऑनलाइन हिंसा का अनुभव करने की सूचना दी। बारह प्रतिशत ने कहा कि व्यक्तिगत छवियां उनकी सहमति के बिना साझा की गईं, जबकि छह प्रतिशत ने डीपफेक या हेरफेर की गई छवियों और वीडियो द्वारा लक्षित होने की सूचना दी।

आर्थिक प्रभाव भी असमान रूप से पड़ रहा है। महिलाएं एआई क्षेत्र के बाहर भी स्वचालन के उच्च जोखिम वाली नौकरियों में पुरुषों की तुलना में लगभग दोगुनी संभावना रखती हैं। यह प्रभाव नस्ल, विकलांगता, आय और भूगोल सहित अन्य कारकों से और बढ़ सकता है। जैसे-जैसे एआई श्रम बाजारों को बदल रहा है, यूएन वुमेन चेतावनी देता है कि जो समुदाय पहले से ही बहिष्कार का सामना कर रहे हैं, वे लक्षित कार्रवाई न होने पर और पीछे धकेले जा सकते हैं।

फिर भी संयुक्त राष्ट्र का संदेश केवल निराशावादी नहीं है। वह कहता है कि जब जिम्मेदारी से विकसित किया जाता है, तो कृत्रिम बुद्धिमत्ता रूढ़ियों की पहचान करने, प्रतिनिधित्व का विस्तार करने और पहुंच में सुधार करने में मदद कर सकती है। लेकिन क्या ये लाभ प्राप्त होंगे, यह इस बात पर निर्भर करेगा कि प्रणालियों को आकार देने में कौन शामिल है और किसके अनुभव उनके डिजाइन में परिलक्षित होते हैं। यूएन वुमेन ने सरकारों, कंपनियों और डेवलपर्स से आग्रह किया है कि वे लैंगिक समानता को एआई प्रणालियों के डिजाइन, तैनाती और शासन में बनाया जाना सुनिश्चित करें।

अंततः यह एक नीतिगत विकल्प का प्रश्न है। एआई पुराने भेदभाव को नई गति देगा या पुरानी असमानताओं को ठीक करने का औजार बनेगा, यह इस बात पर निर्भर करता है कि क्या हम जानबूझकर सुधार करते हैं। बिना जानबूझकर किए गए सुधार के, यह वही करेगा जो उसे सिखाया गया है – अतीत को भविष्य में दोहराना, केवल अधिक तेजी से, अधिक पैमाने पर और बिना मानवीय जांच के।

— डॉ. शैलेश शुक्ला