Chapter 3: Data and Fairness in AI
एआई में डेटा की भूमिका और उसका प्रभाव
सियोल (Seoul), कोरिया की कला परियोजना:
सियोल, कोरिया में कलाकारों के एक समूह ने बादलों की ऐसी तस्वीरें एकत्र कीं जो मानवीय चेहरों से थोड़ी मिलती-जुलती थीं।
जब ये चित्र एक कृत्रिम बुद्धिमत्ता (AI) फेस-डिटेक्शन प्रोग्राम को दिए गए, तो प्रोग्राम ने सभी तस्वीरों को "चेहरा पाया गया" (Face Detected) के रूप में रिपोर्ट किया।
मनुष्य भी कभी-कभी बादलों में आकृतियां या चेहरे देखते हैं, परंतु इस प्रयोग ने एआई प्रोग्राम के प्रशिक्षण डेटा (Training Data) की एक गंभीर खामी को उजागर किया।
फेस रिकग्निशन सिस्टम के डेटासेट में हल्के रंग की त्वचा वाले पुरुषों (Lighter skin-color male) के चित्रों का अनुपात बहुत अधिक था, जिसके कारण सिस्टम में गलत भविष्यवाणी (Misprediction) की प्रवृत्ति उत्पन्न हुई।
डेटा की भूमिका से प्राप्त मुख्य निष्कर्ष:
एआई स्वतंत्र रूप से नहीं सोचता, बल्कि केवल उन्हीं पैटर्नों की खोज करता है जो उसने अपने प्रशिक्षण डेटासेट से सीखे हैं।
प्रशिक्षण डेटा सीधे तौर पर यह निर्धारित और प्रभावित करता है कि एआई क्या पहचानता है और क्या नहीं।
समाज के प्रत्येक क्षेत्र में एआई की बढ़ती भूमिका को देखते हुए, प्रशिक्षण डेटा के संतुलन (Balance in Training Data) का सूक्ष्म विश्लेषण करना अत्यंत आवश्यक है।
प्रशिक्षण डेटा में असंतुलन और पैटर्न पहचान
क्रिकेट बैट और बैडमिंटन रैकेट वर्गीकरण का उदाहरण:
यदि किसी एआई मॉडल को क्रिकेट बैट और बैडमिंटन रैकेट की पहचान करने के लिए प्रशिक्षित किया जाता है, तो उसे दोनों वस्तुओं के कई चित्र उपलब्ध कराए जाते हैं।
एआई इन छवियों का गहराई से अध्ययन करता है और विशिष्ट पैटर्नों को खोजता है:
क्रिकेट बैट के लिए: लंबा और सपाट आकार (Long, flat shape)।
बैडमिंटन रैकेट के लिए: अंडाकार फ्रेम और तार/स्ट्रिंग्स (Oval frame and strings)।
समय के साथ, इन पैटर्नों के आधार पर एआई इन दोनों वस्तुओं के बीच अंतर करना सीखता है और नए चित्रों की सही पहचान करने का प्रयास करता है।
डेटा असंतुलन का प्रभाव:
यदि प्रशिक्षण डेटासेट में बैडमिंटन रैकेट की तुलना में क्रिकेट बैट की छवियों की संख्या बहुत अधिक हो, तो नई छवि प्रस्तुत करने पर एआई अधिकांश समय क्रिकेट बैट का ही अनुमान लगाएगा।
ऐसा इसलिए होता है क्योंकि एआई इंसानों की तरह वस्तुओं के अर्थ या कार्य को नहीं समझता; यह केवल देखे गए उदाहरणों के सांख्यिकीय पैटर्नों पर निर्भर करता है।
जब कोई वस्तु प्रशिक्षण डेटा में अधिक बार दिखाई देती है, तो एआई उसे पहचानने में अधिक सक्षम हो जाता है। इसके विपरीत, जिन वस्तुओं के उदाहरण कम होते हैं, उनके लिए सटीकता घट जाती है।
छवि पहचान की समग्र सटीकता प्रशिक्षण डेटा के संतुलन पर अत्यधिक निर्भर करती है।
डेटासेट में पूर्वाग्रह (Bias) की अवधारणा और वास्तविकता
डेटासेट में पूर्वाग्रह (Bias in Dataset) की परिभाषा:
जब कोई डेटा सभी समूहों या श्रेणियों का समान रूप से प्रतिनिधित्व नहीं करता, तो उसे पूर्वाग्रह (Bias) कहा जाता है।
पूर्वाग्रह का तात्पर्य है कि डेटा असंतुलित, एकतरफा या अनुचित (Unbalanced or unfair) है।
यदि डेटा संतुलित और गुणवत्तापूर्ण है, तो एआई प्रभावी ढंग से कार्य करता है। समस्याएं तब उत्पन्न होती हैं जब कुछ समूह प्रशिक्षण में अत्यधिक प्रतिनिधित्व (Overrepresented) पाते हैं या उनका प्रतिनिधित्व बहुत कम (Underrepresented) होता है।
स्वचालित अनुवाद में लिंग रूढ़िवादिता (Gender Stereotypes in Translation):
एआई द्वारा भाषा अनुवाद में कभी-कभी समाज की लैंगिक रूढ़िवादिता प्रतिबिंबित होती है।
हिंदी वाक्य: "वह डॉक्टर है"
एआई द्वारा अंग्रेजी अनुवाद: "He is a doctor."
हिंदी वाक्य में लिंग (Gender) निर्दिष्ट नहीं है; "वह" शब्द स्त्री या पुरुष किसी के लिए भी प्रयुक्त हो सकता है। परंतु प्रशिक्षण डेटा में पुरुष डॉक्टरों के उदाहरण अधिक होने के कारण एआई ने स्वचालित रूप से पुल्लिंग सर्वनाम ("He") का चयन किया।
कंप्यूटर वैज्ञानिक जॉय बुओलामविनी (Joy Buolamwini) का शोध:
कंप्यूटर वैज्ञानिक जॉय बुओलामविनी ने प्रमुख प्रौद्योगिकी कंपनियों द्वारा विकसित फेशियल रिकग्निशन प्रणालियों का परीक्षण किया।
उन्होंने पाया कि ये सिस्टम गोरी त्वचा वाले पुरुषों (Light-skinned men) के लिए अत्यंत सटीक थे, परंतु महिलाओं और गहरी त्वचा वाले व्यक्तियों (Darker skin tones) के मामले में बार-बार त्रुटियां कर रहे थे।
इसका सीधा कारण यह था कि प्रशिक्षण डेटासेट में कुछ विशिष्ट समूहों की तस्वीरें अन्य समूहों की तुलना में काफी अधिक थीं।
एक व्यावहारिक प्रदर्शन के दौरान, जब तक जॉय बुओलामविनी ने सफेद रंग का मास्क नहीं पहना, तब तक कंप्यूटर उनके चेहरे का पता लगाने में पूरी तरह विफल रहा। इससे सिद्ध हुआ कि प्रशिक्षण डेटा में सार्वभौमिक प्रतिनिधित्व के अभाव में एआई अनुचित व्यवहार कर सकता है।
वास्तविक जीवन में एआई के उपयोग और पूर्वाग्रह के दुष्प्रभाव
एआई के प्रमुख अनुप्रयोग क्षेत्र:
वीडियो और सामग्री की सिफारिश करना (Content recommendations)।
ऋण (Loans) की स्वीकृति या अस्वीकृति का निर्णय लेना।
चिकित्सा निदान में डॉक्टरों की सहायता करना।
नौकरियों के लिए आवेदकों का चयन और स्क्रीनिंग करना।
भर्ती प्रक्रियाओं में पूर्वाग्रह (Recruitment Bias):
एक कंपनी ने कर्मचारियों की भर्ती के लिए एआई प्रोग्राम विकसित किया, जिसने पूर्व वर्षों के भर्ती डेटा से सीखा।
चूंकि पिछले वर्षों में नियुक्त किए गए अधिकांश इंजीनियर पुरुष थे, इसलिए एआई ने उन बायोडाटा (Resumes) को प्राथमिकता देना शुरू कर दिया जो पुरुष आवेदकों जैसे दिखते थे।
इस ऐतिहासिक डेटा के असंतुलन से एआई ने यह गलत निष्कर्ष निकाल लिया कि पुरुष बेहतर उम्मीदवार होते हैं, जिससे योग्य महिला उम्मीदवारों के साथ अन्याय हुआ।
खेल सिफारिश परिदृश्य (School Sports Recommendation Scenario):
एक स्कूल ने छात्रों को खेलों की सिफारिश करने के लिए ऐतिहासिक डेटा पर आधारित एआई मॉडल बनाया।
प्रशिक्षण डेटा का विवरण:
क्रिकेट: लड़के, लड़कियां।
बैडमिंटन: लड़के, लड़कियां।
इस डेटा के आधार पर एआई पैटर्न सीखता है कि अधिकांश लड़के क्रिकेट खेलते हैं और अधिकांश लड़कियां बैडमिंटन पसंद करती हैं।
जब कोई नई छात्रा स्कूल में प्रवेश लेती है, तो एआई उसकी व्यक्तिगत क्षमता या रुचि के बजाय केवल लिंग आधारित ऐतिहासिक पैटर्न के आधार पर उसे बैडमिंटन की सिफारिश करेगा, जो कि अनुचित है।
सामग्री अनुशंसा प्रणालियों में भाषाई पूर्वाग्रह:
वीडियो, संगीत या लेखों की सिफारिश करने वाले प्लेटफॉर्म उपयोगकर्ताओं के देखने, पसंद करने और साझा करने के डेटा पर निर्भर करते हैं।
कुल दृश्य संख्या (View counts) अधिक होने के कारण अंग्रेजी और हिंदी जैसी व्यापक भाषाओं के वीडियो नए उपयोगकर्ताओं को अत्यधिक सुझाए जाते हैं।
क्षेत्रीय या कम बोली जाने वाली भाषाओं की सामग्री अनुशंसाओं में बहुत कम दिखाई देती है, जिससे क्षेत्रीय भाषा के रचनाकारों की पहुंच सीमित हो जाती है।
एआई में निष्पक्षता सुनिश्चित करने के उपाय
बायस जांच (Bias Check):
एआई एल्गोरिदम का विभिन्न जनसांख्यिकीय श्रेणियों (जाति, लिंग, त्वचा का रंग, भाषा) पर कठोर परीक्षण करना ताकि यह देखा जा सके कि वह किसी वर्ग विशेष के साथ असमान व्यवहार तो नहीं कर रहा।
मानवीय पर्यवेक्षण (Human Supervision):
महत्वपूर्ण निर्णयों में एआई पर आंख मूंदकर भरोसा करने के बजाय मानवीय समीक्षा और विवेक को अनिवार्य बनाना।
पारदर्शिता (Transparency):
यह स्पष्ट रूप से समझना और समझाना कि एआई प्रणाली आंतरिक रूप से कैसे काम करती है और वह किसी विशेष निर्णय या परिणाम तक कैसे पहुंचती है।
एआई को केवल कुछ विशेषाधिकार प्राप्त समूहों के बजाय समाज के प्रत्येक व्यक्ति के कल्याण के लिए विकसित किया जाना चाहिए।
व्यावहारिक गतिविधि: सुपरवाइज्ड लर्निंग और पूर्वाग्रह परीक्षण
टीचेबल मशीन (Teachable Machine) पर मॉडल प्रशिक्षण के चरण:
वेबसाइट
https://teachablemachine.withgoogle.comपर जाएं और 'Train models on images' विकल्प चुनें।'Add samples' पर क्लिक करें, फिर 'file' और उसके बाद 'Choose files' का चयन करें।
गूगल ड्राइव में उपलब्ध 'Teachable Machines Cat-Dog Dataset' को खोजें।
'Dogs' फोल्डर में जाकर 'training dataset' चुनें। सभी छवियों को एक साथ जोड़ने के लिए 'open' पर क्लिक करें।
सभी छवियां जुड़ जाने के बाद 'Add samples' दबाएं। यही प्रक्रिया बिल्लियों (Cats) के प्रशिक्षण चित्रों के साथ दोहराएं।
अभ्यास एवं डेटासेट विश्लेषण प्रश्न:
कुत्तों (Dog) के प्रशिक्षण डेटासेट के लिए रिकॉर्ड करें:
इसमें कुल कितने चित्र शामिल हैं?
ये चित्र आपस में किस प्रकार समान हैं?
ये चित्र आपस में किस प्रकार भिन्न हैं?
बिल्लियों (Cat) के प्रशिक्षण डेटासेट के लिए रिकॉर्ड करें:
इसमें कुल कितने चित्र शामिल हैं?
ये चित्र आपस में किस प्रकार समान हैं?
ये चित्र आपस में किस प्रकार भिन्न हैं?
परीक्षण एवं पुन: संपादन प्रक्रिया (Re-curation Process):
क्लासिफायर तैयार होने के बाद, परीक्षण छवियों (Testing Images) के माध्यम से मॉडल का परीक्षण किया जाता है और प्रत्येक छवि के लिए वर्गीकरण (Classification), विश्वास स्कोर (Confidence Score), और शुद्धता (Correct?) को तालिका में दर्ज किया जाता है।
यदि क्लासिफायर किसी एक वर्ग (जैसे Dogs या Cats) पर बेहतर काम करता है, तो समूहों में मिलकर प्रशिक्षण डेटा को फिर से संतुलित (Re-curate) किया जाता है।
संतुलित डेटासेट के साथ नए क्लासिफायर को प्रशिक्षित कर पुनः जांचा जाता है कि क्या सटीकता दोनों श्रेणियों के लिए समान हुई है या किसी एक वर्ग के प्रति झुकी हुई है।
विचारणीय प्रश्न और विश्लेषणात्मक चर्चा
डेटा संतुलन और एल्गोरिदम सटीकता:
यदि प्रशिक्षण डेटा में क्रिकेट बैट के चित्र अधिक और बैडमिंटन के कम हों, तो क्या एल्गोरिदम की सटीकता क्रिकेट बैट के लिए बेहतर होगी, बैडमिंटन के लिए बेहतर होगी, या दोनों के लिए समान रहेगी?
उत्तर: क्रिकेट बैट के लिए बेहतर होगी, क्योंकि अधिक नमूनों से मॉडल ने उसके लक्षणों को अधिक दृढ़ता से सीखा है।
सिफारिश प्रणालियों में निष्पक्षता:
स्कूल के खेल डेटा परिदृश्य में, क्या एआई द्वारा की गई सिफारिश छात्र की व्यक्तिगत क्षमता पर आधारित है या केवल डेटा पैटर्न पर?
उत्तर: यह पूरी तरह से ऐतिहासिक डेटा पैटर्न पर आधारित है, न कि छात्र की वास्तविक शारीरिक या खेल क्षमता पर।
डेटा को निष्पक्ष बनाने के लिए क्या सुधार किए जा सकते हैं?
उत्तर: डेटा में लिंग के आधार पर खेलों के असंतुलन को समाप्त करना, छात्रों से उनकी व्यक्तिगत रुचियों और कौशल के सीधे इनपुट लेना, तथा नमूना आकार को संतुलित करना।
डिजिटल प्लेटफॉर्म और क्षेत्रीय विविधता:
क्या केवल लोकप्रिय भाषाओं के वीडियो सुझाने से क्षेत्रीय भाषा के रचनाकार प्रभावित होते हैं?
उत्तर: हां, क्योंकि एल्गोरिदम उनके वीडियो को नए दर्शकों तक पहुंचने से रोकता है, जिससे उनके विकास के अवसर सीमित हो जाते हैं।
प्लेटफॉर्म सभी भाषाओं का निष्पक्ष प्रतिनिधित्व सुनिश्चित करने के लिए क्या कदम उठा सकते हैं?
उत्तर: अनुशंसा एल्गोरिदम में भाषा-विशिष्ट विविधीकरण (Language Diversification) लागू करना, उपयोगकर्ता की स्थानीय प्राथमिकताओं को पहचानना, और केवल कुल व्यू काउंट के आधार पर नहीं बल्कि सामग्री की सापेक्ष सहभागिता (Engagement) के आधार पर सामग्री को बढ़ावा देना।