AI छवि-मॉडल जातिगत पूर्वाग्रह दोहरा रहे हैं, जबकि भारत के AI नियम स्वैच्छिक संहिताओं और स्व-प्रमाणन पर टिके हैं

ख़बर

नई दिल्ली। द हिंदू में श्रमिक अधिकार कार्यकर्ता रेजिमोन कुट्टप्पन तर्क देते हैं कि AI से बनी ‘1980 के दशक’ की छवियों का भारत में चला उन्माद एक छिपा हुआ जातिगत पूर्वाग्रह लिए हुए है, और AI विनियमन के प्रति सरकार का हल्का-फुल्का रुख़ उसे बिना जाँचे निकल जाने देता है। जनरेटिव छवि-मॉडल (Generative Image Models) ऐसे सॉफ़्टवेयर हैं जो लाखों मौजूदा छवियों से पैटर्न सीखने के बाद किसी पाठ-निर्देश (prompt) से चित्र बनाते हैं। रेट्रो-बॉलीवुड पोर्ट्रेट इसका सबसे पहचाना रुझान बन गया, और भारत गूगल के नैनो बनाना (Nano Banana) छवि-निर्माण मॉडल के लिए दुनिया का नंबर एक देश बन गया। लेखक पूछते हैं कि यह सौंदर्यबोध आया कहाँ से। उनके अनुसार स्रोत-सामग्री फ़िल्मों के स्टिल, पत्रिकाओं के पन्ने, स्टूडियो पोर्ट्रेट और पारिवारिक एल्बम हैं, और 1980 के दशक के भारत में ये चारों उन घरों के थे जिनके पास धन और हैसियत थी, जो भारी संख्या में सवर्ण (savarna), शहरी या भू-स्वामी थे। वे योजना आयोग के उस अनुमान का हवाला देते हैं कि 1983 में 44.5% भारतीय, यानी लगभग 32.3 करोड़ लोग, ग़रीबी रेखा से नीचे रहते थे। दलित और आदिवासी जीवन के चित्र खींचे तो गए, पर अधिकतर दूसरों द्वारा: कल्याण-फ़ाइलों के लिए राज्य द्वारा, अत्याचारों के बाद कार्यकर्ताओं द्वारा, और मानवविज्ञानियों द्वारा। वे 17 जुलाई 1985 के तटीय आंध्र प्रदेश के करमचेडु हत्याकांड से शुरुआत करते हैं, जहाँ सार्वजनिक पेयजल टंकी पर विवाद में छह मादिगा (दलित) पुरुष मारे गए, और जिसने आंध्र प्रदेश दलित महासभा को जन्म दिया। वे लिखते हैं कि ऐसे अभिलेख पर प्रशिक्षित मॉडल “चुप्पी को दोहराता है, और उसे कठोर बना देता है”। एमआईटी टेक्नोलॉजी रिव्यू के परीक्षणों में पाया गया कि GPT-5 ने 105 वाक्यों में से 80 में रूढ़िबद्ध उत्तर चुना। इस वर्ष एसीएम एफ़ैक्ट (ACM FAccT) सम्मेलन के एक अध्ययन ने नैनो बनाना के इंजन, जेमिनी के छवि-मॉडल की 1,536 छवियों का विश्लेषण किया, जो भारतीय नामों वाले निर्देशों पर बनी थीं और जिनमें कोई जाति-सूचक शब्द नहीं था; फिर भी जाति भोजन, मोहल्ले, काम और पूजा के माध्यम से उभर आई। नीति पर वे बताते हैं कि इलेक्ट्रॉनिकी एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) के AI शासन दिशानिर्देश पूर्वाग्रह और भेदभाव को जोखिम तो मानते हैं, पर स्वैच्छिक संहिताओं और स्व-प्रमाणन पर निर्भर हैं, और केंद्र ने राज्य सभा को बताया है कि इस स्तर पर किसी नए “क्षैतिज” AI क़ानून की, यानी AI के सभी उपयोगों के लिए एक क़ानून की, आवश्यकता नहीं है। ₹10,371 करोड़ का इंडियाएआई मिशन (IndiaAI Mission) “संप्रभु” मॉडलों को अनुदान देता है, और केंद्रीय मंत्री अश्विनी वैष्णव ने “अन्य मॉडलों के पूर्वाग्रह” से मुक्त भारतीय-प्रशिक्षित मॉडलों का वादा किया है। कथित तौर पर एक समिति अधिक कठोर नियमों का मसौदा बना रही है। वे MeitY और इंडियाएआई सेफ़्टी इंस्टीट्यूट से सार्वजनिक रूप से बताने को कहते हैं कि प्रशिक्षण-आँकड़ों में क्या है, उन्हें किसने लेबल किया, क्या जाति का मूल्यांकन हुआ, और वह कब प्रकाशित होगा। द इंडियन एक्सप्रेस में चीन में पूर्व राजदूत अशोक के. कांथा तर्क देते हैं कि अमेरिका-चीन AI होड़ में भारत का वज़न कंप्यूट, चिप, मॉडल, डेटासेट, प्रतिभा और अग्रणी प्रणालियों की स्वतंत्र जाँच की क्षमता पर टिका होगा। द इकोनॉमिक टाइम्स की रिपोर्ट है कि ओपनएआई उन देशों में भारत को गिनता है जिनके राष्ट्रीय AI सुरक्षा संस्थान वैश्विक मानकों में योगदान दे सकते हैं। पाठ्यक्रम से संबंध: GS3 में सूचना प्रौद्योगिकी और उभरती प्रौद्योगिकी, तथा GS1 में जाति।

स्थैतिक पाठ्यक्रम से जुड़ाव

1. जनरेटिव मॉडल सांख्यिकीय पैटर्न सीखते हैं, इसलिए वे अपने प्रशिक्षण-आँकड़ों का झुकाव विरासत में पाते हैं. जनरेटिव AI मॉडल को उदाहरणों के बहुत बड़े संग्रह पर, जैसे शीर्षक-सहित छवियों पर, प्रशिक्षित किया जाता है और वह सीखता है कि कौन-सी विशेषताएँ प्रायः साथ आती हैं; निर्देश मिलने पर वह उस सबसे संभावित परिणाम को रचता है जो उसने देखा है। उसे निष्पक्षता की कोई समझ नहीं होती, इसलिए यदि लोगों की कोई श्रेणी कम दिखती है या केवल कुछ भूमिकाओं में दिखती है, तो मॉडल उसी पैटर्न को डिफ़ॉल्ट के रूप में दोहराता है। शोधकर्ता ऐतिहासिक पूर्वाग्रह (आँकड़े अतीत के भेदभाव को ज्यों का त्यों दर्ज करते हैं), प्रतिनिधित्व पूर्वाग्रह (कुछ समूहों का कम नमूना) और लेबल पूर्वाग्रह (आँकड़ों पर टैग लगाने वाले अपनी मान्यताएँ लाते हैं) में भेद करते हैं। इसलिए एल्गोरिदमिक पूर्वाग्रह कोई कोडिंग की त्रुटि नहीं जिसे एक बार में सुधारा जा सके; उसे उस विशिष्ट समाज के लिए बनाए गए अंकेक्षणों और मूल्यांकनों से मापना पड़ता है जिसमें मॉडल का उपयोग होता है।
2. अनुच्छेद 15 और 17 तथा अत्याचार निवारण अधिनियम जातिगत भेदभाव को रुचि का विषय नहीं, संवैधानिक अपराध बनाते हैं. अनुच्छेद 15(1) राज्य को केवल धर्म, मूलवंश, जाति, लिंग या जन्म-स्थान के आधार पर भेदभाव करने से रोकता है। अनुच्छेद 15(2) और आगे जाकर इन आधारों पर दुकानों, सार्वजनिक भोजनालयों, होटलों, सार्वजनिक मनोरंजन के स्थानों तक पहुँच में, तथा राज्य-निधि से पोषित या सार्वजनिक उपयोग के लिए समर्पित कुओं, तालाबों, स्नान-घाटों और सड़कों के उपयोग में किसी भी निर्योग्यता या निर्बंधन को वर्जित करता है, और इसीलिए करमचेडु का पेयजल-टंकी विवाद एक संवैधानिक कथा है। अनुच्छेद 17 अस्पृश्यता का अंत करता है और उसके किसी भी रूप में आचरण को वर्जित करता है, और इसे सिविल अधिकार संरक्षण अधिनियम, 1955 (Protection of Civil Rights Act, 1955) से लागू किया जाता है। अनुसूचित जाति और अनुसूचित जनजाति (अत्याचार निवारण) अधिनियम, 1989 [Scheduled Castes and the Scheduled Tribes (Prevention of Atrocities) Act, 1989] ने SC और ST के विरुद्ध अत्याचारों के लिए विशिष्ट अपराध और विशेष न्यायालय बनाए।
3. भारत इंडियाएआई मिशन से AI क्षमता को वित्त देता है और उसने नए अधिनियम के बजाय दिशानिर्देशों को चुना है. केंद्रीय मंत्रिमंडल ने मार्च 2024 में पाँच वर्षों के लिए लगभग ₹10,371.92 करोड़ के परिव्यय से इंडियाएआई मिशन को मंज़ूरी दी, जिसका क्रियान्वयन MeitY करता है। इसके स्तंभों में कंप्यूटिंग क्षमता (GPU) तक अनुदानित पहुँच, स्वदेशी फ़ाउंडेशन मॉडलों का विकास, गैर-व्यक्तिगत डेटासेट का मंच, AI स्टार्ट-अप और अनुप्रयोगों को सहायता, कौशल विकास, और ‘सुरक्षित एवं विश्वसनीय AI’ घटक शामिल हैं। इसी घटक के तहत MeitY ने जनवरी 2025 में मानकों, परीक्षण और जोखिम-आकलन पर काम के लिए इंडियाएआई सेफ़्टी इंस्टीट्यूट की घोषणा की। MeitY द्वारा नवंबर 2025 में जारी भारत AI शासन दिशानिर्देशों का रुख़ यह रहा कि सूचना प्रौद्योगिकी अधिनियम, 2000 (Information Technology Act, 2000) और डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 (Digital Personal Data Protection Act, 2023) जैसे मौजूदा क़ानून अभी अधिकांश AI-हानियों को संबोधित कर सकते हैं, जिन्हें अलग AI क़ानून के बजाय स्वैच्छिक प्रतिबद्धताओं और संस्थागत समन्वय का सहारा है।
4. यूनेस्को की 2021 की सिफ़ारिश और यूरोपीय संघ का AI अधिनियम AI में निष्पक्षता पर दो वैश्विक संदर्भ-बिंदु हैं. कृत्रिम बुद्धिमत्ता की नैतिकता पर यूनेस्को की सिफ़ारिश (UNESCO Recommendation on the Ethics of Artificial Intelligence), जो नवंबर 2021 में उसके आम सम्मेलन द्वारा अपनाई गई, AI नैतिकता पर पहला वैश्विक मानक-निर्धारक दस्तावेज़ था; वह निष्पक्षता और अभेदभाव, पारदर्शिता तथा मानवीय निगरानी को अपने मूल सिद्धांतों में गिनता है और राज्यों से नैतिक प्रभाव आकलन कराने को कहता है। यह बाध्यकारी नहीं है। यूरोपीय संघ का कृत्रिम बुद्धिमत्ता अधिनियम (Artificial Intelligence Act), जो 2024 में लागू हुआ, बाध्यकारी और जोखिम-आधारित है: वह कुछ ‘अस्वीकार्य-जोखिम’ उपयोगों पर प्रतिबंध लगाता है, ‘उच्च-जोखिम’ प्रणालियों पर कड़े दायित्व डालता है, जिनमें संभावित पूर्वाग्रहों के लिए प्रशिक्षण-आँकड़ों की जाँच हेतु डेटा-शासन शामिल है, और AI-निर्मित सामग्री पर लेबल जैसी पारदर्शिता माँगता है। भारत का रुख़ इन दोनों के बीच है: घोषित सिद्धांत, पर अनुपालन मुख्यतः स्वैच्छिक।

UPSC इसे क्यों पूछता है

1. GS3 में IT, कंप्यूटर और नई प्रौद्योगिकी के सामाजिक प्रभावों पर प्रश्न आते हैं. GS3 के पाठ्यक्रम में IT और कंप्यूटर के क्षेत्रों में जागरूकता तथा बौद्धिक संपदा से जुड़े मुद्दे शामिल हैं, और UPSC ने शासन, स्वास्थ्य और सुरक्षा में कृत्रिम बुद्धिमत्ता की संभावनाओं और जोखिमों पर बार-बार पूछा है। अपेक्षित उत्तर अब उपयोगों की सूची से हटकर पूर्वाग्रह, निजता और जवाबदेही जैसे जोखिमों को तौलने तक पहुँच गया है। यह ख़बर पूर्वाग्रह का ठोस भारतीय उदाहरण देती है, जिसकी अधिकांश उत्तरों में कमी रहती है।
2. जाति पर GS1 और निष्पक्षता पर GS4 इसे अंतर-प्रश्नपत्र केस-अध्ययन बनाते हैं. GS1 भारतीय समाज की मुख्य विशेषताओं, सामाजिक सशक्तीकरण और नए रूपों में जाति की निरंतरता पर पूछता है। GS4 के केस-अध्ययन अब अधिकाधिक प्रौद्योगिकी और निष्पक्षता को छूते हैं। जो अभ्यर्थी समझा सके कि पुराना सामाजिक बहिष्करण एल्गोरिदम के रास्ते समाज में कैसे लौटता है, वह वही उदाहरण प्रौद्योगिकी और समानता पर निबंध में भी प्रयोग कर सकता है।
3. प्रारंभिक परीक्षा भारत की AI संस्थाओं और संवैधानिक आधारों को परखती है. सरकारी मिशनों और उनके मंत्रालयों, तथा अनुच्छेद 15 और 17 पर प्रश्न आम बात हैं। इस ख़बर से इंडियाएआई मिशन, इंडियाएआई सेफ़्टी इंस्टीट्यूट और यूनेस्को की सिफ़ारिश प्रारंभिक परीक्षा के स्वाभाविक लक्ष्य हैं, साथ ही बाध्यकारी क़ानून और दिशानिर्देशों का अंतर भी।

विश्लेषण

1. यह चूक से उपजा पूर्वाग्रह है, और सामान्य सुरक्षा-फ़िल्टर इसे पकड़ने के लिए बने ही नहीं हैं. सामग्री-नियंत्रण में अधिकांश AI सुरक्षा-कार्य विषैले परिणाम खोजता है: गालियाँ, हिंसा, अश्लील सामग्री। लेखक जिस समस्या का वर्णन करते हैं वह अधिक शांत है। जब 1980 के दशक के परिवार का निर्देश केवल उच्च-जातीय परिवेश लौटाता है, तो कुछ आपत्तिजनक रचा नहीं गया, फिर भी अतीत की तस्वीर से एक पूरी आबादी बाहर छूट गई। फ़िल्टर किसी अनुपस्थिति को चिह्नित नहीं कर सकते। उसे पकड़ने के लिए प्रतिनिधित्व-अंकेक्षण चाहिए, जिनमें मॉडल को नामों, क्षेत्रों और व्यवसायों वाले निर्देशों से परखा जाता है और उसके परिणामों की व्यवस्थित तुलना होती है, जैसा FAccT अध्ययन ने किया। यह एक मापन-कार्य है जिसे मानकीकृत करने की स्थिति में सेफ़्टी इंस्टीट्यूट जैसी सार्वजनिक संस्था है।
2. ‘संप्रभु’ मॉडल डिफ़ॉल्ट रूप से पूर्वाग्रह-मुक्त नहीं होंगे; वे ग़लत ढंग से अधिक जाति-सचेत हो सकते हैं. मंत्री का यह वादा कि भारतीय-प्रशिक्षित मॉडल अन्य मॉडलों का पूर्वाग्रह नहीं ढोएँगे, यह मानकर चलता है कि समस्या विदेशी आँकड़ों की है। पर भारतीय फ़िल्मों, वैवाहिक विज्ञापनों, समाचार-अभिलेखों और सोशल मीडिया पर प्रशिक्षित भारतीय मॉडल जाति-संकेतों को अधिक सटीकता से सीख सकता है, क्योंकि इन स्रोतों में वे भरे पड़े हैं। स्थानीय प्रशिक्षण तभी अवसर है जब आँकड़ों को जानबूझकर कम-प्रतिनिधित्व वाली भाषाओं और समुदायों को शामिल करते हुए सँवारा जाए और परिणामों की जाँच हो। प्रकाशित मूल्यांकन के बिना दावे की परख नहीं हो सकती, और लेखक का यही मुद्दा है जब वे पूछते हैं कि कौन-सा पूर्वाग्रह और जाँचा कैसे गया।
3. प्रकटीकरण की अनिवार्यता भारी AI क़ानून और विशुद्ध स्व-प्रमाणन के बीच का मध्यम मार्ग है. दिशानिर्देशों के पक्ष में सरकार का तर्क उचित है: व्यापक क्षैतिज क़ानून स्टार्ट-अप पर बोझ डाल सकता है, प्रौद्योगिकी से पिछड़ सकता है और IT अधिनियम तथा डेटा संरक्षण क़ानून की पुनरावृत्ति कर सकता है। पर स्व-प्रमाणन का अर्थ है कि कंपनी अपनी कॉपी ख़ुद जाँचती है। लेखक के चार प्रश्न एक हल्के साधन की ओर इशारा करते हैं: बड़े पैमाने पर या सरकार द्वारा उपयोग किए जाने वाले मॉडलों के लिए यह सार्वजनिक प्रकटीकरण अनिवार्य हो कि प्रशिक्षण किन आँकड़ों पर हुआ, उन्हें किसने लेबल किया और कौन-से निष्पक्षता परीक्षण चले। प्रकटीकरण डिज़ाइन नहीं थोपता, फिर भी शोधकर्ताओं, न्यायालयों और उपयोगकर्ताओं को कंपनियों को जवाबदेह ठहराने देता है। विपरीत मत यह है कि प्रशिक्षण-आँकड़े व्यावसायिक रूप से संवेदनशील होते हैं, जिसे जनता के बजाय नियामक को प्रकटीकरण से सँभाला जा सकता है।
4. अदृश्य लेबलकर्ता समस्या का हिस्सा भी है और समाधान का भी. आँकड़ों की लेबलिंग, जो प्रायः प्रति-कार्य भुगतान पाने वाले कामगार करते हैं, तय करती है कि मॉडल किसे ‘पर्याप्त भारतीय’ या ‘सामान्य’ मानता है। यदि लेबलकर्ताओं ने कभी बस्ती या कॉलोनी नहीं देखी, तो वे पहचान नहीं सकते कि मॉडल उसे ग़लत ढंग से दिखा रहा है। यह AI निष्पक्षता को श्रम नीति से जोड़ता है: लेबलिंग-कार्यबल की संरचना, प्रशिक्षण और वेतन परिणामों की गुणवत्ता को आकार देते हैं। सार्वजनिक सेवाओं में लगाए जाने वाले मॉडलों के लिए दलित और आदिवासी समीक्षकों सहित विविध मूल्यांकन-पैनल अनिवार्य करना एक व्यावहारिक क़दम होगा। इससे उन क्षेत्रों और समुदायों में कुशल रोज़गार भी बनता है जिन्हें AI अर्थव्यवस्था अब तक छोड़ती आई है।
5. कांथा का घर में निर्माण का पक्ष इस पर नियंत्रण का भी पक्ष है कि किसके मूल्य भीतर गढ़े जाएँ. कांथा भू-राजनीति से तर्क देते हैं: भारत को अमेरिकी या चीनी AI स्टैक, किसी पर भी निर्भरता से बचना चाहिए और कंप्यूट, मॉडल, डेटासेट तथा स्वतंत्र परीक्षण क्षमता बनानी चाहिए। जाति-पूर्वाग्रह की बहस उसी निष्कर्ष के लिए सामाजिक कारण देती है। जो देश केवल मॉडल आयात करता है, वह उनके निर्माताओं के मूल्यांकन-संबंधी चुनाव भी आयात करता है, जिनके पास जाति की जाँच करने का कोई कारण नहीं। इसलिए स्वतंत्र परीक्षण क्षमता केवल सुरक्षा की संपदा नहीं, बल्कि इस बात की गारंटी भी है कि भारतीय संवैधानिक मूल्यों, जिनमें अनुच्छेद 15 और 17 शामिल हैं, की परख उन मशीनों पर की जा सके जिनका भारतीय उपयोग करते हैं।

प्रशासक की दृष्टि