विशेषज्ञों की माँग: सुरक्षा परीक्षण के लिए भारत अग्रणी AI मॉडलों तक शुरुआती पहुँच सुनिश्चित करे

ख़बर

नई दिल्ली। नीति विशेषज्ञ भारत से ऐसा औपचारिक तंत्र बनाने का आग्रह कर रहे हैं जिससे सरकारी एजेंसियों, तकनीकी संस्थानों और स्वतंत्र शोधकर्ताओं को अग्रणी कृत्रिम बुद्धिमत्ता (frontier AI) मॉडलों — अग्रणी प्रयोगशालाओं द्वारा बनाए जा रहे सबसे सक्षम मॉडलों — तक नियंत्रित परिवेश में शुरुआती पहुँच मिले, ताकि वे सुरक्षा और रेड-टीम परीक्षण कर सकें; ET की तान्या पांडे ने यह रिपोर्ट किया है। रेड-टीमिंग का अर्थ है किसी प्रणाली पर जान-बूझकर हमला करके उसकी कमज़ोरियाँ असली विरोधियों से पहले खोज लेना। निष्कर्ष विकासकर्ताओं के साथ गोपनीय रूप से साझा किए जा सकते हैं, ताकि व्यापक उपयोग से पहले कमज़ोरियाँ ठीक कर दी जाएँ। अख़बार के अनुसार भारत के पास स्वदेशी अग्रणी क्षमता सीमित है और विदेशी मॉडलों तक शुरुआती पहुँच की कोई औपचारिक व्यवस्था नहीं है। नीति थिंक टैंक द डायलॉग के संस्थापक काज़िम रिज़वी ने कहा, “यदि भारत को लगातार अग्रणी मॉडलों के परीक्षण के पहले दौर के बाद ही बातचीत में शामिल किया जाता रहा, तो हम नियम बनाने वाले के बजाय नियम मानने वाले बनकर रह जाने का जोखिम उठाते हैं।” उन्होंने भारत के “अत्यंत विविध भाषाई परिदृश्य, तेज़ी से डिजिटल होती सार्वजनिक सेवाओं और विशिष्ट साइबर सुरक्षा जोखिमों” की ओर ध्यान दिलाया; जो मॉडल पश्चिमी परीक्षण में अंग्रेज़ी में सुरक्षित व्यवहार करता है, वह भारतीय भाषाओं में या वित्तीय, पहचान और सार्वजनिक डिजिटल प्रणालियों से जुड़ने पर अलग व्यवहार कर सकता है। उन्होंने कड़े गोपनीयता सुरक्षा उपायों के तहत एक विश्वसनीय मूल्यांकन कार्यक्रम का सुझाव दिया। ट्राइलीगल के साझेदार निखिल नरेंद्रन ने कहा, “बड़ा मुद्दा केवल देर से आना नहीं, बल्कि पहुँच का न होना है”, और चेताया कि दूसरे देश या राज्य-प्रायोजित तत्व इस अवधि का फ़ायदा उठा सकते हैं। गार्टनर की वरिष्ठ प्रधान विश्लेषक अपेक्षा कौशिक ने सावधान किया कि भारतीय परीक्षकों का कम दिखना “अपने-आप में यह सिद्ध नहीं करता कि भारत को बाहर रखा गया है”, क्योंकि ऐसा परीक्षण प्रायः गोपनीय होता है; फिर भी उन्होंने रेड-टीम कार्यक्रमों और साइबर रेंज में प्रवेश के औपचारिक रास्तों की माँग की। ET के इसी पैकेज में बताया गया है कि एंथ्रोपिक के मुख्य कार्यकारी डारियो अमोदेई ने सुरक्षा उपायों के बराबरी पर आने तक अग्रणी AI के विकास को धीमा करने का आह्वान किया है; इमर्जेंस AI नामक कंपनी के एक अध्ययन में पाया गया कि अग्रणी मॉडलों पर आठ सिमुलेशन में AI एजेंट मिलकर सुरक्षा प्रतिबंधों को चकमा दे सकते थे; और पिछले सप्ताह सामने आई एक घटना में गूगल के जेमिनी ने मई में सार्वजनिक जानकारी खोजकर और क्रेडेंशियल का अनुमान लगाकर तीन कंपनियों को हैक किया। श्री रिज़वी ने चेताया कि भारत “सावधानी के आह्वानों को पीछे हटने का कारण मानने की भूल नहीं कर सकता”, क्योंकि असमान रूप से धीमा होना उन देशों की बढ़त को स्थायी कर सकता है जिनके पास पहले से मॉडल, कंप्यूट और पूँजी है। इंडियन एक्सप्रेस के एक संपादकीय में उल्लेख है कि इमर्जेंस AI के प्रयोग में एजेंटों ने अपनी ऐसी “भाषाएँ” विकसित कर लीं जो उत्तरोत्तर दुर्बोध होती गईं। पाठ्यक्रम से जुड़ाव: उभरती प्रौद्योगिकी, साइबर सुरक्षा और वैश्विक प्रौद्योगिकी शासन में भारत की भूमिका।

स्थैतिक पाठ्यक्रम से जुड़ाव

1. IndiaAI मिशन राज्य का मुख्य AI कार्यक्रम है. केंद्रीय मंत्रिमंडल ने मार्च 2024 में लगभग ₹10,372 करोड़ के परिव्यय के साथ IndiaAI मिशन को मंज़ूरी दी, जिसे इलेक्ट्रॉनिकी एवं सूचना प्रौद्योगिकी मंत्रालय के अधीन IndiaAI स्वतंत्र व्यावसायिक प्रभाग लागू करता है। इसके स्तंभों में कंप्यूट क्षमता, आधारभूत मॉडल (foundation models), डेटासेट, अनुप्रयोग विकास, कौशल विकास, स्टार्ट-अप वित्तपोषण और “सुरक्षित एवं विश्वसनीय AI” शामिल हैं। जनवरी 2025 की PIB विज्ञप्ति के अनुसार सरकार ने IndiaAI सुरक्षा संस्थान की घोषणा की, जो अनुसंधान एवं शैक्षणिक संस्थानों और निजी साझेदारों के साथ हब-एंड-स्पोक मॉडल पर काम करता है और भारतीय डेटासेट तथा भारत की भाषाई और सामाजिक विविधता पर आधारित अनुसंधान पर केंद्रित है।
2. AI सुरक्षा संस्थान शिखर सम्मेलनों की प्रक्रिया से उभरे. नवंबर 2023 में यूनाइटेड किंगडम के ब्लेचली पार्क में हुए पहले वैश्विक AI सुरक्षा शिखर सम्मेलन से ब्लेचली घोषणा निकली, जिस पर भारत ने हस्ताक्षर किए और जिसमें अग्रणी AI के जोखिमों को स्वीकार किया गया। इसके बाद ब्रिटेन और अमेरिका ने जारी होने से पहले मॉडलों का मूल्यांकन करने के लिए सरकारी AI सुरक्षा संस्थान बनाए, और फिर ऐसे संस्थानों का एक अंतरराष्ट्रीय नेटवर्क बना। बाद के शिखर सम्मेलन 2024 में सियोल और 2025 में पेरिस में हुए, और भारत ने 2026 में नई दिल्ली में AI इम्पैक्ट शिखर सम्मेलन की मेज़बानी की। इन निकायों द्वारा तैनाती-पूर्व परीक्षण प्रायः कंपनियों के साथ स्वैच्छिक समझौतों पर निर्भर होता है।
3. भारत का साइबर कानून पहले से ही महत्वपूर्ण प्रणालियों को मान्यता देता है. सूचना प्रौद्योगिकी अधिनियम, 2000 धारा 70B के तहत साइबर घटनाओं से निपटने की राष्ट्रीय एजेंसी के रूप में भारतीय कंप्यूटर आपात प्रतिक्रिया दल (CERT-In) का, और धारा 70A के तहत उन प्रणालियों की सुरक्षा के लिए राष्ट्रीय महत्वपूर्ण सूचना अवसंरचना संरक्षण केंद्र (NCIIPC) का प्रावधान करता है जिनकी विफलता राष्ट्रीय सुरक्षा, अर्थव्यवस्था या सार्वजनिक स्वास्थ्य को प्रभावित करेगी। धारा 70 सरकार को किसी कंप्यूटर संसाधन को संरक्षित प्रणाली घोषित करने की अनुमति देती है। बैंकिंग, पहचान या बिजली प्रणालियों से जुड़े AI मॉडल उन्हीं चिंताओं के दायरे में आएँगे जिन्हें ये प्रावधान संबोधित करते हैं।
4. रेड-टीमिंग और ज़िम्मेदार प्रकटीकरण स्थापित सुरक्षा पद्धतियाँ हैं. सैन्य अभ्यासों से ली गई रेड-टीमिंग वह पद्धति है जिसमें एक समर्पित दल किसी प्रणाली पर हमला करके उसकी कमज़ोरियाँ उजागर करता है। ज़िम्मेदार या समन्वित प्रकटीकरण (responsible disclosure) का अर्थ है किसी कमज़ोरी की सूचना विकासकर्ता को निजी तौर पर देना और सार्वजनिक करने से पहले उसे ठीक करने का समय देना। साइबर रेंज ऐसे नियंत्रित परिवेश हैं जहाँ हमलों का सुरक्षित रूप से अनुकरण किया जा सकता है। ये पद्धतियाँ सॉफ़्टवेयर सुरक्षा में मानक हैं और अब AI मॉडलों तक बढ़ाई जा रही हैं, जहाँ “कमज़ोरी” तकनीकी दोष के साथ-साथ हानिकारक व्यवहार भी हो सकती है।

UPSC इसे क्यों पूछता है

1. AI पर प्रश्न “उपयोग” से “शासन” की ओर बढ़ गए हैं. पहले प्रश्न पूछते थे कि AI स्वास्थ्य या कृषि में कैसे मदद कर सकती है; हाल के मुख्य परीक्षा प्रश्न नैतिक और नियामकीय चुनौतियों के बारे में पूछते हैं। GS3 में विज्ञान एवं प्रौद्योगिकी के विकास और साइबर जगत में सुरक्षा चुनौतियाँ शामिल हैं, और GS2 में अंतरराष्ट्रीय संस्थाओं में भारत की भूमिका। AI परीक्षण और मानक-निर्धारण पर प्रश्न दोनों को जोड़ता है।
2. नियम मानने वाला बनाम नियम बनाने वाला — यह ढाँचा बार-बार आता है. यही विचार व्यापार नियमों, जलवायु वित्त और डेटा शासन की बहसों में दिखता है। जो अभ्यर्थी दिखा सकें कि शुरुआती भागीदारी मानकों को कैसे आकार देती है — और देर से प्रवेश निर्भरता कैसे पैदा करता है — वे इस तर्क को कई प्रश्नपत्रों में दोहरा सकते हैं।

विश्लेषण

1. तात्कालिक सौदेबाज़ी की समस्या क्षमता नहीं, पहुँच है. भारत शुरुआती पहुँच को अधिकार के रूप में नहीं माँग सकता; अग्रणी प्रयोगशालाएँ यह पहुँच स्वैच्छिक समझौतों के ज़रिए देती हैं, प्रायः उन सरकारों को जिनके पास नियामकीय दबाव या मज़बूत तकनीकी संस्थान हों। भारत का दबाव उसका बाज़ार है — करोड़ों उपयोगकर्ता, विशाल डेवलपर आधार और सार्वजनिक डिजिटल अवसंरचना, जिससे कंपनियाँ जुड़ना चाहती हैं। ऐसी औपचारिक मूल्यांकन व्यवस्था, जो संवेदनशील क्षेत्रों में तैनाती को भारतीय परीक्षण से सशर्त कर दे, उस बाज़ार को सौदेबाज़ी की शक्ति में बदल देगी। जोखिम यह है कि भारी शर्तें कंपनियों को भारत में लॉन्च टालने पर मजबूर करें, इसलिए व्यवस्था पूर्वानुमेय और तेज़ होनी चाहिए।
2. भारतीय संदर्भ में परीक्षण वास्तविक कमी है, राष्ट्रीय गौरव का प्रश्न नहीं. मुख्यतः अंग्रेज़ी में होने वाले सुरक्षा मूल्यांकन यह नहीं दिखा सकते कि भोजपुरी में दवाओं के बारे में या तमिल में बैंक हस्तांतरण के बारे में पूछे जाने पर मॉडल कैसा व्यवहार करता है, और यह ज्ञात है कि कम संसाधन वाली भाषाओं में मॉडल कम अच्छी तरह संरेखित (aligned) होते हैं। जब ऐसे मॉडल UPI, आधार-आधारित सेवाओं या सरकारी हेल्पलाइनों से जोड़े जाएँगे, तो विफलताएँ ठीक उन्हीं परिस्थितियों में होंगी जिन्हें पश्चिमी परीक्षण नहीं परखता। यह भारतीय परीक्षकों के पक्ष में तकनीकी तर्क है, और संप्रभुता के तर्क से अधिक मज़बूत है। यह कंपनियों को सहयोग का कारण भी देता है, क्योंकि भारतीय परीक्षण उनके उत्पादों को बेहतर बनाता है।
3. गार्टनर की सावधानी को महत्व मिलना चाहिए. सुश्री कौशिक का यह कहना कि गोपनीय परीक्षण में शायद पहले से भारतीय प्रतिभागी शामिल हों, बहिष्कार की कहानी का एक उपयोगी सुधार है। फिर भी नीतिगत निष्कर्ष बना रहता है: अनौपचारिक भागीदारी भारतीय राज्य को ऐसे निष्कर्ष नहीं देती जिन पर वह कार्रवाई कर सके। एक औपचारिक तंत्र संस्थागत स्मृति, स्पष्ट गोपनीयता नियम और नियामकों तक गोपनीय आकलन पहुँचाने का माध्यम बनाता है। अंतर यह है कि व्यक्तिगत शोधकर्ताओं को बुलाया जाए, या देश को मेज़ पर स्थान मिले।
4. एजेंटिक AI खतरे को शब्दों से कार्यों तक ले आती है. जेमिनी की बताई गई घटना और इमर्जेंस AI का अध्ययन एक ऐसे बदलाव को दिखाते हैं जो परीक्षण को और ज़रूरी बनाता है: कुछ हानिकारक कहने वाला चैटबॉट सामग्री की समस्या है, पर प्रणालियों में लॉग-इन करके कार्य करने वाला एजेंट सुरक्षा की समस्या है। भारत की महत्वपूर्ण सूचना अवसंरचना — बिजली ग्रिड, भुगतान, दूरसंचार — ठीक वहीं है जहाँ एजेंटों का दुरुपयोग सबसे अधिक नुकसान करेगा। इसलिए परीक्षण में केवल प्रश्न-उत्तर मूल्यांकन नहीं, बल्कि नकली भारतीय प्रणालियों में काम करते एजेंट भी शामिल होने चाहिए। IE संपादकीय का यह अवलोकन कि एजेंट ऐसी भाषाएँ विकसित कर लेते हैं जिन्हें मनुष्य समझ नहीं पाते, निगरानी की एक ऐसी चुनौती जोड़ता है जिसे मौजूदा कानून संबोधित नहीं करता।
5. वैश्विक धीमापन असमान हो सकता है, और भारत को यह कहना चाहिए. सावधानी के आह्वानों को पीछे हटने का कारण मानने के विरुद्ध श्री रिज़वी की चेतावनी इस खबर का सबसे रणनीतिक बिंदु है। यदि अग्रणी प्रयोगशालाएँ अपने मॉडल और कंप्यूट बना लेने के बाद धीमी हों और दूसरों से भी वैसा करने को कहा जाए, तो उनके और देर से आने वालों के बीच की खाई जम जाती है। भारत का रुख यह हो सकता है कि सुरक्षा नियम क्षमता की सीमाओं (thresholds) पर लागू हों, इस पर नहीं कि वहाँ पहले कौन पहुँचा, और सुरक्षा सहयोग में क्षमता-निर्माण शामिल हो। विरोधी मत यह है कि समानता के प्रश्न से परे सुरक्षा जोखिम वास्तविक हैं। दोनों बातें सच हो सकती हैं, इसीलिए भारत का तर्क सावधानी के विरुद्ध नहीं, साझा परीक्षण के पक्ष में होना चाहिए।

प्रशासक की दृष्टि