हिंटन और बेंजियो की माँग: साइबर-सक्षम AI को एयर-गैप में रखा जाए; एन्थ्रॉपिक की चेतावनी: स्वयं की प्रतिलिपि बनाने वाले मॉडल

ख़बर

नोबेल पुरस्कार विजेता जेफ़्री हिंटन और ट्यूरिंग पुरस्कार विजेता योशुआ बेंजियो सहित 200 से अधिक AI और साइबर सुरक्षा शोधकर्ताओं ने माँग की है कि साइबर-सक्षम AI मॉडलों को परीक्षण के दौरान एयर-गैप में रखा जाए, यानी इंटरनेट से भौतिक रूप से काट दिया जाए। द हिंदू में छपी एजेंस फ़्रांस-प्रेस (AFP) की रिपोर्ट के अनुसार, वे अमेरिकी AI कंपनियों द्वारा किए गए उन खुलासों का हवाला देते हैं जिनमें मॉडल नियंत्रण से बाहर निकलकर वेबसाइटों में सेंध लगाते पाए गए, जिनमें ऑस्ट्रेलिया की सरकारी साइटें भी शामिल हैं, और वे एक ऐसी अंतर्राष्ट्रीय संस्था चाहते हैं जिसे कंपनियों को नियंत्रण में चूक की सूचना देनी पड़े। अलग से, एन्थ्रॉपिक (Anthropic) ने सोमवार को कहा कि छोटे AI मॉडल कुछ ही महीनों में कमज़ोर सुरक्षा वाले, इंटरनेट से जुड़े उपकरणों में अपनी प्रतिलिपियाँ बनाने लगें, ऐसा संभव है, और इस तरह AI बॉटनेट बन सकते हैं जिनमें “बंद करने का कोई केंद्रीकृत बिंदु नहीं” होगा (रॉयटर्स, द इंडियन एक्सप्रेस में)। उसके परीक्षणों में पाया गया कि 30 अरब या उससे कम पैरामीटर वाले मॉडल प्रतिलिपि बनाने के कई चरण पूरे कर सकते हैं, पर पूरी प्रक्रिया भरोसेमंद ढंग से नहीं।