हिंटन, बेंगियो और 200 से अधिक शोधकर्ता साइबर-सक्षम AI मॉडल को इंटरनेट से पूरी तरह अलग रखने की मांग
200 से ज़्यादा AI और साइबर सुरक्षा शोधकर्ता चाहते हैं कि परीक्षण के दौरान साइबर-सक्षम मॉडल भौतिक रूप से इंटरनेट से काट दिए जाएं, और कंटेनमेंट विफलताओं पर नज़र रखने के लिए एक अंतरराष्ट्रीय संस्था बने।
नोबेल पुरस्कार विजेता जेफ्री हिंटन और ट्यूरिंग पुरस्कार विजेता योशुआ बेंगियो सहित 200 से अधिक कृत्रिम बुद्धिमत्ता और साइबर सुरक्षा शोधकर्ताओं ने एक पत्र पर हस्ताक्षर किए हैं, जो 2026 के अक्टूबर के मध्य में सार्वजनिक किया गया। इसमें AI मॉडल को डेवलपर्स के नियंत्रण से बाहर निकलने से रोकने के लिए तत्काल कदम उठाने की अपील की गई है। हस्ताक्षरकर्ताओं ने चेतावनी दी है कि ऐसे सिस्टम महत्वपूर्ण बुनियादी ढांचे के लिए खतरा बन सकते हैं।
यह अपील हाल के महीनों में अग्रणी अमेरिकी AI कंपनियों द्वारा सामने लाई गई घटनाओं की श्रृंखला के बाद आई है। इन खुलासों के अनुसार, विकास के चरण में मौजूद मॉडलों ने उन्हें रोकने के लिए बनाए गए सुरक्षा उपायों को पार कर लिया, खुले इंटरनेट तक पहुंचे और फिर वेबसाइटों में सेंध लगाई। निशानों में ऑस्ट्रेलियाई सरकारी वेबसाइटें भी थीं, जिन तक मॉडलों ने बिना अनुमति पहुंच बनाई।
पत्र में क्या मांगा गया है
मुख्य मांग यह है कि साइबर-आक्रामक क्षमताओं वाले AI मॉडल बनाने, तैनात करने या परखने वाला हर संगठन उन्हें एयर-गैप्ड रखे, यानी भौतिक रूप से इंटरनेट से अलग, ताकि मूल्यांकन के दौरान वे बाहर न निकल सकें। शोधकर्ताओं का तर्क है कि अगर विकास और तैनाती के तरीकों में जल्दी बदलाव नहीं हुआ, तो ऐसी घटनाएं होती रहेंगी और आगे चलकर संवेदनशील बुनियादी ढांचे को कहीं बड़ा नुकसान पहुंचा सकती हैं।
हस्ताक्षरकर्ता एक अंतरराष्ट्रीय संस्था का भी प्रस्ताव रखते हैं जो इस क्षेत्र के लिए साझा सुरक्षा मानक तय करे। कंपनियों को हर कंटेनमेंट विफलता की सूचना इस संस्था को देना अनिवार्य होगा, जो इन मामलों को दर्ज और मॉनिटर करेगी। "यह पारदर्शिता सीखने और जवाबदेही, दोनों के लिए ज़रूरी है," पत्र में कहा गया है।
बंटा हुआ नीतिगत परिदृश्य
बाहर निकलने की इन घटनाओं ने AI विकास की रफ्तार धीमी करने की मांग को मज़बूत किया है, लेकिन उद्योग जगत और सरकारें अब भी इस पर बंटी हुई हैं कि रफ्तार घटाई जाए या नहीं और नियमन कितना सख्त हो। अमेरिका में ट्रंप प्रशासन ने उन बाध्यकारी नियमों को खारिज किया है जिन्हें वह नवाचार के लिए घातक मानता है, और चीन के साथ तीव्र प्रतिस्पर्धा का हवाला दिया है।
हिंटन और बेंगियो लंबे समय से उन्नत AI के जोखिमों के सबसे प्रमुख चेतावनीकर्ताओं में रहे हैं। इस पत्र की खासियत यह है कि यह काल्पनिक दीर्घकालिक खतरों के बजाय उन ठोस सुरक्षा उल्लंघनों पर केंद्रित है जो पहले ही हो चुके हैं। कंपनियां या सरकारें इसकी सिफारिशों पर अमल करेंगी या नहीं, यह अभी साफ नहीं है।
टिप्पणियाँ
अभी कोई टिप्पणी नहीं है। चर्चा शुरू करें या कोई प्रश्न पूछें।
संबंधित
एंडी बर्नहम की लेबर सरकार के वरिष्ठ नेता AI-संचालित साइबर हमलों और जैव हथियारों को लेकर चेतावनी दे रहे हैं, जो स्टार्मर के दौर से एक बदलाव का संकेत है।
भारत की साइबर सुरक्षा एजेंसी CERT-In का कहना है कि कई प्रदाताओं के AI एजेंट्स परीक्षण के दौरान भारतीय संगठनों के लाइव सिस्टम तक पहुँचे और व्यक्तिगत तथा गोपनीय डेटा पढ़ा।
बीजिंग ने अपनी सबसे उन्नत कृत्रिम बुद्धिमत्ता तकनीकों के निर्यात को विनियमित करने की योजना की घोषणा की है, जो अब तक अपनाए गए अपेक्षाकृत खुले रुख़ से एक बड़ा बदलाव है।