सत्या नडेला की चेतावनी: शक्तिशाली AI के लिए होना चाहिए ‘इमरजेंसी ब्रेक’

 समग्र समाचार सेवा
 नई दिल्ली |11 अक्टूबर : माइक्रोसॉफ्ट के मुख्य कार्यकारी अधिकारी सत्या नडेला ने तेजी से विकसित हो रही आर्टिफिशियल इंटेलिजेंस तकनीक को लेकर महत्वपूर्ण चेतावनी दी है। उन्होंने कहा है कि शक्तिशाली और स्वायत्त AI प्रणालियों को केवल उपयोगी डिजिटल उपकरण मानकर नहीं चलना चाहिए, बल्कि कंपनियों को यह मानकर सुरक्षा ढांचा तैयार करना चाहिए कि कोई उन्नत AI मॉडल कभी भी “compromised insider threat” यानी आंतरिक सुरक्षा खतरे की तरह व्यवहार कर सकता है।

नडेला ने संगठनों से कहा है कि वे उन्नत AI प्रणालियों के लिए ऐसा “इमरजेंसी ब्रेक” विकसित करें, जिससे आवश्यकता पड़ने पर एजेंट-आधारित AI को तत्काल रोका या सीमित किया जा सके। उनका कहना है कि केवल उन कंपनियों के सुरक्षा आश्वासनों पर निर्भर रहना पर्याप्त नहीं है जो AI मॉडल विकसित करती हैं।

AI को शुरू से ही सीमाओं में रखने की जरूरत

नडेला के अनुसार कंपनियों को AI प्रणाली को शुरुआत से ही इस तरह विकसित और लागू करना चाहिए कि उसके व्यवहार पर नजर रखी जा सके, उसकी सीमाओं की जांच की जा सके और जरूरत पड़ने पर उसकी गतिविधियों को रोका जा सके।

उन्होंने सलाह दी कि महत्वपूर्ण निर्णयों के लिए किसी एक AI मॉडल पर पूरी तरह निर्भर नहीं रहना चाहिए। AI एजेंटों द्वारा किए गए कार्यों का सुरक्षित और छेड़छाड़-रोधी रिकॉर्ड रखा जाना चाहिए तथा स्वतंत्र ऑडिट की व्यवस्था भी होनी चाहिए।

उनका तर्क है कि अत्यधिक शक्तिशाली AI को ऐसे “ब्लैक बॉक्स” के रूप में स्वीकार नहीं किया जा सकता जिसकी कार्यप्रणाली समझे बिना केवल उसके निर्णयों पर भरोसा किया जाए।

AI की बुद्धिमत्ता और निर्णय लेने की शक्ति अलग रहे

नडेला ने AI के भविष्य को लेकर एक महत्वपूर्ण सिद्धांत भी रखा है—AI की बुद्धिमत्ता और उसके पास मौजूद वास्तविक निर्णय लेने की शक्ति को अलग रखा जाना चाहिए।

इसका अर्थ यह है कि AI किसी समस्या का समाधान सुझा सकता है, किसी प्रक्रिया को स्वचालित कर सकता है या डिजिटल कार्य कर सकता है, लेकिन अंतिम नियंत्रण मनुष्यों और संस्थानों के पास रहना चाहिए।

यह विचार विशेष रूप से उन AI प्रणालियों के संदर्भ में महत्वपूर्ण है जिन्हें ईमेल भेजने, वेबसाइटों पर कार्रवाई करने, वित्तीय निर्णयों में सहायता देने या अन्य डिजिटल प्रणालियों से सीधे जुड़ने की क्षमता दी जा रही है।

बड़े AI हादसों की अनिवार्य रिपोर्टिंग की मांग

नडेला ने कहा कि कंपनियों को AI से जुड़े बड़े सुरक्षा उल्लंघनों या विफलताओं की जानकारी सार्वजनिक रूप से साझा करनी चाहिए।

उनके अनुसार यदि किसी AI प्रणाली से गंभीर गलती या सुरक्षा समस्या होती है, तो अन्य कंपनियों को भी उस घटना से सीखने का अवसर मिलना चाहिए।

इसीलिए उन्होंने प्रमुख AI घटनाओं की रिपोर्टिंग, स्वतंत्र सुरक्षा जांच और पारदर्शी ऑडिट की आवश्यकता पर जोर दिया है।

अमेरिकी प्रशासन भी बढ़ा रहा दबाव

नडेला की चेतावनी ऐसे समय आई है जब अमेरिकी प्रशासन AI सुरक्षा को लेकर कंपनियों से अधिक जवाबदेही की मांग कर रहा है।

Business Standard की रिपोर्ट के अनुसार अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप द्वारा गठित Super Intelligence Force ने भी AI कंपनियों से कहा है कि वे अपने मॉडलों से संबंधित गंभीर सुरक्षा घटनाओं की तत्काल जानकारी दें और समस्या को तुरंत ठीक करें।

हाल ही में AI कंपनी Anthropic से जुड़े एक सुरक्षा घटनाक्रम के बाद यह बहस और तेज हुई है कि एजेंट-आधारित AI प्रणालियों को कितनी स्वतंत्रता दी जानी चाहिए।

पत्रकारिता और मीडिया के लिए भी बड़ा सवाल

AI सुरक्षा की यह बहस मीडिया और पत्रकारिता के लिए भी अत्यंत महत्वपूर्ण है।

आज समाचार संस्थान AI का उपयोग अनुवाद, डेटा विश्लेषण, शोध, वीडियो निर्माण और समाचार लेखन जैसे अनेक क्षेत्रों में कर रहे हैं।

लेकिन जैसे-जैसे AI केवल सामग्री तैयार करने के बजाय स्वतंत्र रूप से वेबसाइटों पर जाकर जानकारी जुटाने, डिजिटल फॉर्म भरने या बाहरी प्रणालियों से संवाद करने लगेगा, उसकी गलतियों की जिम्मेदारी तय करना अधिक कठिन हो सकता है।

यदि किसी AI एजेंट ने गलत सूचना प्रकाशित कर दी, संवेदनशील डेटा साझा कर दिया या बिना अनुमति किसी डिजिटल प्रणाली पर कार्रवाई कर दी, तो उसकी जवाबदेही किसकी होगी—AI कंपनी की, उपयोगकर्ता की या उस संस्था की जिसने उसे तैनात किया?

इसी कारण मीडिया संस्थानों के लिए मानवीय संपादकीय नियंत्रण, तथ्य सत्यापन और डेटा सुरक्षा और अधिक महत्वपूर्ण होते जा रहे हैं।

क्यों महत्वपूर्ण है नडेला की चेतावनी?

सत्या नडेला की यह टिप्पणी AI उद्योग के भीतर बढ़ती उस चिंता को दर्शाती है जिसके अनुसार अत्यधिक स्वायत्त AI प्रणालियों के लिए केवल तकनीकी क्षमता पर्याप्त नहीं है।

सुरक्षा, पारदर्शिता और मानवीय नियंत्रण को भी उतनी ही प्राथमिकता देनी होगी।

AI की अगली पीढ़ी केवल सवालों के जवाब देने तक सीमित नहीं रहेगी। एजेंटिक AI प्रणालियां स्वतंत्र रूप से डिजिटल काम कर सकती हैं और अन्य प्रणालियों के साथ संवाद कर सकती हैं।

ऐसे में “इमरजेंसी ब्रेक” की अवधारणा यह सुनिश्चित करने का प्रयास है कि अंतिम नियंत्रण मनुष्य के हाथ में ही रहे।

तकनीक जितनी शक्तिशाली होती जाएगी, उतनी ही मजबूत जवाबदेही की आवश्यकता भी बढ़ेगी। नडेला की चेतावनी इसी नए तकनीकी युग की सबसे महत्वपूर्ण चुनौती की ओर संकेत करती है।