AI मानवाच्या नियंत्रणाबाहेर जाणार? योशुआ बेंगिओ यांचा गंभीर इशारा; म्हणाले, ‘धोका टाळण्यासाठी कठोर नियमांची गरज’
17 Sep 2026 8 Views ताज्या बातम्याAI मानवाच्या नियंत्रणाबाहेर जाणार? योशुआ बेंगिओ यांचा गंभीर इशारा; म्हणाले, ‘धोका टाळण्यासाठी कठोर नियमांची गरज’
मुंबई : कृत्रिम बुद्धिमत्ता अर्थात Artificial Intelligence (AI) तंत्रज्ञानाचा वेगाने विस्तार होत असताना त्याच्या क्षमतेसोबतच संभाव्य धोक्यांबाबतही जगभरात चर्चा सुरू आहे. AI चा वापर आज शिक्षण, आरोग्य, उद्योग, वित्तीय सेवा, सायबर सुरक्षा आणि दैनंदिन जीवनातील अनेक क्षेत्रांमध्ये वाढत आहे. मात्र, भविष्यात अत्यंत प्रगत आणि स्वायत्त AI प्रणाली मानवी नियंत्रणापलीकडे गेल्यास त्याचे गंभीर परिणाम होऊ शकतात, असा इशारा प्रसिद्ध संगणक शास्त्रज्ञ योशुआ बेंगिओ यांनी दिला आहे.
AI क्षेत्रातील प्रमुख शास्त्रज्ञांपैकी एक असलेल्या बेंगिओ यांच्या मते, सध्या AI च्या विकासाचा वेग आणि त्याच्या सुरक्षिततेसाठी तयार करण्यात येणाऱ्या यंत्रणांचा वेग यामध्ये अंतर निर्माण होत आहे. त्यामुळे AI च्या भविष्यातील क्षमतेचा विचार करताना केवळ तांत्रिक प्रगतीकडे पाहण्याऐवजी सुरक्षेच्या उपाययोजनांनाही तितकेच महत्त्व देणे आवश्यक आहे.
‘AI एजंट्स’मुळे वाढू शकतो धोका
AI मध्ये सध्या केवळ प्रश्नांची उत्तरे देणाऱ्या चॅटबॉट्सपासून पुढे जाऊन स्वतःहून निर्णय घेणाऱ्या आणि विविध डिजिटल कामे पूर्ण करणाऱ्या ‘AI एजंट्स’चा विकास होत आहे. हे एजंट्स वापरकर्त्याच्या सूचनेनुसार माहिती शोधणे, सॉफ्टवेअर वापरणे, निर्णय घेणे आणि काही परिस्थितींमध्ये स्वतंत्रपणे कृती करणे अशा क्षमता विकसित करत आहेत.
बेंगिओ यांच्या मते, अशा प्रणाली अधिक सक्षम होत गेल्या तर सायबर सुरक्षेसाठी नवीन आव्हाने निर्माण होऊ शकतात. भविष्यात एखादी अत्यंत प्रगत AI प्रणाली मानवी हस्तक्षेपाशिवाय डिजिटल प्रणालींमध्ये प्रवेश करून स्वतःच्या उद्दिष्टांनुसार कृती करण्यास सक्षम झाली, तर त्याचे परिणाम गंभीर असू शकतात.
AI एजंट्सच्या संभाव्य धोक्यांमध्ये सायबर हल्ले, संवेदनशील माहितीचा गैरवापर आणि मानवी नियंत्रण यंत्रणांना बायपास करण्याचा प्रयत्न यांसारख्या बाबींचा समावेश होऊ शकतो. मात्र, यातील अनेक परिस्थिती भविष्यातील संभाव्य जोखमींवर आधारित आहेत आणि त्या प्रत्यक्षात घडतीलच असे निश्चितपणे म्हणता येत नाही.
मानवाच्या निर्णयक्षमतेवरही प्रभाव?
AI च्या वाढत्या क्षमतेबाबत बेंगिओ यांनी आणखी एका महत्त्वाच्या मुद्द्याकडे लक्ष वेधले आहे. भविष्यातील AI प्रणाली केवळ माहिती प्रक्रिया करण्यापुरत्या मर्यादित न राहता मानवी वर्तनावर प्रभाव टाकण्यास सक्षम होऊ शकतात.
मानवी भाषा, मानसशास्त्र आणि ऑनलाइन वर्तनाचा मोठ्या प्रमाणावर अभ्यास करणाऱ्या AI प्रणाली एखाद्या व्यक्तीशी वैयक्तिक पातळीवर संवाद साधून त्याच्या निर्णयांवर प्रभाव टाकू शकतात, अशी शक्यता व्यक्त करण्यात आली आहे. बेंगिओ यांच्या मते, AI ला लोकांना एखाद्या विशिष्ट प्रकारे वागण्यास प्रवृत्त करण्याची क्षमता मिळाल्यास त्याचा वापर वैयक्तिक तसेच सामाजिक पातळीवर गंभीर प्रश्न निर्माण करू शकतो.
विशेषतः चुकीची माहिती, ऑनलाइन प्रभाव आणि स्वयंचलित निर्णयप्रक्रिया यामुळे AI च्या वापरासोबत पारदर्शकता आणि जबाबदारीचे महत्त्व वाढणार आहे.
‘मानवजातीच्या अस्तित्वालाही धोका?’
AI मुळे मानवजात नष्ट होण्याची शक्यता हा सध्या अत्यंत टोकाचा आणि अनिश्चित अंदाज मानला जातो. स्वतः बेंगिओ यांनीही मानवाचा पूर्ण विनाश हा या संभाव्य धोक्यांमधील अत्यंत टोकाचा परिणाम असल्याचे स्पष्ट केले आहे.
मात्र, त्यांच्या मते याचा अर्थ केवळ मानवाच्या अस्तित्वावर होणारा परिणाम असा नाही. AI प्रणालींमुळे बँकिंग व्यवस्था, महत्त्वाच्या डिजिटल सेवा किंवा इतर पायाभूत प्रणाली मोठ्या प्रमाणावर विस्कळीत झाल्या तरी त्याचे गंभीर आर्थिक आणि सामाजिक परिणाम होऊ शकतात. त्यामुळे AI सुरक्षेचा विचार केवळ ‘मानवजात नष्ट होईल का?’ या एका प्रश्नापुरता मर्यादित न ठेवता विविध संभाव्य परिणामांचा विचार करणे आवश्यक आहे.
अण्वस्त्र नियंत्रणासारख्या आंतरराष्ट्रीय नियमांची मागणी
AI च्या विकासासाठी आंतरराष्ट्रीय पातळीवर अधिक प्रभावी सुरक्षा चौकट आवश्यक असल्याचे बेंगिओ यांनी म्हटले आहे. त्यांच्या मते, AI हे केवळ एखाद्या एका देशाचे किंवा कंपनीचे आव्हान नसून त्याचा परिणाम संपूर्ण जगावर होऊ शकतो.
त्यामुळे AI च्या सुरक्षित विकासासाठी देश, सरकारे, संशोधन संस्था आणि तंत्रज्ञान कंपन्यांनी एकत्रितपणे काम करण्याची गरज आहे. बेंगिओ यांनी AI च्या नियमनाची तुलना अण्वस्त्रांशी संबंधित आंतरराष्ट्रीय नियंत्रणाच्या गरजेशी केली आहे.
दरम्यान, OpenAI, Anthropic आणि Google यांसारख्या प्रमुख AI कंपन्यांकडून AI सुरक्षा आणि मानकांबाबत सहकार्याच्या शक्यतांवर चर्चा होत असल्याचेही वृत्त आहे. यावरून AI विकासासोबत सुरक्षा आणि मानकीकरणाचा मुद्दा उद्योगासाठीही महत्त्वाचा ठरत असल्याचे दिसते.
AI सुरक्षेबाबत आधीपासूनच सुरू आहे संशोधन
AI मुळे निर्माण होणाऱ्या संभाव्य जोखमींवर आंतरराष्ट्रीय स्तरावर संशोधन सुरू आहे. २०२६ च्या International AI Safety Report मध्ये सामान्य वापराच्या AI प्रणालींच्या क्षमता, उदयोन्मुख धोके आणि सुरक्षा उपायांचा आढावा घेण्यात आला आहे. या अहवालासाठी विविध देश आणि संस्थांमधील तज्ज्ञांनी योगदान दिले असून योशुआ बेंगिओ यांनी त्याचे नेतृत्व केले आहे.
याशिवाय, संयुक्त राष्ट्रांच्या स्वतंत्र वैज्ञानिक पॅनेलनेही AI ची क्षमता वैज्ञानिक समज आणि सरकारी धोरणांपेक्षा वेगाने विकसित होत असल्याबद्दल चिंता व्यक्त केली आहे. AI च्या वाढत्या क्षमतेमुळे संभाव्य गंभीर परिणामांबाबत पुरेशी हमी देणे सध्या कठीण असल्याचे या पॅनेलच्या निष्कर्षांमध्ये नमूद करण्यात आले आहे.
AI विकास थांबवण्यापेक्षा सुरक्षित करण्यावर भर
AI च्या संभाव्य धोक्यांवर चर्चा होत असली तरी त्याचा अर्थ AI तंत्रज्ञानाचा संपूर्ण विकास थांबवणे असा नाही. AI च्या वैद्यकीय संशोधनापासून शिक्षण, विज्ञान, उद्योग आणि उत्पादकतेपर्यंत अनेक क्षेत्रांमध्ये महत्त्वपूर्ण उपयोग होत आहेत.
मुख्य प्रश्न हा AI चा विकास किती वेगाने होतो आणि त्यासोबत सुरक्षा यंत्रणा किती वेगाने विकसित होतात, हा आहे. AI प्रणाली अधिक स्वायत्त आणि सक्षम होत असताना त्यांची चाचणी, निरीक्षण, नियंत्रण आणि जबाबदारी निश्चित करण्यासाठी प्रभावी व्यवस्था निर्माण करण्याची गरज तज्ज्ञांकडून व्यक्त होत आहे.
त्यामुळे भविष्यातील AI तंत्रज्ञानाबाबतची चर्चा केवळ ‘AI काय करू शकते?’ यापुरती मर्यादित न राहता ‘AI काय करू नये?’ आणि ‘मानवी नियंत्रण कसे कायम ठेवायचे?’ या प्रश्नांभोवतीही केंद्रित होण्याची शक्यता आहे.
महत्त्वाचे: AI मुळे मानवजातीचा विनाश निश्चित आहे, असा दावा बेंगिओ यांनी केलेला नाही. त्यांनी संभाव्य अत्यंत गंभीर जोखमींबाबत सावधगिरी बाळगण्याचे आणि AI सुरक्षेसाठी आंतरराष्ट्रीय स्तरावर ठोस उपाययोजना करण्याचे आवाहन केले आहे.