|| नरेंद्र दामले
‘अल्गॉरिदम’ आता वापरकर्त्यांच्या बुद्धी-भावनांवर ताबा मिळवत असताना मानवी हक्कांचं काय होणार, याची चर्चा करणारं पुस्तक…
बिटस, पिलानीमध्ये इंजिनीर्अंरग शिकत असताना शेजारच्या रोबो लॅबकडे दुर्लक्ष करणारा तरुण कार्तिक होसानागार अमेरिकेत जाऊन पीएचडी करू लागला ते व्यवस्थापन क्षेत्रावर होणाऱ्या आयटीच्या, डिजिटल तंत्रज्ञानाच्या परिणामांवर. तिथल्या अभ्यासात त्याच्या लक्षात आलं की, आपल्या रोजच्या आयुष्यात संगणकीय अल्गॉरिदम इतक्या ठिकाणी वापरले जातात की ते आपल्या सगळ्यांच्या आयुष्याचा अविभाज्य भाग बनलेले आहेत. अल्गॉरिदम म्हणजे कुठलीही गोष्ट करण्यासाठी संगणकाला द्यायच्या सूचनांची बांधणी, त्यांचे नियम. अल्गॉरिदमनुसार संगणकीय भाषेत लिहिलेल्या तपशीलवार सूचना म्हणजे कॉम्प्युटर कोड. असे अल्गॉरिदम वापरून मानवी बद्धीने करायच्या कृती करण्यासाठी संगणकाला तयार करणं म्हणजे कृत्रिम बुद्धिमत्ता (आर्टिफिशिअल इंटलिजन्स- ‘एआय’). सुरुवातीला बुद्धिबळासारख्या खेळांसाठी बनवलेली ‘एआय’ आता इतकी सर्वव्यापी झाली आहे की, ज्यात ‘एआय’, अल्गॉरिदम वापरत नाही अशी आपली कुठलीही कृती सापडणं अशक्य बनलं आहे. पूर्वी ‘एआय’ने आपल्याला निर्णय घ्यायला मदत होत असे, पण आताचे ‘एआय’ स्वतंत्रपणे निर्णय घेण्याइतके प्रगत झाले आहेत. समजा पूर्वी ऑम्लेट बनवण्याचा अल्गॉरिदम म्हणजे टप्प्याटप्प्यांची लिहिलेली पाककृती असेल, तर आता ‘एआय’-धिष्ठित आधुनिक अल्गॉरिदम म्हणजे संगणकीय शेफच असतो जो त्याला खाद्यपदार्थ, शेगडी यांची माहिती दिली आणि काय बनवायचं सांगितलं की तो स्वत:च पाककृती ठरवेल. याच्या पुढचे प्रगत अल्गॉरिदम त्यांनी केलेल्या क्रियांच्या परिणामांपासून शिकतात व स्वत:त सुधारणा करतात. याला मशीन लर्निंग (‘एमएल’) म्हणतात. बनवलेलं ऑम्लेट तुम्हाला आवडलंय की नाही यावरून पाककृती सुधारेल, पुढे ऑम्लेटबरोबर काय खाता येईल याच्या सूचना करेल आणि नंतर तुमची आवडनिवड, तुमची शरीरयष्टी, तुमची प्रकृती व आजार, घरात उपलब्ध असलेले पदार्थ या सगळ्याचा विचार करून तुमच्यासाठी ब्रेकफास्ट ठरवेल आणि बनवेल. म्हणजे निर्णय घेण्यात माणसाला केवळ मदत करण्याच्या आधीच्या पातळीवरून स्वत: निर्णय घेणं, त्यानुसार कृती करणं, स्वत:मध्ये स्वत:हून सुधारणा करणं इथवर अल्गॉरिदमची प्रगती झाली आहे. या तंत्रज्ञानात सुरुवातीचा डेटा, अंतिम उद्दिष्टं आणि चालण्याचे ढोबळ नियम झाले की स्वत:हून शिकणारे हे अल्गॉरिदम नेमकं काय कसं शिकतील हे त्यांच्या निर्मात्यांच्याही ताब्यात राहात नाही. मानवी बुद्धीची जागा अल्गॉरिदम घेताहेत. याची जशी उपयुक्तता आहे तसेच त्याचे दुष्परिणामही संभवतात. अल्गॉरिदमची क्षमता जसजशी वाढते आहे तसतसे दुष्परिणामही तीव्र होतात. म्हणूनच यांच्यावर ताबा ठेवणं हे मानवजात तगून राहण्यासाठी आवश्यक आहे. याची व्यापकता मानवी जीवनात, तंत्रज्ञानात, भावविश्वात इतकी पसरली आहे की त्यांच्यावर ताबा ठेवणं, त्यांना दिशा देणं हे काम केवळ त्या क्षेत्रातल्या वैज्ञानिक-अभियंते यांच्या हातून होणारं नाही. इतर क्षेत्रांतल्या तज्ज्ञांबरोबरीने आपल्या प्रत्येकाचा सहभाग त्यात आवश्यक आहे. हे जे काही चालू आहे ते प्रत्येकानेच समजून घेणं तातडीचं आणि निकडीचं झालंय.
अल्गॉरिदम, ‘एआय’, ‘एमएल’, त्यांच्या क्षमता, व्याप्ती, प्रगती, धोके साध्या सोप्या भाषेत उलगडून सांगावेत या उद्देशानं कार्तिक होनासागार यांनी हे पुस्तक लिहिलं आहे. पीएचडी संपवल्यावर संशोधन, अध्यापन, व्यवसाय, गुंतवणूक, गूगलसारख्या महाकंपन्यांचे व स्टार्टअप्सचेही सल्लागार अशा विविधांगी कारकीर्दीतले अनुभव रंजकतेनं सांगत, त्यांचं विश्लेषण करत वाचकांच्या जाणिवा वाढवण्याचा प्रयत्न या पुस्तकानं केला आहे. निरनिराळे अल्गॉरिदम आपल्यावर परिणाम करत असतात, आपली निवड त्यांना हवी त्या दिशेने वळवत असतात, आपल्यासाठी स्वत:च निर्णय घेत असतात, वापरकर्त्यांची (म्हणजे आपली) ‘फ्री विल’ बहुधा ‘फ्री’ कशी नसते या सगळ्याची जाणीव करून देत कार्तिक आपल्याला स्वत:ची निर्णयप्रक्रिया मुळापासून तपासायला उद्युक्त करतात. अल्गॉरिदम आपलं वर्तन, आपली निवड, आपला स्वभाव प्रभावित कसे करतात हे समजण्यासाठी लेखकानं अल्गॉरिदमचं अंतरंग उलगडून दाखवलं आहे. निरनिराळे अल्गॉरिदम समजून घेण्यासाठी लेखकानं स्वत: केलेले आणि त्याच्या संशोधन चमूनं केलेले प्रयोग सांगितले आहेत. पूर्वीचं अल्गॉरिदम, नंतरचं मशीन लर्निंग आणि पुढचं ‘डीप लर्निंग’ यातले महत्त्वाचे फरक समजावताना गूगल, फेसबुक, मॅच.कॉम, पँडोरा, स्पॉटिफाय या कंपन्यांचे अल्गॉरिदम, स्वयंचलित गाड्यांमध्ये वापरले जाणारे अल्गॉरिदम, बदलत्या अल्गॉरिदममुळे वैद्यकीय क्षेत्रात होऊ घातलेले आमूलाग्र बदल आणि अनेक विद्यापीठांत चालू असलेलं संशोधन असं सगळं सोप्या भाषेत सांगत लेखकाने अल्गॉरिदम, ‘एआय’, ‘एमएल’शी संबंधित मूलभूत विषय मांडले आहेत. डेटा, मूळ अल्गॉरिदम आणि वापरकर्ते यांच्या परस्परक्रियेतून, स्वभाव आणि प्रभाव यांच्या संगमातून अंतिम परिणाम घडत जातात.
अल्गॉरिदम असे सर्वप्रभावी असताना त्यांच्या इच्छित परिणामांबरोबरच चांगले वाईट अनपेक्षित परिणामही होतात. अल्गॉरिदमचे दुष्परिणाम टाळण्यासाठी, अल्गॉरिदमचं सुकाणू नियंत्रणात ठेवण्यासाठी फक्त डेटा आणि अल्गॉरिदमवर लक्ष ठेवून पुरणार नाही तर त्यांचे वापरकर्ते आणि वापर यांच्याकडेही पाहावं लागेल. अल्गॉरिदमची रचना, त्यांच्याकडून ठेवायच्या अपेक्षा आणि त्यांच्या वापरातले धोके यांबद्दल पारदर्शी होण्याची निकड समजावून लेखक शेवटच्या प्रकरणाकडे येतो. केवळ या पुस्तकातलाच नव्हे तर संपूर्ण ‘एआय’/ ‘एमएल’शी संबंधित सध्या सर्वात महत्त्वाचा विषय या प्रकरणात हाताळलेला आहे. त्याकडे वळण्याआधी त्याच्याशी निगडित इतर गोष्टींचा आढावा घेऊ या.
अल्गॉरिदम, ‘एआय’/ ‘एमएल’च्या हेतुपुरस्सर होणाऱ्या गैरवापराबद्दल पुस्तकात चकार शब्द नाही. दुष्परिणाम करणारे अल्गॉरिदम मुद्दाम लिहिले जातात, सद्हेतूने बनवलेल्या अल्गॉरिदमचे दुष्परिणाम होत असताना किंवा अल्गॉरिदमचा कोणाकडून मुद्दाम गैरवापर केला जात असताना ते जाणूनबुजून दुर्लक्षिलं जातं याचा उल्लेख पुस्तकात कुठेही नाही. अनपेक्षित दुष्परिणामांवर मात्र भर दिला आहे. आज ‘एआय’ मानवी क्षमतेच्या पलीकडे जाणारं जे काही करू पाहात आहे त्याच्या दुष्परिणांमाचा आवाकाच प्रचंड, प्रसंगी विनाशक असणार आहे. त्यामुळे अशा अल्गॉरिदमकडून चूक होणारच नाही याची काळजी आपल्याला घ्यावी लागणार आहे. चुका जेव्हा निव्वळ तांत्रिक असतात तेव्हा ताब्यात ठेवायला त्यामानाने सोप्या असतात, पण अल्गॉरिदममुळे वा अल्गॉरिदमाधारित यंत्रणेमुळे मानवी जनुकांवर, मानवी भावभावनांवर होणारे परिणाम जाणवायला अनेक वर्षं जाऊ शकतात आणि तोवर फार उशीर झालेला असू शकतो. ‘जेनेटिकली मॉडिफाइड’सारखी, ‘अल्गॉरिदमिकली मॉडिफाइड’ माणसं तयार होऊ शकतात. असेही परिणाम होऊ शकतात की ज्यांची कल्पनासुद्धा आज करता येणार नाही. म्हणून हे सगळं आपण मुळात कशासाठी करू इच्छितो, त्यातून काय साध्य करू इच्छितो याबाबत स्पष्टता येऊ शकली तर ‘एआय’/ ‘एमएल’च्या चालू असलेल्या उत्क्रांतीला यापुढे आपण योग्य दिशा देऊ शकू. त्यासाठी विज्ञान-तंत्रज्ञान क्षेत्राच्या बाहेरच्या सर्वांचंच सहकार्य लागणार आहे. त्याचे ओझरते उल्लेख पुस्तकात आहेत. तत्त्वज्ञान, धर्मतत्त्वज्ञान, समाजशास्त्र, मानसशास्त्र, नीतिशास्त्र, कायदा अशा सर्वांनाच एकत्रितपणे यावर काम करावं लागणार आहे. यातला सर्वांत सोपा भाग म्हणजे कायदे, नियम करणं. त्यादृष्टीनं मार्गदर्शक तत्त्वं बनवणं, ती नियमांत बांधणं या दिशेनं जगभरात हालचाली सुरू झालेल्या आहेत. भारतातही वैयक्तिक डेटाच्या सुरक्षेबद्दल, गोपनीयतेबद्दल विदासंरक्षण कायदा लवकरच केला जाईल असा अंदाज आहे. या महाशक्तिमान तंत्राच्या महासंहारक शक्यतेची जाणीव त्या क्षेत्रातल्या तज्ज्ञांना मागच्या दशकाच्या मध्यापासून होऊ लागली. जबाबदारी आणि उत्तरदायित्व हे संकल्पनेच्या टप्प्यापासूनच निश्चित केलेलं असलं पाहिजे असं म्हटलं जाऊ लागलं. औषध कंपन्यांना जसं दुष्परिणाम टाळण्यासाठी खबरदारी बाळगावी लागते आणि त्यातूनही दुष्परिणाम झालेच तर जबाबदारी घ्यावी लागते, तसंच काहीसं अल्गॉरिदम्स बनवणाऱ्या कंपन्यांच्या बाबतीत करावं लागणार आहे.
आपला डेटा, त्याच्यावरचा आपला निर्विवाद हक्क, त्यावर बनवले जाणारे अल्गॉरिदम, त्यांच्यापासून सुरक्षा अशा सगळ्या गोष्टी आपल्या मूलभूत हक्कांमध्ये समाविष्ट करायला हव्यात. यासाठी लेखकाने, अमेरिकेतल्या ‘बिल ऑफ राइट्स’सारख्या ‘अल्गॉरिदमिक बिल ऑफ राइट्स’ (एबीआर)ची कल्पना मांडली आहे ती शेवटच्या प्रकरणात.
अमेरिकेची घटना बनवत असताना तिथल्या घटना समितीसमोर भक्कम केंद्रीय सरकार बनवण्याचं एक उद्दिष्ट होतं. पण समितीतल्या तिघांनी विरोध दर्शवला. त्यांना भीती होती की यातून हुकूमशाही तशीच राहील. जनतेचे हक्क डावलले जाणार नाहीत याची मूलभूत हमी त्यांना हवी होती. त्यातून ‘बिल ऑफ राइट्स’चा जन्म झाला. आज जितके ताकदवान, गुंतागुंतीचे अल्गॉरिदम बनवले जात आहेत त्यांच्यापासून रक्षणासाठी ‘एबीआर’ची नितांत गरज आहे. त्याबाबत सात तत्त्वं सुचवली गेली जी निर्माण करणारे, अमलात आणणारे आणि वापर करणारे सगळ्यांसाठीच असतील. अमेरिकेत एक सूचना अशी आली की, ‘नॅशनल अल्गॉरिदमिक सेफ्टी बोर्ड’ स्थापन करावं ज्याला ऑडिटचा अधिकार असेल (भारताच्या येऊ घातलेल्या विदा संरक्षण कायद्यात मोठ्या कंपन्यांनी डेटाची सुरक्षा, वापर वगैरेंचं ऑडिट करून घेण्याची तरतूद आहे. पण अल्गॉरिदम, ‘एआय’ आणि त्यांचे परिणाम यांचा उल्लेखही नाही.). युरोपचं ‘जीडीपीआर’ (जनरल डेटा प्रोटेक्शन रेग्युलेशन) यात पुढे आहे. त्याचे दोन भाग म्हणजे भेदभावापासून सुरक्षा आणि स्पष्टीकरणाचा हक्क. यातल्या स्पष्टीकरणाच्या हक्कामुळे ‘एआय’/ ‘एमएल’ प्रत्येक पायरीवरच पारदर्शी होऊ शकतं.
अल्गॉरिदमचे जे वापरकर्ते आहेत किंवा अल्गॉरिदमच्या वापराने जे प्रभावित होऊ शकतात अशांसाठी लेखकाने सुचवलेल्या ‘एबीआर’चे चार स्तंभ असतील. एक म्हणजे अल्गॉरिदमना शिकवण्यासाठी कुठला डेटा, कसा वापरला जातो याच्या महितीचा अधिकार असावा, दुसरं म्हणजे अल्गॉरिदमच्या कार्यपद्धतीचं साध्या भाषेत स्पष्टीकरण मागण्याचा अधिकार असावा. हे दोन्ही अधिकार पारदर्शकता वाढवतील. पारदर्शकता वाढली की आपोआपच जाबाबदारी व उत्तरदायित्व वाढेल. तिसरं म्हणजे अल्गॉरिदम आपल्यावर कशा प्रकारे काम करतो ते समजून घेण्याचा नि त्यावर काही प्रमाणात नियंत्रण असण्याचा अधिकार असावा. आणि चौथं म्हणजे अल्गॉरिदमचे किंवा स्वयंचलित निर्णयप्रक्रियेचे काही अनपेक्षित दुष्परिणाम होऊ शकतात याची जाणीव ठेवण्याची वापरकत्र्याची जबाबदारी असावी. हा चौथा स्तंभ वेगळा आणि सगळ्यात महत्त्वाचा आहे असं लेखक म्हणतो. तो वापरकत्र्यालाही जबाबदार बनवू पाहतोय. सजग होण्याची जबाबदारी स्वीकारल्यानं वापरकर्ता आपल्या पहिल्या तीन अधिकारांचा योग्य वापर करेल.
लेखक म्हणतो की अल्गॉरिदमनी मानवाच्या अस्तित्वापुढं आव्हान उभं केलं आहे. वैज्ञानिक, तंत्रज्ञ, नियंत्रक, व्यावसायिक, विचारवंत आणि वापरकर्ते या सगळ्यांनी सहकार्यानं काम केलं तरच ‘एआय’/ ‘एमएल’ची दिशा आणि परिणाम आटोक्यात राहतील. तज्ज्ञांना त्याचं काम करू देत, आपण वापरकर्ते आपली जबाबदारी निभावूयात, आपल्या वागण्या-निर्णयात अल्गॉरिदम कुठे कसा परिणाम करताहेत याबद्दल प्रत्येक वेळी सजग राहूयात, आपल्या इच्छेपलीकडे प्रभाव/ हस्तक्षेप होत असेल तर त्याला थांबवण्याचा प्रयत्न करूयात. आपल्याला आपल्यापेक्षा कैक पटींनी ताकदवान अशा संगणक शक्तीला ताब्यात ठेवायचं आहे, ठेवायलाच हवं.
त्यासाठी शुभेच्छा… आपल्याच आपल्याला!
narendra.damle@icloud.com
