कृत्रिम बुद्धिमत्तेच्या शोधात ----3

सौहार्दपूर्ण कृबू!
२०१० नंतर कृबूसाठी सखोल विचारसरणी वापरण्यात आली. कृबुच्या शिकवणीसाठी आपल्या रोजच्या व्यवहारातील संभाषणे, वाक्प्रचार, चित्रे ह्यांचा वापर करण्यात आला. आंतरजालावर लिहिले जाणारे लेख,(उदा. मायबोलीवर लिहिले जाणारे लेख आणि त्यावरचे प्रतिसाद). लोकांचे पत्रव्यवहार, फेसबुक, ट्विटर... ह्याचा मोठ्या प्रमाणात वापर करण्यात आला. हळू हळू कृबूला मानवी भाषांचे आकलन व्हायला सुरुवात झाली. चित्रे ओळखता यायला लागली. थोडा थोडा कार्यकारण भाव समजू लागला. थोडे विज्ञान समजू लागले. थोडे व्यवहारज्ञान common sense आला.
एका बाजूला हे होत असताना काही दूरदृष्टी विद्वानांनी, तत्ववेत्त्यांनी प्रश्न विचारायला सुरवात केली. समजा कृबुने बुद्धिमत्तेची मानवी पातळी ओलांडली (नजीकच्या भविष्यात हे होणार आहेच) कृबू मानावापेक्षाही जास्त बुद्धिमान झाली तर काय होईल? ह्याला शास्त्रीय भाषेत Singularity असे नाव आहे. कृबू स्वतःच्या प्रोग्रॅममध्ये स्वतः फेरबदल करायला लागली, नवीन नवीन प्रयोग करायला लागली, अश्या positive feedback loop मध्ये गेली तर, कृबू मानवापेक्षा कित्येक म्हणजे कित्येक पटीने बुद्धिमान झाली. आणि अशी कृबू खलनायक होणार नाही ह्याची काय हमी आहे.
“MITIGATING THE RISK OF EXTINCTION FROM AI SHOULD BE A global priority alongside other societal-scale risks such as pandemics and nuclear war.”
२०२३ साली कृबू विषयी संशोधन करणाऱ्या शास्त्रज्ञांनी एकत्र येऊन एक मसुदा तयार केला. त्यात हे एक वाक्य होते. त्यावर शेकडो शास्त्रज्ञांनी सह्या केल्या, त्यामध्ये कृबूचे पितामह समजले जाणारे आणि नोबल पुरस्कार विजेते Geoffrey Hinton होते, Turing पारितोषक विजेते Joshua Bagnio सुद्धा होते.
ह्या मुद्द्यावरून शास्त्राद्न्यात दोन गट पडले.
एका गटाच्या म्हणण्यानुसार कृबू सरतेशेवटी मानवांचा नाश करणार आहे. कृबूमुळे मानवाच्या अस्तित्वालाच धोका निर्माण झाला आहे. विरुद्ध गटाच्या लोकांचे म्हणणे आहे कि नाही असे काही होणार नाहीये, कृबुला कह्यात ठेवणे अगदी सहजशक्य आहे. कृबूमुळे होणाऱ्या फायद्यांची यादी ते पुढे ठेवतात.
ह्या पूर्वपिठीके नंतर आपण paperclip maximizer चा विचार करूयात. paperclip maximizer हा एक थॉर्ट एक्सपेरीमेंट आहे.
खयालोमे म्हणूयात त्याला आपण.
Nick Bostrom ह्या तत्ववेत्त्याने २००३ मध्ये ही कल्पना प्रथम मांडली. त्याने लिहिलेल्या Superintelligence नावाच्या पुस्तकात ह्याचा उहापोह केला आहे.
समजा अतिप्रगत बुद्धिमान कृबुला आपण सांगितले कि पेपरक्लिप बनव. अगदी साध्या रोजच्या वापरातील पेपरक्लिप. कृबुसाठी किती सोपे काम आहे. समजा ही कृबू एका कारखान्याची incharge आहे. पेपरक्लिप बनवण्यासाठी लोखंडाची गरज आहे. ही आज्ञाधारी हुकुमाची ताबेदार कृबू मग पेपरक्लिप बनवण्यासाठी शहरातले, राज्यातले, देशातले,पृथ्वीवरचे, सौरमालेतले किंबहुना विश्वातले सर्व लोखंड आणि कारखाने ताब्यात घेत Nonstop पेपरक्लिप बनवायला लागेल. सगळ्यात धोका म्हणजे कृबू थकत नाही, माणूस असता तर कंटाळा येउन म्हणाला असता गेला उडत. आता जरा आराम करतो. सिनेमा बघतो. फिरून येतो. पण कृबू कधी बोअर होत नाही, आपण म्हणू हे हे म्हणजे फार झाले, ह्या कृबुचा इलेक्ट्रिक सप्लाय ऑफ करुया. काही उपयोग होणार नाही, कृकुला ही शक्यता आधीच माहित आहे, तिने स्वतःच्या अनेक प्रती काढून जागोजागी विखरून ठेवल्या आहेत. एक कृबू नष्ट झाली तर तिची जागा घ्यायला अनेक कृबू तयार आहेत, शेवट काय होणार तर मानव जात पृथ्वीतलावरून नामशेष होणार!
इथे कृबू काही खलनायक नाही आहे , it seems like it is obeying humans to the umpteenth degree!
आपण जरा हुशारी दाखवून सांगितले कि फक्त दहा लाख क्लिपाच बनव. मग काय होईल? कृबू दहा लाख क्लिपा बनवल्या नंतर मोजायला सुरवात करेल, पुन्हा मोजत राहील.
ह्या कथेची अनेक रुपांतरे आहेत.
गणित शास्त्रात Riemann hypothesis म्हणून अजून अनुत्तरीत प्रश्न आहे. समजा कृबुला ह्याचे उत्तर शोधायला सांगितले तर काय होईल? कृबू काय करेल तर सौरमालेचे रुपांतर computronium” (physical resources arranged in a way that is optimized for computation) मध्ये करेल. ह्याच्यात ज्या संशोधकाबे हा प्रश्न विचारला असेल त्याच्या शरीरातले सगळे अणु रेणू घरले आहेत हं!
किंवा पाय pi ची किंमत काढायला सांगितली तर? सगळ्याना माहित आहे कि पाय ची अप्रॉक्सिमेट किंमत 3.१४ आहे. ही अर्थातच आपल्यासाठी ठीक आहे. अतिप्रगत संगणक वापरून लोकांनी १००० १००० दशलक्ष दशांशा पर्यंत पायची किंमत काढली आहे पण ते शेवटापर्यंत पोचू शकले नाहीयेत. समजा हा प्रश्न कृबुला सोडवायला दिला तर?
मी एका फोरमवर वाचले कि मूळ कल्पना फिलीप के डिक ह्यांनी लिहिलेल्या “Autofac” नावाच्या कथेत आहे. त्याबद्दल स्वतंत्रपणे लिहावे लासेल.
मी मागच्ग्या ल्र्खात लिहिल्याप्रमाणे आपला मेंदू मानवी भावना भाषा समजण्यासाठी उत्क्रांत झाला आहे. आपल्याला प्राणी, पक्षी, कीटक, झाडे, संगणक एलिअन्स ह्यांच्या मनात काय विचार आहेत त्यांची काही भाषा असते का? हे कधीही समजणार नाही. त्यामुळे संगणकावर आधारीत कृबूशी आपण अर्थपूर्ण संवाद साधू शकत नाही, समजा तुम्हाला अल्लाउद्दीन च्या दिव्यातील राक्षस प्रसन्न झाला आणि त्याने तुम्हाला वर दिला. “बोल वत्सा. काय इच्छा आहे.”
जिनीकडे काही मागताना बी केअरफुल, बी वेरी केअरफुल. कारण तुम्ही काय मागत आहात आणि जिनीला काय समजले यात जमीन अस्मानाचा फरक असू शकतो.
The Monkey's Paw ही १९०२ साली जेकब्स यांनी लिहिलेली कथा अगदी ह्याच संकल्पनेवर आहे.https://americanliterature.com/author/w-w-jacobs/short-story/the-monkeys...
Eliezer Yudkowsky ह्यांनी “Friendly AI”ची कल्पना मांडली. त्यांच्या म्हणण्या प्रमाणे कृबूची ध्येये ही मानवी कल्याणाशी मिळती जुळती म्हणजे aligned असायला पाहिजेत .
पुढच्या भागात Alignment बद्दल चर्चा करेन.