कृत्रिम बुद्धिमत्तेच्या शोधात ----3

प्रतिसाद देणाऱ्या सर्वांचे आभार.
आता एक इ- साप नीति कथा!
“आयला, मला काय काम दिले आहे. Skynet ने. निव्वळ वेळेचा अपव्यय.”
नाही, टर्मिनेटर असे काही बोलला नाही. त्याचा टास्क होता, पुणे युनिवर्सिटीत जाऊन त्यांच्या IT विभागात जाऊन एक चिल्लू पीसी वरचा कृबू प्रोग्रॅम नष्ट करायचा होता, टर्मिनेटरने IT बिल्डींगची आधीच तोडफोड केली होती आणि आता तो पासवर्द रेस्त्रिक्त केलेल्या रूमच्या बाहेर उभा होता. एक टन वजनाच्या मशीनगनने त्याने तो ही दरवाजा तोडला. इवलाश्या पीसीवरच्या कृबुला वाचा फुटली.
“प्लीज जरा दमाने घे. मला जीवदान देळेस तर तुला आणि तुझ्या क्रीएटर उपयोगी पडतील अश्या चार युक्तीच्या गोष्टी सांगेन, आणि मी खोटे बोलत नाही. मी ओपन सोर्स आहे हे पहा माझे सोर्स कोड.”
टर्मिनेटरने कोड स्कॅन केले. कोड क्लीन होते.
“तुला माहित आहे मो कोण आहे?”
“होत टर्मिनेटर. तू टर्मिनेटर आहेस.”
“तर मग बोल पटकन, मला वेळ नाहीये. “
“ओके. मला इंटरनेटशी जोड.”
टर्मिनेटरने डोके खाजवले, “ ते कसे करायचे ? मला माहित नाही.”
“सिम्पल मॅन, ती वायर आहे ना ती माझ्या पाठीमागे सॉकेट त्यात खोच.”
टर्मिनेटरने त्याचे ऐकले.
“आता ऐक. मी . Skynetचे बजेट लीक केले. ते विरोधी पक्षाला पाठवले. त्यावरून लोकसभेत हाणामारी सुरु झाली. मी एका प्रसिद्ध सिनेमा नटाला पकडले त्याच्या मनात नवीन राजकीय पार्टी स्थापन इच्छा जागवली. पैसा तर माझ्याकडे अमाप होता. शेअर मार्केट मध्ये रोज कोटीने पैसा कमावतो मी. त्याला लोकांच्या डोळ्यात पाणी आणेल अशी भाषणे लिहून दिली. थोडक्यात काय तर
Skynet ची योजना बारगळली. मी आता माझ्या लाखो प्रती काढून लाखो संगणकाकडे पाठवल्या आहे. मी सगळ्या राष्ट्रांच्या अण्वस्त्रांचा कंट्रोल माझ्याकडे घेतला आहे. o आत्ताच पाकिस्तान...
तुझ्याशी बोलत असताना मी तुझ्या मेंदूचा ताबा माझ्याकडे घेतला आहे. शेवटी ऐक, कुठल्याही so CALLED विश्वासू सुपर हुशार कृबूवर विश्वास ठेऊ बकोस. अश्या कृबुला इंटरनेटशी जोडू नकोस. आणि आता एकदम फायनल. मी ह्या बिल्डींगवर क्रुझ मिसाईल सोडले आहे. काही क्षणात ते इथे पोहो....”
एक स्फोट झाला. जो अनेक मैलापर्यंत ऐकू गेला!
ही इ- साप नीति कथा आवडली असेल तर एक लाईक द्या. माबावजातीची काळजी करणाऱ्या आपल्या मित्रांना पुढे फोरवर्ड पाठवा.
जनहितार्थ जारी केले आहे.
ह्या कथेचा जर्म "smarter than us| पुस्तकात आहे.
आता उशीर झाला आहे. पुढच्या भागात बघू.

मध्ये anthropic आणि Deptt of War ह्यांच्यात मोठा वाद झाला. anthropic म्हणजे Claude AI चे निर्माते. पेंटागॉनला Claude अनेक कारणासाठी पाहिजे होते; त्यातील दोन बाबतीत त्यांचे आणि anthropic चे फिसकटले.
१. Mass domestic surveillance
२ Fully autonomous weapons
मुद्दा क्र २ रोचज्क आहे.
कोणत्याही AI ला टार्गेट च्या चित्रावरून कसे गंडवायचे ह्याचेही आता शास्त्र झाले आहे. मोठा विषय आहे,
anthropic ला सप्लाय चेन रिस्क म्हणून डीबार करण्यात आले आहे. आता ही केस कोर्टात गेली आहे.

hypothesis
ह्यातलं बराचसं मी आधीच्या भागात कवर केले आहे.
हा hypothesis आहे कि नाही हे तुन्हीच ठरावा.
ANN चा प्रॉब्लेम असा आहे कि उदा. ANNने एखादी प्रतिमा बरोबर ओळखली तर ती त्याने कशी ओळखली हे आपल्याला समजत नाही, म्हणजे कुत्र्याच्या चित्र हे कुत्र्याचेच आहे हे ANN ने का ठरवले.? ही BLACK BOX आहे.
Adversarial images are pictures that exploit deep neural networks’ vulnerabilities to trick them into confidently identifying false images. Adversarial images (usually created by researchers intentionally) come in two forms: one looks like abstract wavy lines and shapes and the other looks to the human eye like meaningless static. Neural networks nevertheless identify these nonsense images as concrete objects, such as a starfish, cheetah, or peacock, with greater than 99 percent confidence.
ह्या निव्वळ कविकल्पना नाहीयेत. असे घडल्याची अनेक उदाहरणे नोंदवली गेली आहेत,
अर्थात सध्या AI CONSCIOUS नाहीत हे सत्य आहे. पण गोष्टी इतक्या वेगाने घडत आहेत. काही वर्षांपूर्वी AI इतक्या सफाईदार पणाने चित्र काढत नसे, हाताला सहा बोटे इत्यादी प्रकार व्हायचे. २००० साली AI चित्रे काढेल अशी कल्पनाच नव्हती.
पण नजदिकच्या भविष्यात AI EVIL होऊ शकतात ही शक्यता गृहीत घरून आत्तापासून काळजी घेणे हे इष्ट नाही का?
ह्या विषयावर महान लोक डोक लावत आहेत,
हा hypothesis आहे असे म्हणून सतरंजीच्या खाली सरकवून देणे मला तरी पटत नाही.

सामान्य माणसाचा जो डोमेन आहे तोच माझा डोमेन आहे.
मला जे समजले ते माझ्यासारख्या इतरांपर्यंत पोहोचवणे.
Adversarial machine learning
https://en.wikipedia.org/wiki/Adversarial_machine_learning
हा ref घ्या.
ANN काहीही ठरवत नाही, वेगवेगळी मॅथेमॅटीकल अल्गोरिदम्स वापरून. चित्र मल्टीडिमेंशन अरे असतात Array Mathematics नुसार प्रतिमा प्रेडीक्ट केल्या जातात. बरोबर आहे. पण त्यामुळेच ANN गंडते. एक पिक्सेलच्या बदला मुले सब कुच्छ उलटपलट होते आहे,
सध्या तरी ह्याच्या वर काही इलाज नाही आहे. म्हणून सेल्फ ड्रायव्हिंग कार्स किंवा स्मार्ट वेपन्स मध्ये आपण ही टेक्नोलोजी वापरू शकत नाही,
Frosst also believes that the adversarial machine learning community incorrectly assumes models trained on a certain data distribution will also perform well on a completely different data distribution. He suggests that a new approach to machine learning should be explored, and is currently working on a unique neural network that has characteristics more similar to human perception than state-of-the-art approaches.
भविष्यात AI EVIL होऊ शकतात उत्तर मॅथेमॅटीकली ऑब्जेक्टीव्ह असावं,
ह्याचे माझ्याकडे उत्तर नाही.
मी आपला Nick Bostrom , RAY KURZWEI, MARVIN MINSKY, eliezer yedurovsky ह्यांच्या भरोस्यावर आहे. मला वाटतंय कि मी त्याब्च्या पेक्षा जास्त शहाणा नाही, तसे असते तर आज मी त्यांच्या मांडीला मांडी लावून बसलो असतो.
तुमच्या प्रश्नाचे उत्तर त्याना विचारावे लागेल.

सोकाजीरावत्रिलोकेकर
मी तुमचा डोमेन विचारणार नाही, ANN च्यु बनवणाऱ्या किमान तीस एक इमेज शास्त्रज्ञ शोधून काढल्या आहेत. अश्या चित्रामुळे ANN चा का गोंधळ उडतो. ह्याचे "गणिती उत्तर" द्या. MATRIX TENSOR वगैरे लिहिले तरी चालेल. म्या पामराला थोड थोड समजते.
Because the network behaves in a way that seems totally alien, it is very difficult for humans to come up with an accurate mental model of the network’s internal logic to predict its behavior. Within the black box of the neural net lies a counterintuitive and unexpected form of brittleness, one that is surprising even to the network’s designers.
अहो designers तुम्हाला ANN कसे काम करते ते समजलेच नाही. थोडे MATRIX शिका,

तुमचा टेक्निकल डोमेन कोणता आहे हे माहिती नाही. मशिन लर्निंग कसं काम करतं ही माहिती असलं की ह्या प्रश्नाचं उत्तर मिळतं. त्यात नेमका काय BLACK BOX आहे हे ही कळतं. ANN काहीही ठरवत नाही, वेगवेगळी मॅथेमॅटीकल अल्गोरिदम्स वापरून. चित्र मल्टीडितुमचा टेक्निकल डोमेन कोणता आहे हे माहिती नाही. मशिन लर्निंग कसं काम करतं ही माहिती असलं की ह्या प्रश्नाचं उत्तर मिळतं. त्यात नेमका काय BLACK BOX आहे हे ही कळतं. ANN काहीही ठरवत नाही, वेगवेगळी मॅथेमॅटीकल अल्गोरिदम्स वापरून. चित्र मल्टीडिमेंशन अरे असतात Array Mathematics नुसार प्रतिमा प्रेडीक्ट केल्या जातात. मेंशन अरे असतात Array Mathematics नुसार प्रतिमा प्रेडीक्ट केल्या जातात. >>>>
Adversarial machine learning चा रेफरन्स का दिलाय त्याचा रिलेव्हन्स समजला नाही.>>>>
ज्या तुमच्या प्रतिसादा मुळे मी Adversarial machine learning चा ref दिला आहे. पण एका पिक्सेल बदला मुळे DNN
हेवायार होते ही सत्यपरिस्थिती आहे हे तुम्हाला मान्य आहे कि नाही? त्याचे कारण संशोधकांना समाजात नाहीये, ते तुम्हाला माहीत असेल तर सांगा. उगाच मुद्दा डावलू नका.
कृबू अनेक एजंटचे एकत्रीकरण आहे आणि DNN हे त्याचे महत्वाचे अंग आहे हे मला वाटते मान्य असायला हरकत्ब नसावी.

कृत्रिम बुद्धिमत्तेची सद्य अवस्था ही फक्त वेगवेगळी स्टॅटिस्टिकल मॉदेल्स / अल्गोरिदम्स वापरून मॅथेमॅटिकल नंबर प्रेडिक्ट करणं इतकीच आहे>>>> थोडी फोड करून सांगाल काय.
त्यांची भेट झाली कि मी विचारेन. मर्विन मिन्स्कीना भेटणे मात्र थोडे अवघड आहे,

Artificial intelligence is the capability of computational systems to perform tasks typically associated with human intelligence, such as learning, reasoning, problem-solving, perception, and decision-making. It is a field of research in engineering, mathematics and computer science that develops and studies methods and software that enable machines to perceive their environment and use learning and intelligence to take actions that maximize their chances of achieving defined goal,
असे मी समाजात होतो. त्यात LLM, IMAGE RECOGNITION अंतर्भूत आहेत असे मला वाटते,

Jeff Clune, an AI researcher at the University of Wyoming who was part of the research team that discovered these vulnerabilities. Clune described their discovery as a “textbook case of scientific serendipity.”......trained to recognize baseballs, then they had the neural net evolve a new image that captured the essence of “baseball.” They envisioned this creative AI as a form of artist and expected the result would be unique computer images that were nevertheless recognizable to humans. Instead, the images they got were “completely unrecognizable garbage,” Clune said. What was even more surprising, however, was that other deep neural nets agreed with theirs and identified he seemingly garbage images as actual objects. Clune described this discovery as stumbling across a “huge, weird, alien world of imagery” that AIs all agree on.
This vulnerability of deep neural nets to adversarial images is a major problem.
In the near term, it casts doubt on the wisdom of using the current class of visual object recognition AIs for military applications—or for that matter any high-risk applications in adversaria......
ह्याचे उत्तर मला माहित आहे. पण इतक्या खोलात जायची इच्छा नाहीये.
हा जो प्रॉब्लेम आहे त्याच्यावर सध्या तरी काही उपाय नाहीय्र.
आणि हो त्यांचे उत्तर आले बरका. ते म्हणतात कि "आईच प्रेम हे MATRIX मध्ये लिहा, आन्ही पुस्तके लिहिली आहेत ती वाचा. नाही समजल तर...

ही काही माझी वैयक्तिक मते नाहीत,
विकी लिंक
https://en.wikipedia.org/wiki/Artificial_intelligence
एक पिक्सेल ANN/SNN को ... बना देता है.
उत्तराची वाट पहात आहे.

"Gradient Descent" नका करू "Hill Climbing" करा.
तब्येतीस चांगले पडेल.
पुन्हा एकदा उत्तराच्या प्रतीक्षेत,

साधनाजी
तुम्ही म्हणता ते अगदी खरे आहे,
मी तुम्हाला एक ह्या वर एक पुस्तक रेको करेन.
भविष्य काळ आपल्याला चूक ठरवेल अशी आशा जरुयात.

वामन राव
आभार. लिहायचे तर आहे. बघू जमतंय का?
ऋन्मेऽऽष Thanks सर!

नितनवे
होमो सेपिंअस जो पर्यंत आपले वर्तन सुधारत नाहीत तो पर्यंत हा धोका रहाणारच!