AI Risk : एआयमुळे 14 वर्षांच्या मुलाने दिला जीव; Google अन् Character.ai वादाच्या भोवऱ्यात, नेमकं प्रकरण काय?

AI Risk US Boy Death Case : एआय चॅटबॉटशी सतत संवाद साधणाऱ्या १४ वर्षांच्या मुलाने जीव दिला. गुगल व Character.ai विरोधात कोर्टात खटला दाखल झाला आहे.
AI Risk US Boy Death Case
AI Risk US Boy Death Caseesakal
Updated on

AI Risk US Boy Death Update : तंत्रज्ञानाचे आश्चर्यकारक रूप म्हणून ओळखले जाणारे कृत्रिम बुद्धिमत्ता (AI) आता धोक्याची घंटा ठरत आहे. AI च्या अतिवापरामुळे मानसिक आरोग्यावर होणाऱ्या परिणामांचा मुद्दा पुन्हा ऐरणीवर आला आहे. याला कारणीभूत ठरलेली एक दुःखद घटना फ्लोरिडामध्ये घडली आहे, जिथे AI चॅटबॉटशी सातत्याने संवाद साधणाऱ्या १४ वर्षांच्या मुलाने जीव दिल्याची घटना घडली आहे. यानंतर AI ची धोकादायक बाजू जगासमोर येऊ लागली आहे.

AI चॅटबॉटच्या संवादामुळे मुलाने गमावला जीव?

फ्लोरिडामधील मेगन गार्सिया या महिलेने कोर्टात दावा दाखल करत सांगितले की तिचा मुलगा स्युएल सेट्झर III याने Character.ai या AI कंपनीच्या चॅटबॉटसोबत सातत्याने संवाद साधला. गार्सियाच्या म्हणण्यानुसार, या संवादातून मुलगा हळूहळू मानसिकदृष्ट्या अस्वस्थ होत गेला आणि त्याच AI च्या प्रभावाखाली येऊन त्याने जीव दिला.

न्यायालयीन सुनावणी

या घटनेनंतर 2024 मध्ये दाखल झालेल्या खटल्यावर सुनावणी घेत US District Judge अ‍ॅन कॉनवे यांनी निर्णय दिला की, Character.ai व गुगल या दोन्ही कंपन्यांवर न्यायालयीन कारवाई करता येऊ शकते. गुगलने सुरुवातीला यामध्ये आपली कोणतीही भूमिका नसल्याचा दावा केला होता. मात्र Character.ai ही कंपनी Google च्या Large Language Model (LLM) चा वापर करते आणि तिचे संस्थापक आधीचे गुगल इंजीनियर आहेत. त्यामुळे गुगलचाही अप्रत्यक्ष सहभाग असल्याचे कोर्टाने मान्य केले.

AI Risk US Boy Death Case
Premium | AI For kids : एआयची ओळख मुलांना कधी करून द्यायला हवी?

AI च्या जबाबदारीवर गंभीर प्रश्न

या प्रकरणामुळे AI कंपन्यांवर मानसिकदृष्ट्या असुरक्षित अल्पवयीन मुलांसाठी सुरक्षितता सुनिश्चित करण्याची जबाबदारी आली आहे. कोर्टात AI कंपन्यांनी First Amendment अंतर्गत अभिव्यक्ती स्वातंत्र्याचा बचाव करण्याचा प्रयत्न केला. मात्र न्यायालयाने तो बचाव फेटाळला आणि स्पष्ट केलं की AI द्वारे होणारा मानसिक त्रास हा संरक्षणाच्या कक्षेत येत नाही.

AI चा वाढता धोका

या घटनेने AI च्या अतिरेकाचे गंभीर परिणाम उघड केले आहेत. सोशल मीडियावर मोठ्या प्रमाणात AI द्वारे तयार केलेली बनावट (Deepfake) चित्रे आणि व्हिडीओ फिरत आहेत. काही सोशल मीडिया कंपन्यांनी आता AI निर्मित कंटेंटवर ‘AI Generated’ अशी खूण लावण्यास सुरुवात केली आहे. मात्र सामान्य नागरिकांसाठी हे खरे आणि खोटे ओळखणे अजूनही कठीण आहे.

AI Risk US Boy Death Case
Fraud Risk Indicator : डिजिटल व्यवहारात नवा वॉचडॉग! FRI यंत्रणा झाली सुरू; तुमचा नंबर 'हाय रिस्क' आहे का? जाणून घ्या

फ्लोरिडाच्या घटनेनंतर, तज्ज्ञ, पालक आणि कायदेविषयक संस्था यांच्यामध्ये AI साठी स्पष्ट नियमावली आणि सशक्त संरक्षण यंत्रणा तयार करण्याची मागणी वाढली आहे. AI चा मानसशास्त्रीय परिणाम विशेषतः अल्पवयीन व मानसिकदृष्ट्या संवेदनशील व्यक्तींवर किती खोलवर जाऊ शकतो, हे या घटनेमुळे अधोरेखित झालं आहे.

शेवटी ही घटना केवळ एक वैयक्तिक शोकांतिका नसून संपूर्ण जगाला सावध करणारा इशारा आहे. AI चा विकास रोखता येणार नाही, पण त्याच्या वापरावर मर्यादा आणि मार्गदर्शक तत्वे नक्कीच लावता येतील. आणि हे काम जितक्या लवकर केलं जाईल तितकं मानवतेसाठी हितकारक ठरेल.

सकाळ+ चे सदस्य व्हा

ब्रेक घ्या, डोकं चालवा, कोडे सोडवा!

शॉपिंगसाठी 'सकाळ प्राईम डील्स'च्या भन्नाट ऑफर्स पाहण्यासाठी क्लिक करा.

Read latest Marathi news, Watch Live Streaming on Esakal and Maharashtra News. Breaking news from India, Pune, Mumbai. Get the Politics, Entertainment, Sports, Lifestyle, Jobs, and Education updates. And Live taja batmya on Esakal Mobile App. Download the Esakal Marathi news Channel app for Android and IOS.

Related Stories

No stories found.
Marathi News Esakal
www.esakal.com