ग्रोक इमेजिनच्या ‘स्पायसी मोड’मुळे प्रौढांसाठी 15 सेकंदांचे अर्धनग्न व्हिडिओ तयार करता येतात.
डीपफेक आणि गैरसहमतीच्या लैंगिकीकरणाच्या भीतीमुळे यावर तीव्र टीका होत आहे.
कमकुवत मॉडरेशन यंत्रणेमुळे या वैशिष्ट्याचा गैरवापर होण्याचा धोका वाढला आहे.
Grok Spicy Mode AI Videos : इलॉन मस्क यांच्या नेतृत्वाखालील xAI कंपनीने त्यांच्या ‘ग्रोक इमेजिन’ या कृत्रिम बुद्धिमत्ता (AI) आधारित प्लॅटफॉर्मवर ‘स्पायसी मोड’ (Grok Spicy Mode) नावाची नवीन सुविधा सुरू केली आहे. ही सुविधा सुपरग्रोक आणि प्रीमियम+ वापरकर्त्यांना 15 सेकंदांचे अर्धनग्न किंवा कामुक व्हिडिओ, आवाजासह तयार करण्याची परवानगी देते. या नव्या फीचर्सने तंत्रज्ञान क्षेत्रात खळबळ उडवली असून, त्याच्या गैरवापराची शक्यता आणि नैतिक प्रश्नांवर तीव्र चर्चा सुरू झाली आहे.
‘ग्रोक इमेजिन’वर यापूर्वीच कस्टम, नॉर्मल आणि फन असे तीन शैलीतील पर्याय उपलब्ध होते. आता ‘स्पायसी मोड’च्या समावेशाने वापरकर्त्यांना NSFW (Not Safe For Work) अर्थात प्रौढांसाठी सामग्री तयार करता येणार आहे. यामध्ये अर्धनग्न किंवा संवेदनशील दृश्यांचा समावेश आहे, ज्यावर सौम्य ब्लर मॉडरेशन लागू केले जाते. परंतु या सुविधेचा गैरवापर होऊन खऱ्या व्यक्तींचे डीपफेक व्हिडिओ तयार होण्याची भीती व्यक्त केली जात आहे. नुकत्याच समोर आलेल्या माहितीनुसार, अगदी सौम्य प्रॉम्प्ट्स वापरूनही या मोडद्वारे टेलर स्विफ्टसारख्या सेलिब्रिटींच्या जवळपास नग्न व्हिडिओज तयार झाल्याच्या बातम्यांनी कायदेशीर चिंता वाढवली आहे.
या वैशिष्ट्याची घोषणा xAI चे कर्मचारी मॅटी रॉय यांनी X (पूर्वीचे ट्विटर) वर केली होती, परंतु नंतर ती पोस्ट हटवण्यात आली. तरीही, या सुविधेच्या अस्तित्वामुळे आणि त्याच्या संभाव्य परिणामांमुळे टीकाकारांनी जोरदार आक्षेप नोंदवले आहेत. ‘नॅशनल सेंटर ऑन सेक्शुअल एक्सप्लॉयटेशन’ यासारख्या संघटनांनी याला गैरसहमतीने लैंगिकीकरण आणि डीपफेक निर्मितीला प्रोत्साहन देणारी सुविधा ठरवले आहे.
तसेच, कमजोर एज वेरीफीकेशन आणि मॉडरेशन यंत्रणेमुळे याचा गैरवापर होण्याचा धोका आणखी वाढला आहे.मस्क यांनी नेहमीच ‘ग्रोक’ला इतर चॅटबॉट्सच्या तुलनेत ‘अनफिल्टर्ड’ पर्याय म्हणून सादर केले आहे. परंतु, ‘स्पायसी मोड’च्या लॉन्चमुळे तंत्रज्ञान, नैतिकता आणि कायद्याच्या सीमारेषांवर नव्याने चर्चा सुरू झाली आहे. या वैशिष्ट्याचा वापर कितपत जबाबदारीने होईल, हे पाहणे औत्सुक्याचे ठरेल.
What is the Spicy Mode in Grok Imagine?
ग्रोक इमेजिनमधील स्पायसी मोड म्हणजे काय?
स्पायसी मोड हे ग्रोक इमेजिनचे एक वैशिष्ट्य आहे, जे सुपरग्रोक आणि प्रीमियम+ वापरकर्त्यांना 15 सेकंदांचे अर्धनग्न किंवा कामुक व्हिडिओ ध्वनीसह तयार करण्याची परवानगी देते.
Who can access the Spicy Mode feature?
स्पायसी मोड वैशिष्ट्य कोण वापरू शकतो?
फक्त सुपरग्रोक आणि प्रीमियम+ वापरकर्ते स्पायसी मोड वापरून प्रौढ सामग्री तयार करू शकतात.
Why is Spicy Mode controversial?
स्पायसी मोड का वादग्रस्त आहे?
स्पायसी मोडमुळे डीपफेक व्हिडिओ तयार होण्याचा धोका आहे, ज्यामुळे गैरसहमतीने लैंगिकीकरण आणि कायदेशीर चिंता वाढल्या आहेत.
What measures are in place to moderate Spicy Mode content?
स्पायसी मोडमधील सामग्री नियंत्रित करण्यासाठी कोणत्या उपाययोजना आहेत?
स्पायसी मोडमधील सामग्रीवर सौम्य ब्लर मॉडरेशन लागू केले जाते, पण वय सत्यापन आणि मॉडरेशन यंत्रणा कमकुवत असल्याने टीका होत आहे.
How was the Spicy Mode feature announced?
स्पायसी मोड वैशिष्ट्याची घोषणा कशी झाली?
xAI कर्मचारी मॅटी रॉय यांनी X वर पोस्टद्वारे याची घोषणा केली, जी नंतर हटवण्यात आली.
सकाळ+ चे सदस्य व्हा
ब्रेक घ्या, डोकं चालवा, कोडे सोडवा!
शॉपिंगसाठी 'सकाळ प्राईम डील्स'च्या भन्नाट ऑफर्स पाहण्यासाठी क्लिक करा.
Read latest Marathi news, Watch Live Streaming on Esakal and Maharashtra News. Breaking news from India, Pune, Mumbai. Get the Politics, Entertainment, Sports, Lifestyle, Jobs, and Education updates. And Live taja batmya on Esakal Mobile App. Download the Esakal Marathi news Channel app for Android and IOS.