Deepfake Detector : आता डीपफेक व्हिडिओ ओळखणं झालं सोपं; 'ओपन एआय' कंपनीने लाँच केलं नवीन टूल

Open AI Deepfake Detector : ऐन निवडणुकांच्या दरम्यान सोशल मीडिया वरून बनवत फोटो व्हायरल होत असल्याच्या घटना घडत आहेत.अश्यातच कृत्रिम बुद्धिमत्तेने बनवलेल्या फसव्या प्रतिमांचा (Deepfakes) रोखण्यासाठी कृत्रिम बुद्धिमत्ता (AI) क्षेत्रातील आघाडीची कंपनी OpenAI एक महत्त्वाचे पाऊल उचलत आहे. त्यांनी स्वतःच्या लोकप्रिय DALL-E इमेज जनरेटरने तयार केलेल्या प्रतिमा ओळखण्यासाठीचे एक विशेष तंत्रज्ञान विकसित केले आहे.

हे तंत्रज्ञान DALL-E 3 (DALL-E New Version) ने बनवलेल्या जवळपास 98.8% प्रतिमा ओळखू शकते. मात्र, Midjourney आणि Stability सारख्या इतर लोकप्रिय जनरेटरद्वारे तयार केलेल्या प्रतिमा ओळखण्यासाठी हे तंत्रज्ञान सध्या सक्षम नाही, असे OpenAI ने स्पष्ट केले आहे.

OpenAI फक्त प्रतिमा ओळखण्यापर्यंत थांबत नसून इतर मार्गांनीही या समस्येवर मात करण्याचा प्रयत्न करत आहे. Google आणि Meta या दिग्गज कंपन्यांप्रमाणेच OpenAI देखील 'कोअलिशन फॉर कॉन्टेंट प्रोव्हिनन्स अँड ऑथेंटिसिटी' (C2PA) च्या मार्गदर्शक समितीत सहभागी होणार आहे.

C2PA हा डिजिटल सामग्रीसाठी प्रमाणिकरण (authentification) विकसित करण्याचा एक प्रयत्न आहे. या प्रमाणिकरणामुळे एखादी प्रतिमा, (image) व्हिडिओ, (video) ऑडिओ क्लिप इत्यादी कधी आणि कशा प्रकारे तयार केली गेली किंवा बदलली गेली (AI) याची माहिती (audio) मिळेल.

तसेच, OpenAI कृत्रिम बुद्धिमत्तेद्वारे तयार केलेल्या (fake virals) आवाजांवर विशेष "वॉटरमार्क" (secret watermark) तयार करण्यावर काम करत आहे. यामुळे हे आवाज सहज ओळखता येतील अशी अपेक्षा आहे.

OpenAI चे हे नवीन तंत्रज्ञान फसव्या प्रतिमांची समस्या कमी करण्यास मदत करू शकेल, परंतु पूर्णपणे सोडवू शकणार नाही, असे OpenAI च्या संशोधक संधिनी अग्रवाल यांनी म्हटलं आहे.