सोशल मीडिया पर हम कई तस्वीरें और वीडियो देखते हैं जो सच होने के लिए बहुत अच्छे होते हैं या कई मामलों में चौंकाने वाले होते हैं। कुछ उदाहरणों में, हम बिना यह जाने कि यह एक डीपफेक है, बस एक छवि से गुजर जाते हैं। ऐसे में कई लोग फेक न्यूज का शिकार हो जाते हैं और कई शेयर्स की वजह से ये ट्रेंडिंग में आने लगते हैं. इसलिए, डीपफेक और गलत सूचना से निपटने के लिए, चैटजीपीटी निर्माता ओपनएआई ने सामग्री की प्रामाणिकता और एआई-जनरेटेड छवियों को पहचानने के लिए एक टूल के विकास की घोषणा की।
डीपफेक और एआई-जनित छवियों का पता लगाने के लिए ओपनएआई का उपकरण
OpenAI ब्लॉग के अनुसार डाक, कंपनी कृत्रिम रूप से उत्पन्न छवियों को ट्रैक करने और उनका पता लगाने के लिए एक उपकरण विकसित करेगी। इस तरह के टूल को विकसित करने का लक्ष्य लोगों को एआई-जनरेटेड कंटेंट के बारे में शिक्षित करना और डीपफेक के मामलों से बचना है। OpenAI गठबंधन फॉर कंटेंट प्रोवेनेंस एंड ऑथेंटिसिटी (C2PA) समिति के साथ सहयोग कर रहा है, जो AI-जनित सामग्री के लिए स्पष्ट लेबल बनाता है। ओपनएआई ने कहा, “जैसे-जैसे जेनरेट की गई दृश्य-श्रव्य सामग्री अधिक सामान्य होती जा रही है, हमारा मानना है कि नई तकनीक और मानकों को अपनाना समग्र रूप से समाज के लिए तेजी से महत्वपूर्ण होगा जो लोगों को ऑनलाइन मिलने वाली सामग्री को बनाने के लिए उपयोग किए जाने वाले उपकरणों को समझने में मदद करता है।”
नया टूल OpenAI के इमेज जेनरेशन टूल, Dall-E 3 के साथ एकीकृत किया जाएगा। विशेष रूप से यह टूल किसी छवि की उत्पत्ति के साथ-साथ सामग्री को कैसे विकसित किया गया था, उससे संबंधित जानकारी प्रदान करेगा। इसके अतिरिक्त, ओपनएआई के टूल से कलात्मक रूप से तैयार की गई सामग्री में एक अदृश्य छेड़छाड़-प्रतिरोधी वॉटरमार्क भी शामिल होगा। उम्मीद है कि यह टूल डैल-ई-जनरेटेड छवियों के साथ 98 प्रतिशत सटीकता और मिडजॉर्नी या एडोब फायरफ्लाई जैसे अन्य छवि निर्माण टूल से 5 से 10 प्रतिशत सटीकता प्रदान करेगा। इसलिए, यह टूल अन्य छवि निर्माण टूल के लिए काम नहीं करेगा, जिससे यह कम उपयोगी हो जाएगा। हालाँकि, यह पहला कदम है और ऑनलाइन फैल रहे डीपफेक और गलत सूचनाओं से निपटने के कंपनी के प्रयास को दर्शाता है।
कथित तौर पर, OpenAI ने टूल को बहुत सीमित दर्शकों के लिए उपलब्ध कराया है और इसने टूल का परीक्षण करने और व्यापक रोलआउट से पहले अपनी प्रतिक्रिया देने के लिए अनुसंधान प्रयोगशालाओं और अनुसंधान-आधारित पत्रकारिता गैर-लाभकारी संगठनों को आमंत्रित किया है। ऐसे एआई डिटेक्शन टूल व्यक्तियों को राजनेताओं और मशहूर हस्तियों से उत्पन्न डीपफेक को पहचानने में सक्षम बना सकते हैं।
एक और बात! अब हम व्हाट्सएप चैनल पर हैं! वहां हमें फ़ॉलो करें ताकि आप प्रौद्योगिकी की दुनिया से कोई भी अपडेट न चूकें। व्हाट्सएप पर एचटी टेक चैनल को फॉलो करने के लिए क्लिक करें यहाँ अभी शामिल होने के लिए!
openai-developing-a-tool-to-spot-deepfakes-and-ai-generated-images-check-details
