तकनीक इतनी विकसित हो गई है कि अब कोई भी नकली तस्वीरें और वीडियो बना सकता है। कृत्रिम बुद्धिमत्ता तकनीक का अब दुरुपयोग हो रहा है, लोग महिलाओं को निशाना बनाने और धमकाने के लिए एआई टूल का उपयोग कर रहे हैं।
तकनीक इतनी विकसित हो गई है कि अब कोई भी नकली तस्वीरें और वीडियो बना सकता है। कृत्रिम बुद्धिमत्ता तकनीक का अब दुरुपयोग हो रहा है, लोग महिलाओं को निशाना बनाने और धमकाने के लिए एआई टूल का उपयोग कर रहे हैं।
शोधकर्ताओं के अनुसार, तस्वीरों में महिलाओं के कपड़े उतारने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करने वाले ऐप्स और वेबसाइटें लोकप्रियता में बढ़ रही हैं।
सोशल नेटवर्क विश्लेषण कंपनी ग्राफिका ने पाया कि अकेले सितंबर में 24 मिलियन लोगों ने कपड़े उतारने वाली वेबसाइटों का दौरा किया।
ग्राफिका के अनुसार, इनमें से कई कपड़े उतारने या "नग्न करने" वाली सेवाएं मार्केटिंग के लिए लोकप्रिय सामाजिक नेटवर्क का उपयोग करती हैं। उदाहरण के लिए, इस साल की शुरुआत से, एक्स और रेडिट सहित सोशल मीडिया पर अनड्रेसिंग ऐप्स का विज्ञापन करने वाले लिंक की संख्या 2,400% से अधिक बढ़ गई है, शोधकर्ताओं ने कहा। सेवाएँ किसी छवि को फिर से बनाने के लिए AI का उपयोग करती हैं ताकि व्यक्ति नग्न हो। कई सेवाएँ केवल महिलाओं पर काम करती हैं।
ये ऐप्स कृत्रिम बुद्धिमत्ता में प्रगति के कारण गैर-सहमति वाली पोर्नोग्राफ़ी के विकसित और वितरित होने की चिंताजनक प्रवृत्ति का हिस्सा हैं - एक प्रकार का मनगढ़ंत मीडिया जिसे डीपफेक पोर्नोग्राफ़ी के रूप में जाना जाता है। इसका प्रसार गंभीर कानूनी और नैतिक बाधाओं में चलता है, क्योंकि तस्वीरें अक्सर सोशल मीडिया से ली जाती हैं और विषय की सहमति, नियंत्रण या ज्ञान के बिना वितरित की जाती हैं।
ग्राफिका ने कहा कि लोकप्रियता में वृद्धि कई ओपन सोर्स डिफ्यूजन मॉडल या कृत्रिम बुद्धिमत्ता के जारी होने से मेल खाती है जो ऐसी छवियां बना सकते हैं जो कुछ साल पहले बनाई गई छवियों से कहीं बेहतर हैं। क्योंकि वे खुले स्रोत हैं, ऐप डेवलपर्स द्वारा उपयोग किए जाने वाले मॉडल मुफ्त में उपलब्ध हैं।
