डीपफेक तकनीक और उसका प्रभाव
कृत्रिम बुद्धिमत्ता (AI) तकनीक के उदय ने डीपफेक वीडियो के प्रसार को बढ़ावा दिया है, जिसका असर मनोरंजन उद्योग की प्रमुख हस्तियों, जैसे अभिनेत्रियों पर पड़ रहा है। ये वीडियो बेहद वास्तविक लगते हैं और असली फुटेज के साथ सहजता से घुल-मिल जाते हैं।
नियामक उपाय और चुनौतियाँ
- केंद्र सरकार ने 22 अक्टूबर को सोशल मीडिया प्लेटफॉर्म पर AI-जनित सामग्री की अनिवार्य लेबलिंग का प्रस्ताव रखा।
- उपयोगकर्ताओं को यह घोषित करना होगा कि क्या सामग्री "कृत्रिम रूप से उत्पन्न" है।
- ऋतिक रोशन जैसे अभिनेताओं ने अपने "व्यक्तित्व अधिकारों" की रक्षा के लिए मामले दायर किए हैं।
- मेटा और गूगल जैसी कंपनियों द्वारा मौजूदा लेबलिंग प्रथाओं के बावजूद, प्रवर्तन असंगत है, कई AI-जनरेटेड पोस्ट बिना लेबल के दिखाई देते हैं।
प्रभाव और चिंताएँ
- डीपफेक तकनीक अक्सर महिलाओं को निशाना बनाती है, रिपोर्ट बताती है कि 84% सोशल मीडिया प्रभावशाली लोग डीपफेक पोर्नोग्राफी के शिकार हैं।
- डीपफेक का पहला मामला 2017 में हॉलीवुड अभिनेत्री गैल गैडोट के साथ सामने आया था।
- भारत में, इस मुद्दे ने 2023 में रश्मिका मंदाना के डीपफेक वीडियो के साथ ध्यान आकर्षित किया।
प्रतिक्रिया और भविष्य की कार्रवाइयाँ
- आईटी मंत्रालय के नोट में डीपफेक सामग्री के गलत सूचना, प्रतिष्ठा को नुकसान पहुंचाने, चुनाव में हेरफेर या वित्तीय धोखाधड़ी के लिए इस्तेमाल किए जाने के जोखिमों पर प्रकाश डाला गया है।
- ऐश्वर्या राय की दिल्ली उच्च न्यायालय में दायर याचिका के परिणामस्वरूप उन्हें AI द्वारा उत्पन्न दृश्यों के विरुद्ध सुरक्षा प्रदान की गई।
- इंस्टाग्राम और एक्स जैसे प्लेटफॉर्म की ऐसी सामग्री की रिपोर्ट पर धीमी प्रतिक्रिया के लिए आलोचना की जाती है।
सुधार के लिए सिफारिशें
- वरिष्ठ अधिवक्ता एन.एस. नप्पिनाई का सुझाव है कि उल्लंघनकारी छेड़छाड़ वाली तस्वीरों का पता लगाने और उन्हें सक्रिय रूप से हटाने के लिए AI प्रौद्योगिकी का उपयोग किया जाना चाहिए।
- AI-जनित सामग्री को लेबल और वॉटरमार्क करना ज़रूरी है, लेकिन पर्याप्त नहीं। प्रभावी निष्कासन तंत्र और प्लेटफ़ॉर्म पर त्वरित कार्रवाई बेहद ज़रूरी है।
- उपयोगकर्ताओं को प्रत्येक प्लेटफॉर्म पर रिपोर्टिंग और सुधारात्मक विकल्पों तक आसान पहुंच होनी चाहिए।