परिचय: डीपफेक एक वीडियो, फोटो या ऑडियो रिकॉर्डिंग होती है जो वास्तविक प्रतीत होती है लेकिन इसे AI (आर्टिफिशियल इंटेलिजेंस) की मदद से हेरफेर करके बनाया गया होता है। इससे वास्तविक और नकली कंटेंट के बीच अंतर कर पाना मुश्किल हो जाता है।
तकनीक: डीपफेक वीडियो बनाने के लिए डीप लर्निंग तकनीकों का उपयोग किया जाता है।
- डीप लर्निंग, मशीन लर्निंग का ही एक सब-सेट है, और खुद मशीन लर्निंग आर्टिफिशियल इंटेलिजेंस का एक सब-सेट है।
- इस तकनीक में किसी व्यक्ति की मूल इमेज या वीडियो लेकर उसके चेहरे बदलना, चेहरे के भावों में हेरफेर करना, कहे गए कथनों में बदलाव करना, या लोगों को ऐसे कार्य करते या कहते हुए दिखाना शामिल है जो वास्तव में नहीं किए गए हैं।
डीपफेक के संभावित उपयोग:
- मनोरंजन जगत में (फिल्मों में क्रिएटिव इफ़ेक्ट लाने के लिए);
- ई-कॉमर्स में (ग्राहक कपड़ों को वर्चुअली आजमाकर पसंद कर सकते हैं);
- संचार में (दूसरी भाषा में बोलने के लिए स्पीच सिंथेसिस का इस्तेमाल यानी टेक्स्ट को बोले जाने वाली भाषा में बदलना), आदि।
डीपफेक का विनियमन:
- भारत में विनियमन: भारत में डीपफेक और AI से जुड़े अपराधों के लिए कोई विशेष कानून नहीं हैं। हालांकि कुछ मौजूदा कानूनों के तहत सिविल और आपराधिक मामले दर्ज किए जा सकते हैं।
- विश्व में कानून और नियम :
  - यूरोपीय संघ का आर्टिफिशियल इंटेलिजेंस एक्ट (AI Act) भरोसेमंद AI सिस्टम को बढ़ावा देने के लिए डिज़ाइन किया गया है।
  - इटली: इटली के संविधान और सिविल कोड, दोनों ही किसी व्यक्ति के नाम, इमेज, आवाज के अनाधिकृत उपयोग को प्रतिबंधित करते हैं।
  - सितंबर 2024 तक संयुक्त राज्य अमेरिका के 23 राज्यों ने डीपफेक के विनियमन से संबंधित कानून बनाए हैं। अन्य देशों में भी इसी तरह के कानून बनाए गए हैं।

डीपफेक से जुड़ी चिंताएं

राष्ट्रीय सुरक्षा को खतरा: डीपफेक की मदद से बनाए गए फर्जी वीडियो हिंसा भड़का सकते हैं, जांच को बाधित कर सकते हैं या आरोपी झूठे बहाने बनाकर दोषसिद्धि से बच सकता है।
लोकतांत्रिक व्यवस्था में विश्वास कम होना: फर्जी राजनीतिक कंटेंट जनता को गुमराह कर सकते हैं और लोकतांत्रिक प्रक्रियाओं को नुकसान पहुंचा सकते हैं।
महिलाओं का शोषण: 2018 के बाद से लगभग 90-95% डीपफेक वीडियो मुख्य रूप से बिना-सहमति वाली पोर्नोग्राफी (सहमति लिए बिना किसी महिला की इमेज या वीडियो को किसी अन्य इमेज या वीडियो में जोड़ना) से संबंधित थे।
साइबर बुलिंग: जब अफवाहों को फर्जी इमेज या वीडियो के साथ जोड़कर प्रसारित किया जाता है, तो वे तेजी से फैल सकती हैं, जिससे किसी व्यक्ति की प्रतिष्ठा धूमिल हो सकती है।
पहचान की चोरी: डीपफेक के जरिए फर्जी पहचान वाले डाक्यूमेंट्स बनाकर साइबर अपराधी किसी अन्य व्यक्ति की जगह खुद को पेश कर सकता है या उस व्यक्ति के सिक्योर सिस्टम्स को एक्सेस कर सकता है।
जागरूकता की कमी: डीपफेक वीडियो का पता चलने के बाद भी, लोगों में जागरूकता की कमी के कारण गलत सूचनाओं के प्रसार को रोकना मुश्किल हो जाता है। लोग अक्सर फर्जी कंटेंट को सच मान लेते हैं।
डीपफेक से निपटने में अधिक निवेश की जरूरत: विशाल मात्रा वाले डेटासेट से निपटने के लिए अधिक निवेश आवश्यक है और इमेज या वीडियो के पीछे के सच का पता लगाने के लिए एडवांस्ड कंप्यूटेशन रिसोर्सेज का इस्तेमाल करना पड़ता है।

डीपफेक से निपटने के लिए भारत में की गई पहलें

कानूनी प्रावधान

सूचना प्रौद्योगिकी अधिनियम, 2000 (IT Act): यह अधिनियम आर्टिफिशियल इंटेलिजेंस (AI) टूल का उपयोग करके उत्पन्न कंटेंट पर भी लागू होता है।
सूचना प्रौद्योगिकी (मध्यवर्ती दिशा-निर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 (IT Rules, 2021): ये नियम साइबर स्पेस पर उत्पन्न होते नए मामलों का समाधान करते हैं।
- इसके तहत, शिकायत के समाधान के लिए अपीलीय समितियों के गठन का प्रावधान किया गया है। इससे यूजर्स और पीड़ितों को ऑनलाइन अपील करने की सुविधा मिलती है।

संस्थाओं की स्थापना

इंडियन कंप्यूटर इमरजेंसी रिस्पांस टीम (CERT-In): CERT-In ने डीपफेक से जुड़े खतरों पर दिशा-निर्देश जारी किए हैं और ऑनलाइन सुरक्षित रहने के उपायों का सुझाव दिया है।
- यह साइबर स्वच्छता केंद्र (बॉटनेट क्लीनिंग और मैलवेयर अनलिस्टिक्स सेंटर) का संचालन करता है।
- यह कंप्यूटर सिक्योरिटी इंसिडेंट रिस्पांस टीम-फाइनेंस सेक्टर (CSIRT-Fin) के लिए नेतृत्व प्रदान करता है।
इंडियन साइबर क्राइम कोऑर्डिनेशन सेंटर (I4C): यह साइबर-अपराधों से व्यापक और समन्वित तरीके से निपटता है।
राष्ट्रीय साइबर अपराध रिपोर्टिंग पोर्टल: इसके तहत एक टोल फ्री हेल्पलाइन नंबर 1930 चालू किया गया है, जहां लोग साइबर अपराधों की रिपोर्ट दर्ज कर सकते हैं।

डीपफेक से जुड़ी चिंताओं को दूर करने की आगे की राह

नियम-कानून में सुधार करना: AI से वास्तविक दुनिया के खतरों को देखते हुए प्रभावी एवं स्पष्ट कानून और नियम बनाने की आवश्यकता है। हमारा ध्यान किसी घटना के बाद कार्रवाई करने की बजाय, उस घटना को घटित होने से रोकने पर होना चाहिए। भारत के मौजूदा IT नियम नुकसान होने के बाद ही कार्यवाही करते हैं, और शिकायत दर्ज करने का दायित्व पीड़ितों पर ही आ जाता है। इस सोच और व्यवस्था में बदलाव करने की जरूरत है।
संस्थाओं को मजबूत बनाना: लोगों की सुरक्षा सुनिश्चित करने और AI के दुरुपयोग को कम करने के लिए संस्थाओं का सशक्त होना जरूरी है तथा इनके लिए स्पष्ट सुरक्षा मानक तय करने की भी आवश्यकता है।
आधुनिक तकनीकों को अपनाना: हमें ऐसे उत्कृष्ट एल्गोरिदम बनाने होंगे जिनमें नए तरीके भी शामिल हों, जो डीपफेक को उनके कॉन्टेक्स्ट, मेटाडेटा या दूसरे तथ्यों के आधार पर पहचान कर सकें।
- उदाहरण के लिए, मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (MIT) ने "डिटेक्ट फेक्स" (Detect Fakes) नाम की एक वेबसाइट बनाई है। यह लोगों को छोटी-छोटी बारीकियों पर ध्यान देकर डीपफेक पहचानने में मदद करती है।
साइबर जगत के बारे में साक्षरता बढ़ाना: हमें मीडिया साक्षरता (मीडिया/सोशल मीडिया पर उपलब्ध मैसेज की सचाई की पहचान) और क्रिटिकल थिंकिंग को बढ़ावा देना चाहिए, जिसमें डिजिटल माध्यम पर भरोसे को बढ़ाना भी शामिल किया जाए। इससे सभी लोगों के हितों की रक्षा होगी तथा समाज की अपेक्षाओं और मूल्यों को बनाए रखा जा सकेगा।
सभी हितधारकों का सहयोग: पुलिस, न्यायिक अधिकारी जैसे सभी हितधारकों के सुझावों को शामिल करके स्पष्ट प्रक्रिया वाले नियम और प्रभावी दंड संबंधी प्रावधान लागू करने की आवश्यकता है।