डिजिटल माध्यम से दुर्व्यवहार (Digital abuse) “बहुत तेजी से फैल रहा है”। इसके प्रसार में कृत्रिम बुद्धिमत्ता (AI), गुमनाम रहते हुए (anonymity) सक्रियता और कानून में निहित कमियां भूमिका निभा रही हैं।

‘महिलाओं के विरुद्ध डिजिटल माध्यम से हिंसा’ क्या है?

• यह डिजिटल माध्यमों से होने वाले उन दुर्व्यवहारों को कहा जाता है जो AI तकनीक द्वारा सृजित और प्रसारित किए जाते हैं। इनसे महिलाओं को शारीरिक, यौन, मानसिक, सामाजिक, राजनीतिक या आर्थिक हानि पहुँचती है, या इनसे उनके अधिकारों और स्वतंत्रताओं का उल्लंघन होता है।

महिलाओं के विरुद्ध हिंसा को बढ़ाने वाली नई चुनौतियां

• अधिकार-विरोधी अभिकर्ता: ये ऑनलाइन माध्यमों का उपयोग महिलाओं के अधिकारों के खिलाफ माहौल बनाने के लिए कर रहे हैं। उदाहरण के लिए: साइबर-बुलिंग, उत्पीड़न, हिंसा या दुर्व्यवहार की धमकियां।
• AI का बढ़ता उपयोग: AI का उपयोग किसी के खिलाफ लक्षित दुष्प्रचार करने, तस्वीरों में हेरफेर के माध्यम से दुर्व्यवहार और डीपफेक पोर्नोग्राफी वीडियो के तेजी से प्रसार में किया जा रहा है। 
  • ऑनलाइन उपलब्ध लगभग 90–95% डीपफेक वास्तव में बिना सहमति लिए किसी की तस्वीर को अश्लील कंटेंट के रूप में प्रस्तुत करने से जुड़े हैं। इनमें लगभग 90% कंटेंट महिलाओं के हैं।
  • महिलाओं के खिलाफ AI-आधारित दुर्व्यवहार के नए रूपों में शामिल हैं; AI-संचालित छद्मरूपण (impersonation), सेक्सटॉर्शन (ब्लैकमेल), और उन्नत डॉक्सिंग (निजी डेटा सार्वजनिक करना)। ये गंभीर मानसिक क्षति पहुंचाते हैं।
• मैनोस्फीयर का विस्तार: यह महिला-विरोधी ऑनलाइन कंटेंट का नेटवर्क है, जो मुख्यधारा संस्कृति में प्रवेश कर रहा है, महिलाओं के प्रति दृष्टिकोण को प्रभावित कर रहा है, और हिंसा को बढ़ावा दे रहा है।
• कानून में कमियां: डिजिटल माध्यम से दुर्व्यवहार से सुरक्षा प्रदान करने के लिए कई कानून मौजूद हैं। इनमें यूनाइटेड किंगडम का ऑनलाइन सेफ्टी एक्ट, मेक्सिको का ‘ले ओलंपिया’, यूरोपीय संघ का डिजिटल सेफ्टी एक्ट शामिल हैं। हालांकि, ये कानून तेजी से बदल रहे जनरेटिव AI की चुनौतियों से निपटने में प्रभावी सिद्ध नहीं हो रहे हैं।

आगे की राह

• यह सुनिश्चित करने के लिए वैश्विक सहयोग बढ़ाने की जरूरत है ताकि डिजिटल प्लेटफ़ॉर्म और AI उपकरण सुरक्षा एवं नैतिक मानकों का पालन करें।
• डिजिटल हिंसा की पीड़ित महिलाओं के समर्थन हेतु महिलाओं के अधिकारों के लिए लड़ने वाली संस्थाओं को वित्तीय सहायता प्रदान करनी चाहिए।
• ऑनलाइन दुर्व्यवहार रोकथाम और व्यवहार-परिवर्तन में निवेश बढ़ाना चाहिए। यह निवेश महिलाओं और लड़कियों को डिजिटल साक्षर बनाने, ऑनलाइन दुर्व्यवहार से सुरक्षा हेतु प्रशिक्षण देने, तथा विषाक्त ऑनलाइन संस्कृति को चुनौती देने वाले कार्यक्रमों में किया जाना चाहिए।
• प्रौद्योगिकी का उपयोग सकारात्मक सामाजिक परिवर्तन लाने में किया जाना चाहिए। उदाहरण के लिए: फ्रांसीसी टेक कंपनी बॉडीगार्ड.AI का ऐप, जो ऑनलाइन अपमानजनक कंटेंट को हटाता है।