इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने यह कदम 'X' के AI टूल 'ग्रोक (Grok)' के दुरुपयोग को लेकर उठाया है। इसका उपयोग महिलाओं और बच्चों की अश्लील, अभद्र एवं कामुकता व्यक्त करने वाली कृत्रिम तस्वीरें व वीडियो बनाने के लिए किया जा रहा है।
सरकार द्वारा उठाए गए मुख्य मुद्दे
- भारतीय सूचना प्रौद्योगिकी (आईटी) कानूनों का उल्लंघन: आईटी अधिनियम, 2000 और आईटी नियम, 2021 के तहत अनिवार्य 'ड्यू डिलिजेंस' (उचित सावधानी) दायित्वों को पूरा करने में विफलता।
- निजता और गरिमा का उल्लंघन: AI-जनित कंटेंट महिलाओं की निजता, गरिमा व सुरक्षा को नुकसान पहुंचा रहा है।
भारत में सोशल मीडिया का विनियमन (कानूनी प्रावधान)
- सूचना प्रौद्योगिकी (IT) अधिनियम, 2000
- धारा 66E: यह बिना सहमति के निजी तस्वीरें लेने या प्रसारित करने (निजता के उल्लंघन) पर दंड का प्रावधान करती है।
- धारा 67: यह इलेक्ट्रॉनिक रूप में अश्लील सामग्री प्रकाशित या प्रसारित करने पर दंड का प्रावधान करती है।।
- धारा 67A: यह कामुकता व्यक्त करने वाली सामग्री के इलेक्ट्रॉनिक रूप में प्रकाशन के लिए दंड आरोपित करती है।
- धारा 67B: यह धारा उन व्यक्तियों को दंडित करती है, जो इलेक्ट्रॉनिक रूप में ऐसी सामग्री को प्रकाशित या प्रसारित करते हैं, जिसमें बच्चों को कामुक कृत्यों में चित्रित किया गया हो।
- आईटी अधिनियम, 2000 के तहत आईटी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता), 2021
- नियम 3 (मध्यवर्तियों द्वारा उचित सावधानी): प्लेटफॉर्म्स को अवैध सामग्री को हटाना होगा और अश्लील/ यौन सामग्री की होस्टिंग रोकनी होगी।
- नियम 4 (महत्वपूर्ण सोशल मीडिया मध्यवर्तियों के लिए अतिरिक्त नियम): उन्हें मुख्य अनुपालन अधिकारी व शिकायत अधिकारी नियुक्त करने होंगे। साथ ही, अवैध सामग्री के स्रोत का पता लगाने (Traceability) में सक्षम होना होगा।
- नियमों का पालन न करने पर प्लेटफॉर्म्स अपनी 'सेफ हार्बर' सुरक्षा से वंचित हो सकते हैं। यह सुरक्षा उन्हें उपयोगकर्ताओं द्वारा पोस्ट की गई सामग्री के लिए कानूनी दायित्व से बचाती है।
- भारतीय नागरिक सुरक्षा संहिता (BNSS), 2023: प्लेटफॉर्म्स के लिए यह अनिवार्य है कि जब भी वे गंभीर संज्ञेय अपराधों (विशेष रूप से महिलाओं या बच्चों से संबंधित) का पता लगाएं, तो पुलिस को अवश्य सूचित करें।
