सिंथेटिक मीडिया और AI-जनरेटेड सामग्री विनियमन
AI-जनित सिंथेटिक मीडिया के बढ़ते चलन के कारण, इसके प्रभावों को प्रभावी ढंग से प्रबंधित करने के लिए विभिन्न हितधारकों द्वारा तत्काल कार्रवाई आवश्यक है। भारत सरकार ने ऐसे मीडिया से उत्पन्न चुनौतियों का समाधान करने के लिए सूचना प्रौद्योगिकी (मध्यवर्ती दिशा-निर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में संशोधन का प्रस्ताव दिया है।
प्रमुख मुद्दे और चिंताएँ
- घटनाएँ: वित्त मंत्री निर्मला सीतारमण द्वारा एक झूठी निवेश योजना का समर्थन करने वाला एक वायरल वीडियो, जिसके कारण व्यक्तियों को वित्तीय नुकसान हुआ, ने AI-जनित सामग्री के जोखिमों को उजागर किया।
- लेबलिंग की जटिलता: सिंथेटिक या AI-जनित सामग्री को लेबल करना जटिल बना हुआ है, विशेष रूप से वास्तविक दृश्यों लेकिन क्लोन ऑडियो वाले मिश्रित मीडिया के लिए।
- कार्यान्वयन चुनौतियाँ: प्रस्तावित लेबलिंग नियमों के लिए हितधारकों के बीच महत्वपूर्ण समन्वय की आवश्यकता होती है और वास्तविक दुनिया में इनके अनुप्रयोग में चुनौतियों का सामना करना पड़ता है।
प्रस्तावित संशोधन और समाधान
- लेबलिंग आवश्यकताएँ: प्लेटफ़ॉर्म को सिंथेटिक मीडिया को स्पष्ट रूप से लेबल करना होगा, जिसमें दृश्य या श्रव्य सामग्री का कम से कम 10% शामिल हो। हालाँकि, इन लेबलों के प्रारूप और अवधि को अनुकूलित करने की आवश्यकता है।
- वॉटरमार्क विश्वसनीयता: AI कंपनियों द्वारा वर्तमान वॉटरमार्किंग अविश्वसनीय है, क्योंकि उन्हें हटाने के लिए उपकरण आसानी से उपलब्ध हैं।
- स्तरीकृत लेबलिंग प्रणाली: 'पूर्णतः AI-जनित', 'AI-सहायता प्राप्त', तथा 'AI-परिवर्तित' विषय-वस्तु में अंतर करने वाली प्रणाली स्पष्टता में सुधार ला सकती है।
- रचनाकारों की भूमिका: प्रभावशाली रचनाकारों को AI के उपयोग का खुलासा करना चाहिए, और छोटे रचनाकारों के बीच स्वैच्छिक स्व-लेबलिंग को प्रोत्साहित किया जा सकता है।
पता लगाने और सत्यापन में चुनौतियाँ
- तकनीकी अंतराल: प्लेटफॉर्म्स को AI-जनित सामग्री का सही ढंग से पता लगाने और लेबल करने में संघर्ष करना पड़ रहा है, तथा अभी तक इसमें सीमित सफलता मिली है।
- तृतीय-पक्ष उपकरण: तृतीय-पक्ष पहचान उपकरणों की विश्वसनीयता उनके प्रशिक्षण और सटीकता पर निर्भर करती है।
- विफलता दर: एक ऑडिट में AI सामग्री को सही ढंग से लेबल करने में कम प्रभावशीलता पाई गई, प्रमुख प्लेटफार्मों पर केवल 30% परीक्षण पोस्ट को उचित रूप से चिह्नित किया गया।
सिफारिशें और भविष्य के कदम
- स्वतंत्र सत्यापन: विशेषज्ञ सत्यापनकर्ताओं और लेखा परीक्षकों की भागीदारी से डीपफेक के विरुद्ध सोशल मीडिया प्लेटफॉर्म की विश्वसनीयता और लचीलापन बढ़ सकता है।
- जन जागरूकता: भ्रामक सामग्री के संकेतों को पहचानने के लिए उपयोगकर्ताओं को शिक्षित करना महत्वपूर्ण है।
- कानूनी संरक्षण: भारत में आगामी IT कानूनों का उद्देश्य बहुत अच्छी लगने वाली विषय-वस्तु के प्रति सावधानी के सिद्धांतों को शामिल करना है।
लेखक राकेश आर. डुब्बुडु और राजनील आर. कामथ ट्रस्टेड इन्फॉर्मेशन अलायंस (TIA) से जुड़े हैं, जो ऑनलाइन सूचना अखंडता और उपयोगकर्ता सुरक्षा की वकालत करते हैं।
