परिचय
सरकार ने सोशल मीडिया मंच 'X' के कृत्रिम बुद्धिमत्ता टूल 'ग्रोक' के दुरुपयोग पर चिंता व्यक्त की है। इसके माध्यम से विशेष रूप से महिलाओं और बच्चों को लक्षित करते हुए अश्लील और अपमानजनक सामग्री का निर्माण और प्रसार किया जा रहा है।
सोशल मीडिया पर कृत्रिम बुद्धिमत्ता के उपयोग से उत्पन्न नैतिक मुद्दे
- निगरानी का उपकरण: कृत्रिम बुद्धिमत्ता एल्गोरिदम उपयोगकर्ताओं के व्यवहार, पसंद और व्यक्तिगत विशेषताओं से संबंधित विशाल मात्रा में डेटा एकत्र करते हैं।
- सोशल मीडिया कंपनियां प्रायः अनुभव को व्यक्तिगत बनाने के नाम पर विस्तृत व्यक्तिगत डेटा एकत्र करती हैं, जिससे "निगरानी पूंजीवाद (Surveillance Capitalism)" जैसी स्थिति उत्पन्न होती है।
- गोपनीयता का उल्लंघन: उपयोगकर्ताओं को सामान्यतः इस बात की पूरी जानकारी या सूचित सहमति नहीं होती कि उनकी जानकारी कैसे एकत्रित और उपयोग की जा रही है।
- गोपनीयता के इस उल्लंघन के माध्यम से न केवल उपयोगकर्ताओं की ऑनलाइन गतिविधियों पर निगरानी रखी जाती है, बल्कि कृत्रिम बुद्धिमत्ता उनकी रुचियों, विचारों और यहां तक कि मनः स्थिति जैसी संवेदनशील जानकारियों का भी अनुमान लगा सकती है।
- गलत जानकारी : कृत्रिम बुद्धिमत्ता ने गलत सूचनाओं के प्रसार को अत्यधिक बढ़ा दिया है, जिसमें राजनीतिक दुष्प्रचार अभियान (जैसे चुनावों को प्रभावित करने वाले प्रचार बॉट) से लेकर षड्यंत्रों (जैसे टीकाकरण विरोधी सामग्री) आदि शामिल हैं।
- डीपफेक (मूल सामग्री को बदलने वाली कृत्रिम छवि/वीडियो) और सार्वजनिक हस्तियों की आवाज की नकल/आवाज के क्लोन (ऑडियो और आवाज में हेरफेर करना) जैसी कृत्रिम बुद्धिमत्ता तकनीकों के माध्यम से तथ्यों में हेरफेर कर झूठी जानकारी फैलाना आसान हो गया है।
- पक्षपात और भेदभाव: कृत्रिम बुद्धिमत्ता प्रणालियां अपने प्रशिक्षण डेटा या डिजाइन में मौजूद पूर्वाग्रहों को आगे बढ़ा सकती हैं, क्योंकि एल्गोरिदम रूढ़ियों और पक्षपात में अंतर नहीं कर पाते।
- ऐसा एल्गोरिदम पक्षपात कुछ समुदायों की आवाज को हाशिए पर डाल सकता है और असमानता को मजबूत कर सकता है।
- मनोवैज्ञानिक प्रभाव: एल्गोरिदम को इस प्रकार तैयार किया जाता है कि वे उपयोगकर्ताओं की अधिकतम सहभागिता सुनिश्चित करें, जिसके लिए प्रायः सनसनीखेज या मनोनुकूल सामग्री को बढ़ावा दिया जाता है।
- इससे विशेषकर युवाओं में लत जैसी प्रवृत्ति, चिंता, अवसाद या आत्म-छवि में विकृति जैसी समस्याएं उत्पन्न हो सकती हैं।
- सामाजिक विभाजन: व्यक्तिगत एल्गोरिदम के कारण समान विचारधारा वाले समूह (इको-चैम्बर्स) बन जाते हैं, जिससे विविध दृष्टिकोणों का संपर्क कम होता है और सार्वजनिक संवाद विभाजित हो जाता है।
- गरिमा का उल्लंघन: सोशल मीडिया पर कृत्रिम बुद्धिमत्ता उपकरणों का दुरुपयोग व्यक्तिगत सहमति और गरिमा का उल्लंघन कर सकता है।
- बिना सहमति के अश्लील और डीपफेक चित्र/वीडियो बनाना कृत्रिम बुद्धिमत्ता प्रेरित उत्पीड़न का एक रूप है।
हितधारक और उनके हित
हितधारक | हित / जिम्मेदारियां |
सोशल मीडिया प्लेटफॉर्म |
|
उपयोगकर्ता और समाज |
|
सरकार और नियामक संस्थाएं |
|
कृत्रिम बुद्धिमत्ता विकासकर्ता |
|
सोशल मीडिया प्लेटफॉर्म पर कृत्रिम बुद्धिमत्ता के नैतिक उपयोग से संबंधित विनियमन
- कानून और नियम: सूचना प्रौद्योगिकी (IT) अधिनियम, 2000 तथा सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 सोशल मीडिया विनियमन का मुख्य आधार हैं।
- IT अधिनियम एवं नियम: इन नियमों के तहत प्लेटफॉर्म को समुचित सावधानी बरतना आवश्यक है, जैसे, अवैध या अश्लील सामग्री को शीघ्र हटाना और शिकायत निवारण तंत्र स्थापित करना।
- अनुपालन न करने पर IT अधिनियम की धारा 79 के अंतर्गत प्राप्त सेफ हार्बर संरक्षण समाप्त हो सकता है, जो वर्तमान में उपयोगकर्ताओं द्वारा पोस्ट की गई सामग्री के लिए प्लेटफॉर्म को दायित्व से बचाता है।
- डिजिटल व्यक्तिगत डेटा संरक्षण (DPDP) अधिनियम, 2023: यह अधिनियम सुनिश्चित करता है कि डेटा न्यासी (जिनमें कृत्रिम बुद्धिमत्ता सिस्टम नियंत्रित करने वाले प्लेटफॉर्म भी शामिल हैं) पूर्व सहमति, डेटा सुरक्षा उपायों तथा प्रभावी शिकायत निवारण तंत्र का पालन करें।
- IT अधिनियम एवं नियम: इन नियमों के तहत प्लेटफॉर्म को समुचित सावधानी बरतना आवश्यक है, जैसे, अवैध या अश्लील सामग्री को शीघ्र हटाना और शिकायत निवारण तंत्र स्थापित करना।
- मूल अधिकारों का संरक्षण करने वाले कानून: महिलाओं का अशोभनीय चित्रण (निषेध) अधिनियम तथा लैंगिक अपराधों से बालकों का संरक्षण (POCSO) अधिनियम जैसे कानून महिलाओं और बच्चों से संबंधित अश्लील सामग्री के निर्माण या प्रसार को अवैध घोषित करते हैं।
- कृत्रिम बुद्धिमत्ता-विशिष्ट दिशा-निर्देश: इलेक्ट्रॉनिकी और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सुरक्षित और विश्वसनीय कृत्रिम बुद्धिमत्ता नवाचार के लिए भारत में एआई शासन संबंधी दिशा-निर्देश जारी किए हैं।
- इनमें नैतिक कृत्रिम बुद्धिमत्ता शासन व्यवस्था के लिए सात सूत्र प्रस्तुत किए गए हैं। (इन्फोग्राफिक्स देखें)
- वैश्विक विनियम: यूरोपीय संघ का EU आर्टिफिशियल इंटेलिजेंस एक्ट, 2024 विश्व का पहला व्यापक कृत्रिम बुद्धिमत्ता कानून है।
- यह अधिनियम विश्व का पहला व्यापक कृत्रिम बुद्धिमत्ता कानून है और यह कृत्रिम बुद्धिमत्ता प्रणालियों को जोखिम के आधार पर वर्गीकृत करता है तथा अस्वीकार्य जोखिम वाले कृत्रिम बुद्धिमत्ता प्रथाओं को प्रतिबंधित करता है। इसमें ऐसी कृत्रिम बुद्धिमत्ता शामिल है जो लोगों को बिना उनकी जानकारी के प्रभावित या गुमराह करे, या ऐसे एल्गोरिदम जो लोगों के व्यवहार को गलत दिशा में बदल दें और उनका गलत फायदा उठाएँ।
- नैतिक कृत्रिम बुद्धिमत्ता सिद्धांत: OECD और यूनेस्को जैसे वैश्विक संगठनों द्वारा समर्थित नैतिक कृत्रिम बुद्धिमत्ता सिद्धांत कंपनियों पर नैतिक मानकों का पालन करने का दबाव बनाते हैं। इनमें निष्पक्षता, पारदर्शिता, गोपनीयता और मानवीय निगरानी जैसे सिद्धांत शामिल हैं।
- इसके अलावा, यूनेस्को के ग्लोबल एआई एथिक्स एंड गवर्नेंस ऑब्जर्वेटरी जैसे वैश्विक मंच कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न सबसे गंभीर चुनौतियों के समाधान खोजने के लिए एक वैश्विक संसाधन प्रदान करते हैं।
निष्कर्ष
सोशल मीडिया में कृत्रिम बुद्धिमत्ता की भूमिका दोधारी तलवार के समान है। यह डिजिटल संवाद को समृद्ध करने की अपार संभावनाएं प्रदान करता है, परंतु साथ ही गंभीर नैतिक प्रश्न भी खड़े करता है। सोशल मीडिया प्लेटफॉर्म को प्रभावी सामग्री फ़िल्टर और कृत्रिम बुद्धिमत्ता-निर्मित सामग्री की स्पष्ट पहचान जैसे सशक्त सुरक्षा उपाय अपनाने चाहिए। विकासकर्ता को एथिक्स-बाय-डिजाइन सिद्धांतों का पालन करते हुए विविध डेटा का उपयोग, पक्षपात में कमी और गोपनीयता संरक्षण सुनिश्चित करना चाहिए। सरकारों को नियमों को मजबूत करना चाहिए, लेबलिंग और अंकेक्षण को अनिवार्य बनाना चाहिए तथा दुरुपयोग पर दंड देना चाहिए, जबकि अंतर्राष्ट्रीय सहयोग सामान्य मानकों को सुनिश्चित करता है।
केस स्टडी अभ्यास प्रश्नआप भारत सरकार में संयुक्त सचिव के पद पर कार्यरत हैं। पिछले 48 घंटों में आपके कार्यालय को स्कूली बच्चों के अभिभावकों और महिला पेशेवरों से बड़ी संख्या में शिकायतें प्राप्त हुई हैं। शिकायतों में बताया गया है कि एक लोकप्रिय सोशल मीडिया प्लेटफॉर्म के एकीकृत कृत्रिम बुद्धिमत्ता फीचर पर प्रॉम्ट (Prompts) के माध्यम से कृत्रिम बुद्धिमत्ता-जनित यौन रूप से स्पष्ट चित्र बनाए जा रहे हैं और उन्हें सार्वजनिक थ्रेड्स तथा समूह चैट में प्रसारित किया जा रहा है। कई पीड़ितों ने बताया है कि उनकी सार्वजनिक रूप से उपलब्ध तस्वीरों को उनकी सहमति के बिना यौन रूप से विकृत (sexualised) दृश्यों में परिवर्तित किया जा रहा है। कुछ शिकायतें नाबालिगों से संबंधित भी हैं। प्लेटफॉर्म की भारत स्थित अनुपालन टीम का कहना है कि वह केवल एक "मध्यस्थ" है और वह प्रत्येक सामग्री की पूर्व-जांच नहीं कर सकती है। उनका यह भी तर्क है कि कड़े प्रतिबंध और सामग्री हटाने की सख्ती से उपयोगकर्ताओं की सहभागिता भी कम होगी और व्यवसाय को नुकसान पहुंचेगा। इस बीच, महिला संगठनों और मीडिया द्वारा तत्काल कार्रवाई की मांग की जा रही है, जबकि एक डिजिटल अधिकार समूह जल्दबाजी में सेंसरशिप से बचने तथा सामग्री हटाने के निर्णयों में पारदर्शिता और विधिक प्रक्रिया सुनिश्चित करने पर बल दे रहा है। आपको 72 घंटों के भीतर एक तर्कसंगत, विधिक रूप से धारणीय और नैतिक रूप से न्यायसंगत कार्य-योजना प्रस्तुत करनी है, जो आगे होने वाले नुकसान को रोके, पीड़ितों को समर्थन प्रदान करे तथा लोकतांत्रिक मूल्यों और ऑनलाइन शासन में विश्वास को बनाए रखें। इस पृष्ठभूमि में निम्नलिखित प्रश्नों के उत्तर दीजिए :(a) प्रमुख हितधारकों और संबंधित नैतिक मुद्दों की पहचान कीजिए।(b) एक लोक प्राधिकारी के रूप में आपके पास तत्काल अवधि में कौन-कौन से विकल्प उपलब्ध हैं? उनका आलोचनात्मक मूल्यांकन कीजिए।(c) नैतिक औचित्य के साथ एक उपयुक्त कार्य-योजना सुझाइए तथा अल्पकालीन क्रियान्वयन योजना प्रस्तुत कीजिए। |
