सुर्ख़ियों में क्यों?

हाल ही में, कुछ विशेषज्ञों ने चिंता जताई है कि सोशल मीडिया एल्गोरिदम में उग्रवाद को बढ़ावा देने और इसे प्रसारित करने की क्षमता है।

सोशल मीडिया एल्गोरिदमिक एम्पलीफिकेशन क्या है?

• सोशल मीडिया एल्गोरिदम: ये कंप्यूटर आधारित नियम होते हैं जो यूजर्स के व्यवहार का विश्लेषण करते हैं। ये लाइक्स, कमेंट्स, शेयर, टाइमलाइन जैसे इंटरैक्टिव मेट्रिक्स के आधार पर कंटेंट को रैंक प्रदान करते हैं।
  • यह मशीन लर्निंग मॉडल का उपयोग करके यूजर्स के अनुकूल कंटेंट उपलब्ध कराता है।
  • यह कंटेंट के प्रसार या उसे लोकप्रिय बनाने (एम्पलीफायर) में बड़ी भूमिका निभाता है। ऐसा इसलिए क्योंकि अधिक पढ़े-देखे जाने वाले; अधिक शेयर किये जाने वाले तथा अधिक लाइक और हैशटैग वाले कंटेंट तुरंत पॉपुलर हो जाते हैं और फिर ये वायरल ट्रेंड बन जाते हैं।  
• एल्गोरिदम आधारित कट्टरपंथवाद: यह वह परिघटना है, जिसमें सोशल मीडिया प्लेटफॉर्म द्वारा उपयोग किए जाने वाले एल्गोरिदम यूजर्स को तेजी से चरमपंथियों द्वारा प्रसारित दुष्प्रचार एवं ध्रुवीकरण करने वाली धारणाओं की ओर ले जाते हैं।
  • यह प्रक्रिया यूजर्स की वैचारिक सोच को प्रभावित करती है। इससे सामाजिक विभाजन पैदा होता है, गलत सूचनाओं के प्रसार को बढ़ावा मिलता है एवं चरमपंथी समूहों के प्रभाव में वृद्धि होती है।
  • सोशल मीडिया एल्गोरिदम के डिजाइन का उद्देश्य यूजर्स की भागीदारी को बढ़ाना होता है। हालांकि ऐसा करने में, वे अक्सर अनजाने में इको चैंबर और फ़िल्टर बबल का निर्माण करते हैं। इससे लोगों की पूर्वधारणाएं और अधिक पुख्ता हो जाती हैं, जिससे वे अपनी धारणाओं का समर्थन करने वाली सूचनाओं को प्राप्त करने का प्रयास करते हैं और इससे सामूहिक ध्रुवीकरण को बढ़ावा मिलता है।
  • यह दिखाता है कि कैसे सोशल मीडिया प्लेटफॉर्म्स यूजर्स को ख़ास विचारधारा में फंसाते हैं और भेदभावपूर्ण कंटेंट क्यूरेशन मॉडल के माध्यम से उनकी राय में बदलाव करते हैं।

एल्गोरिदम आधारित कट्टरपंथवाद को रोकने में मौजूद चुनौतियां

• जटिल मेकेनिज्म: सोशल मीडिया के विकास में उपयोग किए जाने वाले एल्गोरिदम में पारदर्शिता की कमी के कारण चरमपंथी कंटेंट से निपटना चुनौतीपूर्ण बन गया है।
  • सोशल मीडिया एल्गोरिदम 'ब्लैक बॉक्स' के रूप में कार्य करते हैं। इससे कई बार डेवलपर्स भी पूरी तरह नहीं समझ पाते कि एल्गोरिदम किस आधार पर कुछ विशेष कंटेंट को रेकमंड या सजेस्ट करता है।
  • उदाहरण के लिए, टिक-टॉक के "फॉर यू" पेज का ऑपरेशनल मैकेनिज्म इसके एल्गोरिदम पूर्वाग्रह को समाप्त करने की प्रक्रिया को कठिन बना देता है।
• मॉड्यूलेटेड कंटेंट: चरमपंथी समूह अक्सर अपने कंटेंट के टेक्स्ट को बैन होने से बचाने के लिए कट्टरपंथ को बढ़ावा देने वाले कंटेंट को यूफेमिज्म (सांकेतिक) या कूट भाषा में बदल देते हैं। 
  • उदाहरण के लिए- ISIS और अलकायदा अपनी पहचान छुपाने के लिए कूट भाषा (Coded language) और व्यंग्य (Satire) का प्रयोग करते हैं।
• कंटेंट मॉडरेशन बनाम अभिव्यक्ति की स्वतंत्रता: प्रभावी कंटेंट मॉडरेशन और अभिव्यक्ति की स्वतंत्रता के बीच सही संतुलन बनाए रखना एक विवादित विषय है।
  • चरमपंथी समूह इसी का फायदा उठाते हैं, ताकि उनके कंटेंट अभिव्यक्ति की स्वतंत्रता के दायरे में रहे, और साथ ही ये विभाजनकारी विचारधाराओं का प्रसार भी करते रहे।
• स्थानीय संदर्भों की अनदेखी: चरमपंथ को प्रसारित करने वाले कंटेंट अक्सर किसी देश की सामाजिक-राजनीतिक पृष्ठभूमि से प्रभावित होते हैं। वैश्विक स्तर पर उपयोग होने वाला एल्गोरिदम अक्सर इन स्थानीय सामाजिक-सांस्कृतिक संदर्भों को समझने में विफल रहते हैं, जिससे समस्या और बढ़ जाती है।
• अंतर्राष्ट्रीय कानून और सहयोग की कमी: अनेक देश कट्टरपंथी गतिविधियों को वैश्विक मानवीय दृष्टिकोण से देखने की बजाय अपने राष्ट्रीय हित के नजरिये से देखते हैं।

आगे की राह 

• एल्गोरिदम ऑडिट: पारदर्शिता और निष्पक्षता सुनिश्चित करने के लिए सोशल मीडिया एल्गोरिदम का नियमित रूप से ऑडिट अनिवार्य किया जाना चाहिए, जैसा कि यूरोपीय संघ के डिजिटल सर्विसेज एक्ट, 2023 में किया गया है।
• जवाबदेही तय करना: नीति निर्माताओं को एल्गोरिदम की जवाबदेही तय करने के लिए स्पष्ट नियम बनाने चाहिए। साथ ही जो सोशल मीडिया प्लॅटफॉम्स हानिकारक कंटेंट को रोकने में विफल रहते हैं, उन पर जुर्माना भी लगाया जाना चाहिए।
  • उदाहरण के लिए, जर्मनी का नेट्ज कानून (Netz law) 24 घंटों के भीतर आपत्तिजनक कंटेंट को नहीं हटाने पर सोशल मीडिया प्लेटफार्मों पर जुर्माना लगाता है।
• कस्टम-मेड कंटेंट मॉडरेशन: स्थानीय परिस्थितियों के अनुसार तैयार मॉडरेशन पॉलिसीज या एल्गोरिदम, सोशल मीडिया के जरिए प्रसारित होने वाले कट्टरपंथवाद को रोकने में अधिक प्रभावी सिद्ध हो सकते हैं।
• उदाहरण के लिए, फ्रांस में सरकार ने सोशल मीडिया कंपनियों के साथ मिलकर ऐसे एल्गोरिदम विकसित किए हैं, जो देश की अलग-अलग बोलियों को समझकर चरमपंथी कंटेंट का पता लगा सकें और उसे प्रसारित होने से रोक सके।
• जन जागरूकता: सरकार को ऐसे जागरूकता अभियान चलाने चाहिए, जो लोगों को दुष्प्रचार को पहचानने और चरमपंथ का प्रसार करने वाले कंटेंट से बचने में मदद करें।
  • उदाहरण के लिए, यूनाइटेड किंगडम के ऑनलाइन सेफ्टी बिल में जनता को ऑनलाइन मीडिया की बेहतर समझ प्रदान करने हेतु जन शिक्षा संबंधी पहल को शामिल किया गया है।