इंडियाAI मिशन के तहत "सुरक्षित और विश्वसनीय AI" घटक के अंतर्गत यह प्रस्ताव आमंत्रित गया है। इस घटक का उद्देश्य AI को जिम्मेदारीपूर्वक अपनाने के मामले में पर्याप्त सुरक्षा की आवश्यकता को ध्यान में रखते हुए स्वदेशी साधनों व फ्रेमवर्क के विकास को सक्षम बनाना है।
- इंडियाAI केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) के तहत एक स्वतंत्र व्यापार प्रभाग (IBD) है। यह इंडियाAI मिशन की कार्यान्वयन एजेंसी है।
- नैतिक AI फ्रेमवर्क की आवश्यकता में शामिल हैं:
- AI सिस्टम में पक्षपात/ पूर्वाग्रह और भेदभाव को रोकना;
- AI आधारित निर्णय लेने में पारदर्शिता और जवाबदेही को बढ़ावा देना;
- समाज में जागरूकता को प्रोत्साहित करना, आदि।
सुरक्षित और विश्वसनीय AI" घटक के तहत चुने गए विषय:
- वॉटरमार्किंग और लेबलिंग: AI-जनरेटेड कंटेंट को प्रमाणित करने के लिए टूल्स विकसित करना। इससे AI-जनरेटेड कंटेंट को पहचाना जा सकेगा और सुरक्षित व हानिकारक कंटेंट से मुक्त किया जा सकेगा।
- नैतिक AI फ्रेमवर्क: वैश्विक मानकों के अनुरूप AI फ्रेमवर्क स्थापित करना, जो मानव मूल्यों का सम्मान करें और निष्पक्षता को बढ़ावा दें।
- AI जोखिम मूल्यांकन और प्रबंधन: सार्वजनिक सेवाओं में AI के सुरक्षित उपयोग को बढ़ाने के लिए जोखिम प्रबंधन संबंधी टूल्स और फ्रेमवर्क तैयार करना।
- स्ट्रेस टेस्टिंग टूल्स: ऐसे टूल्स विकसित करना, जो चरम परिस्थितियों में AI मॉडल्स के प्रदर्शन का मूल्यांकन करें, कमजोरियों का पता लगाएं और महत्वपूर्ण क्षेत्रों में AI के उपयोग के प्रति विश्वास बढ़ाएं।
- डीपफेक डिटेक्शन टूल्स: रियल टाइम में डीपफेक का पता लगाने और उसे रोकने के लिए टूल्स विकसित करना। इससे गलत जानकारी और नुकसान को रोका जा सकेगा तथा डिजिटल इकोसिस्टम सुरक्षित व विश्वसनीय बनाया जा सकेगा।
AI को नैतिक बनाने को बढ़ावा देने के लिए शुरू की गई अन्य पहलेंवैश्विक स्तर पर शुरू की गई पहलें:
भारत में शुरू की गई पहलें
|
