आईटी मंत्री अश्विनी वैष्णव ने शनिवार को कहा कि इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) अगले कुछ दिनों में डीपफेक से निपटने पर विचार-मंथन के लिए सोशल मीडिया प्लेटफार्मों को बुलाने का इरादा रखता है।
“हमने सभी प्लेटफ़ॉर्म को नोटिस दिया था, सभी प्लेटफ़ॉर्म ने जवाब दिया है। वे अपने कदम उठा रहे हैं लेकिन हमें लगता है कि अभी कई कदम और उठाने होंगे.’ हम जल्द ही सभी मंचों की बैठक करने जा रहे हैं।’ शायद अगले 3-4 दिनों में हम उन्हें बुला लेंगे. हम उस पर मंथन करेंगे और हम यह सुनिश्चित करेंगे कि प्लेटफॉर्म अपने प्लेटफॉर्म पर रोकथाम, बचाव और सफाई के लिए पर्याप्त प्रयास करें, ”उन्होंने कहा।
तेलुगु अभिनेत्री रश्मिका मंदाना के एक वायरल फर्जी वीडियो के एक दिन बाद, जिसमें कृत्रिम बुद्धिमत्ता के दुरुपयोग और ऑनलाइन लैंगिक हिंसा को आगे बढ़ाने की इसकी क्षमता के बारे में चिंताएं जताई गईं, आईटी मंत्रालय ने सभी सोशल मीडिया प्लेटफार्मों को दो पत्र भेजकर उन्हें गलत सूचना को खत्म करने की उनकी जिम्मेदारी की याद दिलाई थी। और भारतीय कानून द्वारा अनिवार्य डीपफेक, एचटी ने पहले रिपोर्ट किया था।
“सबसे महत्वपूर्ण यह है कि प्लेटफ़ॉर्म के पास जो प्रतिरक्षा है, विश्व स्तर पर स्वीकृत सुरक्षित बंदरगाह प्रावधान, वह लागू नहीं होगा यदि प्लेटफ़ॉर्म पर्याप्त प्रयास नहीं करते हैं [to control deepfakes], “वैष्णव ने कहा। निश्चित रूप से, केवल अदालतें ही यह निर्धारित कर सकती हैं कि क्या कोई मध्यस्थ अपनी सुरक्षित बंदरगाह सुरक्षा खो सकता है और बाद में उसे तीसरे पक्ष की सामग्री के लिए उत्तरदायी ठहराया जा सकता है।
इस सवाल के जवाब में कि क्या प्लेटफार्मों के पास डीपफेक को पहचानने और हटाने की तकनीक है, वैष्णव ने कहा, “मुझे लगता है कि उन्हें ऐसा करने में सक्षम होना चाहिए।”
डीपफेक पर फरवरी की सलाह में, जिसे आईटी मंत्रालय ने दो पत्रों में दोहराया था, मंत्रालय ने सोशल मीडिया प्लेटफार्मों से यह भी कहा था कि वे उन सूचनाओं की पहचान करने के लिए उचित तकनीक और प्रक्रियाएं रखें जो नियमों और विनियमों या उपयोगकर्ता के प्रावधानों का उल्लंघन कर सकती हैं। समझौता”।
पिछले एक सप्ताह में ही प्रधानमंत्री नरेंद्र मोदी, उपराष्ट्रपति जगदीप धनखड़, सूचना एवं प्रसारण मंत्री अनुराग ठाकुर और जी20 शेरपा अमिताभ कांत ने डीपफेक तकनीक के खतरों पर प्रकाश डाला है।
शुक्रवार को दिल्ली में भारतीय जनता पार्टी (भाजपा) कार्यालय में ‘दिवाली मिलन’ कार्यक्रम के दौरान मीडियाकर्मियों की एक सभा को संबोधित करते हुए, मोदी ने कहा था, ”कृत्रिम बुद्धिमत्ता के माध्यम से उत्पादित डीपफेक के कारण एक नया संकट उभर रहा है। समाज का एक बहुत बड़ा वर्ग ऐसा है जिसके पास कोई समानांतर सत्यापन प्रणाली नहीं है…यह [deepfake] हमें गंभीर खतरे की ओर ले जाएगा और असंतोष की आग फैलाने की क्षमता रखता है।”
मोदी ने कहा, “हमें अपने कार्यक्रमों के माध्यम से लोगों को शिक्षित करना चाहिए कि डीपफेक क्या है, यह कितना बड़ा संकट पैदा कर सकता है और इसका प्रभाव क्या हो सकता है।” उन्होंने कहा कि जैसे सिगरेट चेतावनियों के साथ आती है, डीपफेक भी खुलासे के साथ आना चाहिए।