इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 23 नवंबर को “सोशल मीडिया प्लेटफॉर्म पर डीपफेक सामग्री के उपद्रव” पर एक बैठक के लिए प्रमुख सोशल मीडिया कंपनियों के अधिकारियों को बुलाया है।
सोशल मीडिया कंपनियों को समन आईटी मंत्री अश्विनी वैष्णव के उस बयान के दो दिन बाद भेजा गया था, जिसमें उन्होंने कहा था कि मंत्रालय उन्हें डीपफेक के बारे में विचार-मंथन करने के लिए बुलाएगा। शुक्रवार को, प्रधान मंत्री नरेंद्र मोदी ने डीपफेक बनाने के लिए प्रौद्योगिकी और कृत्रिम बुद्धिमत्ता (एआई) के दुरुपयोग पर चिंता व्यक्त की और कहा कि मीडिया जागरूकता बढ़ाने में भूमिका निभा सकता है।
“”कृत्रिम बुद्धिमत्ता के माध्यम से उत्पादित डीपफेक के कारण एक नया संकट उभर रहा है। समाज का एक बहुत बड़ा वर्ग है जिसके पास समानांतर सत्यापन प्रणाली नहीं है… यह (डीपफेक) हमें गंभीर खतरे में ले जाएगा और असंतोष की आग फैलाने की क्षमता रखता है,” मोदी ने कहा।
तेलुगु अभिनेत्री रश्मिका मंदाना के वायरल फर्जी वीडियो के एक दिन बाद एआई के दुरुपयोग और ऑनलाइन लैंगिक हिंसा को आगे बढ़ाने की इसकी क्षमता के बारे में चिंताएं पैदा हुईं, आईटी मंत्रालय ने सभी सोशल मीडिया प्लेटफार्मों को दो पत्र भेजकर उन्हें गलत सूचना को खत्म करने की उनकी जिम्मेदारी की याद दिलाई थी। भारतीय कानून द्वारा अनिवार्य डीपफेक, एचटी ने पहले रिपोर्ट किया था।
यह भी पढ़ें: डीपफेक पर चर्चा के लिए सोशल मीडिया प्लेटफॉर्म के साथ बैठक करेंगे: आईटी मंत्री वैष्णव
“सबसे महत्वपूर्ण यह है कि प्लेटफ़ॉर्म के पास जो प्रतिरक्षा है, विश्व स्तर पर स्वीकृत सुरक्षित बंदरगाह प्रावधान, वह लागू नहीं होगा यदि प्लेटफ़ॉर्म पर्याप्त प्रयास नहीं करते हैं [to control deepfakes], “वैष्णव ने कहा। निश्चित रूप से, केवल अदालतें ही यह निर्धारित कर सकती हैं कि क्या कोई मध्यस्थ अपनी सुरक्षित बंदरगाह सुरक्षा खो सकता है और बाद में उसे तीसरे पक्ष की सामग्री के लिए उत्तरदायी ठहराया जा सकता है।
इस सवाल के जवाब में कि क्या प्लेटफार्मों के पास डीपफेक को पहचानने और हटाने की तकनीक है, वैष्णव ने कहा था, “मुझे लगता है कि उन्हें ऐसा करने में सक्षम होना चाहिए।”
फरवरी में जारी एक एडवाइजरी में, मंत्रालय ने सोशल मीडिया प्लेटफार्मों से “नियमों और विनियमों या उपयोगकर्ता समझौते के प्रावधानों का उल्लंघन करने वाली जानकारी की पहचान करने के लिए उचित तकनीक और प्रक्रियाएं लागू करने” के लिए भी कहा था।