Knews Desk– आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते इस्तेमाल के साथ सोशल मीडिया पर फर्जी और मॉर्फ्ड कंटेंट का खतरा भी तेजी से बढ़ रहा है। इसी बीच AI से तैयार किए गए कथित मॉर्फ्ड वीडियो को लेकर Meta India और भारत सरकार के बीच विवाद गहरा गया है। हैदराबाद साइबर क्राइम पुलिस ने Meta India के प्रमुख अरुण श्रीनिवास और कुछ सोशल मीडिया यूजर्स के खिलाफ प्राथमिकी (FIR) दर्ज की है। मामला प्रधानमंत्री नरेंद्र मोदी से जुड़े कथित AI-जनरेटेड वीडियो के सोशल मीडिया पर प्रसारित होने से जुड़ा है।रिपोर्ट्स के अनुसार, प्रधानमंत्री नरेंद्र मोदी द्वारा साझा किए गए एक वीडियो को कुछ लोगों ने AI टूल्स की मदद से एडिट किया और उसे अलग संदर्भ में सोशल मीडिया पर प्रसारित किया। आरोप है कि इस मॉर्फ्ड वीडियो के जरिए भ्रामक जानकारी फैलाने की कोशिश की गई। यह वीडियो Facebook और Instagram जैसे Meta के प्लेटफॉर्म पर भी साझा किया गया, जिसके बाद पूरे मामले की जांच शुरू की गई।
हैदराबाद साइबर क्राइम पुलिस का कहना है कि शुरुआती जांच में यह पता लगाया जा रहा है कि इन वीडियो को किसने बनाया, किन लोगों ने इन्हें सोशल मीडिया पर अपलोड और शेयर किया तथा क्या इस प्रक्रिया में भारतीय न्याय संहिता (BNS) और सूचना प्रौद्योगिकी अधिनियम (IT Act) के प्रावधानों का उल्लंघन हुआ है। फिलहाल जांच प्रारंभिक चरण में है और किसी भी व्यक्ति या संस्था की कानूनी जिम्मेदारी अभी तय नहीं की गई है।
जांच एजेंसियां केवल वीडियो बनाने वालों की पहचान तक सीमित नहीं हैं, बल्कि यह भी देख रही हैं कि सोशल मीडिया प्लेटफॉर्म ऐसे AI-जनरेटेड और मॉर्फ्ड कंटेंट को समय रहते पहचानने और हटाने में कितने सक्षम हैं। इसी वजह से Meta India की भूमिका भी जांच के दायरे में आई है। पुलिस यह समझने की कोशिश कर रही है कि कंपनी के कंटेंट मॉडरेशन सिस्टम ने इन वीडियो को रोकने या हटाने के लिए क्या कदम उठाए।इससे पहले भी हैदराबाद साइबर क्राइम पुलिस ने Meta के अधिकारियों को पूछताछ के लिए बुलाया था। अधिकारियों से पूछा गया कि कंपनी के पास AI से तैयार फर्जी वीडियो, डीपफेक और ऑनलाइन स्कैम जैसे कंटेंट की पहचान करने और उन्हें हटाने के लिए कौन-सी तकनीकी व्यवस्था मौजूद है। Meta के प्रतिनिधियों ने जांच एजेंसियों के समक्ष कंपनी की कंटेंट मॉडरेशन प्रक्रिया की जानकारी दी और जांच में पूरा सहयोग करने का आश्वासन दिया।
इस पूरे घटनाक्रम ने AI तकनीक के दुरुपयोग को लेकर नई बहस छेड़ दी है। विशेषज्ञों का मानना है कि AI आधारित एडिटिंग टूल्स की मदद से ऐसे वीडियो तैयार किए जा सकते हैं, जो देखने में पूरी तरह वास्तविक लगते हैं। यदि समय रहते इनकी पहचान न हो, तो इनके जरिए गलत जानकारी फैलाना, लोगों को भ्रमित करना और सामाजिक या राजनीतिक माहौल को प्रभावित करना आसान हो सकता है।
मॉर्फ्ड वीडियो ऐसे वीडियो होते हैं जिनमें किसी व्यक्ति के चेहरे, आवाज या हाव-भाव को डिजिटल तकनीक या AI की मदद से इस तरह बदला जाता है कि वह वास्तविक प्रतीत हो। कई मामलों में इनका इस्तेमाल मनोरंजन के लिए किया जाता है, लेकिन जब इन्हें भ्रामक जानकारी फैलाने या किसी व्यक्ति की छवि प्रभावित करने के उद्देश्य से इस्तेमाल किया जाए, तो यह गंभीर कानूनी और सामाजिक चिंता का विषय बन जाता है।फिलहाल इस मामले की जांच जारी है। पुलिस का कहना है कि आगे की कार्रवाई डिजिटल सबूतों, तकनीकी जांच और उपलब्ध तथ्यों के आधार पर की जाएगी। जांच पूरी होने के बाद ही यह स्पष्ट होगा कि इस मामले में किसकी क्या भूमिका थी और कानून के तहत आगे क्या कदम उठाए जाएंगे।