शिव शंकर सविता- सोशल मीडिया प्लेटफॉर्म X ने अपने कंटेंट मॉडरेशन सिस्टम में खामियों को स्वीकार करते हुए इसे अपनी गलती माना है। सरकारी सूत्रों के अनुसार, कंपनी ने भारत सरकार को भरोसा दिलाया है कि वह देश के सभी कानूनों और नियमों का पूरी सख्ती से पालन करेगी। यह स्वीकारोक्ति उस विवाद के बाद सामने आई है, जिसमें X के AI टूल Grok से जुड़े आपत्तिजनक और अश्लील कंटेंट के प्रसार को लेकर गंभीर सवाल उठे थे। दरअसल, आरोप था कि Grok AI की मदद से अश्लील और यौन रूप से आपत्तिजनक सामग्री तैयार की गई और उसे प्लेटफॉर्म पर बढ़ावा मिला। इस मामले में सरकार की सख्ती के बाद X ने कार्रवाई करते हुए करीब 3,500 आपत्तिजनक पोस्ट ब्लॉक की हैं और 600 से अधिक अकाउंट्स को डिलीट किया है। कंपनी ने यह भी स्पष्ट किया है कि भविष्य में इस तरह के किसी भी कंटेंट को प्लेटफॉर्म पर अनुमति नहीं दी जाएगी।
7 जनवरी को केंद्र सरकार ने एक्स को किया था तलब
इस पूरे मामले में 7 जनवरी को केंद्र सरकार ने X से जवाब-तलब किया था। सरकार ने Grok AI से जुड़े अश्लील कंटेंट पर अब तक की गई कार्रवाई और भविष्य में ऐसी घटनाओं को रोकने के लिए उठाए जाने वाले ठोस कदमों की जानकारी मांगी थी। हालांकि X की शुरुआती रिपोर्ट को सरकार ने अपर्याप्त माना और उससे और स्पष्ट जवाब की मांग की। आईटी मंत्रालय को दिए गए अपने जवाब में एलन मस्क के नेतृत्व वाली कंपनी X ने कहा कि वह भारतीय कानूनों और गाइडलाइंस का सम्मान करती है और भारत उसके लिए एक महत्वपूर्ण बाजार है। कंपनी ने यह भी बताया कि वह भ्रामक जानकारी और बिना सहमति वाले यौन कंटेंट के खिलाफ पहले से ही सख्त नीतियां अपनाए हुए है। हालांकि Grok AI से जुड़े विवाद पर तकनीकी स्तर पर उठाए गए कदमों का ब्योरा स्पष्ट रूप से नहीं दिया गया।
72 घंटे के भीतर एक्शन लेने के दिए निर्देश
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने इस लापरवाही को गंभीर मानते हुए X को आईटी एक्ट 2000 और आईटी नियम 2021 के तहत ‘ड्यू डिलिजेंस’ में कमी को लेकर कड़ी फटकार लगाई है। मंत्रालय ने X को 72 घंटे के भीतर एक्शन टेकन रिपोर्ट जमा करने का निर्देश दिया है।
महिलाओं को निशाना बनाते हुए तैयार की गई थी अश्लील साम्रगी
MeitY ने विशेष रूप से इस बात पर चिंता जताई है कि Grok AI का इस्तेमाल महिलाओं को निशाना बनाकर अश्लील सामग्री तैयार करने में किया गया। मंत्रालय ने इसे महिलाओं की गरिमा और निजता के खिलाफ बताया है। सरकार ने X को Grok के तकनीकी सुरक्षा उपायों और गवर्नेंस सिस्टम की तत्काल समीक्षा करने के निर्देश दिए हैं।