Grok AI पर फूटा सरकार का गुस्सा: एलन मस्क को चेतावनी—'नियम मानो वरना…

नेशनल डेस्क: हाल ही में एक्स के नए AI टूल Grok द्वारा महिलाओं की आपत्तिजनक तस्वीरें बनाने का मामला सामने आया है। साथ ही बताया जा रहा है कि इसका इस्तेमाल महिलाओं की अश्लील तस्वीरें बनाने के लिए किया जा रहा है। इस संबंध में IT मंत्रालय (MeitY) ने कंपनी द्वारा सौंपे गए जवाब को 'अधूरा और नाकाफी' बताते हुए दोबारा विस्तृत जानकारी मांगी है।

सरकार ने क्यों जताई नाराजगी?

सरकारी सूत्रों के अनुसार 2 जनवरी को भेजे गए नोटिस के जवाब में X ने दावा किया कि वह भारतीय कानूनों का सम्मान करता है। हालांकि, सरकार इस बात से खफा है कि कंपनी ने यह नहीं बताया कि अब तक कितने आपत्तिजनक पोस्ट हटाए गए और Grok AI के एल्गोरिदम में ऐसे कंटेंट को रोकने के लिए क्या ठोस बदलाव किए गए। अधिकारियों ने साफ कहा कि केवल 'पॉलिसी' की बातें करने से काम नहीं चलेगा, उन्हें जमीन पर की गई कार्रवाई का डेटा चाहिए।

'सेफ हार्बर' (Safe Harbour) छीनने की धमकी

सरकार ने X को दो टूक चेतावनी दी है कि यदि उसने तुरंत सुधार नहीं किया, तो उसे IT Act की धारा 79 के तहत मिलने वाली कानूनी सुरक्षा (Safe Harbour) खोनी पड़ सकती है। इसका मतलब क्या है? अगर यह सुरक्षा हट गई, तो प्लेटफॉर्म पर किसी भी यूजर द्वारा पोस्ट किए गए गैरकानूनी कंटेंट के लिए X और उसके अधिकारियों को सीधे तौर पर जिम्मेदार माना जाएगा और उन पर आपराधिक मुकदमा चल सकेगा।

महिलाओं की सुरक्षा पर बड़ा खतरा

शिकायतों में कहा गया है कि Grok AI का उपयोग कर जालसाज महिलाओं की असली तस्वीरों को 'न्यूड' या आपत्तिजनक तस्वीरों में बदल रहे हैं। यहाँ तक कि उन महिलाओं को भी निशाना बनाया जा रहा है जो सामान्य रूप से अपनी फोटो पोस्ट करती हैं। सरकार ने इसे निजता का गंभीर उल्लंघन और महिलाओं की गरिमा पर प्रहार माना है।

अब क्या होगा अगला कदम?

आईटी मंत्रालय ने X को निर्देश दिया है कि वह बिना किसी देरी के 'एक्शन टेकन रिपोर्ट' (ATR) जमा करे। इसमें यह बताना अनिवार्य होगा कि:

1. कितने अकाउंट्स सस्पेंड किए गए?
2. AI टूल्स की निगरानी के लिए क्या नए 'सेफ्टी गार्डरेल्स' लगाए गए?
3. भविष्य में ऐसी घटनाओं को रोकने का क्या तकनीकी प्लान है?