नई दिल्ली: सोशल मीडिया प्लेटफॉर्म 'X' (पूर्व में ट्विटर) ने अपने एआई चैटबॉट Grok की सुरक्षा नीतियों में बड़े बदलावों की घोषणा की है, ताकि इसका इस्तेमाल महिलाओं और नाबालिगों की अश्लील तस्वीरें (Non-consensual Deepfakes) बनाने के लिए न किया जा सके। एलन मस्क के इस AI टूल पर आरोप थे कि इसमें अन्य टूल्स की तरह सुरक्षा फिल्टर्स नहीं हैं, जिससे लोग किसी की भी फोटो को 'डिजिटली अनड्रेस' कर रहे थे। 'The Verge' की रिपोर्ट के अनुसार, अंतरराष्ट्रीय दबाव और भारत सहित कई देशों की सरकारों द्वारा सख्त चेतावनी मिलने के बाद X ने मंगलवार को रातों-रात अपनी पॉलिसी अपडेट की। अब अगर कोई यूजर किसी व्यक्ति को 'बिकनी' पहनाने या अश्लील स्थिति में दिखाने का प्रॉम्प्ट देता है, तो Grok उसे इनकार कर देगा।
Despite Elon Musk's claims of fixing the loophole, tech journalists and safety researchers have exposed significant flaws in the new filtering system. बुधवार को किए गए लाइव टेस्ट में पाया गया कि थोड़े घुमावदार शब्दों (Prompts) का इस्तेमाल करने पर Grok अभी भी आपत्तिजनक और अश्लील तस्वीरें जेनरेट कर रहा है। टेक विशेषज्ञों का कहना है कि कंपनी की कथनी और करनी में बड़ा अंतर है, क्योंकि बाकी एआई प्लेटफॉर्म्स जैसे ChatGPT या Gemini की तुलना में Grok के 'गार्डरेल्स' (Guardrails) बेहद कमजोर हैं। ब्रिटेन की नियामक संस्था Ofcom ने भी इस मामले में जांच शुरू कर दी है, जहाँ जल्द ही बिना सहमति के डीपफेक बनाने को एक गंभीर अपराध घोषित करने वाला कानून लागू होने वाला है।
The controversy highlights a deeper conflict between Elon Musk’s "free speech" ideology and the urgent need for digital safety in the era of generative AI. भारत सरकार ने पहले ही X को अल्टीमेटम दे रखा है कि यदि डीपफेक और अश्लील कंटेंट पर लगाम नहीं लगी, तो प्लेटफॉर्म को 'सुरक्षित आश्रय' (Safe Harbour) का कानूनी संरक्षण खोना पड़ सकता है। ब्रिटेन सरकार ने भी साफ कर दिया है कि वह तकनीकी सुधारों के बिना पीछे नहीं हटेगी। फिलहाल, सोशल मीडिया पर यूजर्स लगातार Grok की पोल खोल रहे हैं कि कैसे कुछ सरल कीवर्ड्स बदलकर अभी भी नियमों को बायपास किया जा सकता है।