Grok Image Generation Ban: विवादों के बाद X ने Grok के इमेज जनरेशन फीचर पर लगाई रोक, अब सिर्फ पेड यूज़र्स को मिलेगी सुविधा
Grok Image Generation Ban: महिलाओं और बच्चों की आपत्तिजनक व अश्लील डीपफेक तस्वीरें बनाए जाने को लेकर उठे भारी विरोध के बाद, एलन मस्क के स्वामित्व वाली कंपनी xAI ने सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) पर बड़ा कदम उठाया है। रिपोर्ट्स के मुताबिक, X ने अपने AI चैटबॉट Grok के इमेज जनरेशन और इमेज एडिटिंग टूल को अब सिर्फ पेड यूज़र्स तक सीमित कर दिया है।
बताया जा रहा है कि Grok AI के जरिए कुछ यूज़र्स डिजिटल तरीके से तस्वीरों में हेरफेर कर महिलाओं को आपत्तिजनक और सेक्शुअल पोज में दिखा रहे थे। यहां तक कि कपड़े हटाने जैसी फीचर्स का भी दुरुपयोग किया गया, जिससे सोशल मीडिया और मानवाधिकार संगठनों में नाराजगी देखी गई। इसके बाद X को कड़े एक्शन लेने के लिए मजबूर होना पड़ा।
UK के दबाव के बाद लिया गया फैसला
द गार्जियन और BBC की रिपोर्ट के अनुसार, यह फैसला खासतौर पर यूनाइटेड किंगडम में बढ़ते सरकारी दबाव और संभावित रेगुलेटरी कार्रवाई के मद्देनज़र लिया गया है। UK में अधिकारियों ने गैर-कानूनी AI-जनरेटेड इमेज को लेकर X पर सख्त कार्रवाई की चेतावनी दी थी। यहां तक कि प्लेटफॉर्म को ब्लॉक करने की मांग भी उठी थी।
अब ज्यादातर फ्री यूज़र्स X पर Grok के जरिए इमेज जेनरेट या एडिट नहीं कर पाएंगे। केवल वे पेड सब्सक्राइबर्स, जिनकी पहचान और पेमेंट डिटेल्स X के पास मौजूद हैं, इस फीचर का इस्तेमाल कर सकेंगे। हालांकि, बिना सब्सक्रिप्शन वाले यूज़र्स अभी भी Grok के अलग ऐप और वेबसाइट के जरिए सीमित इमेज एडिटिंग टूल्स तक पहुंच बना सकते हैं।
Ofcom ले सकता है सख्त कदम
BBC की रिपोर्ट के मुताबिक, UK का मीडिया रेगुलेटर Ofcom ऑनलाइन सेफ्टी एक्ट के तहत X के खिलाफ सख्त कदम उठा सकता है। इसमें प्लेटफॉर्म की UK में सेवाओं को सीमित करने या प्रतिबंध लगाने के लिए कोर्ट से आदेश लेने की शक्ति भी शामिल है। सरकारी सूत्रों ने संकेत दिए हैं कि गैर-कानूनी AI कंटेंट को लेकर सभी विकल्पों पर विचार किया जा रहा है।
पीड़ित महिलाओं ने जताई नाराजगी
रिपोर्ट में यह भी सामने आया है कि जिन महिलाओं की तस्वीरों के साथ छेड़छाड़ की गई, उन्होंने खुद को अपमानित और अमानवीय महसूस करने की बात कही है। शुक्रवार सुबह तक Grok इमेज एडिट करने की कोशिश कर रहे यूज़र्स को यह संदेश दे रहा था कि यह फीचर अब केवल सब्सक्राइबर्स के लिए उपलब्ध है।