Grok AI: Deepfake अश्लील तस्वीरों के आरोपों में घिरा, इंडोनेशिया और मलेशिया ने लगाया बैन

Elon Musk की कंपनी xAI द्वारा विकसित आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok एक बार फिर विवादों में घिर गया है। Deepfake और बिना सहमति के अश्लील तस्वीरें बनाए जाने के गंभीर आरोपों के बाद अब इंडोनेशिया और मलेशिया ने Grok की सेवाओं पर अस्थायी रोक लगा दी है।

मलेशिया ने क्यों लगाया Grok पर बैन?

मलेशिया के कम्युनिकेशन एंड मल्टीमीडिया कमीशन (MCMC) ने सोशल मीडिया प्लेटफॉर्म X पर जारी बयान में कहा कि Grok का लगातार दुरुपयोग सामने आ रहा था। रेगुलेटर के अनुसार, इस AI टूल के जरिए अश्लील, आपत्तिजनक और बिना अनुमति के बदली गई तस्वीरें बनाई जा रही थीं, जिनमें महिलाएं और बच्चे भी शामिल थे।

नोटिस के बावजूद नहीं हुआ समाधान

MCMC ने बताया कि जनवरी की शुरुआत में X और xAI को औपचारिक नोटिस भेजे गए थे, लेकिन इसके बावजूद कोई प्रभावी तकनीकी सुधार लागू नहीं किया गया। रेगुलेटर का कहना है कि समस्या को गंभीरता से नहीं लिया गया।

 सुरक्षा उपायों पर उठे सवाल

मलेशियाई नियामक ने स्पष्ट किया कि X ने केवल यूज़र-रिपोर्टिंग मैकेनिज्म पर निर्भरता दिखाई, जबकि ऐसे AI टूल से पैदा होने वाले जोखिमों को रोकने के लिए आवश्यक तकनीकी सुरक्षा उपाय लागू नहीं किए गए।

इंडोनेशिया ने भी लिया कड़ा कदम

इंडोनेशिया की कम्युनिकेशन और डिजिटल मंत्रालय ने भी Grok पर अस्थायी प्रतिबंध लगाने का ऐलान किया है। डिजिटल मंत्री मेउत्या हाफिद ने कहा कि यह निर्णय महिलाओं, बच्चों और आम नागरिकों को AI-जनरेटेड फर्जी अश्लील कंटेंट से बचाने के लिए लिया गया है।

 मानव गरिमा का उल्लंघन बताया

इंडोनेशियाई सरकार ने बिना सहमति के यौन Deepfake कंटेंट को मानव गरिमा, निजता और डिजिटल सुरक्षा का गंभीर उल्लंघन करार दिया है। साथ ही सोशल मीडिया प्लेटफॉर्म X से Grok फीचर को लेकर तत्काल स्पष्टीकरण भी मांगा गया है।

पहले भी उठ चुके हैं सवाल

Grok के इमेज एडिटिंग फीचर को लेकर पहले भारत, यूरोपीय संघ समेत कई देशों ने चिंता जताई थी। बाद में इस फीचर को केवल वेरिफाइड यूजर्स तक सीमित किया गया, लेकिन मूल समस्या पर प्रभावी नियंत्रण नहीं हो सका।