नई दिल्ली 13 Jan, : एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी xAI का बहुचर्चित चैटबॉट ‘Grok’ एक बार फिर गंभीर विवादों में घिर गया है। फर्जी और अश्लील डीपफेक तस्वीरें बनाने के आरोपों के चलते इंडोनेशिया और मलेशिया की सरकारों ने इस पर सख्त कार्रवाई करते हुए इसे अस्थायी रूप से बैन कर दिया है। इन देशों का कहना है कि यह एआई टूल महिलाओं और बच्चों की सुरक्षा के लिए खतरा बन गया है। गौरतलब है कि भारत सरकार ने भी हाल ही में एक्स (X) के एआई टूल Grok के जरिए फैल रहे आपत्तिजनक कंटेंट पर गंभीर चिंता जाहिर की थी।
डिजिटल दुनिया के लिए खतरा बना एआई
मलेशिया और इंडोनेशिया द्वारा Grok पर लगाया गया यह अस्थायी प्रतिबंध इस बात का स्पष्ट संकेत है कि अब एआई की आजादी बिना नियमों के नहीं चल सकेगी। मलेशियाई संचार और मल्टीमीडिया आयोग (MCMC) ने अपनी जांच में पाया कि Grok की टेक्नोलॉजी का दुरुपयोग अश्लील और पोर्नोग्राफिक सामग्री बनाने में किया जा रहा था। सबसे चिंताजनक बात यह थी कि यह कंटेंट लोगों की सहमति के बिना तैयार किया जा रहा था, जिससे उनकी सामाजिक प्रतिष्ठा और निजी सुरक्षा पर सीधा हमला हो रहा था। सरकारों ने इसे समाज के लिए एक गंभीर जोखिम करार दिया है।
चेतावनी के बाद भी कंपनी ने नहीं किया सुधार
एक्स और xAI की लापरवाही पर नियामकों ने कड़ी नाराजगी जताई है। मलेशियाई नियामक के मुताबिक, उन्होंने कंपनी को 3 और 8 जनवरी को नोटिस भेजकर तत्काल प्रभावी तकनीकी सुरक्षा उपाय लागू करने की मांग की थी। नियामकों का आरोप है कि कंपनी ने समस्या की जड़ यानी ‘डीपफेक जनरेशन’ को रोकने के लिए कोई ठोस कदम नहीं उठाया, बल्कि केवल यूजर रिपोर्टिंग सिस्टम पर ही ध्यान केंद्रित रखा। कंपनी द्वारा सुरक्षा को लेकर उदासीन रवैया अपनाने के बाद ही Grok को ब्लॉक करने का कड़ा फैसला लिया गया।
नागरिकों की सुरक्षा से समझौता नहीं
इस मामले पर इंडोनेशिया का रुख भी बेहद सख्त है। वहां की संचार और डिजिटल मंत्री मेउत्या हफीद ने इसे मानवाधिकारों और डिजिटल सुरक्षा का गंभीर उल्लंघन बताया है। उन्होंने स्पष्ट किया कि नागरिकों, खासकर महिलाओं और बच्चों की गरिमा से कोई समझौता नहीं किया जाएगा और एक्स से इस फीचर को लेकर तुरंत स्पष्टीकरण मांगा गया है। एआई टूल्स द्वारा बनाई जा रही असली जैसी दिखने वाली नकली तस्वीरें और वीडियो लोगों की पहचान बर्बाद कर सकते हैं। भारत और यूरोपीय यूनियन भी इस मुद्दे पर पहले ही चिंता जता चुके हैं। अब यह देखना होगा कि वैश्विक दबाव के बीच एलन मस्क की कंपनी सुरक्षा मानकों में क्या बदलाव करती है।
