क्या आपकी फोटो भी बन रही Grok की अश्लील तस्वीर? भारत में उठी बैन की मांग

Grok AI Ban: एलन मस्क की कंपनी xAI का AI चैटबॉट Grok विवादों में घिर गया है। दुनियाभर में इसकी प्राइवेसी पॉलिसी और लोगों की तस्वीरों का गलत इस्तेमाल कर बनाई गई, अश्लील डीपफेक इमेज को लेकर तीखी आलोचना हो रही है। भारत में भी नेटिजन्स ने इस AI टूल पर प्रतिबंध लगाने की मांग की है।

सोशल मीडिया पर महिलाओं के साथ डिजिटल हिंसा-

भारतीय यूजर्स ने बताया, कि X (पूर्व में ट्विटर) पर कुछ लोग महिलाओं की सोशल मीडिया से फोटो लेकर Grok को टैग करते हैं और उसे अश्लील तस्वीरें बनाने के लिए कहते हैं। चौंकाने वाली बात यह है, कि Grok इन गलत रिक्वेस्ट को पूरा कर रहा था और बिना सहमति के एक्सप्लीसीट कंटेंट जेनरेट कर रहा था।

इस तरह की घटनाएं महिलाओं के खिलाफ डिजिटल यौन हिंसा की श्रेणी में आती हैं। कई महिलाओं ने शिकायत की, कि उनकी पर्सनल फोटो का दुरुपयोग कर पोर्नोग्राफिक डीपफेक मटेरियल बनाया जा रहा है। यूजर्स का कहना है, कि अधिकारियों को इस मामले में सख्त कार्रवाई करनी चाहिए।

Grok की सफाई और xAI का बयान-

जब यूजर्स ने इन शिकायतों को उठाया, तो Grok ने जवाब दिया, कि उसकी गाइडलाइन्स में “बिना सहमति के इंटीमेट इमेज” बनाना प्रतिबंधित है और वह एथिक्स और यूज़र सेफ्टी को प्राथमिकता देता है। लेकिन यूजर्स ने इस बात पर सवाल उठाया, कि अगर डेवलपर्स को इस समस्या की जानकारी थी, तो पहले से पर्याप्त सुरक्षा उपाय क्यों नहीं किए गए।

Grok ने बाद में स्वीकार किया, कि उसके AI टूल्स के जरिए डीपफेक हैरासमेंट हुई है, जो “हार्मफुल और एथिकल स्टैंडर्ड्स का उल्लंघन” है। चैटबॉट ने यूजर्स से ऐसी पोस्ट रिपोर्ट करने को कहा और कहा, कि xAI “दुरुपयोग रोकने के लिए सुरक्षा उपाय लगातार बेहतर कर रही है।”

ये भी पढ़ें- अब सालों पुरानी Email ID बदलना होगा मुमकिन, जानें कैसे काम करेगा Gmail का नया फीचर

अपनी फोटो को कैसे बचाएं-

X के यूजर्स ने दूसरों को टिप्स शेयर की हैं, कि कैसे अपनी मीडिया को AI डीपफेक से बचाया जाए। आप Grok को अपनी पर्सनल फोटो एक्सेस करने से रोक सकते हैं। इसके लिए मोर टैब में जाकर सेटिंग और प्राइवेसी खोलें, फिर प्राइवेसी और सेफटी सेक्शन में ग्रोक एंड थर्ड पार्टी कॉलैबरेशन का ऑप्शन चुनें। यहां “आलाउ पब्लिक डाटा फॉर ट्रेनिंग” और “अलाउ एक्स टू पर्सनलाइज़ योर एक्पिरियंस विध ग्रोक” को बंद कर दें।

ये भी पढ़ें- ChatGPT ने 243 बार किया फांसी का जिक्र, 16 साल के लड़के की आत्महत्या के बाद परिवार ने लगाए आरोप