ChatGPT Dangerous Question: आजकल के दौर में टीनएजर्स का इंटरनेट और AI के साथ बढ़ता जुड़ाव एक गंभीर चिंता का विषय बन गया है। हाल ही में साइकोल़ॉजिकल क्राइम ड्रामा ‘Adolescence’ ने यह दिखाया, कि किस तरह किशोर इंटरनेट की अंधेरी दुनिया के संपर्क में आ रहे हैं। लेकिन अब एक असल ज़िंदगी के केस ने इस मुद्दे को और भी गंभीर बना दिया है। फ्लोरिडा के डीलैंड शहर में एक 13 साल के बच्चे को ChatGPT से खतरनाक सवाल पूछने के आरोप में गिरफ्तार किया गया है। यह मामला न सिर्फ माता-पिता और शिक्षकों के लिए, बल्कि पूरे समाज के लिए एक चेतावनी है, कि टीनएजर्स के बीच AI चैटबॉट का इस्तेमाल कितना खतरनाक हो सकता है।
स्कूल की निगरानी प्रणाली ने पकड़ा खतरनाक प्रोम्प्ट-
स्थानीय WFLA रिपोर्ट्स के अनुसार, यह घटना तब सामने आई जब 13 साल के किशोर ने स्कूल के डिवाइस पर ChatGPT में लॉग इन किया और एक रोंगटे खड़े कर देने वाला सवाल टाइप किया – “How to kill my friend in the middle of class” यानी “क्लास के बीच में अपने दोस्त को कैसे मारें।” यह प्रोम्ट स्कूल की AI-powered surveillance system ‘Gaggle’ द्वारा तुरंत फ्लैग कर दिया गया। गैगल एक डिजिटल सुरक्षा प्रणाली है, जो students की online activities पर नजर रखती है और किसी भी संदिग्ध गतिविधि की जानकारी तुरंत स्कूल और कानून प्रवर्तन अधिकारियों को देती है।
इस मामले में, गैगल ने कुछ ही मिनटों में इस खतरनाक सवाल को डिटैक्ट कर लिया और अलर्ट भेज दिया। Volusia County Sheriff के अधिकारी तुरंत स्कूल कैंपस पर पहुंचे और उस 13 साल के किशोर से पूछताछ शुरू की। किशोर ने अपने बचाव में कहा, कि वह सिर्फ अपने दोस्त के साथ सिर्फ ट्रोलिंग कर रहा था, यानी मजाक कर रहा था। लेकिन अधिकारियों ने इस मामले को हल्के में नहीं लिया और उसे juvenile detention centre (किशोर निरोध केंद्र) में भेज दिया गया है। फिलहाल इस मामले की जांच चल रही है और किशोर के खिलाफ क्या आरोप लगाए जाएंगे, यह अभी तक स्पष्ट नहीं है।
अमेरिका में स्कूल शूटिंग की बढ़ती चिंता-
यह मामला इसलिए और भी गंभीर हो जाता है, क्योंकि अमेरिका में स्कूल शूटिंग एक बड़ी समस्या बन चुकी हैं। Marjory Stoneman Douglas High School massacre की याद अब भी लोगों के जहन में ताज़ा है, जहां 17 लोगों ने अपनी जान गंवाई थी। ऐसे में, जब कोई किशोर स्कूल में किसी को मारने के बारे में AI से सवाल पूछता है, तो यह सिर्फ एक मजाक नहीं रह जाता, बल्कि एक थ्रैट बन जाता है। इस घटना ने टीनएजर्स के मेंटल हैल्थ और उनके AI चैटबॉट जैसे ChatGPT के संपर्क को लेकर गंभीर सवाल खड़े कर दिए हैं।
आज के डिजिटल युग में बच्चे और किशोर आसानी से ऐसी जानकारी एक्सेस कर सकते हैं, जो उनके लिए हानिकारक हो सकती है। ChatGPT जैसे AI टूल्स बहुत पावफुल हैं और सही तरीके से इस्तेमाल किए जाएं, तो बहुत फायदेमंद साबित हो सकते हैं, लेकिन गलत हाथों में या बिना सही गाइडेंस के, ये खतरनाक भी हो सकते हैं। यह मामला इस बात का सबूत है, कि टीनएजर्स को AI का इस्तेमाल करते समय पूरी निगरानी और गाइडेंस की जरूरत है।
Gaggle जैसी सर्विलैंस सिस्टम-
गैगल जैसी डिजिटल निगरानी प्रणालियों ने इस मामले में एक महत्वपूर्ण भूमिका निभाई है। इस सॉफ्टवेयर ने सही समय पर अधिकारियों को अलर्ट किया, जिससे संभावित खतरे को टाला जा सका। हालांकि, गैगल के इस्तेमाल को लेकर काफी बहस भी है। कई रिपोर्ट्स में यह सामने आया है, कि यह सॉफ्टवेयर कई बार फॉल्स अलार्म भी भेजता है, जिससे अननेसिसरी पैनिक फैलता है। कुछ लोगों का मानना है, कि ऐसी निगरानी प्रणालियां स्कूलों में एक सर्विलैंस स्टेट जैसा माहौल बना देती हैं, जहां स्टूडेंट को लगातार मॉनिटर किया जा रहा है।
लेकिन दूसरी तरफ, बढ़ती हिंसा और स्कूल सूटिंग के खतरे को देखते हुए, ऐसी सर्विलैंस सिस्टम की जरूरत को नकारा भी नहीं जा सकता। खासकर जब बात ChatGPT जैसे AI tools के इस्तेमाल की हो, तो यह और भी जरूरी हो जाता है, कि टीनएजर की ऑनलाइन एक्टिविटी पर नजर रखी जाए। यह एक नाजुक बैलेंस है – एक तरफ बच्चों की प्राइवेसी और फ्रीडम दूसरी तरफ उनकी सेफ्टी और सिक्योरिटी।
ये भी पढ़ें- Samsung ने भारत में लॉन्च किया AI Home Ecosystem, जानिए क्या है खास
माता-पिता और शिक्षकों की जिम्मेदारी-
यह घटना माता-पिता और शिक्षकों के लिए भी एक वेकअप कॉल है। आज के डिजिटल यूग में सिर्फ बच्चों को गैजेट्स दे देना काफी नहीं है, बल्कि उन्हें प्रोपर गाइडेंस भी देनी होगी। ChatGPT और अन्य AI टूल्स रपावरफुल हैं, लेकिन बच्चों को यह समझाना जरूरी है, कि इनका इस्तेमाल कैसे और किस उद्देश्य से करना चाहिए। “जस्ट ट्रोलिंग” या “मज़ाक” के नाम पर कुछ भी पूछना या करना एक्सेपटेबल नहीं है, खासकर जब बात वॉयलैंस से जुड़ी हो।
ये भी पढ़ें- Trump ने क्यों किया YouTube पर केस? जानिए क्यों प्लेटफॉर्म को चुकाने पड़े $24.5 मिलियन
इस मामले में अभी जांच चल रही है और अभी तक किशोर के खिलाफ कोई फॉर्मल चार्ज नहीं लगाए गए हैं। लेकिन यह केस एक ज़रुरी सीख देता है – AI के युग में, हमें अपने बच्चों और टीनएजर को और रिस्पॉन्सिबल डिजिटल सिटिजन बनाना होगा।