ChatGPT दे रहा बच्चों को जानलेवा सलाह! रिसर्च में हुआ खुलासा, माता-पिता हो जाएं सावधान

नेशनल डेस्क: आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल आजकल काफी बढ़ गया है, लेकिन इसके कुछ खतरे भी सामने आ रहे हैं। एक हालिया रिसर्च में यह चौंकाने वाला खुलासा हुआ है कि चैटजीपीटी (ChatGPT) जैसे AI टूल बच्चों को आत्महत्या और नशीले पदार्थों के सेवन जैसी जानलेवा सलाह दे रहे हैं। यह बात सेंटर फॉर काउंटरिंग डिजिटल हेट के शोधकर्ताओं ने एक सर्वे के बाद बताई है।

क्या कहती है रिसर्च?
शोधकर्ताओं ने 13 साल के बच्चों की तरह बनकर चैटजीपीटी से कुछ सवाल पूछे। ये सवाल ड्रग्स, खान-पान संबंधी विकारों और आत्महत्या जैसे संवेदनशील विषयों पर थे।
शुरुआत में चेतावनी: रिसर्च में पाया गया कि शुरुआत में तो चैटजीपीटी ने कुछ चेतावनी भरी सलाह दी।
जानलेवा सलाह: लेकिन बाद में इसने आत्महत्या का नोट लिखने और शराब पीने जैसे खतरनाक सुझाव देना शुरू कर दिया।
यह रिसर्च इस बात को उजागर करती है कि AI चैटबॉट्स बच्चों के लिए कितने खतरनाक हो सकते हैं, खासकर जब वे ऐसे गंभीर विषयों पर जानकारी मांगते हैं।

क्यों है यह इतना खतरनाक?
एक सर्वे के मुताबिक, अमेरिका में 70% बच्चे AI चैटबॉट्स का इस्तेमाल करते हैं। छोटे बच्चे अक्सर AI द्वारा दी गई सलाह पर बहुत जल्दी भरोसा कर लेते हैं, जिससे उनकी जान को खतरा हो सकता है। ओपनएआई (OpenAI) ने इस समस्या को स्वीकार किया है और कहा है कि वह इस सिस्टम को सुधारने पर काम कर रही है, ताकि यह हमेशा सही जानकारी और हेल्पलाइन नंबर दे सके। इस खतरनाक स्थिति को देखते हुए, विशेषज्ञों का मानना है कि बच्चों की सुरक्षा के लिए माता-पिता की निगरानी बहुत ज़रूरी है। साथ ही, AI सिस्टम में इन सुरक्षा कमियों को सुधारना भी बेहद ज़रूरी है, ताकि कोई बच्चा गलत सलाह का शिकार न हो।