ChatGPT का नया सेफ्टी सिस्टम: अब OpenAI पहचान सकेगा यूजर की उम्र, गलत बताई आयु तो बैन होंगी कई चीजें

नेशनल डेस्क: अगर आप अपने जरूरी काम, पढ़ाई या रिसर्च के लिए ChatGPT जैसे AI चैटबॉट का इस्तेमाल करते हैं, तो यह खबर आपके लिए अहम है। ChatGPT बनाने वाली कंपनी OpenAI अब यूजर्स, खासतौर पर नाबालिगों की सुरक्षा को और मजबूत करने की तैयारी में है। इसके लिए कंपनी एक नया फीचर लाने जा रही है, जिसे “एज प्रिडिक्शन फीचर” कहा जा रहा है। इस फीचर के जरिए यूजर्स को उनकी उम्र के हिसाब से ही जवाब और कंटेंट दिखाया जाएगा।

OpenAI की योजना के मुताबिक, अगर कोई यूजर 18 साल से कम उम्र का पाया जाता है, तो उसके लिए ChatGPT के जवाब अपने आप फिल्टर हो जाएंगे। यानी ऐसे यूजर्स को वही जानकारी और कंटेंट मिलेगा, जो उनकी उम्र के हिसाब से सुरक्षित माना जाएगा। यह कदम कंपनी की एक्सटेंडेड सेफ्टी स्ट्रैटेजी का हिस्सा है, जिसका मकसद नाबालिगों को संवेदनशील या नुकसानदायक कंटेंट से दूर रखना है।

अब सवाल यह है कि OpenAI को यूजर्स की उम्र का पता कैसे चलेगा। कंपनी के मुताबिक, इसके लिए किसी एक चीज पर निर्भर नहीं रहा जाएगा, बल्कि यूजर के व्यवहार को देखकर अंदाजा लगाया जाएगा। जैसे अकाउंट कितने समय से एक्टिव है, किस तरह की चीजें ज्यादा सर्च की जाती हैं, दिन में किस वक्त ChatGPT का ज्यादा इस्तेमाल होता है और अकाउंट बनाते समय यूजर ने अपनी उम्र क्या बताई थी। इन सभी जानकारियों के आधार पर सिस्टम यह अनुमान लगाएगा कि यूजर 18 साल से ऊपर है या नहीं।

इस नए सिस्टम के लागू होने के बाद ChatGPT यह भी तय कर पाएगा कि किसी यूजर को 18 साल से ऊपर की उम्र से जुड़ा रिसर्च, वीडियो, ऑडियो या तस्वीरों तक पहुंच दी जानी चाहिए या नहीं। अगर सिस्टम को लगता है कि यूजर टीनेजर है, तो उसके लिए सेफ्टी सेटिंग्स अपने आप चालू हो जाएंगी। इन सेटिंग्स के तहत ऐसा कंटेंट दिखाया जाएगा, जो नाबालिगों के लिए ज्यादा सुरक्षित और उनकी उम्र के अनुरूप होगा।

OpenAI का कहना है कि इस फीचर के जरिए कुछ खास तरह के कंटेंट पर सख्ती से रोक लगाई जाएगी। इसमें ग्राफिक हिंसा या खून-खराबे से जुड़ा कंटेंट, खतरनाक और नुकसानदायक वायरल चैलेंज, रोमांटिक, सेक्शुअल या हिंसक रोल-प्ले, साथ ही बॉडी शेमिंग को बढ़ावा देने वाला, अनहेल्दी डाइटिंग या सुंदरता के अव्यावहारिक मानकों से जुड़ा कंटेंट शामिल है। कंपनी का मानना है कि इन उपायों से संभावित खतरों को कम किया जा सकेगा और युवा यूजर्स के लिए एक ज्यादा सुरक्षित डिजिटल माहौल तैयार होगा। OpenAI का यह कदम ऐसे समय में आया है, जब AI टूल्स का इस्तेमाल तेजी से बढ़ रहा है और बच्चों व किशोरों की ऑनलाइन सुरक्षा को लेकर चिंताएं भी लगातार सामने आ रही हैं।