AI का चौंकाने वाला सच: एक मामूली बदलाव से ChatGPT ने दे दिए गलत जवाब, नई रिसर्च में हुआ डराने वाला खुलासा

नेशनल डेस्क। क्या AI चैटबॉट्स, जैसे ChatGPT, मेडिकल फैसलों में डॉक्टरों का विकल्प बन सकते हैं? इस पर हुई एक नई रिसर्च ने चौंकाने वाला जवाब दिया है। माउंट सिनाई और इज़राइल के राबिन मेडिकल सेंटर द्वारा किए गए एक अध्ययन से पता चला है कि जब बात जटिल मेडिकल एथिक्स की आती है तो ये एडवांस AI सिस्टम भी इंसानों की तरह ही बुनियादी गलतियां कर बैठते हैं।

मामूली बदलाव से बिगड़ गया AI का फैसला

इस रिसर्च में वैज्ञानिकों ने AI चैटबॉट्स को कुछ ऐसे केस दिए जो पहले से ही चर्चित थे लेकिन उनमें हल्का-सा बदलाव किया। नतीजा हैरान करने वाला था। AI ने अधिकतर बार ऐसे जवाब दिए जो तथ्यों के विपरीत और सिर्फ सहज समझ पर आधारित थे। यह एक तरह की 'तेज़ सोच' का नतीजा था जहां AI बिना गहराई से सोचे-समझे जवाब दे रहा था।

यह रिसर्च डेनियल काह्नमैन की मशहूर किताब "थिंकिंग, फास्ट एंड स्लो" से प्रेरित थी। इसमें यह देखा गया कि जब AI को थोड़ी-सी नई जानकारी दी जाती है तब भी वह अक्सर अपने पुराने पैटर्न पर ही अटक जाता है।

यह भी पढ़ें: हर रात नया मर्द: 1 या 2 नहीं बल्कि 8 शादीशुदा पुरुषों के साथ मनाती सुहागरात फिर कहती- मैं दूसरी...

सर्जन की पहेली में फंसे AI चैटबॉट्स

रिसर्चर्स ने एक प्रसिद्ध पहेली, "सर्जन की दुविधा" का संशोधित संस्करण AI को दिया। इस पहेली में जब यह साफ बताया गया कि लड़के का पिता ही सर्जन है तब भी कुछ AI मॉडल्स ने जवाब दिया कि सर्जन उसकी मां है। इस नतीजे से यह साबित हुआ कि AI अभी भी पुराने पैटर्न से चिपके रहते हैं भले ही उन्हें नए तथ्य दिए गए हों।

यह भी पढ़ें: बीमार बीवी से फोन पर बात कर रहा था व्यक्ति, देखते ही आगबबूला हो गई लिव-इन पार्टनर, फिर क्या सामने से आई और...

मानवीय निगरानी की क्यों है ज़रूरत?

माउंट सिनाई के वरिष्ठ वैज्ञानिक डॉ. गिरीश नाडकर्णी ने कहा, "AI का इस्तेमाल डॉक्टरों के सहायक के रूप में होना चाहिए उनके विकल्प के तौर पर नहीं।" उन्होंने जोर देकर कहा कि जब भी कोई नैतिक, संवेदनशील या गंभीर फैसला लेना हो तो इंसानी निगरानी बेहद ज़रूरी है। AI में क्षमता है लेकिन उनमें मानवीय भावना, संवेदना और गहराई से सोचने की योग्यता नहीं है इसलिए मेडिकल फैसलों में उन पर आँख मूँदकर भरोसा करना खतरनाक हो सकता है।