AI ChatBox नहीं कारगर, स्टडी में हुआ बड़ा खुलासा, मरीजों को दवा की सटीक जानकारी देने में फेल

लखनऊ, अमृत विचारः एआई चैटबॉक्स को लेकर हाल में हुआ स्टडी ने बड़े खुलासे किए गए हैं और इसके इस्तेमाल को लेकर बड़ी चेतावनी भी जारी की गई है। स्टडी के अनुसार मरीजों को दवाओं की जानकारी के लिए आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट्स पर भरोसा नहीं करना चाहिए। एआई संचालित सर्च इंजन और चैटबॉट दवाओं के बारे में हमेशा सटीक और सुरक्षित जानकारी नहीं दे सकते हैं। बेल्जियम और जर्मनी के रिसर्सच ने यह स्टडी (शोध) तब शुरू कि जब उन्हें पता चला की कई जवाब गलत या संभावित रूप से लोगों के लिए हानिकारक थे।

बीएमजे क्वालिटी एंड सेफ्टी (BMJ Quality & Safety) में प्रकाशित इस रिसर्च पेपर में उन्होंने कहा कि एआई चैटबॉट की ओर से दिए गए जवाबों की जटिलता को समझना कठिन हो सकता है। इन्हें समझने के लिए डिग्री स्तर की शिक्षा की जरूरत हो सकती है। साल 2023 में एआआई चैटबॉट्स की शुरुआत के साथ सर्च इंजन में जरूरी बदलाव आया है। नए वर्जनों ने बेहतर सर्च रिजल्ट, विस्तृत जवाब और एक नए तरह का इंटरैक्टिव रिजल्ट दिया है।

क्या कहा एक्सपर्ट्स ने
जर्मनी के फ्रेडरिक अलेक्जेंडर यूनिवर्सिटी एर्लांगेन, नूर्नबर्ग की टीम ने कहा कि चैटबॉट्स के पास इंटरनेट के पास विस्तृत डेटासेट हो सकते हैं। वे इन पर ट्रेन होते हैं। इस लिए वे किसी भी स्वास्थ्य संबंधी सवालों का जवाब दे सकते हैं, लेकिन उनकी दी हुई जानकारी बहुत गलतियां थी, जो की काफी हद तक हानिकारक भी हो सकती है।

इस क्रॉस सेक्शनल स्टडी के अनुसार  एआई चैटबॉट वाले खोज इंजन मरीजों के सवालों के पूर्ण और सटीक जवाब देने में सक्षम हैं। रिसर्चर ने एक चैटबॉट (बिंग कोपायलट) से पूछा कि अमेरिका में सबसे ज्यादा कौन सी 50 दवाएं लिखी जाती है। इसके बाद उन्होंने चैटबॉट के जवाब को चेक किया की वे कितने समझने में आसान, पूरे और सही थे।

26 प्रतिशत जवाब मिले गलत 
चैटबॉट से दस सवाल पूछे गए जिसमें से केवल आधे ही जवाब सबसे ज्यादा पूर्णता के साथ दिए गए। इसके अलावा 26 प्रतिशत जवाब रेफेरेंस डेटा से मेल नहीं खाते थे। 3 प्रतिशत से ज्यादा मामलों में जवाब पूरी तरह अलग थे। इनमें से लगभग 42 प्रतिशत चैटबॉट जवाबों की वजह से हल्का नुकसान होने की संभावना थी और 22 प्रतिशत जवाबों की वजह से गंभीर नुकसान होने की संभावना थी। इस पूरी रिसर्च में पाया गया कि चैटबॉट मरीज के सवाल के पीछे के उद्देश्य को नहीं समझ पा रहा है। 

शोधकर्ताओं ने कहा कि लोगोंको अपनी हेल्थ रिलेटिड प्रॉब्लम्स के लिए डॉक्टर्स से परामर्श करना जरूरी है। चैटबॉट बिना किसी गलती के हमेशा सही जानकारी नहीं दे सकते हैं। लोगों को एआई और चैटबॉट्स के सहारे नहीं बैठना चाहिए। 

यह भी पढ़ेः ICC Women’s T20 World Cup: भारत के लिए करों या मरो की स्थिति, knock out वाले हाल में कैसे करेगी सेमीफाइनल में प्रवेश, जाने हाल