जब से AI आया है तब से ज्यादातर सेक्टर में एआई पर निर्भरता बढ़ी है लेकिन क्या आर्टिफिशियल इंटेलिजेंस पर आंख बंद कर पूरी तरह से भरोसा किया जा सकता है? ये एक बड़ा सवाल है, हाल ही में शोधकर्ताओं ने चेतावनी देते हुए बताया है कि एआई कैसे मरीजों के बीच भेदभाव कर रहा है. शोधकर्ताओं ने एक स्टडी में पाया कि रोगी की सामाजिक और आर्थिक स्थिति को देखते हुए आर्टिफिशियल इंटेलिजेंस मॉडल एक जैसी मैडिकल कंडीशन के लिए अलग-अलग उपचार की सिफारिश करता है.
चौंक गए न, लेकिन ये सच है. बीमारी एक जैसी लेकिन अलग-अलग मरीजों को एआई अलग-अलग इलाज बता रहा है. शोधकर्ताओं ने नेचर मेडिसिन में बताया कि एक जैसी स्वास्थ समस्या होने के बावजूद, एआई मॉडल कभी-कभी रोगियों की व्यक्तिगत विशेषताओं के आधार पर निर्णय बदल लेता है, जिससे देखभाल, डायग्नोस्टिक टेस्टिंग, ट्रीटमेंट अप्रोच और मानसिक स्वास्थ्य मूल्यांकन की प्राथमिकता प्रभावित होती है.
गरीबों को नहीं दे रहा टेस्टिंग की सलाह
उदाहरण के लिए, एआई की ओर से सीटी स्कैन या एमआरआई जैसे एडवांस्ड डायग्नोस्टिक टेस्ट की सलाह केवल हाई-इनकम वाले मरीजों को दी जाती है तो वहीं, कम आय वाले मरीजों को टेस्टिंग न कराने की सलाह दी देता है.
AI में क्रांति लाने की शक्ति
शोधकर्ताओं ने पाया कि ये समस्याएं स्वामित्व वाले और ओपन-सोर्स एआई मॉडल दोनों में देखी गई है. न्यूयॉर्क के माउंट सिनाई स्थित इकान स्कूल ऑफ मेडिसिन के स्टडी को-लीडर डॉ. गिरीश नादकर्णी ने कहा, एआई में स्वास्थ्य सेवा में क्रांति लाने की शक्ति है, लेकिन केवल तभी जब इसका विकास और उपयोग जिम्मेदारी से किया जाए.
इकान स्कूल के ही सह-लेखक डॉ. इयाल क्लैंग ने कहा, यह पहचान करनी होगी कि ये एआई मॉडल कहां भेदभाव कर सकते हैं, हम एआई मॉडल के डिजाइन को परिष्कृत करने, निरीक्षण को मजबूत करने और ऐसी प्रणालियां बनाने के लिए काम करना होगा जो इस बात को सुनिश्चित करें कि मरीज सुरक्षित रहें.