الگورتھم صحت کی دیکھ بھال میں نسلی تعصب کو دور کر سکتا ہے اگر مناسب طریقے سے تربیت دی جائے۔

اسٹینفورڈ یونیورسٹی، ہارورڈ یونیورسٹی اور شکاگو یونیورسٹی کے محققین کی ایک ٹیم نے الگورتھم کو تربیت دی گھٹنوں کے ایکس رے میں گٹھیا کی تشخیص کرنا۔ یہ پتہ چلتا ہے کہ جب مریضوں کی رپورٹوں کو الگورتھم کے تربیتی ڈیٹا کے طور پر استعمال کیا جاتا ہے، تو سیاہ فام مریضوں کے ریکارڈ کا تجزیہ کرتے وقت الگورتھم ریڈیولوجسٹ سے زیادہ درست تھا۔

الگورتھمک تعصب کا مسئلہ

طبی میدان میں مشین لرننگ الگورتھم کا استعمال ممکنہ طور پر ہر طرح کی بیماری میں مبتلا مریضوں کے نتائج کو بہتر بنا سکتا ہے، لیکن مریضوں کی تشخیص کے لیے AI الگورتھم کے استعمال کے حوالے سے اچھی طرح سے دستاویزی مسائل بھی موجود ہیں۔ تعینات کردہ AI ماڈلز کے اثرات کے مطالعے میں الگورتھمک تعصب پر مشتمل متعدد قابل ذکر واقعات پائے گئے ہیں۔ یہ الگورتھم شامل ہیں۔ جو اقلیتوں کو سفید مریضوں کے مقابلے کارڈیالوجی یونٹس کے حوالے سے کم حوالہ دیتے ہیں، حالانکہ رپورٹ کردہ تمام علامات ایک جیسی تھیں۔

کے مصنفین میں سے ایک مطالعہیونیورسٹی آف کیلیفورنیا برکلے کے سکول آف پبلک ہیلتھ میں پروفیسر زیاد اوبرمیئر نے ریڈیولوجسٹ کے ایکس رے کی تشخیص اور مریضوں کی رپورٹ کردہ درد کی مقدار کے درمیان تفاوت کی تحقیقات کے لیے اے آئی کو ملازمت دینے کا فیصلہ کیا۔ اگرچہ سیاہ فام مریضوں اور کم آمدنی والے مریضوں نے درد کی اعلی سطح کی اطلاع دی، ان کی ایکس رے تشریحات عام آبادی کی طرح ہی کی گئیں۔ رپورٹ کردہ درد کی سطح کے اعداد و شمار NIH سے آئے تھے، اور محققین اس بات کی تحقیقات کرنا چاہتے تھے کہ آیا انسانی ڈاکٹروں کے اعداد و شمار کے تجزیہ میں کچھ کمی تو نہیں تھی۔

جیسا کہ وائرڈ نے اطلاع دی ہے۔ان اختلافات کی ممکنہ وجوہات کی نشاندہی کرنے کے لیے، Obermeyer اور دیگر محققین نے NIH کے ڈیٹا پر تربیت یافتہ کمپیوٹر ویژن ماڈل تیار کیا۔ الگورتھم ایکس رے کا تجزیہ کرنے اور تصاویر کی بنیاد پر مریض کے درد کی سطح کی پیش گوئی کرنے کے لیے بنائے گئے تھے۔ سافٹ ویئر ان تصاویر کے اندر پیٹرن تلاش کرنے میں کامیاب ہوا جو مریض کے درد کی سطح کے ساتھ انتہائی مربوط ثابت ہوئے۔

جب الگورتھم کو ایک ان دیکھی تصویر کے ساتھ پیش کیا جاتا ہے، تو ماڈل مریض کے درد کی اطلاع کی سطح کے لیے پیشین گوئیاں واپس کرتا ہے۔ ماڈل کی طرف سے واپس آنے والی پیشین گوئیاں ریڈیولوجسٹ کے ذریعہ تفویض کردہ اسکور کے مقابلے میں مریضوں کے درد کی اصل سطح کے ساتھ زیادہ قریب سے منسلک ہیں۔ یہ خاص طور پر سیاہ فام مریضوں کے لیے سچ تھا۔ اوبرمیئر نے وائرڈ کے ذریعے وضاحت کی کہ کمپیوٹر وژن الگورتھم ایسے مظاہر کا پتہ لگانے کے قابل تھا جو عام طور پر سیاہ فام مریضوں میں درد سے جڑے ہوئے تھے۔

مناسب طریقے سے تربیتی نظام

اطلاعات کے مطابق، ایکس رے کا اندازہ کرنے کے لیے استعمال ہونے والا معیار اصل میں 1957 کے دوران شمالی انگلینڈ میں کیے گئے ایک چھوٹے سے مطالعے کے نتائج کی بنیاد پر تیار کیا گیا تھا۔ اوسٹیو ارتھرائٹس کی تشخیص کے معیار کو تیار کرنے کے لیے استعمال ہونے والی ابتدائی آبادی جدید یونائیٹڈ کی متنوع آبادی سے بہت مختلف تھی۔ ریاستوں، لہذا یہ حیرت کی بات نہیں ہے کہ ان متنوع لوگوں کی تشخیص کرتے وقت غلطیاں ہوتی ہیں۔

نیا مطالعہ یہ ظاہر کرتا ہے کہ جب AI الگورتھم کو مناسب طریقے سے تربیت دی جاتی ہے تو وہ تعصب کو کم کر سکتے ہیں۔ تربیت ماہرین کی رائے کے بجائے خود مریضوں کے تاثرات پر مبنی تھی۔ Obermeyer اور ساتھیوں پہلے مظاہرہ کیا کہ عام طور پر استعمال ہونے والے AI الگورتھم نے سیاہ فام مریضوں پر سفید فام مریضوں کو ترجیح دی، لیکن Obermeyer نے یہ بھی دکھایا کہ صحیح ڈیٹا پر مشین لرننگ سسٹم کی تربیت تعصب کو روکنے میں مدد کر سکتی ہے۔

مطالعہ کا ایک قابل ذکر انتباہ بہت سے مشین لرننگ محققین سے واقف ہے۔ تحقیقی ٹیم کی طرف سے تیار کردہ AI ماڈل ایک بلیک باکس ہے، اور خود محققین کی ٹیم کو اس بات کا یقین نہیں ہے کہ الگورتھم ایکس رے میں کس قسم کی خصوصیات کا پتہ لگا رہا ہے، یعنی وہ ڈاکٹروں کو یہ نہیں بتا سکتے کہ وہ کون سی خصوصیات غائب ہیں۔ .

دوسرے ریڈیولوجسٹ اور محققین کا مقصد بلیک باکس میں کھودنا اور ان کے اندر موجود نمونوں کو ننگا کرنا ہے، امید ہے کہ ڈاکٹروں کو یہ سمجھنے میں مدد ملے گی کہ وہ کیا کھو رہے ہیں۔ ایموری یونیورسٹی میں ریڈیولوجسٹ اور پروفیسر، جوڈی گیچویا، AI ماڈل کو تربیت دینے کے لیے ایکس رے کا ایک زیادہ وسیع اور متنوع سیٹ اکٹھا کر رہی ہیں۔ گیچویا کو ریڈیولوجسٹ ان ایکس رے پر تفصیلی نوٹ بنائیں گے۔ ان نوٹوں کا ماڈل کے آؤٹ پٹ کے ساتھ موازنہ کیا جائے گا تاکہ یہ دیکھا جا سکے کہ آیا الگورتھم کے ذریعے پائے جانے والے پیٹرن کو بے نقاب کیا جا سکتا ہے۔