کوئی بھی AI ایجنٹ بات کر سکتا ہے۔ چند پر بھروسہ کیا جا سکتا ہے۔

صحت کی دیکھ بھال میں AI ایجنٹوں کی ضرورت فوری ہے۔ پوری صنعت میں، زیادہ کام کرنے والی ٹیمیں وقتی کاموں میں ڈوب جاتی ہیں جو مریضوں کی دیکھ بھال کو روکتی ہیں۔ معالجین دبلے پتلے ہیں، ادائیگی کرنے والے کال سینٹرز بھرے ہوئے ہیں، اور مریضوں کو فوری خدشات کے جوابات کے انتظار میں چھوڑ دیا گیا ہے۔

اے اے ایجنٹ گہرے خلاء کو پُر کرنے، طبی اور انتظامی عملے کی رسائی اور دستیابی کو بڑھا کر اور صحت کے عملے اور مریضوں کی برن آؤٹ کو کم کرنے میں مدد کر سکتے ہیں۔ لیکن اس سے پہلے کہ ہم ایسا کر سکیں، ہمیں AI ایجنٹوں میں اعتماد پیدا کرنے کے لیے ایک مضبوط بنیاد کی ضرورت ہے۔ یہ اعتماد آواز کے گرم لہجے یا گفتگو کی روانی سے نہیں آئے گا۔ یہ انجینئرنگ سے آتا ہے۔

یہاں تک کہ جیسا کہ AI ایجنٹوں میں دلچسپی آسمان کو چھوتی ہے اور شہ سرخیاں ایجنٹی AI کے وعدے کی تردید کرتی ہیں، صحت کی دیکھ بھال کرنے والے رہنما – اپنے مریضوں اور برادریوں کے سامنے جوابدہ ہیں – اس ٹیکنالوجی کو بڑے پیمانے پر تعینات کرنے میں ہچکچاتے ہیں۔ سٹارٹ اپ ایجنٹی صلاحیتوں کا استعمال کر رہے ہیں جو کہ خودکار دنیا کے کاموں جیسے اپوائنٹمنٹ شیڈولنگ سے لے کر ہائی ٹچ مریض سے بات چیت اور دیکھ بھال تک ہے۔ اس کے باوجود، زیادہ تر نے ابھی تک یہ ثابت کرنا ہے کہ یہ مصروفیات محفوظ ہیں۔

ان میں سے بہت سے لوگ کبھی نہیں کریں گے۔

حقیقت یہ ہے کہ کوئی بھی اسپن کر سکتا ہے۔ صوتی ایجنٹ ایک بڑے لینگویج ماڈل (LLM) کے ذریعے تقویت یافتہ، اسے ایک ہمدرد لہجہ دیں، اور اسکرپٹ کو ایک ایسی گفتگو دیں جو قائل کرنے والی ہو۔ اس طرح کے بہت سارے پلیٹ فارم ہیں جو ہر صنعت میں اپنے ایجنٹوں کو ہاک کرتے ہیں۔ ہو سکتا ہے کہ ان کے ایجنٹ نظر آتے ہوں اور آواز مختلف ہو، لیکن ان سب کا برتاؤ ایک جیسا ہوتا ہے - فریب کا شکار، اہم حقائق کی تصدیق کرنے سے قاصر، اور احتساب کو یقینی بنانے والے میکانزم کی کمی۔

یہ نقطہ نظر - ایک بنیادی LLM کے ارد گرد اکثر بہت پتلی ریپر بنانا - خوردہ یا مہمان نوازی جیسی صنعتوں میں کام کر سکتا ہے، لیکن صحت کی دیکھ بھال میں ناکام ہو جائے گا۔ فاؤنڈیشن ماڈلز غیر معمولی ٹولز ہیں، لیکن وہ بڑے پیمانے پر عام مقصد کے ہوتے ہیں۔ انہیں خاص طور پر کلینیکل پروٹوکولز، ادا کنندگان کی پالیسیوں، یا ریگولیٹری معیارات پر تربیت نہیں دی گئی تھی۔ یہاں تک کہ ان ماڈلز پر بنائے گئے سب سے زیادہ فصیح ایجنٹ بھی فریب کاری کے علاقے میں جاسکتے ہیں، ان سوالوں کے جوابات دے سکتے ہیں جو انہیں نہیں کرنے چاہئیں، حقائق ایجاد کر سکتے ہیں، یا یہ پہچاننے میں ناکام ہو سکتے ہیں کہ انسان کو کب اس میں لانے کی ضرورت ہے۔

ان رویوں کے نتائج نظریاتی نہیں ہیں۔ وہ مریضوں کو الجھا سکتے ہیں، دیکھ بھال میں مداخلت کر سکتے ہیں، اور اس کے نتیجے میں مہنگے انسانی دوبارہ کام ہو سکتے ہیں۔ یہ انٹیلی جنس کا مسئلہ نہیں ہے۔ یہ بنیادی ڈھانچے کا مسئلہ ہے۔

صحت کی دیکھ بھال میں محفوظ طریقے سے، مؤثر طریقے سے اور قابل اعتماد طریقے سے کام کرنے کے لیے، AI ایجنٹوں کو فون کے دوسرے سرے پر صرف خود مختار آوازوں سے زیادہ ہونے کی ضرورت ہے۔ انہیں خاص طور پر کنٹرول، سیاق و سباق اور جوابدہی کے لیے انجنیئر کردہ سسٹمز کے ذریعے چلایا جانا چاہیے۔ ان نظاموں کو بنانے کے میرے تجربے سے، یہاں یہ ہے کہ عملی طور پر ایسا لگتا ہے۔

رسپانس کنٹرول فریب کو غیر موجود بنا سکتا ہے۔

صحت کی دیکھ بھال میں AI ایجنٹ صرف معقول جوابات پیدا نہیں کر سکتے۔ انہیں ہر بار صحیح ڈیلیور کرنے کی ضرورت ہے۔ اس کے لیے ایک قابل کنٹرول "ایکشن اسپیس" کی ضرورت ہوتی ہے - ایک ایسا طریقہ کار جو AI کو فطری گفتگو کو سمجھنے اور سہولت فراہم کرنے کی اجازت دیتا ہے، لیکن اس بات کو یقینی بناتا ہے کہ ہر ممکنہ ردعمل پہلے سے طے شدہ، منظور شدہ منطق کے پابند ہو۔

جوابی کنٹرول کے پیرامیٹرز کے ساتھ، ایجنٹ صرف تصدیق شدہ پروٹوکول، پہلے سے طے شدہ آپریٹنگ طریقہ کار، اور ریگولیٹری معیارات کا حوالہ دے سکتے ہیں۔ ماڈل کی تخلیقی صلاحیتوں کو حقائق کو بہتر بنانے کے بجائے تعاملات کی رہنمائی کے لیے استعمال کیا جاتا ہے۔ اس طرح صحت کی دیکھ بھال کے رہنما خطرے کو یقینی بنا سکتے ہیں۔ hallucination مکمل طور پر ختم کر دیا جاتا ہے - پائلٹ یا واحد فوکس گروپ میں ٹیسٹ کرنے سے نہیں، بلکہ گراؤنڈ فلور پر خطرے کو ڈیزائن کر کے۔

خصوصی علمی گراف قابل اعتماد تبادلے کو یقینی بنا سکتے ہیں۔

صحت کی دیکھ بھال کی ہر گفتگو کا سیاق و سباق گہری ذاتی ہے۔ ٹائپ 2 ذیابیطس والے دو افراد ایک ہی پڑوس میں رہ سکتے ہیں اور ایک ہی خطرے کے پروفائل میں فٹ ہو سکتے ہیں۔ کسی مخصوص دوا کے لیے ان کی اہلیت ان کی طبی تاریخ، ان کے ڈاکٹر کے علاج کے رہنما خطوط، ان کے انشورنس پلان، اور فارمولری قواعد کی بنیاد پر مختلف ہوگی۔

AI ایجنٹوں کو نہ صرف اس سیاق و سباق تک رسائی کی ضرورت ہے، بلکہ انہیں حقیقی وقت میں اس کے ساتھ استدلال کرنے کے قابل ہونے کی ضرورت ہے۔ ایک ماہر علم کا گراف یہ صلاحیت فراہم کرتا ہے۔ یہ متعدد قابل اعتماد ذرائع سے معلومات کی نمائندگی کرنے کا ایک منظم طریقہ ہے جو ایجنٹوں کو اس بات کی توثیق کرنے کی اجازت دیتا ہے کہ وہ جو کچھ سنتے ہیں اور اس بات کو یقینی بناتے ہیں کہ وہ جو معلومات واپس دیتے ہیں وہ درست اور ذاتی نوعیت کی ہے۔ اس پرت کے بغیر ایجنٹوں کو مطلع کیا جا سکتا ہے، لیکن وہ واقعی صرف سخت ورک فلو کی پیروی کر رہے ہیں اور خالی جگہوں کو پُر کر رہے ہیں۔

مضبوط جائزہ لینے والے نظام درستگی کا اندازہ لگا سکتے ہیں۔

ایک مریض AI ایجنٹ سے رابطہ کر سکتا ہے اور مطمئن محسوس کر سکتا ہے، لیکن ایجنٹ کے لیے کام بہت دور ہے۔ صحت کی دیکھ بھال کرنے والی تنظیموں کو اس بات کی یقین دہانی کی ضرورت ہے کہ ایجنٹ نے نہ صرف درست معلومات فراہم کی ہیں، بلکہ بات چیت کو سمجھا اور دستاویزی کیا ہے۔ اسی جگہ پر خودکار پوسٹ پروسیسنگ سسٹم آتے ہیں۔

جائزہ لینے کے ایک مضبوط نظام کو ہر ایک گفتگو کا جائزہ لینا چاہیے جس کی جانچ پڑتال کی ایک ہی باریک ٹوتھ کنگھی سطح کے ساتھ ایک انسانی سپروائزر جو دنیا میں ہر وقت کرے گا۔ اسے یہ شناخت کرنے کے قابل ہونا چاہیے کہ آیا جواب درست تھا، اس بات کو یقینی بنانا چاہیے کہ صحیح معلومات حاصل کی گئی تھی، اور یہ تعین کرنے کے قابل ہونا چاہیے کہ آیا فالو اپ کی ضرورت ہے یا نہیں۔ اگر کچھ ٹھیک نہیں ہے تو، ایجنٹ کو کسی انسان تک پہنچانے کے قابل ہونا چاہیے، لیکن اگر سب کچھ چیک آؤٹ ہو جاتا ہے، تو اس کام کو اعتماد کے ساتھ کرنے کی فہرست سے ہٹایا جا سکتا ہے۔

ان تین بنیادی عناصر کے علاوہ جو بھروسہ پیدا کرنے کے لیے درکار ہیں، ہر ایجنٹی AI انفراسٹرکچر کو ایک مضبوط سیکیورٹی اور تعمیل فریم ورک کی ضرورت ہوتی ہے جو مریضوں کے ڈیٹا کی حفاظت کرتا ہے اور ایجنٹوں کو ریگولیٹڈ حدود میں کام کرنے کو یقینی بناتا ہے۔ اس فریم ورک میں SOC 2 اور HIPAA جیسے عام صنعتی معیارات پر سختی سے عمل پیرا ہونا شامل ہونا چاہیے، لیکن اس میں تعصب کی جانچ، محفوظ صحت سے متعلق معلومات کی تخفیف، اور ڈیٹا کو برقرار رکھنے کے لیے عمل بھی شامل ہونا چاہیے۔

یہ حفاظتی تحفظات صرف تعمیل کے خانوں کو چیک نہیں کرتے ہیں۔ وہ ایک قابل اعتماد نظام کی ریڑھ کی ہڈی کی تشکیل کرتے ہیں جو اس بات کو یقینی بناتا ہے کہ ہر تعامل کو اس سطح پر منظم کیا جاتا ہے جس سطح پر مریض اور فراہم کنندگان کی توقع ہوتی ہے۔

صحت کی دیکھ بھال کی صنعت کو زیادہ AI ہائپ کی ضرورت نہیں ہے۔ اسے قابل اعتماد AI انفراسٹرکچر کی ضرورت ہے۔ ایجنٹی AI کے معاملے میں، اعتماد اتنا حاصل نہیں کیا جائے گا جتنا اسے انجینئر کیا جائے گا۔