أي وكيل ذكاء اصطناعي يمكن أن يتحدث. قليلون يمكن أن يكونوا موثوقين

الاحتياج إلى وكلاء الذكاء الاصطناعي في مجال الرعاية الصحية أمر ملح. في جميع أنحاء الصناعة، الفرق المثقفة بالكاد تتعامل مع مهام تستغرق وقتًا طويلاً تعيق رعاية المرضى. الأطباء مشغولون، مراكز الاتصال بالمدفوعات مكتظة، والمرضى ينتظرون إجابات لاهتمامات فورية.

وكلاء الذكاء الاصطناعي يمكن أن يساعدوا من خلال ملء الفجوات العميقة، وتوسيع نطاق وصول الموظفين السريريين والإداريين، وتقليل الإجهاد الناجم عن العمل الزائد للموظفين والمرضى على حد سواء. ولكن قبل أن نتمكن من ذلك، نحن بحاجة إلى أساس قوي لبناء الثقة في وكلاء الذكاء الاصطناعي. هذه الثقة لن تأتي من نبرة صوت دافئة أو مهارات المحادثة. إنها تأتي من الهندسة.

حتى مع زيادة الاهتمام بوسائط الذكاء الاصطناعي وترجيح العناوين لوعود الذكاء الاصطناعي العامل، يبقى قادة الرعاية الصحية – الذين يتحملون المسؤولية تجاه مرضاهم ومجتمعاتهم – مترددون في نشر هذه التكنولوجيا على نطاق واسع. الشركات الناشئة تتباهى بقدرات وكلاء الذكاء الاصطناعي تتراوح من تلقين مهام روتينية مثل جدولة الموعد إلى تواصل المرضى والرعاية الشخصية. ومع ذلك، لم تثبت معظم هذه الشركات أن هذه التفاعلات آمنة.

الكثير منهم لن يفعل ذلك أبدًا.

الواقع هو أن أي شخص يمكنه تشغيل وكيل صوتي مدعوم بنموذج لغة كبير (LLM)، وإعطائه نبرة محادثية، وكتابة سيناريو محادثة مقنع. هناك منصات كثيرة مثل هذه تروج لوكلائها في جميع الصناعات. وكلاءهم قد يبدون مختلفين، ولكنهم جميعًا يتصرفون بنفس الطريقة – معرضون للهلوسة، غير قادرين على التحقق من الحقائق الحرجة، وينقصهم آليات التي تضمن المساءلة.

هذا النهج – بناء غلاف رقيق حول نموذج LLM أساسي – قد يعمل في صناعات مثل التجزئة أو الفنادق، لكنه سيفشل في مجال الرعاية الصحية. النماذج الأساسية هي أدوات استثنائية، ولكنها في الغالب عامة الغرض؛ لم يتم تدريبها بشكل خاص على البروتوكولات السريرية أو سياسات الدفعة أو المعايير التنظيمية. حتى وكلاء الذكاء الاصطناعي الأكثر إloquentية المبنية على هذه النماذج يمكن أن تنجرف إلى منطقة الهلوسة، والإجابة على أسئلة لا ينبغي لها أن تُجاب، أو اختراع حقائق، أو فشل في التعرف على الحاجة إلى إشراك إنسان في الحلقة.

عواقب هذه السلوكيات ليست نظرية. يمكن أن تسبب ارتباكًا للمرضى، وتعطيل الرعاية، وتؤدي إلى إعادة عمل باهظة الثمن. هذا ليس مشكلة في الذكاء. إنه مشكلة في البنية التحتية.

للعمل بشكل آمن وفعال وموثوق في مجال الرعاية الصحية، وكلاء الذكاء الاصطناعي يجب أن يكونوا أكثر من مجرد أصوات مستقلة في الطرف الآخر من الهاتف. يجب أن يتم تشغيلهم بواسطة أنظمة مصممة خصيصًا للسيطرة والسياق والمساءلة. من خبرتي في بناء هذه الأنظمة، هذا ما يبدو عليه في الممارسة.

يمكن أن تجعل السيطرة على الاستجابة الهلوسة غير موجودة

وكلاء الذكاء الاصطناعي في مجال الرعاية الصحية لا يمكنهم فقط توليد إجابات مقبولة. يجب أن يقدموا الإجابات الصحيحة، كل مرة. هذا يتطلب مساحة عمل خاضعة للسيطرة – آلية تسمح للذكاء الاصطناعي بالتفاهم وتسهيل المحادثة الطبيعية، ولكن يضمن أن كل استجابة ممكنة محددة بمعايير منطقية مسبقة الموافقة.

مع معايير السيطرة على الاستجابة المدمجة، يمكن لوكلاء الذكاء الاصطناعي فقط الإشارة إلى البروتوكولات الموثقة والإجراءات المحددة مسبقًا والمعايير التنظيمية. يتم استغلال إبداع النموذج لتوجيه التفاعلات بدلاً من اختراع الحقائق. هذا هو كيف يمكن لقادة الرعاية الصحية أن يضمنوا أن خطر الهلوسة يتم القضاء عليه بالكامل – ليس من خلال الاختبار في تجربة أو مجموعة تركيز واحدة، ولكن من خلال تصميم المخاطر من الأساس.

يمكن أن تضمن الرسومات المعرفية المتخصصة التبادل الموثوق

سياق كل محادثة في مجال الرعاية الصحية شخصي للغاية. شخصان مصابان بالسكري من النوع 2 قد يعيشان في نفس المنطقة ويتمتعان بنفس ملف المخاطر. ستختلف أهليتهما لدواء معين بناءً على تاريخهما الطبي، وخطوط علاج الأطباء، وخطط التأمين، وقواعد الصيغة.

وكلاء الذكاء الاصطناعي ليس فقط بحاجة إلى الوصول إلى هذا السياق، ولكنهم بحاجة إلى القدرة على التفكير معه في الوقت الفعلي. توفر الرسومات المعرفية المتخصصة هذه القدرة. إنها طريقة منظمة لتمثيل المعلومات من مصادر موثوقة متعددة تسمح لوكلاء الذكاء الاصطناعي بالتحقق من ما يسمعونه وضمان دقة المعلومات التي يعيدونها وضمان شخصيتها.

يمكن أن تقيم أنظمة المراجعة القوية الدقة

قد يغادر المريض مكالمة مع وكيل الذكاء الاصطناعي ويشعر بالرضا، لكن العمل للوكيل لم ينته بعد. المنظمات الصحية بحاجة إلى التأكد من أن الوكيل ليس فقط أنتج معلومات صحيحة، ولكن فهم وتوثيق التفاعل. هذا هو حيث تأتي أنظمة المعالجة التلقائية بعد العملية.

يجب أن تكون نظام مراجعة قوي قادرًا على تقييم كل محادثة بنفس مستوى الفحص الدقيق الذي قد تقدمه إشراف إنسان مع كل الوقت في العالم. يجب أن يكون قادرًا على تحديد ما إذا كانت الاستجابة دقيقة، وضمان.capture المعلومات الصحيحة، وتحديد ما إذا كان المتابعة مطلوبة. إذا لم يكن شيء على ما يرام، يجب أن يكون الوكيل قادرًا على رفع الأمر إلى إنسان، ولكن إذا كان كل شيء على ما يرام، يمكن إتمام المهمة بثقة.

خارج هذه العناصر الأساسية الثلاثة المطلوبة للهندسة الثقة، كل بنية تحتية للذكاء الاصطناعي العامل تحتاج إلى إطار أمان وامتثال قوي يحمي بيانات المرضى وضمان تشغيل الوكلاء داخل الحدود المنظمة. يجب أن يتضمن هذا الإطار الالتزام الصارم بمعايير الصناعة الشائعة مثل SOC 2 وHIPAA، ولكن يجب أن يكون لديه أيضًا عمليات مدمجة لاختبار التحيز وتمحيص المعلومات الصحية المحمية وضمان البيانات.

هذه التدابير الأمنية لا تحقق فقط معايير الامتثال. إنها تشكل العمود الفقري لنظام موثوق يمكن أن يضمن أن كل التفاعل يتم إدارته على مستوى ينتظره المرضى والمقدمون.

صناعة الرعاية الصحية لا تحتاج إلى更多 من الدعاية حول الذكاء الاصطناعي. تحتاج إلى بنية تحتية للذكاء الاصطناعي الموثوق. في حالة وكلاء الذكاء الاصطناعي، لن تكتسب الثقة بقدر ما ستُ هندس.