الذكاء الاصطناعي التوليدي في صناعة الرعاية الصحية يحتاج إلى جرعة من القابلية للشرح

سرعة الذكاء الاصطناعي التوليدي القائمة على النص في إكمال مهام الكتابة والتواصل على مستوى عالٍ قد لفتت انتباه الشركات والمستهلكين على حد سواء. لكن العمليات التي تحدث خلف الكواليس لتمكين هذه القدرات المذهلة يمكن أن تجعل من المخاطر استخدام الذكاء الاصطناعي التوليدي في الصناعات الحساسة والمنظمة من قبل الحكومة ، مثل التأمين والمالية أو الرعاية الصحية ، بدون توخي الحذر الكافي.

توجد بعض الأمثلة الأكثر توضيحًا لهذا في صناعة الرعاية الصحية.

تتعلق هذه القضايا عادةً بالبيانات الشاملة والمتنوعة المستخدمة في تدريب نماذج اللغة الكبيرة (LLMs) – النماذج التي تعتمد عليها أدوات الذكاء الاصطناعي التوليدي القائمة على النص لتنفيذ مهام على مستوى عالٍ. بدون تدخل خارجي صريح من قبل المبرمجين ، تميل هذه LLMs إلى حشر البيانات بشكل غير تمييزي من مصادر مختلفة عبر الإنترنت لتوسيع قاعدة معرفتها.

يعد هذا النهج الأكثر ملاءمة لاستخدامات المستهلك منخفضة المخاطر ، حيث يكون الهدف النهائي هو توجيه العملاء إلى عروض مرغوبة بدقة. ومع ذلك ، فإن مجموعات البيانات الكبيرة والمسارات المضطربة التي تولد بها نماذج الذكاء الاصطناعي مخرجاتها تُخفي القابلية للشرح التي تحتاجها المستشفيات ومقدمي الرعاية الصحية لتعقب ومنع الأخطاء المحتملة.

في هذا السياق ، تشير القابلية للشرح إلى القدرة على فهم مسارات المنطق الخاصة بأي LLM معين. يجب على العاملين في مجال الرعاية الصحية الذين يرغبون في تبني أدوات الذكاء الاصطناعي التوليدي المساعدة أن يكون لديهم وسيلة لفهم كيف تُنتج نماذجهم نتائجها بحيث يكون المرضى والموظفون مجهزين بالشفافية الكاملة في جميع عمليات اتخاذ القرارات. بعبارة أخرى ، في صناعة مثل الرعاية الصحية ، حيث تكون الأرواح على المحك ، فإن الرهان يكون مرتفعًا جدًا لدرجة أن العاملين في مجال الرعاية الصحية لا يمكنهم تفسير بيانات تدريب أدوات الذكاء الاصطناعي الخاطئة.

幸运ًا ، هناك طريقة لتجاوز معضلة قابلية الذكاء الاصطناعي التوليدي للشرح – فقط يتطلب الأمر بعض التحكم والتركيز.

اللغز والشكوك

في الذكاء الاصطناعي التوليدي ، مفهوم فهم كيفية وصول LLM من النقطة أ – الإدخال – إلى النقطة ب – الإخراج – أكثر تعقيدًا من الخوارزميات غير التوليدية التي تعمل على أنماط أكثر تحديدًا.

تُصنع أدوات الذكاء الاصطناعي التوليدي وصلات لا حصر لها أثناء عبورها من الإدخال إلى الإخراج ، ولكن للمراقب الخارجي ، كيفية وسبب制作ها لأي سلسلة من الوصلات يبقى لغزًا. بدون طريقة لرؤية “عملية التفكير” التي يتبعها خوارزمية الذكاء الاصطناعي ، يفتقر مشغلو البشر إلى وسيلة شاملة لتحقيق العدالة في منطقها وتعقب الأخطاء المحتملة.

علاوة على ذلك ، تُ复ق قابلية الشرح بسبب مجموعات البيانات المتوسعة المستخدمة في خوارزميات التعلم الآلي. كلما كانت مجموعة البيانات أكبر ، زادت احتمالية أن يتعلم النظام من المعلومات ذات الصلة وغير ذات الصلة وينتج “هلوسات الذكاء الاصطناعي” – الأكاذيب التي تنحرف عن الحقائق الخارجية والمنطق السياقي ، مهما كانت مقنعة.

في صناعة الرعاية الصحية ، يمكن أن تؤدي هذه النوعية من النتائج المعيبة إلى سلسلة من المشاكل ، مثل التشخيصات الخاطئة والوصفات الطبية غير الصحيحة. بصرف النظر عن العواقب الأخلاقية والقانونية والمالية ، يمكن أن تؤدي هذه الأخطاء بسهولة إلى الإضرار بسمعة مقدمي الرعاية الصحية والمؤسسات الطبية التي يمثلونها.

لذلك ، على الرغم من إمكاناته لتعزيز التدخلات الطبية ، وتحسين التواصل مع المرضى ، وتعزيز الكفاءة التشغيلية ، يظل الذكاء الاصطناعي التوليدي في الرعاية الصحية محيطًا بالشكوك ، وبالتالي – 55٪ من العاملين في مجال الرعاية الصحية لا يعتقدون أنه جاهز للاستخدام الطبي و 58٪ لا يثقون به على الإطلاق. ومع ذلك ، فإن مؤسسات الرعاية الصحية تُقدِّم متقدمة ، مع 98٪ تدمج أو تخطط لاستراتيجية نشر توليدي للذكاء الاصطناعي في محاولة لتعويض تأثير النقص الحالي في العمالة في القطاع.

تحكم في المصدر

غالبًا ما تُضيع صناعة الرعاية الصحية في المناخ الاستهلاكي الحالي ، الذي يقدّر الكفاءة والسرعة على تأمين تدابير السلامة الحديدية. لقد أثار الإعلان الأخير حول مخاطر حشر البيانات غير المحدودة لتدريب LLMs ، مما أدى إلى دعاوى قضائية لانتهاك حقوق النشر ، هذه القضايا إلى الواجهة. كما يواجه بعض الشركات ادعاءات بأن بيانات المواطنين الشخصية قد تم استخراجها لتدريب هذه نماذج اللغة ، مما قد ينتهك قوانين الخصوصية.

يجب على مطوري الذكاء الاصطناعي لصناعات الخاضعة للتنظيم ممارسة التحكم في مصادر البيانات لتحديد الأخطاء المحتملة. أي أنهم يجب أن ي ưu tiên استخراج البيانات من مصادر موثوقة ومعتمدة من قبل الصناعة ، بدلاً من حشر صفحات الويب الخارجية بشكل عشوائي وبدون إذن صريح. بالنسبة لصناعة الرعاية الصحية ، هذا يعني تقييد مدخلات البيانات إلى صفحات الأسئلة الشائعة وملفات CSV وقواعد البيانات الطبية – من بين مصادر داخلية أخرى.

إذا بدا هذا الأمر قليلًا ، جرب البحث عن خدمة على موقع نظام صحي كبير. تنشر المنظمات الصحية الأمريكية مئات أو حتى آلاف الصفحات المعلوماتية على منصاتها ؛ معظمها مدفون بعمق لدرجة أن المرضى لا يمكنهم الوصول إليها على الإطلاق. يمكن أن توفر حلول الذكاء الاصطناعي التوليدي القائمة على البيانات الداخلية هذه المعلومات للمرضى بسهولة وبدون عناء. هذا هو فوز للجميع ، حيث يرى نظام الصحة أخيرًا عائد الاستثمار من هذا المحتوى ، ويمكن للمرضى العثور على الخدمات التي يحتاجونها على الفور وبسهولة.

ماذا يأتي بعد ذلك للذكاء الاصطناعي التوليدي في الصناعات الخاضعة للتنظيم؟

تستفيد صناعة الرعاية الصحية من الذكاء الاصطناعي التوليدي بطرق عديدة.

فكر ، على سبيل المثال ، في الإرهاق الشامل الذي يصيب قطاع الرعاية الصحية في الولايات المتحدة في الآونة الأخيرة – قرب 50٪ من القوى العاملة متوقع أن تغادر مناصبها بحلول عام 2025. يمكن أن تساعد المحادثات التوليدية القائمة على الذكاء الاصطناعي في تخفيف جزء كبير من العبء الإضافي وتحفيز فرق وصول المرضى الممتدة.

من جانب المريض ، يمتلك الذكاء الاصطناعي التوليدي إمكانية تحسين خدمات مركز الاتصال لمقدمي الرعاية الصحية. يمتلك التأهيل الآلي القائم على الذكاء الاصطناعي القدرة على معالجة مجموعة واسعة من الاستفسارات عبر قنوات اتصال مختلفة ، بما في ذلك الأسئلة الشائعة ومشاكل تكنولوجيا المعلومات وإعادة تعبئة الأدوية ومراجع الأطباء. بالإضافة إلى الإحباط الناجم عن الانتظار على الهاتف ، فقط حوالي نصف من المرضى الأمريكيين يحلون مشاكلهم بنجاح في المكالمة الأولى ، مما يؤدي إلى معدلات إنهاء عالية ووصول معاق إلى الرعاية. يخلق عدم رضا المرضى الناتج ضغطًا إضافيًا على الصناعة للتصرف.

من أجل أن تستفيد الصناعة حقًا من تنفيذ الذكاء الاصطناعي التوليدي ، يحتاج مقدمو الرعاية الصحية إلى تسهيل هيكلة متعمدة للبيانات التي يصل إليها LLMs.