الطبيب إيتاي دايان، المؤسس المشارك والرئيس التنفيذي لشركة Rhino Health – سلسلة المقابلات

إيتاي دايان، MD هو المؤسس المشارك والرئيس التنفيذي لشركة Rhino Health. خلفيته في تطوير الذكاء الاصطناعي والتشخيص، بالإضافة إلى الطب السريري والبحث. وهو عضو سابق في الفريق الأساسي لقسم الرعاية الصحية في BCG ومدير مستشفى. حالياً، يركز على المساهمة في تطوير الذكاء الاصطناعي الآمن والمنصف والمؤثر في صناعة الرعاية الصحية والعلوم الحياتية. في شركة Rhino Health، يستخدمون الحوسبة الموزعة والتعلم الفيدرالي كوسيلة للحفاظ على خصوصية المرضى وتعزيز التعاون عبر المناظر الصحية المتناثرة.

خدم في الجيش الإسرائيلي – قوات خاصة، وقاد أكبر مركز للذكاء الاصطناعي الانتقالي في العالم، مقره مركز طبي أكاديمي. وهو خبير في تطوير وتسويق الذكاء الاصطناعي، وراكض على مسافات طويلة.

يمكنك أن تشاركنا بقصة ولادة شركة Rhino Health؟

رحلتي في الذكاء الاصطناعي بدأت عندما كنت طبيباً وباحثاً، واستخدمت شكلًا مبكرًا من “البيوماركر الرقمي” لقياس استجابة العلاج في الاضطرابات النفسية. في وقت لاحق، قدت مركز علوم البيانات السريرية (CCDS) في Mass General Brigham. هناك، أشرفت على تطوير عشرات التطبيقات السريرية للذكاء الاصطناعي، وشاهدت بشكل مباشر التحديات الكامنة المرتبطة بالوصول إلى البيانات وتفعيلها اللازمة لتطوير منتجات الذكاء الاصطناعي التي تستوفي المتطلبات التنظيمية.

على الرغم من التقدم الكبير في مجال الذكاء الاصطناعي في الرعاية الصحية، فإن الطريق من التطوير إلى إطلاق المنتج في السوق طويل وغالبًا ما يكون محفوفًا بالتحديات. الحلول تتعطل أو تخيب آمالنا عند نشرها سريرياً، ودعم دورة حياة الذكاء الاصطناعي تقريبًا مستحيل بدون وصول مستمر إلى كمية من البيانات السريرية. انتقل التحدي من إنشاء النماذج إلى صيانتها. للإجابة على هذا التحدي، أقنعت نظام Mass General Brigham بقيمة وجود “منظمة أبحاث سريرية متخصصة في الذكاء الاصطناعي” (CRO = المنظمة البحثية السريرية)، لاختبار الخوارزميات من المطورين التجاريين المتعددين.

ومع ذلك، ظل التحدي قائماً – البيانات الصحية لا تزال معزولة للغاية، وحتى كمية كبيرة من البيانات من شبكة واحدة لا تكفي لمواجهة الأهداف الضيقة المتزايدة للذكاء الاصطناعي الطبي. في صيف عام 2020، بدأت وترأست (مع الدكتورة مونا فلوريس من شركة NVIDIA (NVDA )) أكبر دراسة في العالم للتعلم الفيدرالي في الرعاية الصحية آنذاك، EXAM. استخدمنا التعلم الفيدرالي لإنشاء نموذج تنبؤ بالنتائج المرضية لمرض كوفيد-19، مستخدمين بيانات من جميع أنحاء العالم، دون مشاركة أي بيانات. ونشرت لاحقًا في Nature Medicine، أظهرت هذه الدراسة التأثير الإيجابي للاستفادة من مجموعات بيانات متنوعة ومختلفة، وأكدت إمكانية استخدام التعلم الفيدرالي على نطاق أوسع في مجال الرعاية الصحية.

ومع ذلك، أظهرت هذه التجربة عددًا من التحديات. تشمل هذه التحديات تنسيق البيانات عبر المواقع المتعاونة، وضمان قابليتها للتتبع ووصفها بشكل صحيح، بالإضافة إلى العبء الملقى على إدارات تكنولوجيا المعلومات في كل مؤسسة، والتي يجب أن تتعلم تقنيات متقدمة ليست معتادة عليها. هذا يتطلب منصة جديدة تدعم هذه التعاونات الجديدة “البيانات الموزعة”. قررت أن أتحد مع شريكي المؤسس، Yuval Baror، لإنشاء منصة شاملة لدعم التعاون مع الحفاظ على الخصوصية. هذه المنصة هي “منصة Rhino Health”، التي تستخدم التعلم الفيدرالي و الحوسبة على الحواف.

لماذا تعتقد أن نماذج الذكاء الاصطناعي غالبًا ما تفشل في تحقيق النتائج المتوقعة في بيئة الرعاية الصحية؟

غالبًا ما يتم تدريب الذكاء الاصطناعي الطبي على مجموعات بيانات صغيرة وضيقة، مثل مجموعات بيانات من مؤسسة أو منطقة جغرافية واحدة، مما يؤدي إلى أن النموذج الناتج يعمل جيدًا فقط على أنواع البيانات التي رأها. بمجرد تطبيق الخوارزمية على مرضى أو سيناريوهات تختلف عن مجموعة بيانات التدريب الضيقة، يتأثر الأداء بشكل كبير.

أندرو إنغ، أدرك هذه الفكرة جيدًا عندما قال، “يبدو أننا عندما نجمع البيانات من مستشفى ستانفورد… يمكننا نشر أوراق تظهر [الخوارزميات] قابلة للمقارنة مع أطباء الأشعة البشر في تحديد بعض الحالات. … [عندما] تأخذ نفس النموذج، نفس نظام الذكاء الاصطناعي، إلى مستشفى أقدم في الشارع، مع آلة أقدم، ويتعامل الفني ببروتوكول تصوير مختلف قليلاً، يتغير توزيع البيانات مما يؤدي إلى تدهور أداء نظام الذكاء الاصطناعي بشكل كبير.” ³

باختصار، معظم نماذج الذكاء الاصطناعي لا يتم تدريبها على بيانات كافية التنوع و الجودة، مما يؤدي إلى أداء سيئ في “العالم الحقيقي”. هذا الأمر تم توثيقه جيدًا في كل من الدوائر العلمية ووسائل الإعلام العامة، مثل Science و Politico.

ما مدى أهمية اختبار نماذج الذكاء الاصطناعي على مجموعات مرضى متنوعة؟

اختبار نماذج الذكاء الاصطناعي على مجموعات مرضى متنوعة أمر بالغ الأهمية لضمان أن الناتج النهائي ليس فقط فعالًا وأداء جيدًا، بل آمنًا أيضًا. الخوارزميات التي لم يتم تدريبها أو اختبارها على مجموعات مرضى كافية التنوع قد تعاني من انحياز الخوارزمية، وهو مشكلة خطيرة في مجال الرعاية الصحية وتكنولوجيا الرعاية الصحية. لن تعكس هذه الخوارزميات فقط الانحياز الموجود في بيانات التدريب، بل سوف تعزز هذا الانحياز وتراكمه، مما يؤدي إلى تفاقم عدم المساواة القائمة في الرعاية الصحية المرتبطة بالعرق والإثنية والدين والنوع الاجتماعي وغيرها. فشل اختبار نماذج الذكاء الاصطناعي على مجموعات مرضى متنوعة قد يؤدي إلى منتجات خطرة.

دراسة نُشرت مؤخرًا،⁵ باستخدام منصة Rhino Health، بحثت في أداء خوارزمية الذكاء الاصطناعي لاكتشاف تمدد الأوعية الدموية الدماغية التي تم تطويرها في موقع واحد على أربعة مواقع مختلفة ذات أنواع مسح مختلفة. أظهرت النتائج تباينًا كبيرًا في الأداء على المواقع ذات أنواع المسح المختلفة، مما يؤكد أهمية تدريب واختبار نماذج الذكاء الاصطناعي على مجموعات بيانات متنوعة.

كيف يمكن تحديد ما إذا كانت مجموعة فرعية معينة ليست ممثلة؟

من الطرق الشائعة تحليل توزيع المتغيرات في مجموعات بيانات مختلفة، كل منها على حدة ومجتمعة. يمكن أن يفيد ذلك المطورين عند إعداد مجموعات بيانات التدريب والتحقق من الصحة، وكذلك عند استخدام منصة Rhino Health، يمكن للمستخدمين رؤية كيفية أداء النموذج على فئات مختلفة لضمان القابلية للتعميم والأداء المستدام عبر المجموعات الفرعية.

يمكنك وصف ما هو التعلم الفيدرالي وكيف يحل بعض هذه المشاكل؟

يمكن تعريف التعلم الفيدرالي على نطاق واسع على أنه عملية يتم فيها تدريب نماذج الذكاء الاصطناعي وتحسينها مع مرور الوقت، باستخدام بيانات مختلفة، دون الحاجة إلى مشاركة أو مركزية البيانات. هذا هو قفزة كبيرة إلى الأمام في تطوير الذكاء الاصطناعي. تاريخيًا، كان على أي مستخدم يرغب في التعاون مع عدة مواقع أن يجمع تلك البيانات معًا، مما يؤدي إلى مجموعة من التحديات والمتطلبات القانونية والمخاطر والامتثال المرهقة والمكلفة والمستهلكة للوقت.

اليوم، مع تطور البرمجيات مثل منصة Rhino Health، أصبح التعلم الفيدرالي واقعًا يوميًا في مجال الرعاية الصحية والعلوم الحياتية. يسمح التعلم الفيدرالي للمستخدمين باستكشاف وتنقية واعتماد البيانات أثناء بقائها على الخوادم المحلية للمتعاونين. تُرسل شفرة معبأة في حاويات، مثل خوارزمية ذكاء اصطناعي أو تعلم آلي أو تطبيق تحليلي، إلى الخادم المحلي حيث يتم تنفيذ هذا الرمز، مثل تدريب نموذج ذكاء اصطناعي أو تعلم آلي أو التحقق من صحته، بشكل “محلي”. تظل البيانات مع “حارس البيانات” في جميع الأوقات.

المستشفيات، على وجه الخصوص، قلقون بشأن المخاطر المرتبطة بتجميع بيانات المرضى الحساسة. هذا أدى إلى مواقف محرجة، حيث أصبح واضحًا أن مؤسسات الرعاية الصحية تعاونت مع الصناعة دون فهم دقيق لاستخدام بياناتها. هذا يؤدي إلى تقييد مقدار التعاون الذي يمكن أن تقوم به الصناعة والباحثون الأكاديميون، مما يبطئ البحث والتطوير ويؤثر على جودة المنتجات عبر صناعة الرعاية الصحية. يمكن للتعلم الفيدرالي التخفيف من ذلك، وتمكين التعاونات البياناتية مثل التي لم تكن ممكنة من قبل، مع التحكم في المخاطر المرتبطة بهذه التعاونات.

يمكنك أن تشاركنا برؤية شركة Rhino Health لتمكين إنشاء نماذج سريعة باستخدام بيانات أكثر تنوعًا؟

نحن نرى نظامًا بيئيًا من مطورين ومتعاملين مع الذكاء الاصطناعي، يتعاونون دون خوف أو قيود، مع احترام الحدود التنظيمية. يمكن للمتعاونين تحديد بيانات التدريب والاختبار اللازمة بسرعة من مختلف المناطق الجغرافية، الوصول إلى هذه البيانات والتفاعل معها، وتكرار تطوير النماذج لضمان قابلية التعميم والأداء والأمان الكافيين.

في قلب هذا، تقع منصة Rhino Health، التي توفر “نقطة وصول واحدة” لمطوري الذكاء الاصطناعي لبناء مجموعات بيانات ضخمة ومتنوعة، وتدريب وتحقق من صحة خوارزميات الذكاء الاصطناعي، ومراقبة واستمرار دعم المنتجات المثبتة.

كيف تمنع منصة Rhino Health انحياز الذكاء الاصطناعي وتوفر تفسيره؟

من خلال فتح وتسهيل التعاونات البياناتية، يمكن لمطوري الذكاء الاصطناعي الاستفادة من مجموعات بيانات أكبر وأكثر تنوعًا في تدريب وتحقق من صحة تطبيقاتهم. النتيجة هي منتج أكثر قابلية للتعميم لا يعاني من انحيازات مجموعة بيانات واحدة أو ضيقة. لدعم تفسير الذكاء الاصطناعي، توفر منصتنا رؤية واضحة للبيانات المستخدمة خلال عملية التطوير، مع القدرة على تحليل أصول البيانات وتوزيع القيم والمقاييس الرئيسية الأخرى لضمان تنوع وجودة البيانات. بالإضافة إلى ذلك، تمكن منصتنا من وظائف لا تتمكن من تحقيقها إذا تم جمع البيانات ببساطة معًا، بما في ذلك تمكين المستخدمين من تعزيز مجموعات بياناتهم بمتغيرات إضافية، مثل تلك المحسوبة من النقاط البيانات الحالية، للتحقيق في الاستدلالات السببية وتقليل أثر العوامل المربكة.

كيف ترد على الأطباء الذين يخافون من أن الاعتماد المفرط على الذكاء الاصطناعي قد يؤدي إلى نتائج متحيزة لا يتم التحقق منها بشكل مستقل؟

نحن نتفهم هذه المخاوف ونعترف بأن بعض التطبيقات الحالية في السوق قد تكون متحيزة بالفعل. ردنا هو أننا يجب أن نتوحد كصناعة، كمجتمع رعاية صحية يهتم في المقام الأول بسلامة المرضى، لتحديد السياسات والإجراءات اللازمة لمنع هذه الانحيازات وضمان تطبيقات ذكاء اصطناعي آمنة وفعالة. يتحمل مطورو الذكاء الاصطناعي مسؤولية ضمان أن منتجات الذكاء الاصطناعي التي يطرحونها في السوق تكون قد خضعت للتحقق المستقل لتحقيق ثقة المهنيين الصحيين والمرضى. شركة Rhino Health ملتزمة بالدعم لتطبيقات الذكاء الاصطناعي الآمنة والموثوقة، وتعمل مع الشركاء لتمكين التحقق المستقل لتطبيقات الذكاء الاصطناعي قبل نشرها في البيئات السريرية عن طريق كسر الحواجز أمام بيانات التحقق اللازمة.

ما رؤيتك لمستقبل الذكاء الاصطناعي في مجال الرعاية الصحية؟

رؤية شركة Rhino Health هي عالم حيث حقق الذكاء الاصطناعي إمكانياته الكاملة في مجال الرعاية الصحية. نحن نعمل بجد لخلق الشفافية وتعزيز التعاون من خلال ضمان الخصوصية لتمكين هذا العالم. نرى مستقبلًا للرعاية الصحية حيث الذكاء الاصطناعي لا تقيده جدران الحماية أو المناطق الجغرافية أو القيود التنظيمية. سيكون لمطوري الذكاء الاصطناعي وصول محكوم إلى جميع البيانات التي يحتاجونها لبناء نماذج قوية وقابلة للتعميم – ومراقبتها وتحسينها بتدفق بيانات في الوقت الفعلي. سيكون للمرضى والمقدمين على الرعاية ثقة في أنهم لا يفقدون السيطرة على بياناتهم، ويمكنهم ضمان استخدامها من أجل الخير. ستتمكن الجهات التنظيمية من مراقبة فعالية النماذج المستخدمة في تطوير الأدوية والأجهزة في الوقت الفعلي. ستستفيد المنظمات الصحية العامة من هذه التطورات في الذكاء الاصطناعي، بينما يستريح المرضى والمقدمون على الرعاية مع العلم أن الخصوصية محمية.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة Rhino Health.