إيتاي دايان، MD، المؤسس المشارك والرئيس التنفيذي لشركة Rhino Health – سلسلة المقابلات

إيتاي دايان، MD هو المؤسس المشارك والرئيس التنفيذي لشركة Rhino Health. خلفيته في تطوير الذكاء الاصطناعي والتشخيص، بالإضافة إلى الطب السريري والبحث. وهو عضو سابق في فريق الممارسة الصحية لشركة BCG ومدير مستشفى. حالياً، يركز على المساهمة في تطوير الذكاء الاصطناعي الآمن والمنصف والمؤثر في صناعة الرعاية الصحية والعلوم الحياتية. في شركة Rhino Health، يستخدمون الحوسبة الموزعة والتعلم الفيدرالي كوسيلة للحفاظ على خصوصية المرضى وتعزيز التعاون عبر المناظر الصحية المتناثرة.

خدم في الجيش الإسرائيلي – قوات خاصة، وقاد المركز الأكاديمي الطبي الأكبر لترجمة الذكاء الاصطناعي في العالم. وهو خبير في تطوير وتسويق الذكاء الاصطناعي، وراكض على مسافات طويلة.

يمكنك أن تشاركنا بقصة ولادة شركة Rhino Health؟

رحلتي في الذكاء الاصطناعي بدأت عندما كنت طبيباً وباحثاً، واستخدمت شكلًا مبكرًا من “البيوماركر الرقمي” لقياس استجابة العلاج في الاضطرابات النفسية. في وقت لاحق، قادته مركز العلوم السريرية للبيانات (CCDS) في Mass General Brigham. هناك، أشرف على تطوير عشرات التطبيقات السريرية للذكاء الاصطناعي، وشاهدت بشكل مباشر التحديات الكامنة المرتبطة بالوصول إلى البيانات وتفعيلها اللازمة لتطوير منتجات الذكاء الاصطناعي المعتمدة.

على الرغم من التقدم الكبير في مجال الذكاء الاصطناعي في الرعاية الصحية، فإن الطريق من التطوير إلى إطلاق المنتج في السوق طويل وغالبًا ما يكون محفوفًا بالتحديات. الحلول ت崩 أو تخيب آمالنا عند نشرها سريرياً، ودعم دورة حياة الذكاء الاصطناعي تقريبًا مستحيل بدون وصول مستمر إلى كمية من البيانات السريرية. التحدي chuyển من إنشاء نماذج إلى صيانةها. للإجابة على هذا التحدي، أقنعت نظام Mass General Brigham بقيمة وجود “منظمة أبحاث سريرية متخصصة في الذكاء الاصطناعي” (CRO = المنظمة البحثية السريرية)، لاختبار الخوارزميات من المطورين التجاريين المتعددين.

然而، ظل التحدي قائماً – البيانات الصحية لا تزال معزولة للغاية، وحتى كمية كبيرة من البيانات من شبكة واحدة لا تكفي لمواجهة الأهداف الضيقة المتزايدة للذكاء الاصطناعي الطبي. في صيف عام 2020، بدأت وترأست (مع الدكتورة مونا فلوريس من شركة NVIDIA (NVDA )) أكبر دراسة للتعلم الفيدرالي في مجال الرعاية الصحية في ذلك الوقت، EXAM. استخدمنا التعلم الفيدرالي لإنشاء نموذج تنبؤ بالنتائج المرضية لمرض كوفيد-19، مستخدمين بيانات من جميع أنحاء العالم، دون مشاركة أي بيانات. ونشرت لاحقًا في Nature Medicine، أظهرت هذه الدراسة التأثير الإيجابي للاستفادة من مجموعات بيانات متنوعة ومختلفة، وأكدت إمكانية استخدام التعلم الفيدرالي على نطاق أوسع في مجال الرعاية الصحية.

然而، أظهرت هذه التجربة عددًا من التحديات. تشمل هذه التحديات تنسيق البيانات عبر المواقع المتعاونة، وضمان قابليتها للتتبع ووصفها بشكل صحيح، بالإضافة إلى العبء الملقى على إدارات تكنولوجيا المعلومات في كل مؤسسة، والتي يجب أن تتعلم تقنيات متقدمة ليست معتادة عليها. هذا يتطلب منصة جديدة تدعم هذه التعاونات الجديدة “البيانات الموزعة”. قررت أن أتحد مع شريكي المؤسس، Yuval Baror، لإنشاء منصة شاملة لدعم التعاون الحفاظ على الخصوصية. هذه المنصة هي “منصة Rhino Health”، التي تستخدم التعلم الفيدرالي و الحوسبة على الحواف.

لماذا تعتقد أن نماذج الذكاء الاصطناعي غالبًا ما تفشل في تحقيق النتائج المتوقعة في بيئة الرعاية الصحية؟

غالبًا ما يتم تدريب الذكاء الاصطناعي الطبي على مجموعات بيانات صغيرة وضيقة، مثل مجموعات بيانات من مؤسسة أو منطقة جغرافية واحدة، مما يؤدي إلى أن النموذج الناتج يعمل جيدًا فقط على أنواع البيانات التي رأها. بمجرد تطبيق الخوارزمية على مرضى أو سيناريوهات تختلف عن مجموعة بيانات التدريب الضيقة، يتأثر الأداء بشكل كبير.

أندرو إنغ، أدرك هذه الفكرة جيدًا عندما قال، “يبدو أننا عندما نجمع البيانات من مستشفى ستانفورد… يمكننا نشر أوراق تظهر [الخوارزميات] قابلة للمقارنة مع الأشعة السريرية في تحديد بعض الحالات. … [عندما] تأخذ نفس النموذج، نفس نظام الذكاء الاصطناعي، إلى مستشفى أقدم في الشارع، مع آلة أقدم، ويتعامل الفني ببروتوكول تصوير مختلف قليلاً، تتدفق البيانات لتسبب في تدهور أداء نظام الذكاء الاصطناعي بشكل كبير.” ³

باختصار، معظم نماذج الذكاء الاصطناعي لا يتم تدريبها على بيانات كافية التنوع و الجودة، مما يؤدي إلى أداء سيئ في “العالم الحقيقي”. هذا الأمر تم توثيقه جيدًا في كل من الدوائر العلمية وال主stream، مثل Science و Politico.

ما مدى أهمية اختبار نماذج الذكاء الاصطناعي على مجموعات مرضى متنوعة؟

اختبار نماذج الذكاء الاصطناعي على مجموعات مرضى متنوعة أمر بالغ الأهمية لضمان أن الناتج النهائي ليس فقط فعالًا وأداء جيدًا، بل آمنًا أيضًا. الخوارزميات التي لم يتم تدريبها أو اختبارها على مجموعات مرضى كافية التنوع قد تعاني من انحياز الخوارزمية، وهو مشكلة خطيرة في مجال الرعاية الصحية وتكنولوجيا الرعاية الصحية. لن ت反عكس هذه الخوارزميات فقط الانحياز الموجود في بيانات التدريب، بل سوف تعزز هذا الانحياز وتراكمه، مما يؤدي إلى تفاقم عدم المساواة الحالية في مجال الرعاية الصحية. فشل اختبار نماذج الذكاء الاصطناعي على مجموعات مرضى متنوعة قد يؤدي إلى منتجات خطرة.

دراسة نُشرت مؤخرًا،⁵ باستخدام منصة Rhino Health، بحثت في أداء خوارزمية الذكاء الاصطناعي لاكتشاف الأورام الدماغية التي تم تطويرها في موقع واحد على أربعة مواقع مختلفة ذات أنواع مسح مختلفة. أظهرت النتائج تباينًا كبيرًا في الأداء على المواقع ذات أنواع المسح المختلفة، مما يؤكد أهمية تدريب واختبار نماذج الذكاء الاصطناعي على مجموعات بيانات متنوعة.

كيف يمكن تحديد ما إذا كانت مجموعة فرعية معينة ليست ممثلة؟

من الطرق الشائعة تحليل توزيع المتغيرات في مجموعات بيانات مختلفة، بشكل فردي ومجتمعي. يمكن أن ي告ي المطورين بذلك عند إعداد مجموعات بيانات التدريب وVALIDATION، وكذلك عند استخدام منصة Rhino Health، يمكن للمستخدمين رؤية كيفية أداء النموذج على فئات مختلفة لضمان القابلية للتعميم والأداء المستدام عبر المجموعات الفرعية.

يمكنك وصف ما هو التعلم الفيدرالي وكيف يحل بعض هذه المشاكل؟

يمكن تعريف التعلم الفيدرالي على نطاق واسع على أنه عملية يتم فيها تدريب نماذج الذكاء الاصطناعي وتحسينها مع مرور الوقت، باستخدام بيانات مختلفة، دون الحاجة إلى مشاركة أو مركزية البيانات. هذا هو قفزة كبيرة إلى الأمام في تطوير الذكاء الاصطناعي. تاريخيًا، كان على أي مستخدم يرغب في التعاون مع عدة مواقع أن يجمع تلك البيانات معًا، مما يؤدي إلى مجموعة من التحديات والمتطلبات القانونية والمخاطر والامتثال التي تسبب إزعاجًا كبيرًا.

اليوم، مع تطور البرمجيات مثل منصة Rhino Health، أصبح التعلم الفيدرالي واقعًا يوميًا في مجال الرعاية الصحية والعلوم الحياتية. يسمح التعلم الفيدرالي للمستخدمين باستكشاف وتنقية واعتماد البيانات أثناء بقائها على خواديم التعاون المحلية. يتم إرسال رمز محمول، مثل خوارزمية الذكاء الاصطناعي أو تطبيق تحليلي، إلى الخادم المحلي حيث يتم تنفيذ هذا الرمز، مثل تدريب أو اعتمادية نموذج الذكاء الاصطناعي، بشكل “محلي”. تظل البيانات مع “حارس البيانات” في جميع الأوقات.

المستشفيات، على وجه الخصوص، قلقون بشأن المخاطر المرتبطة بتحويل بيانات المرضى الحساسة. هذا أدى إلى مواقف محرجة، حيث أصبح واضحًا أن مؤسسات الرعاية الصحية تعاونت مع الصناعة دون فهم دقيق لاستخدام بياناتها. هذا يؤدي إلى تقييد مقدار التعاون الذي يمكن أن تقوم به الصناعة والباحثون الأكاديميون، مما يبطئ البحث والتطوير ويؤثر على جودة المنتجات عبر صناعة الرعاية الصحية. يمكن للتعلم الفيدرالي التخفيف من ذلك، وتمكين التعاونات البياناتية مثل التي لم تكن ممكنة من قبل، مع التحكم في المخاطر المرتبطة بهذه التعاونات.

يمكنك أن تشاركنا برؤية شركة Rhino Health لتمكين إنشاء نماذج سريعة باستخدام بيانات أكثر تنوعًا؟

نحن نرى نظامًا بيئيًا من مطورين ومتعاملين مع الذكاء الاصطناعي، يتعاونون دون خوف أو قيود، مع احترام الحدود التنظيمية. يمكن للمتعاونين تحديد بيانات التدريب والاختبار اللازمة بسرعة من مختلف المناطق الجغرافية، الوصول إلى هذه البيانات والتفاعل معها، وتكرار تطوير النماذج لضمان قابلية التعميم والأداء والأمان الكافيين.

في قلب هذا، تقع منصة Rhino Health، التي توفر “نقطة وصول واحدة” لمطوري الذكاء الاصطناعي لبناء مجموعات بيانات ضخمة ومتنوعة، وتدريب وتحقق من صحة خوارزميات الذكاء الاصطناعي، ومراقبة واستمرار دعم المنتجات المثبتة.

كيف تمنع منصة Rhino Health انحياز الذكاء الاصطناعي وتوفر تفسيره؟

من خلال فتح وتسهيل التعاونات البياناتية، يمكن لمطوري الذكاء الاصطناعي الاستفادة من مجموعات بيانات أكبر وأكثر تنوعًا في تدريب وتحقق من صحة تطبيقاتهم. النتيجة هي منتج أكثر قابلية للتعميم لا يعاني من انحيازات مجموعة بيانات واحدة أو ضيقة. لدعم تفسير الذكاء الاصطناعي، توفر منصتنا رؤية واضحة للبيانات المستخدمة خلال عملية التطوير، مع القدرة على تحليل أصول البيانات وتوزيع القيم والمقاييس الرئيسية الأخرى لضمان تنوع وجودة البيانات. بالإضافة إلى ذلك، تمكن منصةنا من وظائف لا تتمكن من تحقيقها إذا تم جمع البيانات ببساطة معًا، بما في ذلك تمكين المستخدمين من تعزيز مجموعات بياناتهم بمتغيرات إضافية، مثل تلك المحسوبة من النقاط البيانات الحالية، للتحقيق في الاستدلالات السببية والتخفيف من العوامل المضرة.

كيف ترد على الأطباء الذين يخافون من أن الاعتماد المفرط على الذكاء الاصطناعي قد يؤدي إلى نتائج متحيزة لا يتم التحقق منها بشكل مستقل؟

نحن نتفهم هذه المخاوف ونعترف بأن بعض التطبيقات الحالية في السوق قد تكون متحيزة بالفعل. ردنا هو أننا يجب أن نتوحد كصناعة، كمجتمع رعاية صحية يهتم في المقام الأول بالسلامة المرضية، لتحديد السياسات والإجراءات اللازمة لمنع هذه الانحيازات وضمان تطبيقات الذكاء الاصطناعي الآمنة والموثوقة. يتحمل مطورو الذكاء الاصطناعي مسؤولية ضمان أن منتجات الذكاء الاصطناعي التي يطرحونها في السوق تكون قد خضعت للتحقق المستقل لتحقيق ثقة المهنيين الصحيين والمرضى. شركة Rhino Health ملتزمة بالدعم لتطبيقات الذكاء الاصطناعي الآمنة والموثوقة، وتعمل مع الشركاء لتمكين التحقق المستقل لتطبيقات الذكاء الاصطناعي قبل نشرها في البيئات السريرية عن طريق كسر الحواجز أمام بيانات التحقق اللازمة.

ما رؤيتك لمستقبل الذكاء الاصطناعي في مجال الرعاية الصحية؟

رؤية شركة Rhino Health هي عالم حيث حقق الذكاء الاصطناعي إمكانياته الكاملة في مجال الرعاية الصحية. نحن نعمل بجد لخلق الشفافية وتعزيز التعاون من خلال التأكيد على الخصوصية لتمكين هذا العالم. نرى مستقبلًا للرعاية الصحية حيث الذكاء الاصطناعي لا يحدد بجدران الحماية أو المناطق الجغرافية أو القيود التنظيمية. سيكون لمطوري الذكاء الاصطناعي وصول محكوم إلى جميع البيانات التي يحتاجونها لبناء نماذج قوية وقابلة للتعميم – ومراقبتها وتحسينها بتدفق بيانات في الوقت الفعلي. سيكون للمرضى والمقدمين على الرعاية ثقة في أنهم لا يفقدون السيطرة على بياناتهم، ويمكنهم ضمان استخدامها من أجل الخير. ستستفيد المنظمات الصحية العامة من هذه التطورات في الذكاء الاصطناعي، بينما يستريح المرضى والمقدمون على الرعاية مع العلم أن الخصوصية محمية.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة Rhino Health.