جوش ميلر، الرئيس التنفيذي لشركة Gradient Health – سلسلة المقابلات

جوش ميلر هو الرئيس التنفيذي لشركة Gradient Health، وهي شركة تأسست على فكرة أن التشخيص الآلي يجب أن يكون موجودًا في مجال الرعاية الصحية لتكون متاحة ومتساوية للجميع. تهدف شركة Gradient Health إلى تسريع التشخيص الآلي بالذكاء الاصطناعي باستخدام بيانات منظمة ومصنفة ومتاحة.

يمكنك مشاركة قصة نشأة Gradient Health?

كانت شركتي وشركاءي قد خرجنا للتو من أول شركة ناشئة لنا، FarmShots، والتي استخدمت الرؤية الحاسوبية للمساعدة في تقليل كمية المبيدات الحشرية المستخدمة في الزراعة، وكنا نبحث عن تحدينا التالي.

لقد كنا دائمًا محفزين برغبة في العثور على مشكلة صعبة لحلها بالتكنولوجيا التي تتمتع بفرصة لفعل الكثير من الخير في العالم، وتؤدي إلى أعمال تجارية صلبة. كان شريكي Ouwen يعمل على شهادته الطبية، ومع خبرتنا في الرؤية الحاسوبية، كانت الصور الطبية خيارًا طبيعيًا لنا. بسبب التأثير المدمر لسرطان الثدي، اخترنا التصوير الشعاعي للثدي كتطبيق محتمل أول. لذلك قلنا “حسنا، من أين نبدأ؟ نحن بحاجة إلى بيانات. نحن بحاجة إلى ألف صورة شعاعية. من أين تحصل على هذا الحجم من البيانات؟” والجواب كان “لا مكان”. لقد أدركنا على الفور أنه من الصعب العثور على بيانات. بعد أشهر، نمت هذه الإحباط إلى مشكلة فلسفية لنا، فكنا “أي شخص يحاول فعل الخير في هذا المجال لا ينبغي أن يضطر إلى القتال والنضال للحصول على البيانات التي يحتاجها لبناء خوارزميات حاسوبية لحفظ الأرواح”. ولذلك قلنا “هيا، ربما هذا هو مشكلتنا لحلها”.

ما هي المخاطر الحالية في السوق مع البيانات غير الممثلة؟

من الدراسات والأمثلة الواقعية العديدة، نعرف أن если بنينا خوارزمية باستخدام بيانات فقط من الساحل الغربي، و أحضرتها إلى الجنوب الشرقي، فلن تعمل. مرارًا وتكرارًا نسمع قصصًا عن الذكاء الاصطناعي الذي يعمل بشكل رائع في المستشفى الشمالي الشرقي الذي تم إنشاؤه فيه، وعندما ينشره في مكان آخر، ينخفض دقته إلى أقل من 50٪.

أعتقد أن الغرض الأساسي للذكاء الاصطناعي، من الناحية الأخلاقية، هو أن يقلل من انعدام المساواة الصحية. الهدف هو جعل الرعاية الصحية رخيصة ومتاحة للجميع. لكن المشكلة هي عندما يتم بناؤها على بيانات سيئة، فإنها تزيد من انعدام المساواة. نحن تفشل في مهمة الذكاء الاصطناعي الصحية إذا سمحنا لها بالعمل فقط للأشخاص البيض من السواحل. سيتعرض الأشخاص من خلفيات غير ممثلة إلى التمييز أكثر، لا أقل.

يمكنك مناقشة كيفية حصول Gradient Health على البيانات؟

نحن نشترك مع جميع أنواع الأنظمة الصحية حول العالم التي يتم تخزين بياناتها بعيدًا، مما يكلفهم المال، ولا يفيد أحدًا. نحن نزيل بياناتهم جيدًا في المصدر ثم ننظمها بعناية للباحثين.

كيف تضمن Gradient Health أن تكون البيانات غير متحيزة ومتعددة كما هو ممكن؟

هناك العديد من الطرق. على سبيل المثال، عندما نجمع البيانات، نضمن أن نรวม عيادات مجتمعية كثيرة، حيث غالبًا ما يكون هناك بيانات أكثر تمثيلًا، بالإضافة إلى المستشفيات الكبيرة. نحن أيضًا نجمع بياناتنا من عدد كبير من المواقع السريرية. نحاول الحصول على أكبر عدد ممكن من المواقع من مجموعة واسعة من السكان. لذلك ليس لدينا فقط عدد كبير من المواقع، ولكن لدينا أيضًا مواقع جغرافية واقتصادية واجتماعية متنوعة. إذا كانت جميع مواقعك من مستشفيات وسط المدينة، فإنها لا تزال غير ممثلة، أليس كذلك؟

لتحقق من كل هذا، نقوم بتشغيل الإحصائيات عبر جميع هذه مجموعات البيانات، ونخصصها للعميل، لضمان حصولهم على بيانات متنوعة من حيث التكنولوجيا والديموغرافيا.

لماذا هذا المستوى من التحكم في البيانات مهم جدًا لتصميم خوارزميات الذكاء الاصطناعي القوية؟

هناك العديد من المتغيرات التي قد يواجهها الذكاء الاصطناعي في العالم الحقيقي، وهدفنا هو ضمان أن تكون الخوارزمية قوية قدر الإمكان. لنبسط الأمور، نحن نفكر في خمسة متغيرات رئيسية في بياناتنا. المتغير الأول الذي نفكر فيه هو “manufacturer of equipment”. من الواضح، ولكن إذا بنينا خوارزمية باستخدام بيانات فقط من مسحلات GE، فلن تعمل بشكل جيد على مسحلات Hitachi، على سبيل المثال.

على طول نفس الخطوط هو متغير “equipment model”. هذا متغير مثير للاهتمام من وجهة نظر عدم المساواة الصحية. نحن نعرف أن المستشفيات البحثية الكبيرة والممولة جيدًا تميل إلى أن يكون لديها أحدث وأفضل إصدارات المسحلات. وإذا قاموا بتدريب الذكاء الاصطناعي فقط على نماذجهم الخاصة لعام 2022، فلن يعمل بشكل جيد على نموذج أقدم من عام 2010. هذه الأنظمة القديمة هي بالضبط تلك الموجودة في المناطق الأقل إمكانيات و الريفية. لذلك، من خلال استخدام بيانات فقط من النماذج الجديدة، فإنهم ي introduced بشكل غير مقصود تحيزًا إضافيًا ضد الناس من هذه المجتمعات.

المتغيرات الرئيسية الأخرى هي الجنس والعرق والعمر، ونحن نأخذ خطوات كبيرة لضمان أن تكون بياناتنا متوازنة تناسبيًا عبر جميعها.

ما هي بعض العوائق التنظيمية التي تواجهها شركات MedTech؟

نحن نبدأ في رؤية إدارة الأغذية والأدوية تتحقق من التحيز في مجموعات البيانات. لقد جاءنا باحثون وقالوا “رفضت إدارة الأغذية والأدوية خوارزميتنا لأنها كانت تفتقر إلى 15٪ من السكان الأفارقة الأمريكيين” (النسبة المئوية التقريبية للسكان الأفارقة الأمريكيين الذين هم جزء من سكان الولايات المتحدة). لقد سمعنا أيضًا عن مطور تم إبلاغه أنه يحتاج إلى تضمين 1٪ من سكان هاواي الباسيفيكيين في بيانات التدريب.

لذلك، تدرك إدارة الأغذية والأدوية أن هذه الخوارزميات، التي تم تدريبها في مستشفى واحد فقط، لا تعمل في العالم الحقيقي. الحقيقة هي أنه إذا كنت تريد الحصول على علامة CE و موافقة إدارة الأغذية والأدوية، عليك أن تأتي بمجموعة بيانات تمثل السكان. لم يعد من المقبول تدريب الذكاء الاصطناعي على مجموعة صغيرة أو غير ممثلة.

المخاطر لشركات MedTech هي أنهم يستثمرون ملايين الدولارات في جعل تقنياتهم في مكان يعتقدون أنه جاهز للموافقة التنظيمية، و إذا لم يتمكنوا من الحصول عليها، فلن يحصلوا أبدًا على تعويض أو إيرادات. في النهاية، الطريق إلى التصفية التجارية والطريق إلى الحصول على التأثير المفيد على الرعاية الصحية الذي يريدونه يتطلب منهم الاهتمام بالتحيز في البيانات.

ما هي بعض الخيارات للتغلب على هذه العوائق من منظور البيانات؟

تطورت أساليب إدارة البيانات على مدار السنوات الأخيرة، واليوم لدى مطورو الذكاء الاصطناعي خيارات أكثر من أي وقت مضى. من وسطاء البيانات والشركاء إلى التعلم الفيدرالي والبيانات الاصطناعية، هناك نهج جديدة لهذه العوائق. مهما كانت الطريقة التي يختارونها، نحن نشجع دائمًا المطورين على التفكير فيما إذا كانت بياناتهم حقًا تمثل السكان الذين سيستخدمون المنتج. هذا هو الجزء الأكثر صعوبة في الحصول على البيانات.

حل يُقدمه Gradient Health هو Gradient Label، ما هو هذا الحل وكيف يمكنه تمكين تصنيف البيانات على نطاق واسع؟

الذكاء الاصطناعي الطبي لا يحتاج فقط إلى بيانات، ولكن أيضًا إلى تعليقات خبيرة. ونحن نساعد الشركات على الحصول على هذه التعليقات الخبيرة، بما في ذلك من الأشعة.

ما هو رؤيتك لمستقبل الذكاء الاصطناعي والبيانات في مجال الرعاية الصحية؟

هناك بالفعل آلاف من أدوات الذكاء الاصطناعي هناك التي تنظر إلى كل شيء من أطراف الأصابع إلى أطراف الأقدام، وأعتقد أن هذا سيتواصل. أعتقد أن هناك سيكون هناك على الأقل 10 خوارزميات لكل حالة في كتاب طب. كل واحدة منها سيكون لها أدوات متعددة، ربما تنافسية، لمساعدة الأطباء على تقديم أفضل رعاية.

لا أعتقد أننا سوف نصل إلى رؤية جهاز Tricorder مثل Star Trek الذي يفحص شخصًا ويعالج كل مشكلة محتملة من الرأس إلى القدم. بدلاً من ذلك، سوف يكون لدينا تطبيقات متخصصة لكل مجموعة فرعية.

هل هناك أي شيء آخر تود أن تشاركه حول Gradient Health؟

أنا متحمس للمستقبل. أعتقد أننا نتحرك نحو مكان حيث تكون الرعاية الصحية رخيصة ومتساوية ومتاحة للجميع، وأنا حريص على أن تحصل Gradient Health على فرصة للعب دور أساسي في جعل هذا يحدث. الفريق بأكمله هنا يؤمن حقًا بهذه المهمة، وهناك شغف موحد بينهم لا توجد في كل الشركات. وأنا أحبه!

شكرًا على المقابلة الرائعة، يرغب القراء في معرفة المزيد يمكنهم زيارة Gradient Health.