مقابلات
جوش ميلر، الرئيس التنفيذي لشركة Gradient Health – سلسلة المقابلات
جوش ميلر هو الرئيس التنفيذي لشركة Gradient Health، وهي شركة تأسست على فكرة أن التشخيص الآلي يجب أن يكون موجودًا لكي تكون الرعاية الصحية عادلة ومتاحة للجميع. تهدف شركة Gradient Health إلى تسريع التشخيص الآلي باستخدام البيانات التي يتم تنظيمها وتحديدها وتبادلها.
يمكنك مشاركة قصة Gradient Health؟
كانت أنا وشركائي Ouwen قد خرجنا للتو من أول شركة ناشئة لنا، FarmShots، والتي تستخدم رؤية الكمبيوتر للمساعدة في تقليل كمية المبيدات الحشرية المستخدمة في الزراعة، وكنا نبحث عن تحدينا التالي.
لقد كنا دائمًا مدفوعين برغبة في العثور على مشكلة صعبة لحلها بالتكنولوجيا التي تتيح لنا القيام ببعض الخير في العالم، و تؤدي إلى عمل تجاري صلب. كان Ouwen يعمل على شهادته الطبية، ومع خبرتنا في رؤية الكمبيوتر، كانت الصور الطبية خيارًا طبيعيًا لنا. بسبب الآثار المدمرة لسرطان الثدي، اخترنا التصوير الشعاعي للثدي كتطبيق محتمل أول. لذلك قلت “حسنا، من أين نبدأ؟ نحن بحاجة إلى ألف صورة شعاعية. من أين نحصل على هذا الحجم من البيانات؟” والجواب كان “لا مكان”. لقد أدركنا على الفور أن من الصعب العثور على البيانات. بعد أشهر، نمت هذه الإحباط إلى مشكلة فلسفية لنا، فكرت “أي شخص يحاول القيام ببعض الخير في هذا المجال لا ينبغي أن يضطر إلى النضال للحصول على البيانات التي يحتاجها لإنشاء خوارزميات حاسوبية تحفظ الأرواح”. ولذلك قلت “هي، ربما هذا هو مشكلتنا التي يجب حلها”.
ما هي المخاطر الحالية في السوق مع البيانات غير الممثلة؟
من الدراسات والأمثلة الواقعية العديدة، نعرف أن если بنينا خوارزمية باستخدام بيانات فقط من الساحل الغربي، وإذا قمنا بتحويلها إلى جنوب شرق، فلن تعمل. مرارًا وتكرارًا نسمع قصصًا عن الذكاء الاصطناعي الذي يعمل جيدًا في المستشفى الشمالي الشرقي الذي تم إنشاؤه فيه، وعندما ينشئونه في مكان آخر، ينخفضض دقته إلى أقل من 50%.
أعتقد أن الغرض الأساسي للذكاء الاصطناعي، من الناحية الأخلاقية، هو أن يقلل من الفوارق الصحية. الهدف هو جعل الرعاية الجيدة منخفضة التكلفة ومتاحة للجميع. لكن المشكلة هي عندما يتم بناؤها على بيانات سيئة، فإنها تزيد من الفوارق. نحن تفشل في مهمة الذكاء الاصطناعي في مجال الرعاية الصحية إذا سمحنا لها بالعمل فقط للأشخاص البيض من السواحل. سيتعرض الأشخاص من خلفيات غير ممثلة لمزيد من التمييز، وليس أقل.
يمكنك مناقشة كيفية حصول Gradient Health على البيانات؟
نحن نشترك مع جميع أنواع أنظمة الصحة حول العالم التي يتم تخزين بياناتها في مكان آخر، وتكلفة ذلك المال، ولا تفيدها. نحن نزيل التعريف من بياناتهم في المصدر ثم ننظمها بعناية للباحثين.
كيف تضمن Gradient Health أن تكون البيانات غير متحيزة ومتنوعة قدر الإمكان؟
هناك العديد من الطرق. على سبيل المثال، عندما نجمع البيانات، نضمن أن نضم العديد من العيادات المجتمعية، حيث غالبًا ما يكون هناك بيانات أكثر تمثيلاً، بالإضافة إلى المستشفيات الكبيرة. نحن أيضًا نستخدم بياناتنا من عدد كبير من المواقع السريرية. نحاول الحصول على أكبر عدد من المواقع الممكنة من مجموعة واسعة من السكان الممكنة. لذلك ليس فقط عدد كبير من المواقع، ولكنها مواقع جغرافية واقتصادية اجتماعية متنوعة. لأن إذا كانت جميع مواقعك من مستشفيات وسط المدينة، فلا يزال هذا لا يمثل بيانات.
للتأكد من كل هذا، نقوم بتشغيل الإحصاءات عبر جميع هذه مجموعات البيانات، ونخصصها للعميل، لضمان حصولهم على بيانات متنوعة من حيث التكنولوجيا والديموغرافيا.
لماذا هذا المستوى من التحكم في البيانات مهم جدًا لتصميم خوارزميات الذكاء الاصطناعي الصلبة؟
هناك العديد من المتغيرات التي قد يواجهها الذكاء الاصطناعي في العالم الحقيقي، وهدفنا هو ضمان أن تكون الخوارزمية قوية كما يمكن أن تكون. لتبسيط الأمور، نفكر في خمسة متغيرات رئيسية في بياناتنا. المتغير الأول الذي نفكر فيه هو “manufacturer المُصنع”. من الواضح، ولكن إذا بنينا خوارزمية باستخدام بيانات فقط من ماسحات GE، فلن تعمل جيدًا على ماسح Hitachi، على سبيل المثال.
على نفس المنوال هو متغير “نموذج المعدات”. هذا في الواقع مثير للاهتمام من منظور عدم المساواة الصحية. نعرف أن المستشفيات البحثية الكبيرة والممولة جيدًا تميل إلى أن يكون لديها أحدث وأفضل إصدارات الماسحات. وإذا قاموا بتدريب الذكاء الاصطناعي فقط على نماذجهم الخاصة لعام 2022، فلن يعمل جيدًا على نظام أقدم من عام 2010. هذه الأنظمة القديمة هي بالضبط تلك الموجودة في المناطق الأقل ثراء والريفية. لذلك، من خلال استخدام بيانات فقط من النماذج الجديدة، فإنهم ي introducedدخلو تحيزًا إضافيًا ضد الناس من هذه المجتمعات.
المتغيرات الرئيسية الأخرى هي الجنس والعرق والعمر، ونحن ن goes إلى حد بعيد لضمان أن تكون بياناتنا متوازنة بشكل متناسب عبر جميعها.
ما هي بعض العوائق التنظيمية التي تواجهها شركات MedTech؟
نحن نبدأ في رؤية إدارة الأغذية والأدوية ت điềuقق التحقيق في التحيز في مجموعات البيانات. لقد قام الباحثون بالاتصال بنا وقالوا “رفضت إدارة الأغذية والأدوية خوارزميتنا لأنها لم تكن تحتوي على 15% من السكان الأفارقة الأمريكيين” (النسبة المئوية التقريبية للسكان الأفارقة الأمريكيين الذين هم جزء من السكان الأمريكيين). لقد سمعنا أيضًا عن مطور تم إخبارها أنه يحتاج إلى تضمين 1% من سكان جزر هاواي في بيانات التدريب.
لذلك، تدرك إدارة الأغذية والأدوية أن هذه الخوارزميات، التي تم تدريبها في مستشفى واحد فقط، لا تعمل في العالم الحقيقي. الحقيقة هي أن إذا كنت تريد الحصول على علامة CE واعتماد إدارة الأغذية والأدوية، عليك أن تأتي مع مجموعة بيانات تمثل السكان. إنه، بشكل صحيح، لم يعد مقبولًا تدريب الذكاء الاصطناعي على مجموعة صغيرة أو غير ممثلة.
المخاطر لشركات MedTech هي أنهم يستثمرون ملايين الدولارات في جعل تقنيتهم في مكان يعتقدون أنه جاهز للموافقة التنظيمية، و إذا لم يتمكنوا من الحصول عليها، فلن يحصلوا أبدًا على تعويض أو إيرادات. في النهاية، طريق التوسع التجاري وطريق الحصول على التأثير المفيد على الرعاية الصحية الذي يريدونه يتطلب منهم الاهتمام بالتحيز في البيانات.
ما هي بعض الخيارات للتغلب على هذه العوائق من منظور البيانات؟
على مدى السنوات القليلة الماضية، تطور أساليب إدارة البيانات، واليوم يمتلك مطورو الذكاء الاصطناعي خيارات أكثر من أي وقت مضى. من وسطاء البيانات والشركاء إلى التعلم الفيدرالي والبيانات الاصطناعية، هناك مناهج جديدة لهذه العوائق. مهما كانت الطريقة التي يختارونها، نحن نحث المطورين دائمًا على التفكير فيما إذا كانت بياناتهم حقًا تمثل السكان الذين سيستخدمون المنتج. هذا هو بالتأكيد أكثر جانب صعب في الحصول على البيانات.
حل يُقدمه Gradient Health هو Gradient Label، ما هو هذا الحل وكيف يمكنه تمكين التسمية في نطاق واسع؟
الذكاء الاصطناعي للصور الطبية لا يتطلب فقط بيانات، ولكن أيضًا تعليقات خبير. ونحن نساعد الشركات على الحصول على هذه التعليقات الخبيرة، بما في ذلك من الأشعة.
ما هو رؤيتك لمستقبل الذكاء الاصطناعي والبيانات في مجال الرعاية الصحية؟
هناك بالفعل آلاف من أدوات الذكاء الاصطناعي هناك التي تنظر إلى كل شيء من أطراف الأصابع إلى أطراف الأصابع، وأعتقد أن هذا سيتواصل. أعتقد أن هناك سيكون هناك على الأقل 10 خوارزميات لكل حالة في كتاب طب. كل واحدة منها سيكون لها أدوات متعددة، ربما منافسة، لمساعدة الأطباء على تقديم أفضل رعاية.
لا أعتقد أننا من المرجح أن نرى جهاز Tricorder مثل Star Trek الذي يفحص شخصًا ويعالج كل مشكلة محتملة من الرأس إلى القدم. بدلاً من ذلك، سيكون لدينا تطبيقات متخصصة لكل مجموعة فرعية.
هل هناك شيء آخر تريد مشاركته حول Gradient Health؟
أنا متحمس للمستقبل. أعتقد أننا نتحرك نحو مكان حيث تكون الرعاية الصحية رخيصة ومتساوية ومتاحة للجميع، وأنا حريص على أن تتمكن Gradient Health من اللعب دورًا أساسيًا في جعل هذا يحدث. الفريق بأكمله هنا يؤمن حقًا بهذه المهمة، وهناك شغف موحد بينهم لا توجد في كل شركة. وأنا أحب ذلك!
شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا Gradient Health.
