Josh Miller, CEO van Gradient Health – Interviewreeks

Josh Miller is de CEO van Gradient Health, een bedrijf dat is opgericht met het idee dat geautomatiseerde diagnostiek moet bestaan om de gezondheidszorg eerlijk en toegankelijk te maken voor iedereen. Gradient Health heeft als doel om geautomatiseerde A.I.-diagnostiek te versnellen met georganiseerde, gelabelde en beschikbare gegevens.

Kunt u de oorsprong van Gradient Health vertellen?

Mijn medeoprichter Ouwen en ik hadden net ons eerste start-upbedrijf, FarmShots, verlaten, dat computerzicht gebruikt om het gebruik van pesticiden in de landbouw te verminderen, en we zochten naar onze volgende uitdaging.

We zijn altijd gemotiveerd door de wens om een moeilijk probleem op te lossen met technologie dat a) de kans heeft om veel goed te doen in de wereld, en b) leidt tot een solide bedrijf. Ouwen werkte aan zijn medische opleiding, en met onze ervaring in computerzicht, was medische beeldvorming een natuurlijke keuze voor ons. Vanwege de verwoestende impact van borstkanker, kozen we mammografie als een potentiële eerste toepassing. Dus zeiden we: “Oké, waar beginnen we? We hebben gegevens nodig. We hebben duizend mammogrammen nodig. Waar krijg je die hoeveelheid gegevens vandaan?” en het antwoord was “Nergens”. We realiseerden ons onmiddellijk dat het echt moeilijk is om gegevens te vinden. Na maanden groeide deze frustratie uit tot een filosofisch probleem voor ons, we dachten: “Ieder die probeert om goed te doen in deze ruimte, zou niet moeten vechten en worstelen om de gegevens te krijgen die ze nodig hebben om levensreddende algoritmes te bouwen”. En dus zeiden we: “Hé, misschien is dat eigenlijk ons probleem om op te lossen”.

Wat zijn de huidige risico’s op de markt met niet-representatieve gegevens?

Uit talloze studies en echte voorbeelden weten we dat als we een algoritme bouwen met alleen gegevens van de westkust, en je het naar het zuidoosten brengt, het gewoon niet werkt. Telkens horen we verhalen over A.I. die geweldig werkt in het noordoostelijke ziekenhuis waar het is gemaakt, en dan als ze het elders implementeren, de nauwkeurigheid daalt tot minder dan 50%.

Ik geloof dat het fundamentele doel van A.I. op een ethisch niveau is dat het gezondheidsverschillen moet verminderen. Het doel is om kwaliteitszorg betaalbaar en toegankelijk te maken voor iedereen. Maar het probleem is dat als je het bouwt op slechte gegevens, je eigenlijk de verschillen verergert. We falen in de missie van gezondheids-A.I. als we het alleen laten werken voor blanke mannen van de kust. Mensen uit ondervertegenwoordigde achtergronden zullen eigenlijk meer discriminatie ervaren als gevolg, niet minder.

Kunt u vertellen hoe Gradient Health gegevens verzamelt?

Zeker, we werken samen met alle soorten gezondheidssystemen over de hele wereld wiens gegevens anders zijn opgeslagen, hen geld kosten en niemand ten goede komen. We identificeren hun gegevens grondig bij de bron en organiseren ze vervolgens zorgvuldig voor onderzoekers.

Hoe zorgt Gradient Health ervoor dat de gegevens onbevooroordeeld en zo divers mogelijk zijn?

Er zijn veel manieren. Bijvoorbeeld, als we gegevens verzamelen, zorgen we ervoor dat we veel communityklinieken includeren, waar je vaak meer representatieve gegevens hebt, evenals de grotere ziekenhuizen. We verzamelen onze gegevens ook van een groot aantal klinische sites. We proberen zo veel mogelijk sites te krijgen van zo veel mogelijk verschillende bevolkingsgroepen. Dus niet alleen een groot aantal sites, maar ook geografisch en sociaal-economisch diverse sites. Omdat als al je sites uit downtown-ziekenhuizen komen, het nog steeds niet representatieve gegevens zijn, is het wel?

Om dit alles te valideren, voeren we statistieken uit over al deze datasets en passen we ze aan voor de klant, om ervoor te zorgen dat ze gegevens krijgen die divers zijn in termen van technologie en demografie.

Waarom is dit niveau van gegevensbeheersing zo belangrijk om robuuste A.I.-algoritmes te ontwerpen?

Er zijn veel variabelen die een A.I. in de echte wereld kan tegenkomen, en ons doel is om ervoor te zorgen dat het algoritme zo robuust mogelijk is. Om het eenvoudig te houden, denken we aan vijf belangrijke variabelen in onze gegevens. De eerste variabele die we overwegen is “apparatuurfabrikant”. Het is voor de hand liggend, maar als je een algoritme bouwt met alleen gegevens van GE-scanners, zal het niet zo goed presteren op een Hitachi, bijvoorbeeld.

In dezelfde lijn ligt de “apparatuurmodel” variabele. Dit is eigenlijk heel interessant vanuit een gezondheidsongelijkheidsperspectief. We weten dat de grote, goed gefinancierde onderzoeksziekenhuizen de nieuwste en beste versies van scanners hebben. En als ze hun A.I. alleen trainen op hun eigen 2022-modellen, zal het niet zo goed werken op een ouder 2010-model. Deze oudere systemen zijn precies degenen die worden gevonden in minder welvarende en plattelandsgebieden. Dus, door alleen gegevens van nieuwere modellen te gebruiken, introduceren ze onbewust meer vooroordelen tegen mensen uit deze gemeenschappen.

De andere belangrijke variabelen zijn geslacht, etniciteit en leeftijd, en we gaan grote moeite doen om ervoor te zorgen dat onze gegevens evenwichtig zijn over al deze variabelen.

Wat zijn enkele van de regelgevingshobbels die MedTech-bedrijven tegenkomen?

We beginnen de FDA te zien die echt onderzoekt of er vooroordelen in datasets zijn. We hebben onderzoekers die tegen ons zeggen: “De FDA heeft ons algoritme afgewezen omdat het een Afrikaans-Amerikaanse bevolking van 15% mist” (het benaderende percentage van Afrikaans-Amerikanen dat deel uitmaakt van de Amerikaanse bevolking). We hebben ook gehoord van een ontwikkelaar die werd verteld dat ze 1% Pacifische eilander moesten includeren in hun trainingsgegevens.

Dus, de FDA begint te beseffen dat deze algoritmes, die alleen zijn getraind in één ziekenhuis, niet werken in de echte wereld. Het feit is dat als je CE-markering en FDA-goedkeuring wilt, je met een dataset moet komen die de bevolking vertegenwoordigt. Het is, terecht, niet langer aanvaardbaar om een A.I. te trainen op een kleine of niet-representatieve groep.

Het risico voor MedTechs is dat ze miljoenen dollars investeren in het ontwikkelen van hun technologie tot het punt waarop ze denken dat ze klaar zijn voor regelgevingsgoedkeuring, en dan, als ze het niet door kunnen krijgen, zullen ze nooit vergoeding of inkomsten krijgen. Uiteindelijk vereist de weg naar commercialisatie en de weg naar het hebben van het soort gunstige impact op de gezondheidszorg dat ze willen hebben, dat ze zich zorgen maken over gegevensvooroordeel.

Wat zijn enkele van de opties om deze hobbels te overwinnen vanuit een gegevensperspectief?

In de afgelopen jaren zijn gegevensbeheermethoden geëvolueerd, en A.I.-ontwikkelaars hebben nu meer opties beschikbaar dan ooit tevoren. Van gegevensintermediairs en partners tot gefedereerd leren en synthetische gegevens, zijn er nieuwe benaderingen van deze hobbels. Wat voor methode ze ook kiezen, we moedigen ontwikkelaars altijd aan om te overwegen of hun gegevens echt representatief zijn voor de bevolking die het product zal gebruiken. Dit is verreweg het moeilijkste aspect van het verzamelen van gegevens.

Een oplossing die Gradient Health biedt, is Gradient Label, wat is deze oplossing en hoe maakt het het mogelijk om gegevens op grote schaal te labelen?

Medische beeldvormings-A.I. vereist niet alleen gegevens, maar ook expertannotaties. En we helpen bedrijven om die expertannotaties te krijgen, inclusief van radiologen.

Wat is uw visie voor de toekomst van A.I. en gegevens in de gezondheidszorg?

Er zijn al duizenden A.I.-hulpmiddelen die alles van de toppen van je vingers tot de toppen van je tenen bekijken, en ik denk dat dit zal blijven. Ik denk dat er minstens 10 algoritmes voor elke aandoening in een medisch leerboek zullen zijn. Elk algoritme zal meerdere, waarschijnlijk concurrerende, hulpmiddelen hebben om clinici te helpen de beste zorg te bieden.

Ik denk niet dat we waarschijnlijk een soort Star Trek-stijl Tricorder zullen zien die iemand scant en elk mogelijk probleem van hoofd tot teen aanpakt. In plaats daarvan zullen we specialistische toepassingen voor elke subset hebben.

Is er nog iets anders dat u zou willen delen over Gradient Health?

Ik ben enthousiast over de toekomst. Ik denk dat we naar een plek gaan waar de gezondheidszorg goedkoop, gelijk en toegankelijk is voor iedereen, en ik ben ervan overtuigd dat Gradient de kans krijgt om een fundamentele rol te spelen in het maken van dit gebeuren. Het hele team hier gelooft echt in deze missie, en er is een verenigde passie onder hen die je niet bij elk bedrijf vindt. En ik hou ervan!

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Gradient Health bezoeken.