Josh Miller, CEO von Gradient Health – Interview-Serie

Josh Miller ist der CEO von Gradient Health, einem Unternehmen, das auf der Idee gegründet wurde, dass automatisierte Diagnosen für eine gerechte und für alle zugängliche Gesundheitsversorgung existieren müssen. Gradient Health zielt darauf ab, automatisierte KI-Diagnosen mit organisierten, beschrifteten und verfügbaren Daten zu beschleunigen.

Können Sie die Entstehungsgeschichte hinter Gradient Health teilen?

Mein Mitgründer Ouwen und ich hatten gerade unser erstes Start-up, FarmShots, verlassen, das Computer-Vision verwendet, um den Einsatz von Pestiziden in der Landwirtschaft zu reduzieren, und wir suchten nach unserer nächsten Herausforderung.

Wir wurden immer von dem Wunsch motiviert, ein schwieriges Problem mit Technologie zu lösen, das a) die Chance hat, viel Gutes in der Welt zu tun, und b) zu einem soliden Geschäft führt. Ouwen arbeitete an seinem Medizinstudium, und mit unserer Erfahrung in Computer-Vision war medizinische Bildgebung eine natürliche Wahl für uns. Aufgrund der verheerenden Auswirkungen von Brustkrebs wählten wir die Mammographie als mögliche erste Anwendung. Also sagten wir: “Okay, wo fangen wir an? Wir benötigen Daten. Wir benötigen tausend Mammographien. Wo bekommt man diese Menge an Daten?” und die Antwort war “Nirgendwo”. Wir erkannten sofort, dass es wirklich schwierig ist, Daten zu finden. Nach Monaten wuchs diese Frustration zu einem philosophischen Problem für uns heran, wir dachten: “Jeder, der in diesem Bereich Gutes tun will, sollte nicht kämpfen und um die Daten ringen, die er benötigt, um lebensrettende Algorithmen zu entwickeln”. Und so sagten wir: “Hey, vielleicht ist das eigentlich unser Problem, das wir lösen müssen”.

Welche Risiken bestehen derzeit auf dem Markt durch unrepräsentative Daten?

Aus zahlreichen Studien und realen Beispielen wissen wir, dass wenn wir einen Algorithmus entwickeln, der nur mit Daten von der Westküste trainiert wurde, und Sie ihn in den Südosten bringen, er einfach nicht funktioniert. Immer wieder hören wir Geschichten von KI, die in einem nordöstlichen Krankenhaus, in dem sie entwickelt wurde, großartig funktioniert, und wenn sie dann woanders eingesetzt wird, die Genauigkeit auf weniger als 50% fällt.

Ich glaube, dass der grundlegende Zweck von KI auf ethischer Ebene darin besteht, dass sie Gesundheitsdiskrepanzen verringern sollte. Das Ziel ist es, qualitative Pflege erschwinglich und für alle zugänglich zu machen. Aber das Problem ist, wenn Sie es auf schlechten Daten aufbauen, vergrößern Sie tatsächlich die Diskrepanzen. Wir versagen in der Mission der Gesundheits-KI, wenn wir sie nur für weiße Männer von der Küste funktionieren lassen. Menschen aus unterrepräsentierten Hintergründen werden tatsächlich mehr Diskriminierung erfahren, nicht weniger.

Können Sie erläutern, wie Gradient Health Daten beschafft?

Sicher, wir arbeiten mit allen Arten von Gesundheitssystemen auf der ganzen Welt zusammen, deren Daten sonst weggespeichert werden, sie Geld kosten und niemandem nützen. Wir identifizieren ihre Daten am Ursprung und organisieren sie dann sorgfältig für Forscher.

Wie stellt Gradient Health sicher, dass die Daten unbefangen und so vielfältig wie möglich sind?

Es gibt viele Möglichkeiten. Zum Beispiel, wenn wir Daten sammeln, stellen wir sicher, dass wir viele Gemeinschaftskliniken einbeziehen, in denen Sie oft repräsentativere Daten haben, sowie die größeren Krankenhäuser. Wir beschaffen unsere Daten auch von einer großen Anzahl von klinischen Standorten. Wir versuchen, so viele Standorte wie möglich aus einer breiten Palette von Bevölkerungen zu erhalten. Also nicht nur eine hohe Anzahl von Standorten, sondern auch geografisch und sozioökonomisch vielfältige Standorte. Denn wenn alle Ihre Standorte aus Krankenhäusern im Stadtzentrum stammen, ist es immer noch nicht repräsentative Daten, oder?

Um all dies zu validieren, führen wir Statistiken über alle diese Datensätze durch und passen sie für den Kunden an, um sicherzustellen, dass sie Daten erhalten, die vielfältig sind, sowohl in Bezug auf Technologie als auch Demografie.

Warum ist diese Ebene der Datenkontrolle so wichtig, um robuste KI-Algorithmen zu entwerfen?

Es gibt viele Variablen, die ein KI-System in der realen Welt möglicherweise begegnet, und unser Ziel ist es, sicherzustellen, dass der Algorithmus so robust wie möglich ist. Um dies zu vereinfachen, denken wir an fünf Schlüsselvariablen in unseren Daten. Die erste Variable, über die wir nachdenken, ist “Gerätehersteller”. Es ist offensichtlich, aber wenn Sie einen Algorithmus nur mit Daten von GE-Scannern entwickeln, wird er nicht so gut auf einem Hitachi-Scanner funktionieren.

Ähnlich ist die Variable “Gerätemodell”. Diese ist tatsächlich aus gesundheitlicher Ungleichheitsperspektive interessant. Wir wissen, dass die großen, gut finanzierten Forschungskrankenhäuser tendenziell die neuesten und besten Scanner-Modelle haben. Und wenn sie ihre KI nur mit Daten von ihren eigenen 2022-Modellen trainieren, wird sie nicht so gut auf einem älteren 2010-Modell funktionieren. Diese älteren Systeme sind genau die, die in weniger wohlhabenden und ländlichen Gebieten gefunden werden. Durch die Verwendung von Daten nur von neueren Modellen führen sie unbeabsichtigt weitere Voreingenommenheit gegen Menschen aus diesen Gemeinschaften ein.

Die anderen Schlüsselvariablen sind Geschlecht, Ethnie und Alter, und wir gehen große Längen, um sicherzustellen, dass unsere Daten proportional über alle diese Variablen ausgewogen sind.

Welche regulatorischen Hürden müssen MedTech-Unternehmen überwinden?

Wir beginnen zu sehen, wie die FDA tatsächlich Voreingenommenheit in Datensätzen untersucht. Wir hatten Forscher, die zu uns kamen und sagten: “Die FDA hat unseren Algorithmus abgelehnt, weil er eine 15%ige afroamerikanische Bevölkerung fehlte” (der ungefähre Prozentsatz der Afroamerikaner, die Teil der US-Bevölkerung sind). Wir haben auch von einem Entwickler gehört, der gesagt wurde, er müsse 1% pazifische Hawaiianer in seine Trainingsdaten aufnehmen.

Die FDA beginnt zu erkennen, dass diese Algorithmen, die nur in einem einzigen Krankenhaus trainiert wurden, in der realen Welt nicht funktionieren. Tatsache ist, dass wenn Sie CE-Kennzeichnung und FDA-Zulassung erhalten möchten, Sie mit einem Datensatz kommen müssen, der die Bevölkerung repräsentiert. Es ist, zu Recht, nicht länger akzeptabel, ein KI-System auf einer kleinen oder nicht repräsentativen Gruppe zu trainieren.

Das Risiko für MedTech-Unternehmen ist, dass sie Millionen von Dollar investieren, um ihre Technologie an einen Punkt zu bringen, an dem sie denken, sie seien bereit für die regulatorische Zulassung, und dann, wenn sie sie nicht durchsetzen können, werden sie nie eine Erstattung oder Einnahmen erhalten. Letztendlich erfordert der Weg zur Kommerzialisierung und der Weg, um den gewünschten positiven Einfluss auf die Gesundheitsversorgung zu haben, dass sie sich um Datenverzerrung kümmern.

Welche Optionen gibt es, um diese Hürden aus datentechnischer Sicht zu überwinden?

In den letzten Jahren haben sich Datenmanagementmethoden entwickelt, und KI-Entwickler haben jetzt mehr Optionen zur Verfügung als je zuvor. Von Daten-Zwischenhändlern und Partnern bis hin zu verteiltem Lernen und synthetischen Daten gibt es neue Ansätze für diese Hürden. Unabhängig von der gewählten Methode ermutigen wir Entwickler immer, zu überlegen, ob ihre Daten tatsächlich repräsentativ für die Bevölkerung sind, die das Produkt verwenden wird. Dies ist bei weitem der schwierigste Aspekt der Datensammlung.

Ein Lösung, die Gradient Health anbietet, ist Gradient Label, was ist diese Lösung und wie ermöglicht sie das Beschriften von Daten im großen Maßstab?

Medizinische Bildgebung-KI benötigt nicht nur Daten, sondern auch Experten-Anmerkungen. Und wir helfen Unternehmen, diese Experten-Anmerkungen, einschließlich von Radiologen, zu erhalten.

Was ist Ihre Vision für die Zukunft von KI und Daten in der Gesundheitsversorgung?

Es gibt bereits Tausende von KI-Tools, die alles von den Fingerspitzen bis zu den Zehen untersuchen, und ich denke, dass dies weitergehen wird. Ich denke, es wird mindestens 10 Algorithmen für jede Erkrankung in einem medizinischen Lehrbuch geben. Jeder davon wird mehrere, wahrscheinlich konkurrierende, Tools haben, um Klinikern zu helfen, die beste Pflege zu bieten.

Ich denke nicht, dass wir wahrscheinlich ein Star-Trek-ähnliches Tricorder sehen werden, das jemanden scannen und alle möglichen Probleme von Kopf bis Fuß ansprechen kann. Stattdessen werden wir spezialisierte Anwendungen für jeden Teilbereich haben.

Gibt es noch etwas, das Sie über Gradient Health teilen möchten?

Ich bin aufgeregt über die Zukunft. Ich denke, wir bewegen uns in eine Richtung, in der Gesundheitsversorgung günstig, gleich und für alle zugänglich ist, und ich bin darauf bedacht, dass Gradient die Chance erhält, eine grundlegende Rolle bei der Verwirklichung dieser Vision zu spielen. Das gesamte Team hier glaubt wirklich an diese Mission, und es gibt eine vereinte Leidenschaft unter ihnen, die man nicht bei jedem Unternehmen findet. Und ich liebe es!

Vielen Dank für das großartige Interview, Leser, die mehr erfahren möchten, sollten Gradient Health besuchen.