Τζος Μίλερ, Διευθύνων Σύμβουλος της Gradient Health – Σειρά Συνεντεύξεων

Ο Τζος Μίλερ είναι ο Διευθύνων Σύμβουλος της Gradient Health, μια εταιρεία που ιδρύθηκε με βάση την ιδέα ότι οι αυτοματοποιημένες διαγνώσεις πρέπει να υπάρχουν για να είναι η υγεία ισότιμη και διαθέσιμη σε όλους. Η Gradient Health στοχεύει να επιταχύνει τις αυτοματοποιημένες διαγνώσεις AI με δεδομένα που είναι οργανωμένα, επισημασμένα και διαθέσιμα.

Μπορείτε να μοιραστείτε την ιστορία της Gradient Health;

Ο συνιδρυτής μου Ouwen και εγώ είχαμε μόλις αποχωρήσει από την πρώτη μας εταιρεία, FarmShots, η οποία χρησιμοποιούσε την όραση υπολογιστή για να βοηθήσει στη μείωση της ποσότητας των φυτοφαρμάκων που χρησιμοποιούνται στη γεωργία, και ψάχναμε για την επόμενη πρόκληση.

Είμαστε πάντα παρακινημένοι από την επιθυμία να βρούμε ένα δύσκολο πρόβλημα να λυθεί με τεχνολογία που α) έχει την ευκαιρία να κάνει πολλά καλά στον κόσμο, και β) οδηγεί σε μια βιώσιμη επιχείρηση. Ο Ouwen εργαζόταν για το ιατρικό του πτυχίο, και με την εμπειρία μας στην όραση υπολογιστή, η ιατρική εικόνα ήταν μια φυσική επιλογή για εμάς. Λόγω της καταστροφικής επίδρασης του καρκίνου του μαστού, επέλεξαμε τη μαστογραφία ως μια πιθανή πρώτη εφαρμογή. Έτσι, είπαμε, “Ok, πού αρχίζουμε; Χρειαζόμαστε δεδομένα. Χρειαζόμαστε χίλιες μαστογραφίες. Πού παίρνουμε τέτοια δεδομένα;” και η απάντηση ήταν “Πουθενά”. Καταλάβαμε αμέσως, είναι πραγματικά δύσκολο να βρεθούν δεδομένα. Μετά από μήνες, αυτή η απογοήτευση εξελίχθηκε σε ένα φιλοσοφικό πρόβλημα για εμάς, σκεφτήκαμε “οποιοςδήποτε που προσπαθεί να κάνει καλό σε αυτόν τον χώρο δεν πρέπει να πρέπει να αγωνιστεί και να παλέψει για να πάρει τα δεδομένα που χρειάζεται για να δημιουργήσει αλγόριθμους που σώζουν ζωές”. Και έτσι, είπαμε “hey, μήπως αυτό είναι πραγματικά το πρόβλημα που πρέπει να λύσουμε”;

Τι είναι τα τρέχοντα κίνδυνοι στην αγορά με μη αντιπροσωπευτικά δεδομένα;

Από αναρίθμητες μελέτες και πραγματικά παραδείγματα, γνωρίζουμε ότι αν χτίσουμε έναν αλγόριθμο, χρησιμοποιώντας μόνο δεδομένα από τη δυτική ακτή, και τον φέρουμε στη νοτιοανατολική, δεν θα δουλέψει. Κάθε φορά που ακούμε ιστορίες για AI που δουλεύει καλά στο νοσοκομείο του βορειοανατολικού που δημιουργήθηκε, και όταν το εγκαθιστάτε αλλού, η ακρίβεια πέφτει σε λιγότερο από 50%.

Πιστεύω ότι ο βασικός σκοπός του AI, σε ένα ηθικό επίπεδο, είναι ότι πρέπει να μειώσει τις υγειονομικές ανισότητες. Ο στόχος είναι να κάνει την ποιότητα φροντίδας προσιτή και διαθέσιμη σε όλους. Αλλά το πρόβλημα είναι ότι όταν το χτίζεις με κακά δεδομένα, αυξάνεις τις ανισότητες. Αποτυγχάνουμε στην αποστολή της υγείας AI αν αφήσουμε να δουλεύει μόνο για τους λευκούς άντρες από τις ακτές. Οι άνθρωποι από υποαντιπροσωπευμένα υπόβαθρα θα υποφέρουν περισσότερο από τις διακρίσεις ως αποτέλεσμα, όχι λιγότερο.

Μπορείτε να συζητήσετε πώς η Gradient Health προμηθεύεται δεδομένα;

Βέβαια, συνεργαζόμαστε με όλα τα είδη υγειονομικών συστημάτων σε όλο τον κόσμο, τα δεδομένα των οποίων διαφορετικά παραμένουν αποθηκευμένα, κοστίζουν χρήματα, και δεν ωφελούν κανένα. Αφαιρούμε σχολαστικά τα αναγνωριστικά προσωπικά στοιχεία από τα δεδομένα στην πηγή και τα οργανώνουμε για τους ερευνητές.

Πώς η Gradient Health διασφαλίζει ότι τα δεδομένα είναι αμερόληπτα και όσο το δυνατόν πιο ποικίλα;

Υπάρχουν πολλοί τρόποι. Για παράδειγμα, όταν συλλέγουμε δεδομένα, βεβαιωνόμαστε ότι περιλαμβάνουμε πολλά κλινικά ιδρύματα, όπου συχνά υπάρχουν πιο αντιπροσωπευτικά δεδομένα, καθώς και τα μεγαλύτερα νοσοκομεία. Επίσης, προμηθευόμαστε τα δεδομένα μας από ένα μεγάλο αριθμό κλινικών ιδρυμάτων. Προσπαθούμε να πάρουμε όσο το δυνατόν περισσότερα ιδρύματα από όσο το δυνατόν περισσότερες πληθυσμιακές ομάδες. Έτσι, όχι μόνο να έχουμε ένα μεγάλο αριθμό ιδρυμάτων, αλλά και να τα έχουμε γεωγραφικά και κοινωνικοοικονομικά ποικίλα. Διότι αν όλα τα ιδρύματα είναι από τα νοσοκομεία του κέντρου, δεν είναι ακόμη αντιπροσωπευτικά δεδομένα, είναι;

Για να επικυρώσουμε όλα αυτά, τρέχουμε στατιστικά σε όλα αυτά τα σύνολα δεδομένων, και τα προσαρμόζουμε για τον πελάτη, για να βεβαιωθούμε ότι λαμβάνουν δεδομένα που είναι ποικίλα σε όρους τεχνολογίας και δημογραφίας.

Γιατί είναι αυτό το επίπεδο ελέγχου δεδομένων τόσο σημαντικό για τη σχεδίαση αλγορίθμων AI;

Υπάρχουν πολλές μεταβλητές που ένας αλγόριθμος μπορεί να συναντήσει στον πραγματικό κόσμο, και ο στόχος μας είναι να διασφαλίσουμε ότι ο αλγόριθμος είναι όσο το δυνατόν πιο ανθεκτικός. Για να απλοποιήσουμε τα πράγματα, σκεφτόμαστε πέντε βασικές μεταβλητές στα δεδομένα μας. Η πρώτη μεταβλητή που σκεφτόμαστε είναι “κατασκευαστής εξοπλισμού”. Είναι προφανές, αλλά αν χτίσετε έναν αλγόριθμο μόνο με δεδομένα από σαρωτές GE, δεν θα δουλέψει τόσο καλά σε έναν σαρωτή Hitachi, για παράδειγμα.

Με παρόμοιο τρόπο είναι η μεταβλητή “μοντέλο εξοπλισμού”. Αυτή η μεταβλητή είναι πραγματικά ενδιαφέρουσα από μια προοπτική υγείας ανισότητας. Ξέρουμε ότι τα μεγάλα, καλά χρηματοδοτούμενα ερευνητικά νοσοκομεία τείνουν να έχουν τα τελευταία και καλύτερα μοντέλα σαρωτών. Και, αν εκπαιδεύσουν το AI τους μόνο με δεδομένα από τα δικά τους μοντέλα του 2022, δεν θα δουλέψει τόσο καλά σε ένα παλαιότερο μοντέλο του 2010. Αυτά τα παλαιότερα συστήματα είναι ακριβώς αυτά που βρίσκονται σε λιγότερο ευημερούσες και αγροτικές περιοχές. Έτσι, με το να χρησιμοποιούν μόνο δεδομένα από νέα μοντέλα, εισάγουν ακούσια περαιτέρω μεροληψία κατά των ανθρώπων από αυτές τις κοινότητες.

Οι άλλες βασικές μεταβλητές είναι το φύλο, η εθνικότητα και η ηλικία, και πάμε σε μεγάλο βαθμό για να διασφαλίσουμε ότι τα δεδομένα μας είναι αναλογικά ισορροπημένα σε όλα αυτά.

Τι είναι κάποια από τα ρυθμιστικά εμπόδια που αντιμετωπίζουν οι εταιρείες MedTech;

Αρχίζουμε να βλέπουμε την FDA να ερευνά την προκατάληψη στα σύνολα δεδομένων. Έχουμε ερευνητές που έρχονται σε εμάς και λένε “η FDA έχει απορρίψει τον αλγόριθμο μας επειδή έλειπε ένα 15% Αφροαμερικανικό πληθυσμό” (το περίπου ποσοστό των Αφροαμερικανών που αποτελούν τον πληθυσμό των ΗΠΑ). Έχουμε ακούσει για έναν προγραμματιστή που του είπαν ότι χρειάζεται να περιλαμβάνει 1 % άτομα από τη Χαβάη και τα νησιά του Ειρηνικού στα δεδομένα εκπαίδευσης.

Έτσι, η FDA αρχίζει να καταλαβαίνει ότι αυτοί οι αλγόριθμοι, οι οποίοι εκπαιδεύτηκαν μόνο σε ένα νοσοκομείο, δεν δουλεύουν στον πραγματικό κόσμο. Το γεγονός είναι ότι αν θέλετε σήμανση CE και άδεια από τον FDA, πρέπει να προσκομίσετε με ένα σύνολο δεδομένων που αντιπροσωπεύει τον πληθυσμό. Δεν είναι πλέον αποδεκτό να εκπαιδεύσετε έναν αλγόριθμο σε ένα μικρό ή μη αντιπροσωπευτικό σύνολο.

Το ρίσκο για τις εταιρείες MedTech είναι ότι επενδύουν εκατομμύρια δολάρια για να φέρουν την τεχνολογία τους σε ένα σημείο όπου νομίζουν ότι είναι έτοιμες για ρυθμιστική έγκριση, και τότε αν δεν μπορέσουν να την πάρουν, δεν θα λάβουν ποτέ αποζημίωση ή έσοδα. Τελικά, ο δρόμος προς την εμπορική εκμετάλλευση και ο δρόμος για να έχουν το είδος του επωφελήματος στην υγεία που θέλουν να έχουν απαιτεί από αυτούς να φροντίσουν για την προκατάληψη δεδομένων.

Τι είναι κάποια από τις επιλογές για την υπέρβαση αυτών των εμποδίων από μια προοπτική δεδομένων;

Τα τελευταία χρόνια, οι μεθόδοι διαχείρισης δεδομένων έχουν εξελιχθεί, και οι προγραμματιστές τεχνητής νοημοσύνης έχουν τώρα περισσότερες επιλογές διαθέσιμες από ποτέ. Από μεσάζοντες δεδομένων και συνεργάτες έως federated learning και συνθετικά δεδομένα, υπάρχουν νέες προσεγγίσεις σε αυτά τα εμπόδια. Όποια μέθοδο επιλέξουν, πάντα τους ενθαρρύνουμε να σκεφτούν αν τα δεδομένα τους είναι πραγματικά αντιπροσωπευτικά του πληθυσμού που θα χρησιμοποιήσει το προϊόν. Αυτό είναι το πιο δύσκολο μέρος της προμήθειας δεδομένων.

Μια λύση που προσφέρει η Gradient Health είναι η Gradient Label, τι είναι αυτή η λύση και πώς επιτρέπει την επισήμανση δεδομένων σε κλίμακα;

Η AI ιατρικής εικόνας δεν απαιτεί μόνο δεδομένα, αλλά και επισημάνσεις ειδικών. Και βοηθάμε τις εταιρείες να πάρουν αυτές τις επισημάνσεις ειδικών, συμπεριλαμβανομένων επισημάνσεων από ακτινολόγους.

Τι είναι η όρασή σας για το μέλλον του AI και των δεδομένων στην υγεία;

Υπάρχουν ήδη χιλιάδες εργαλεία AI που εξετάζουν όλα, από τις άκρες των δακτύλων σας έως τις άκρες των ποδιών σας, και πιστεύω ότι αυτό θα συνεχιστεί. Πιστεύω ότι θα υπάρχουν τουλάχιστον 10 αλγόριθμοι για κάθε κατάσταση σε ένα ιατρικό εγχειρίδιο. Κάθε ένας θα έχει πολλαπλά, πιθανώς ανταγωνιστικά, εργαλεία για να βοηθήσουν τους κλινικούς να παρέχουν την καλύτερη φροντίδα.

Δεν πιστεύω ότι θα δούμε ένα Star Trek στυλ Tricorder που σαρώνει κάποιον και αντιμετωπίζει κάθε πιθανό ζήτημα από την κορυφή έως τα πόδια. Αντίθετα, θα έχουμε ειδικές εφαρμογές για κάθε υποσύνολο.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστείτε για την Gradient Health;

Είμαι ενθουσιασμένος για το μέλλον. Πιστεύω ότι κινούμαστε προς έναν τόπο όπου η υγεία είναι φθηνή, ισότιμη και διαθέσιμη σε όλους, και είμαι πρόθυμος να δώσω την ευκαιρία στην Gradient να παίξει έναν θεμελιώδη ρόλο στη δημιουργία αυτού. Όλη η ομάδα εδώ πιστεύει πραγματικά σε αυτήν την αποστολή, και υπάρχει ένα κοινό πάθος μεταξύ τους που δεν βρίσκεται σε κάθε εταιρεία. Και το αγαπώ!

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν Gradient Health.