Josh Miller, Διευθύνων Σύμβουλος της Gradient Health – Σειρά Συνεντεύξεων

Ο Josh Miller είναι ο Διευθύνων Σύμβουλος της Gradient Health, μια εταιρεία που ιδρύθηκε με την ιδέα ότι οι αυτοματοποιημένες διαγνωστικές εξετάσεις πρέπει να υπάρχουν για να είναι η υγεία ισότιμη και διαθέσιμη σε όλους. Η Gradient Health στοχεύει να επιταχύνει τις αυτοματοποιημένες διαγνωστικές εξετάσεις με δεδομένα που είναι οργανωμένα, επισημασμένα και διαθέσιμα.

Μπορείτε να μοιραστείτε την ιστορία της γένεσης της Gradient Health;

Ο συνιδρυτής μου Ouwen και εγώ μόλις hatten εξόδους από την πρώτη μας εταιρεία, FarmShots, η οποία χρησιμοποιούσε την όραση υπολογιστή για να βοηθήσει στη μείωση της ποσότητας των ψεκαστικών που χρησιμοποιούνται στη γεωργία, και ψάχναμε για την επόμενη πρόκληση.

Είμαστε πάντα мотιβовані από την επιθυμία να βρούμε ένα δύσκολο πρόβλημα να λυθεί με την τεχνολογία που α) έχει την ευκαιρία να κάνει πολλά καλά στον κόσμο και β) οδηγεί σε μια στερεή επιχείρηση. Ο Ouwen εργαζόταν στην ιατρική του διπλώμα, και με την εμπειρία μας στην όραση υπολογιστή, η ιατρική εικόνα ήταν μια φυσική επιλογή για μας. Λόγω της καταστροφικής επίδρασης του καρκίνου του μαστού, επέλεξαμε την μαμμογραφία ως πιθανή πρώτη εφαρμογή. Έτσι, είπαμε, “Ok, από πού ξεκινάμε; Χρειαζόμαστε δεδομένα. Χρειαζόμαστε χιλιάδες μαμμοグラφίες. Πού μπορείτε να πάρει αυτή τη κλίμακα δεδομένων;” και η απάντηση ήταν “Καμία”. Καταλάβαμε αμέσως, είναι πραγματικά δύσκολο να βρείτε δεδομένα. Μετά από μήνες, αυτή η απογοήτευση μεγάλωσε σε ένα φιλοσοφικό πρόβλημα για μας, σκεφτήκαμε “οποιοσδήποτε που προσπαθεί να κάνει καλό σε αυτόν τον χώρο δεν πρέπει να πρέπει να αγωνίζεται και να παλεύει για να πάρει τα δεδομένα που χρειάζονται για να xây dựng αλγόριθμους που σώζουν ζωές”. Και così, είπαμε “hey, μήπως αυτό είναι πραγματικά το πρόβλημά μας να λυθεί”.

Τι είναι τα τρέχοντα рисks στην αγορά με μη αντιπροσωπευτικά δεδομένα;

Από αμέτρητες μελέτες και πραγματικά παραδείγματα, γνωρίζουμε ότι αν χτίσουμε έναν αλγόριθμο, χρησιμοποιώντας μόνο δεδομένα από την δυτική ακτή, και το φέρουμε στο νοτιοανατολικό, δεν θα δουλέψει. Χρόνος και καιρό ακούμε ιστορίες για AI που δουλεύει καλά στο νοσοκομείο του βορειοανατολικού όπου δημιουργήθηκε, και τότε όταν το αναπτύσσουν αλλού η ακρίβεια πέφτει σε λιγότερο από 50%.

Πιστεύω ότι ο θεμελιώδης σκοπός του AI, σε ένα ηθικό επίπεδο, είναι ότι πρέπει να μειώσει τις υγειονομικές ανισότητες. Ο στόχος είναι να κάνει την ποιότητα φροντίδας προσιτή και διαθέσιμη σε όλους. Αλλά το πρόβλημα είναι όταν το χτίζετε σε κακά δεδομένα, πραγματικά αυξάνετε τις ανισότητες. Αποτυγχάνουμε στην αποστολή της υγειονομικής AI αν αφήσουμε να δουλέψει μόνο για τους λευκούς άντρες από τις ακτές. Οι άνθρωποι από υποαντιπροσωπευμένα περιβάλλοντα θα υποφέρουν πραγματικά περισσότερη διάκριση ως αποτέλεσμα, όχι λιγότερη.

Μπορείτε να συζητήσετε πώς η Gradient Health πηγαίνει δεδομένα;

Ναι, συνεργαζόμαστε με όλους τους τύπους υγειονομικών συστημάτων σε όλο τον κόσμο των οποίων τα δεδομένα είναι διαφορετικά αποθηκευμένα, κοστίζοντας τους χρήματα, και δεν ωφελούν κανένα. Απο-ταυτοποιούμε τα δεδομένα τους στην πηγή και τότε τα οργανώνουμε προσεκτικά για τους ερευνητές.

Πώς η Gradient Health διασφαλίζει ότι τα δεδομένα είναι αμερόληπτα και όσο το δυνατόν πιο ποικίλα;

Υπάρχουν πολλά τρόποι. Για παράδειγμα, όταν συλλέγουμε δεδομένα, βεβαιωνόμαστε ότι περιλαμβάνουμε πολλά κοινοτικά κλινικά, όπου συχνά υπάρχουν πιο αντιπροσωπευτικά δεδομένα, καθώς και μεγαλύτερα νοσοκομεία. Επίσης, πηγαίνουμε τα δεδομένα μας από ένα μεγάλο αριθμό κλινικών ιστότοπων. Προσπαθούμε να πάρουμε όσο το δυνατόν περισσότερους ιστότοπους από όσο το δυνατόν περισσότερες πληθυσμιακές ομάδες. Έτσι, όχι μόνο έχουμε ένα μεγάλο αριθμό ιστότοπων, αλλά και έχουν γεωγραφική και κοινωνικοοικονομική ποικιλία. Διότι αν όλοι οι ιστότοποι σας είναι από downtown νοσοκομεία, δεν είναι ακόμη αντιπροσωπευτικά δεδομένα, είναι;

Για να επικυρώσουμε όλα αυτά, τρέχουμε στατιστικά σε όλα αυτά τα σύνολα δεδομένων και τα προσαρμόζουμε για τον πελάτη, για να βεβαιωθούμε ότι λαμβάνουν δεδομένα που είναι ποικίλα όσον αφορά την τεχνολογία και τη δημογραφία.

Γιατί είναι αυτό το επίπεδο ελέγχου δεδομένων τόσο σημαντικό για το σχεδιασμό ροβούστων αλγορίθμων AI;

Υπάρχουν πολλές μεταβλητές που ένας αλγόριθμος AI μπορεί να συναντήσει στον πραγματικό κόσμο, και ο στόχος μας είναι να διασφαλίσουμε ότι ο αλγόριθμος είναι όσο το δυνατόν πιο ροβούστος. Για να απλοποιήσουμε τα πράγματα, σκεφτόμαστε πέντε κλειδιά μεταβλητές στα δεδομένα μας. Η πρώτη μεταβλητή που σκεφτόμαστε είναι “κατασκευαστής εξοπλισμού”. Είναι προφανές, αλλά αν χτίσουμε έναν αλγόριθμο μόνο χρησιμοποιώντας δεδομένα από σαρωτές GE, δεν θα εκτελεστεί τόσο καλά σε einen σαρωτή Hitachi, για παράδειγμα.

Σε παρόμοιες γραμμές είναι η μεταβλητή “μοντέλο εξοπλισμού”. Αυτή η μεταβλητή είναι πραγματικά khá ενδιαφέρουσα από μια υγειονομική άποψη ανισότητας. Ξέρουμε ότι τα μεγάλα, καλά χρηματοδοτούμενα ερευνητικά νοσοκομεία τείνουν να έχουν τα τελευταία και καλύτερα μοντέλα σαρωτών. Και, αν εκπαιδεύσουν μόνο τον αλγόριθμο AI τους χρησιμοποιώντας δεδομένα από τα δικά τους μοντέλα του 2022, δεν θα δουλέψει τόσο καλά σε ένα παλαιότερο μοντέλο του 2010. Αυτά τα παλαιότερα συστήματα είναι ακριβώς αυτά που βρίσκονται σε λιγότερο ευημερούσες και αγροτικές περιοχές. Έτσι, χρησιμοποιώντας μόνο δεδομένα από νέα μοντέλα, εισάγουν ανεπίσημα περισσότερη προκατάληψη κατά των ανθρώπων από αυτές τις κοινότητες.

Οι άλλες κλειδιά μεταβλητές είναι το φύλο, η εθνικότητα και η ηλικία, και πάμε σε μεγάλο βαθμό για να βεβαιωθούμε ότι τα δεδομένα μας είναι αναλογικά ισορροπημένα σε όλες τις.

Τι είναι κάποια από τα ρυθμιστικά εμπόδια που αντιμετωπίζουν οι εταιρείες MedTech;

Αρχίζουμε να βλέπουμε την FDA να ερευνά πραγματικά την προκατάληψη στα σύνολα δεδομένων. Έχουμε ερευνητές που έρχονται σε μας και λένε “η FDA έχει απορρίψει τον αλγόριθμο μας επειδή έλλειπε ένα 15% Αφροαμερικανικό πληθυσμό” (το περίπου ποσοστό των Αφροαμερικανών που είναι μέρος του πληθυσμού των ΗΠΑ). Έχουμε επίσης ακούσει για έναν developer που του είπαν ότι χρειάζεται να περιλαμβάνει 1% Πασιφικών Νησιωτών του Ινδικού Ωκεανού στα δεδομένα εκπαίδευσης.

Έτσι, η FDA αρχίζει να συνειδητοποιεί ότι αυτοί οι αλγόριθμοι, που εκπαιδεύτηκαν μόνο σε ένα νοσοκομείο, δεν δουλεύουν στον πραγματικό κόσμο. Το γεγονός είναι ότι, αν θέλετε να πάρει CE marking & FDA clearance, πρέπει να έρθει με ένα σύνολο δεδομένων που αντιπροσωπεύει τον πληθυσμό. Δεν είναι πλέον αποδεκτό να εκπαιδεύσετε έναν αλγόριθμο AI χρησιμοποιώντας ένα μικρό ή μη αντιπροσωπευτικό σύνολο.

Το ρίσκο για τις εταιρείες MedTech είναι ότι επενδύουν εκατομμύρια δολάρια για να φέρουν την τεχνολογία τους σε ένα σημείο όπου νομίζουν ότι είναι έτοιμες για ρυθμιστική έγκριση, και τότε αν δεν μπορέσουν να το πάρουν, δεν θα λάβουν ποτέ αποζημίωση ή έσοδα. Τελικά, ο δρόμος προς την εμποριοποίηση και ο δρόμος προς το να έχουν το είδος της ωφέλιμης επίδρασης στην υγεία που θέλουν να έχουν απαιτεί από αυτούς να φροντίζουν για την προκατάληψη δεδομένων.

Τι είναι κάποια από τις επιλογές για την υπέρβαση αυτών των εμποδίων από μια προοπτική δεδομένων;

Τα τελευταία χρόνια, οι μεθόδοι διαχείρισης δεδομένων έχουν εξελιχθεί, και οι développers AI έχουν τώρα περισσότερες επιλογές διαθέσιμες από ποτέ. Από μεσάζοντες δεδομένων και συνεργάτες έως federated learning και συνθετικά δεδομένα, υπάρχουν νέες προσεγγίσεις σε αυτά τα εμπόδια. Όποια μέθοδο επιλέξουν, πάντα τους ενθαρρύνουμε να σκεφτούν αν τα δεδομένα τους είναι πραγματικά αντιπροσωπευτικά του πληθυσμού που θα χρησιμοποιήσει το προϊόν. Αυτό είναι με διαφορά το πιο δύσκολο μέρος της συλλογής δεδομένων.

Μια λύση που προσφέρει η Gradient Health είναι η Gradient Label, τι είναι αυτή η λύση και πώς επιτρέπει την επισήμανση δεδομένων σε κλίμακα;

Η ιατρική εικόνα AI δεν απαιτεί μόνο δεδομένα, αλλά και εμπειρογνωμονικές επισήμανσεις. Και βοηθάμε τις εταιρείες να πάρουν αυτές τις εμπειρογνωμονικές επισήμανσεις, συμπεριλαμβανομένων από ραδιολόγους.

Τι είναι η όρασή σας για το μέλλον του AI και των δεδομένων στην υγεία;

Υπάρχουν ήδη χιλιάδες εργαλεία AI εκεί έξω που κοιτάζουν mọi thứ, από τις άκρες των δακτύλων σας έως τις άκρες των ποδιών σας, και πιστεύω ότι αυτό θα συνεχιστεί. Πιστεύω ότι θα υπάρχουν τουλάχιστον 10 αλγόριθμοι για κάθε κατάσταση σε ένα ιατρικό εγχειρίδιο. Κάθε ένας από αυτούς θα έχει πολλαπλά, πιθανώς ανταγωνιστικά, εργαλεία για να βοηθήσουν τους κλινικούς να παρέχουν την καλύτερη φροντίδα.

Δεν πιστεύω ότι θα τελειώσουμε με ένα Star Trek στυλ Tricorder που σαρώνει κάποιον και αντιμετωπίζει κάθε πιθανό ζήτημα από την κορυφή έως τα πόδια. Αντίθετα, θα έχουμε ειδικές εφαρμογές για κάθε υποσύνολο.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστεί για την Gradient Health;

Είμαι ενθουσιασμένος για το μέλλον. Πιστεύω ότι προχωράμε προς einen τόπο όπου η υγεία είναι φθηνή, ισότιμη και διαθέσιμη σε όλους, και είμαι πρόθυμος να δώσει η Gradient την ευκαιρία να παίξει einen θεμελιώδη ρόλο στο να κάνει αυτό να συμβεί. Όλη η ομάδα εδώ πιστεύει πραγματικά σε αυτήν την αποστολή, και υπάρχει μια ενωμένη πάθος μεταξύ τους που δεν exists σε κάθε εταιρεία. Και το αγαπώ!

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα πρέπει να επισκεφθούν Gradient Health.