Τζος Μίλερ, Διευθύνων Σύμβουλος της Gradient Health – Σειρά Συνεντεύξεων

Ο Τζος Μίλερ είναι ο Διευθύνων Σύμβουλος της Gradient Health, μια εταιρεία που ιδρύθηκε με βάση την ιδέα ότι οι αυτοματοποιημένες διαγνώσεις πρέπει να υπάρχουν για να είναι η υγεία ισότιμη και διαθέσιμη σε όλους. Η Gradient Health στοχεύει να επιταχύνει τις αυτοματοποιημένες διαγνώσεις AI με δεδομένα που είναι οργανωμένα, επεξηγημένα και διαθέσιμα.

Μπορείτε να μοιραστείτε την ιστορία της Gradient Health;

Ο συνιδρυτής μου Ouwen και εγώ acabamos την πρώτη μας εταιρεία, FarmShots, η οποία χρησιμοποιούσε την όραση υπολογιστή για να βοηθήσει στη μείωση της ποσότητας των ψεκασμών που χρησιμοποιούνται στη γεωργία, και ψάχναμε για την επόμενη πρόκληση.

Είμαστε πάντα мотивовані από την επιθυμία να βρούμε ένα δύσκολο πρόβλημα να λυθεί με τεχνολογία που α) έχει την ευκαιρία να κάνει πολλά καλά στον κόσμο, και β) οδηγεί σε một σOLID επιχείρηση. Ο Ouwen εργαζόταν για το ιατρικό του πτυχίο, και με την εμπειρία μας στην όραση υπολογιστή, η ιατρική εικόνα ήταν ένα φυσικό ταιριάζει για εμάς. Λόγω της καταστροφικής επίδρασης του καρκίνου του μαστού, επέλεξαμε τη μαμμографія ως μια πιθανή πρώτη εφαρμογή. Έτσι, είπαμε, “Ok, πού αρχίζουμε; Χρειαζόμαστε δεδομένα. Χρειαζόμαστε χιλιάδες μαμμограмμές. Πού παίρνουμε τέτοια δεδομένα;” και η απάντηση ήταν “Καμία”. Καταλάβαμε αμέσως, είναι πραγματικά δύσκολο να βρεθούν δεδομένα. Μετά από μήνες, αυτή η απογοήτευση εξελίχθηκε σε ένα φιλοσοφικό πρόβλημα για εμάς, σκεφτήκαμε “οποιοςδήποτε που προσπαθεί να κάνει καλό σε αυτόν τον χώρο δεν πρέπει να πρέπει να αγωνιστεί και να παλέψει για να πάρει τα δεδομένα που χρειάζεται για να xây dựng αλγόριθμους που σώζουν ζωές”. Και così, είπαμε “hey, μήπως αυτό είναι πραγματικά το πρόβλημα που πρέπει να λύσουμε”;

Τι είναι τα τρέχοντα риски στην αγορά με μη αντιπροσωπευτικά δεδομένα;

Από无数 μελέτες και πραγματικά παραδείγματα, γνωρίζουμε ότι αν χτίσουμε einen αλγόριθμο, χρησιμοποιώντας μόνο δεδομένα από τη δυτική ακτή, και τον φέρουμε στη νοτιοανατολική, δεν θα δουλέψει. Κάθε φορά που ακούμε ιστορίες για AI που δουλεύει καλά στο νοσοκομείο του βορειοανατολικού που δημιουργήθηκε, και όταν το εγκαθιστάτε αλλού, η ακρίβεια πέφτει σε λιγότερο από 50%.

Πιστεύω ότι ο βασικός σκοπός του AI, σε ένα ηθικό επίπεδο, είναι ότι πρέπει να μειώσει τις υγειονομικές ανισότητες. Ο στόχος είναι να κάνει την ποιότητα φροντίδας προσιτή και διαθέσιμη σε όλους. Αλλά το πρόβλημα είναι ότι όταν το χτίζεις με κακά δεδομένα, αυξάνεις τις ανισότητες. Αποτυγχάνουμε στην αποστολή της υγείας AI αν αφήσουμε να δουλεύει μόνο για τους λευκούς άντρες από τις ακτές. Οι άνθρωποι από υποαντιπροσωπευμένα υπόβαθρα θα υποφέρουν περισσότερο από τις διακρίσεις ως αποτέλεσμα, όχι λιγότερο.

Μπορείτε να συζητήσετε πώς η Gradient Health πηγαίνει τα δεδομένα;

Βέβαια, συνεργαζόμαστε με όλα τα είδη υγειονομικών συστημάτων σε όλο τον κόσμο, τα δεδομένα των οποίων είναι διαθέσιμα, κοστίζουν χρήματα, και δεν ωφελούν κανένα. Αποταυτίζουμε τα δεδομένα τους με προσοχή και τα οργανώνουμε για τους ερευνητές.

Πώς η Gradient Health διασφαλίζει ότι τα δεδομένα είναι αμερόληπτα και όσο το δυνατόν πιο ποικίλα;

Υπάρχουν πολλοί τρόποι. Για παράδειγμα, όταν συλλέγουμε δεδομένα, βεβαιωνόμαστε ότι περιλαμβάνουμε πολλά κλινικά ιδρύματα, όπου συχνά υπάρχουν πιο αντιπροσωπευτικά δεδομένα, καθώς και τα μεγαλύτερα νοσοκομεία. Επίσης, πηγαίνουμε τα δεδομένα μας από ένα μεγάλο αριθμό κλινικών ιδρυμάτων. Προσπαθούμε να πάρουμε όσο το δυνατόν περισσότερα ιδρύματα από όσο το δυνατόν περισσότερες πληθυσμιακές ομάδες. Έτσι, όχι μόνο να έχουμε ένα μεγάλο αριθμό ιδρυμάτων, αλλά και να τα έχουμε γεωγραφικά και κοινωνικοοικονομικά ποικίλα. Διότι αν όλα τα ιδρύματα είναι από τα νοσοκομεία του κέντρου, δεν είναι ακόμη αντιπροσωπευτικά δεδομένα, είναι;

Για να επικυρώσουμε όλα αυτά, τρέχουμε στατιστικά σε όλα αυτά τα σύνολα δεδομένων, και τα προσαρμόζουμε για τον πελάτη, για να βεβαιωθούμε ότι λαμβάνουν δεδομένα που είναι ποικίλα σε όρους τεχνολογίας και δημογραφίας.

Γιατί είναι αυτό το επίπεδο ελέγχου δεδομένων τόσο σημαντικό για τη σχεδίαση αλγορίθμων AI;

Υπάρχουν πολλές μεταβλητές που ένας αλγόριθμος μπορεί να συναντήσει στον πραγματικό κόσμο, και ο στόχος μας είναι να διασφαλίσουμε ότι ο αλγόριθμος είναι όσο το δυνατόν πιο robust. Για να απλοποιήσουμε τα πράγματα, σκεφτόμαστε πέντε βασικές μεταβλητές στα δεδομένα μας. Η πρώτη μεταβλητή που σκεφτόμαστε είναι “κατασκευαστής εξοπλισμού”. Είναι προφανές, αλλά αν χτίσετε einen αλγόριθμο μόνο με δεδομένα από σαρωτές GE, δεν θα δουλέψει τόσο καλά σε einen σαρωτή Hitachi, για παράδειγμα.

Σε類似的 γραμμές είναι η μεταβλητή “μοντέλο εξοπλισμού”. Αυτή η μεταβλητή είναι πραγματικά ενδιαφέρουσα από μια προοπτική υγείας ανισότητας. Ξέρουμε ότι τα μεγάλα, καλά χρηματοδοτούμενα ερευνητικά νοσοκομεία τείνουν να έχουν τα τελευταία και καλύτερα μοντέλα σαρωτών. Και, αν εκπαιδεύσουν το AI τους μόνο με δεδομένα από τα δικά τους μοντέλα του 2022, δεν θα δουλέψει τόσο καλά σε ένα παλαιότερο μοντέλο του 2010. Αυτά τα παλαιότερα συστήματα είναι ακριβώς αυτά που βρίσκονται σε λιγότερο ευημερούσες και αγροτικές περιοχές. Έτσι, με το να χρησιμοποιούν μόνο δεδομένα από νέα μοντέλα, εισάγουν ανεπίσημα περαιτέρω προκατάληψη κατά των ανθρώπων από αυτές τις κοινότητες.

Οι άλλες βασικές μεταβλητές είναι το φύλο, η εθνικότητα και η ηλικία, και πάμε σε μεγάλο βαθμό για να διασφαλίσουμε ότι τα δεδομένα μας είναι αναλογικά ισορροπημένα σε όλα αυτά.

Τι είναι κάποια από τα ρυθμιστικά εμπόδια που αντιμετωπίζουν οι εταιρείες MedTech;

Αρχίζουμε να βλέπουμε την FDA να ερευνά την προκατάληψη στα σύνολα δεδομένων. Έχουμε ερευνητές που έρχονται σε εμάς και λένε “η FDA έχει απορρίψει τον αλγόριθμο μας επειδή έλειπε ένα 15% Αφροαμερικανικό πληθυσμό” (το περίπου ποσοστό των Αφροαμερικανών που αποτελούν τον πληθυσμό των ΗΠΑ). Έχουμε ακούσει για einen développeur που του είπαν ότι χρειάζεται να περιλαμβάνει 1% Pacific Hawaiian Islanders στα δεδομένα εκπαίδευσης.

Έτσι, η FDA αρχίζει να καταλαβαίνει ότι αυτοί οι αλγόριθμοι, οι οποίοι εκπαιδεύτηκαν μόνο σε ένα νοσοκομείο, δεν δουλεύουν στον πραγματικό κόσμο. Το γεγονός είναι ότι αν θέλετε να πάρει CE marking & FDA clearance, πρέπει να έρθουν με ένα σύνολο δεδομένων που αντιπροσωπεύει τον πληθυσμό. Δεν είναι πλέον αποδεκτό να εκπαιδεύσετε einen αλγόριθμο σε ένα μικρό ή μη αντιπροσωπευτικό σύνολο.

Το ρίσκο για τις εταιρείες MedTech είναι ότι επενδύουν εκατομμύρια δολάρια για να φέρουν την τεχνολογία τους σε ένα σημείο όπου νομίζουν ότι είναι έτοιμες για ρυθμιστική έγκριση, και τότε αν δεν μπορέσουν να την πάρουν, δεν θα λάβουν ποτέ αποζημίωση ή έσοδα. Τελικά, ο δρόμος προς την εμπορική εκμετάλλευση και ο δρόμος για να έχουν το είδος του επωφελήματος στην υγεία που θέλουν να έχουν απαιτεί από αυτούς να φροντίσουν για την προκατάληψη δεδομένων.

Τι είναι κάποια από τις επιλογές για την υπέρβαση αυτών των εμποδίων από μια προοπτική δεδομένων;

Τα τελευταία χρόνια, οι μεθόδοι διαχείρισης δεδομένων έχουν εξελιχθεί, και οι développeurs AI έχουν τώρα περισσότερες επιλογές διαθέσιμες από ποτέ. Από μεσάζοντες δεδομένων και συνεργάτες έως federated learning και συνθετικά δεδομένα, υπάρχουν νέες προσεγγίσεις σε αυτά τα εμπόδια. Όποια μέθοδο επιλέξουν, πάντα τους ενθαρρύνουμε να σκεφτούν αν τα δεδομένα τους είναι πραγματικά αντιπροσωπευτικά του πληθυσμού που θα χρησιμοποιήσει το προϊόν. Αυτό είναι το πιο δύσκολο μέρος της πήξης δεδομένων.

Μια λύση που προσφέρει η Gradient Health είναι η Gradient Label, τι είναι αυτή η λύση και πώς επιτρέπει την επισήμανση δεδομένων σε κλίμακα;

Η AI ιατρικής εικόνας δεν απαιτεί μόνο δεδομένα, αλλά και εμπειρογνώμονες επισήμανσεις. Και βοηθάμε τις εταιρείες να πάρουν αυτές τις εμπειρογνώμονες επισήμανσεις, συμπεριλαμβανομένων των ακτινολόγων.

Τι είναι η όρασή σας για το μέλλον του AI και των δεδομένων στην υγεία;

Υπάρχουν ήδη χιλιάδες εργαλεία AI που εξετάζουν όλα, από τις άκρες των δακτύλων σας έως τις άκρες των ποδιών σας, και πιστεύω ότι αυτό θα συνεχιστεί. Πιστεύω ότι θα υπάρχουν τουλάχιστον 10 αλγόριθμοι για κάθε κατάσταση σε ένα ιατρικό εγχειρίδιο. Κάθε ένας θα έχει πολλαπλά, πιθανώς ανταγωνιστικά, εργαλεία για να βοηθήσουν τους κλινικούς να παρέχουν την καλύτερη φροντίδα.

Δεν πιστεύω ότι θα δούμε ένα Star Trek στυλ Tricorder που σαρώνει κάποιον και αντιμετωπίζει κάθε πιθανό ζήτημα από την κορυφή έως τα πόδια. Αντίθετα, θα έχουμε ειδικές εφαρμογές για κάθε υποσύνολο.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστείτε για την Gradient Health;

Είμαι ενθουσιασμένος για το μέλλον. Πιστεύω ότι κινούμαστε προς einen τόπο όπου η υγεία είναι φθηνή, ισότιμη και διαθέσιμη σε όλους, και είμαι πρόθυμος να δώσω την ευκαιρία στην Gradient να παίξει einen θεμελιώδη ρόλο στη δημιουργία αυτού. Όλη η ομάδα εδώ πιστεύει πραγματικά σε αυτήν την αποστολή, και υπάρχει μια ενωμένη πάθος μεταξύ τους που δεν βρίσκεται σε κάθε εταιρεία. Και το αγαπώ!

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν Gradient Health.