Ιττάι Ντάγιαν, ιατρός, συνιδρυτής και διευθύνων σύμβουλος της Rhino Health – σειρά συνεντεύξεων

Ο Ιττάι Ντάγιαν, MD είναι ο συνιδρυτής και Διευθύνων Σύμβουλος της Rhino Health. Το υπόβαθρό του είναι στην ανάπτυξη τεχνητής νοημοσύνης και διαγνωστικών, καθώς και στην κλινική ιατρική και έρευνα. Είναι πρώην βασικό μέλος της τομέα υγείας της BCG και διευθυντής νοσοκομείου. Σήμερα, εστιάζει στην συνεισφορά στην ανάπτυξη ασφαλούς, δίκαιης και ουσιαστικά αποτελεσματικής Τεχνητής Νοημοσύνης στην υγεία και τις βιοεπιστήμες. Στη Rhino Health, χρησιμοποιούν την κατανεμημένη υπολογιστική και τη Ομοσπονδιακή Μάθηση ως μέσο για τη διατήρηση της ιδιωτικής ζωής των ασθενών και την προώθηση της συνεργασίας σε όλο το κατακερματισμένο τοπίο της υγείας.

Υπηρέτησε στις Ειδικές Δυνάμεις του Ισραηλινού Στρατού, ηγήθηκε του μεγαλύτερου κέντρου στον κόσμο για την εφαρμογή ερευνητικών αποτελεσμάτων AI στην κλινική πράξη, με έδρα ένα ακαδημαϊκό ιατρικό κέντρο. Είναι ειδικός στην ανάπτυξη και εμπορευματοποίηση Τεχνητής Νοημοσύνης και είναι δρομέας μεγάλων αποστάσεων.

Μπορείτε να μοιραστείτε την ιστορία της γένεσης της Rhino Health;

Η πορεία μου στην Τεχνητή Νοημοσύνη ξεκίνησε όταν ήμουν κλινικός ιατρός και ερευνητής, χρησιμοποιώντας μια πρώιμη μορφή ψηφιακού βιοδείκτη για τη μέτρηση της απόκρισης της θεραπείας στις ψυχικές διαταραχές. Αργότερα, ηγήθηκα του Κέντρου Επιστήμης Κλινικών Δεδομένων (CCDS) στο Mass General Brigham. Εκεί, επέβλεπα την ανάπτυξη δεκάδων κλινικών εφαρμογών Τεχνητής Νοημοσύνης και έζησα από πρώτο χέρι τις υποκείμενες προκλήσεις που σχετίζονται με την πρόσβαση και την «ενεργοποίηση» των δεδομένων που απαιτούνται για την ανάπτυξη και την εκπαίδευση προϊόντων Τεχνητής Νοημοσύνης που πληρούν τις απαιτήσεις των ρυθμιστικών αρχών.

Παρά τις πολλές προόδους στην Τεχνητή Νοημοσύνη της υγείας, ο δρόμος από την ανάπτυξη έως την κυκλοφορία ενός προϊόντος στην αγορά είναι μακρύς και συχνά ανώμαλος. Οι λύσεις συντρίβονται (ή απλώς απογοητεύουν) όταν αναπτύσσονται κλινικά, και η υποστήριξη του πλήρους κύκλου ζωής της Τεχνητής Νοημοσύνης είναι σχεδόν αδύνατη χωρίς τη συνεχή πρόσβαση σε μια σειρά κλινικών δεδομένων. Η πρόκληση έχει μετατοπιστεί από τη δημιουργία μοντέλων σε συντήρηση τους. Για να απαντήσω σε αυτήν την πρόκληση, πείστησα το σύστημα του Mass General Brigham για την αξία της δημιουργίας του δικού τους «ειδικού CRO για Τεχνητή Νοημοσύνη» (CRO = Κλινική Ερευνητική Οργάνωση), για να δοκιμάσουν αλγόριθμους από πολλούς εμπορικούς προγραμματιστές.

Ωστόσο, το πρόβλημα παρέμεινε – τα δεδομένα υγείας είναι ακόμη πολύ απομονωμένα, και ακόμη και μεγάλος όγκος δεδομένων από ένα δίκτυο δεν είναι αρκετός για να ανταποκριθεί στους ολοένα πιο εξειδικευμένους στόχους της ιατρικής Τεχνητής Νοημοσύνης. Το καλοκαίρι του 2020, ξεκίνησα και ηγήθηκα (μαζί με τη Δρ. Μόνα Φλόρες από την NVIDIA (NVDA )), τη μεγαλύτερη παγκοσμίως μελέτη Ομοσπονδιακής Μάθησης (FL) στην υγεία εκείνη την εποχή, EXAM. Χρησιμοποιήσαμε τη Ομοσπονδιακή Μάθηση για να δημιουργήσουμε ένα προγνωστικό μοντέλο για τα αποτελέσματα του COVID, αξιοποιώντας δεδομένα από όλο τον κόσμο, χωρίς να μοιραστούμε κανένα δεδομένο.. Αργότερα, δημοσιεύθηκε στο Nature Medicine, αυτή η μελέτη έδειξε την θετική επίδραση της αξιοποίησης διαφορετικών και διασκορπισμένων συνόλων δεδομένων και υπογράμμισε το δυναμικό για ευρύτερη χρήση της Ομοσπονδιακής Μάθησης στην υγεία.

Αυτή η εμπειρία, ωστόσο, αποκάλυψε μια σειρά προκλήσεων. Αυτές περιελάμβαναν τον συντονισμό δεδομένων σε συνεργαζόμενα ιδρύματα, την εξασφάλιση της ιχνηλασιμότητας και της σωστής περιγραφής των δεδομένων, καθώς και το βάρος που τοποθετείται στα τμήματα IT κάθε ιδρύματος, τα οποία πρέπει να μάθουν τις τελευταίες τεχνολογίες που δεν ήταν συνηθισμένες. Αυτό απαιτούσε μια νέα πλατφόρμα που θα υποστήριζε αυτές τις νέες «κατανεμημένες δεδομενικές» συνεργασίες. Αποφάσισα να συνεργαστώ με τον συνιδρυτή μου, Yuval Baror, για να δημιουργήσουμε μια ολοκληρωμένη πλατφόρμα για την υποστήριξη συνεργασιών που διατηρούν την ιδιωτικότητα. Αυτή η πλατφόρμα είναι η «Πλατφόρμα Rhino Health», αξιοποιώντας τη Ομοσπονδιακή Μάθηση και την υπολογιστική στην περιφέρεια του δικτύου.

Γιατί πιστεύετε ότι τα μοντέλα Τεχνητής Νοημοσύνης συχνά αποτυγχάνουν να παράσχουν τα αναμενόμενα αποτελέσματα σε ένα περιβάλλον υγείας;

Η ιατρική Τεχνητή Νοημοσύνη συχνά εκπαιδεύεται σε μικρά, στενά συνόλα δεδομένων, όπως συνόλα δεδομένων από ένα μόνο ίδρυμα ή γεωγραφική περιοχή, τα οποία οδηγούν στο μοντέλο να λειτουργεί καλά μόνο στα δεδομένα που έχει δει. Όταν ο αλγόριθμος εφαρμόζεται σε ασθενείς ή σενάρια που διαφέρουν από το στενό συνόλο δεδομένων εκπαίδευσης, η απόδοση επηρεάζεται σοβαρά.

Ο Andrew Ng, κατέγραψε την έννοια καλά όταν δήλωσε, «Αποδεικνύεται ότι όταν συλλέγουμε δεδομένα από το Νοσοκομείο του Στάνφορντ…μπορούμε να δημοσιεύσουμε ερευνητικές εργασίες που δείχνουν [τις εφαρμογές] είναι συγκρίσιμες με τους ανθρώπινους ακτινολόγους στην ανίχνευση ορισμένων καταστάσεων. … [Όταν] παίρνουμε το ίδιο μοντέλο, το ίδιο σύστημα Τεχνητής Νοημοσύνης, σε ένα παλαιότερο νοσοκομείο στην οδό, με μια παλαιότερη μηχανή, και ο τεχνικός χρησιμοποιεί ένα ελαφρώς διαφορετικό πρωτόκολλο απεικόνισης, τα δεδομένα παρουσιάζουν μια απόκλιση που προκαλεί την απόδοση του συστήματος Τεχνητής Νοημοσύνης να μειωθεί σημαντικά.»³

Απλά, τα περισσότερα μοντέλα Τεχνητής Νοημοσύνης δεν εκπαιδεύονται σε δεδομένα που είναι αρκετά διαφορετικά και της υψηλής ποιότητας, με αποτέλεσμα την κακή απόδοση στο «πραγματικό κόσμο». Αυτό το ζήτημα έχει τεκμηριωθεί τόσο σε επιστημονικούς όσο και σε μέσα γενικής ενημέρωσης, όπως στο Science και Politico.

Πόσο σημαντικό είναι το τεστ σε διαφορετικές ομάδες ασθενών;

Το τεστ σε διαφορετικές ομάδες ασθενών είναι κρίσιμο για να διασφαλιστεί ότι το προϊόν Τεχνητής Νοημοσύνης δεν είναι μόνο αποτελεσματικό και αποδοτικό, αλλά και ασφαλές. Οι αλγόριθμοι που δεν εκπαιδεύονται ή δεν ελέγχονται σε αρκετά διαφορετικές ομάδες ασθενών μπορεί να υποφέρουν από προκατάληψη αλγορίθμου, ένα σοβαρό ζήτημα στην υγεία και την τεχνολογία υγείας. Όχι μόνο θα αντανακλούν τις προκαταλήψεις που ήταν παρόντες στα δεδομένα εκπαίδευσης, αλλά θα τις επιδεινώσουν και θα ενισχύσουν τις υφιστάμενες ανισότητες λόγω φυλής, εθνότητας, θρησκείας, φύλου και άλλων παραγόντων στην υγεία. Η αποτυχία να ελέγξουν σε διαφορετικές ομάδες ασθενών μπορεί να οδηγήσει σε επικίνδυνα προϊόντα.

Μια πρόσφατη μελέτη⁵, που αξιοποίησε την Πλατφόρμα Rhino Health, ερεύνησε την απόδοση ενός αλγορίθμου ανίχνευσης εγκεφαλικών ανευρυσμάτων που αναπτύχθηκε σε ένα ίδρυμα σε τέσσερα διαφορετικά ιδρύματα με διάφορους τύπους σκανερ. Τα αποτελέσματα έδειξαν σημαντική μεταβλητότητα της απόδοσης σε ιδρύματα με διάφορους τύπους σκανερ, τονίζοντας την σημασία της εκπαίδευσης και του ελέγχου σε διαφορετικά συνόλα δεδομένων.

Πώς μπορείτε να αναγνωρίσετε αν μια υποομάδα πληθυσμού δεν αντιπροσωπεύεται;

Μια κοινή προσέγγιση είναι να αναλύσετε τις κατανομές των μεταβλητών σε διαφορετικά συνόλα δεδομένων, ατομικά και συνδυασμένα. Αυτό μπορεί να ενημερώσει τους προγραμματιστές για την προετοιμασία «συνόλων εκπαίδευσης» και συνόλων επαλήθευσης. Η Πλατφόρμα Rhino Health σας επιτρέπει να το κάνετε αυτό, και επιπλέον, οι χρήστες μπορούν να δουν πώς το μοντέλο λειτουργεί σε διάφορες κοόρτες για να διασφαλίσουν τη γενικευσιμότητα και τη βιώσιμη απόδοση στις υποομάδες πληθυσμού.

Μπορείτε να περιγράψετε τι είναι η Ομοσπονδιακή Μάθηση και πώς λύνει κάποια από αυτά τα ζητήματα;

Η Ομοσπονδιακή Μάθηση (FL) μπορεί να οριστεί ευρέως ως η διαδικασία με την οποία τα μοντέλα Τεχνητής Νοημοσύνης εκπαιδεύονται και συνεχίζουν να βελτιώνονται με τον καιρό, χρησιμοποιώντας διαφορετικά δεδομένα, χωρίς την ανάγκη για κοινή χρήση ή κεντρική αποθήκευση δεδομένων. Αυτό είναι ένα τεράστιο βήμα προς τα εμπρός στην ανάπτυξη Τεχνητής Νοημοσύνης. Ιστορικά, οποιοσδήποτε χρήστης που ήθελε να συνεργαστεί με πολλαπλά ιδρύματα πρέπει να συγχωνεύσει τα δεδομένα μαζί, προκαλώντας μια σειρά από δυσχερείς, δαπανηρές και χρονοβόρες υποχρεώσεις νομικού χαρακτήρα, διαχείρισης κινδύνου και συμμόρφωσης.

Σήμερα, με λογισμικό όπως η Πλατφόρμα Rhino Health, η Ομοσπονδιακή Μάθηση γίνεται μια καθημερινή πραγματικότητα στην υγεία και τις βιοεπιστήμες. Η Ομοσπονδιακή Μάθηση επιτρέπει στους χρήστες να εξερευνούν, να επιλέγουν και να επικυρώνουν δεδομένα ενώ τα δεδομένα παραμένουν στους τοπικούς διακομιστές των συνεργατών. Ο κώδικας σε κοντέινερ, όπως ένας αλγόριθμος Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης ή μια εφαρμογή ανάλυσης, αποστέλλεται στον τοπικό διακομιστή όπου εκτελείται ο κώδικας, όπως η εκπαίδευση ή η επικύρωση ενός αλγορίθμου Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης, «τοπικά». Τα δεδομένα παραμένουν με τον «διαχειριστή δεδομένων» ανά πάσα στιγμή.

Τα νοσοκομεία, ιδιαίτερα, είναι ανήσυχα για τους κινδύνους που σχετίζονται με τη συσσώρευση ευαίσθητων δεδομένων ασθενών. Αυτό έχει ήδη οδηγήσει σε ντροπιαστικές καταστάσεις, όπου έχει γίνει σαφές ότι οι οργανώσεις υγείας συνεργάστηκαν με την βιομηχανία χωρίς να κατανοούν ακριβώς τη χρήση των δεδομένων τους. Αυτό έχει οδηγήσει στην περιορισμένη συνεργασία μεταξύ της βιομηχανίας και των ακαδημαϊκών ερευνητών, επιβραδύνοντας την έρευνα και ανάπτυξη και επηρεάζοντας την ποιότητα των προϊόντων σε όλον τον κλάδο υγείας. Η Ομοσπονδιακή Μάθηση μπορεί να μετριάσει αυτό και να ενεργοποιήσει συνεργασίες δεδομένων όπως ποτέ πριν, ενώ ελέγχει τον κίνδυνο που σχετίζεται με αυτές τις συνεργασίες.

Μπορείτε να μοιραστείτε το όραμα της Rhino Health για την ενεργοποίηση της ταχείας δημιουργίας μοντέλων χρησιμοποιώντας πιο διαφορετικά δεδομένα;

Οραματιζόμαστε ένα οικοσύστημα προγραμματιστών και χρηστών Τεχνητής Νοημοσύνης, που συνεργάζονται χωρίς φόβο ή περιορισμό, σεβόμενοι παράλληλα τα όρια των κανονισμών. Οι συνεργάτες μπορούν να αναγνωρίσουν γρήγορα τα απαραίτητα δεδομένα εκπαίδευσης και ελέγχου από διάφορες γεωγραφικές περιοχές, να έχουν πρόσβαση και να αλληλεπιδρούν με αυτά τα δεδομένα, και να επαναλάβουν την ανάπτυξη μοντέλων για να διασφαλίσουν επαρκή γενικευσιμότητα, απόδοση και ασφάλεια.

Στην καρδιά αυτού, είναι η Πλατφόρμα Rhino Health, που παρέχει μια ολοκληρωμένη λύση για τους προγραμματιστές Τεχνητής Νοημοσύνης να κατασκευάσουν τεράστια και διαφορετικά συνόλα δεδομένων, να εκπαιδεύσουν και να επικυρώσουν αλγόριθμους Τεχνητής Νοημοσύνης, και να παρακολουθούν και να διατηρούν συνεχώς τα αναπτυγμένα προϊόντα Τεχνητής Νοημοσύνης.

Πώς η Πλατφόρμα Rhino Health προλαμβάνει την προκατάληψη Τεχνητής Νοημοσύνης και προσφέρει εξηγήσιμη Τεχνητή Νοημοσύνη;

Ανοίγοντας και ρυθμίζοντας τις συνεργασίες δεδομένων, οι προγραμματιστές Τεχνητής Νοημοσύνης μπορούν να αξιοποιήσουν μεγαλύτερα, πιο διαφορετικά συνόλα δεδομένων στην εκπαίδευση και τον έλεγχο των εφαρμογών τους. Το αποτέλεσμα των πιο αξιόπιστων συνόλων δεδομένων είναι ένα προϊόν με καλύτερη δυνατότητα γενίκευσης που δεν επιβαρύνεται από τις προκαταλήψεις ενός μόνο ιδρύματος ή στενού συνόλου δεδομένων. Για την εξηγήσιμη Τεχνητή Νοημοσύνη, η πλατφόρμα μας παρέχει μια σαφή θέα στα δεδομένα που αξιοποιούνται καθ’ όλη τη διάρκεια της διαδικασίας ανάπτυξης, με τη δυνατότητα να αναλύσετε την προέλευση των δεδομένων, τις κατανομές των τιμών και άλλους βασικούς δείκτες για να διασφαλίσετε επαρκή ποικιλία και ποιότητα δεδομένων. Επιπλέον, η πλατφόρμα μας επιτρέπει λειτουργικότητες που δεν είναι δυνατές αν τα δεδομένα απλώς συσσωρευθούν μαζί, συμπεριλαμβανομένης της δυνατότητας να ενισχύσετε τα συνόλα δεδομένων σας με πρόσθετες μεταβλητές, όπως αυτές που υπολογίζονται από υπάρχοντα σημεία δεδομένων, για να ερευνήσετε την αιτιακή συμπερασματολογία και να περιορίσετε την επίδραση συγχυτικών παραγόντων.

Πώς απαντάτε στους ιατρούς που ανησυχούν ότι μια υπερ-εξάρτηση από την Τεχνητή Νοημοσύνη μπορεί να οδηγήσει σε προκατειλημμένα αποτελέσματα που δεν έχουν ανεξάρτητα επικυρωθεί;

Κατανοούμε αυτήν την ανησυχία και αναγνωρίζουμε ότι πολλές από τις εφαρμογές στην αγορά σήμερα μπορεί να είναι προκατειλημμένες. Η απάντησή μας είναι ότι πρέπει να έρθουμε μαζί ως βιομηχανία, ως μια κοινότητα υγείας που είναι πρώτα και πάνω από όλα ανήσυχη για την ασφάλεια των ασθενών, για να ορίσουμε πολιτικές και διαδικασίες για να αποτρέψουμε τέτοιες προκαταλήψεις και να διασφαλίσουμε ασφαλείς, αποτελεσματικές εφαρμογές Τεχνητής Νοημοσύνης. Οι προγραμματιστές Τεχνητής Νοημοσύνης έχουν την ευθύνη να διασφαλίσουν ότι τα προϊόντα Τεχνητής Νοημοσύνης που προωθούνται είναι ανεξάρτητα επικυρωμένα για να κερδίσουν την εμπιστοσύνη των επαγγελματιών υγείας και των ασθενών. Η Rhino Health είναι αφοσιωμένη στην υποστήριξη ασφαλών, αξιόπιστων προϊόντων Τεχνητής Νοημοσύνης και εργάζεται με συνεργάτες για να καταστήσει δυνατή και να διευκολύνει την ανεξάρτητη επικύρωση των εφαρμογών Τεχνητής Νοημοσύνης πριν από την ανάπτυξή τους σε κλινικά περιβάλλοντα, ανοίγοντας τα εμπόδια πρόσβασης στα απαραίτητα δεδομένα επικύρωσης.

Ποιο είναι το όραμά σας για το μέλλον της Τεχνητής Νοημοσύνης στην υγεία;

Το όραμα της Rhino Health είναι ενός κόσμου όπου η Τεχνητή Νοημοσύνη έχει επιτύχει το πλήρες δυναμικό της στην υγεία. Εργαζόμαστε με συνέπεια για να δημιουργήσουμε διαφάνεια και να προωθήσουμε τη συνεργασία, διατηρώντας την ιδιωτικότητα για να ενεργοποιήσουμε αυτόν τον κόσμο. Οραματιζόμαστε την Τεχνητή Νοημοσύνη της υγείας που δεν είναι περιορισμένη από τείχη προστασίας, γεωγραφικά όρια ή κανονιστικούς περιορισμούς. Οι προγραμματιστές Τεχνητής Νοημοσύνης θα έχουν ελεγχόμενη πρόσβαση σε όλα τα δεδομένα που χρειάζονται για να κατασκευάσουν ισχυρά μοντέλα με δυνατότητα γενίκευσης – και να τα παρακολουθούν και να τα βελτιώνουν συνεχώς με μια ροή δεδομένων σε πραγματικό χρόνο. Οι παρόχοι και οι ασθενείς θα έχουν την εμπιστοσύνη ότι δεν χάνουν τον έλεγχο των δεδομένων τους και μπορούν να διασφαλίσουν ότι χρησιμοποιούνται για το καλό. Οι ρυθμιστές θα μπορούν να παρακολουθούν την αποτελεσματικότητα των μοντέλων που χρησιμοποιούνται στην ανάπτυξη φαρμάκων και συσκευών σε πραγματικό χρόνο. Οι οργανώσεις δημόσιας υγείας θα επωφεληθούν από αυτές τις προόδους στην Τεχνητή Νοημοσύνη, ενώ οι ασθενείς και οι παρόχοι μπορούν να ξεκουράζονται γνωρίζοντας ότι η ιδιωτικότητα προστατεύεται.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν την Rhino Health.