Ιττάι Ντάγιαν, MD, Συνιδρυτής & Διευθύνων Σύμβουλος της Rhino Health – Σειρά Συνεντεύξεων

Ο Ιττάι Ντάγιαν, MD είναι ο συνιδρυτής και Διευθύνων Σύμβουλος της Rhino Health. Η背景 του είναι στην ανάπτυξη τεχνητής νοημοσύνης και διαγνωστικών, καθώς και στην κλινική ιατρική και έρευνα. Είναι πρώην βασικό μέλος της πρακτικής υγείας της BCG και διευθυντής νοσοκομείου. Σήμερα, εστιάζει στην συνεισφορά στην ανάπτυξη ασφαλούς, ισότιμης και επικαιρής Τεχνητής Νοημοσύνης στην υγεία και τις βιομηχανίες ζωής. Στη Rhino Health, χρησιμοποιούν την κατανεμημένη υπολογιστική και τη Συνομοσπονδιακή Μάθηση ως μέσο για τη διατήρηση της ιδιωτικής ζωής των ασθενών και την προώθηση της συνεργασίας σε όλο το κατακερματισμένο τοπίο της υγείας.

Υπηρέτησε στις Đặcικές Δυνάμεις του Ισραηλινού Στρατού, ηγήθηκε του μεγαλύτερου Ακαδημαϊκού-Ιατρικού Κέντρου Μεταφραστικής Τεχνητής Νοημοσύνης στον κόσμο. Είναι εμπειρος στην ανάπτυξη και εμπορευματοποίηση Τεχνητής Νοημοσύνης και είναι μακρόδρομος δρομέας.

Μπορείτε να μοιραστείτε την ιστορία της γένεσης της Rhino Health;

Η πορεία μου στην Τεχνητή Νοημοσύνη ξεκίνησε όταν ήμουν κλινικός ιατρός και ερευνητής, χρησιμοποιώντας μια πρώιμη μορφή ψηφιακής βιοδεικτής για τη μέτρηση της απόκρισης της θεραπείας στις ψυχικές διαταραχές. Αργότερα, ηγήθηκα το Κέντρο Κλινικής Δεδομενικής Επιστήμης (CCDS) στο Mass General Brigham. Εκεί, ε監督 την ανάπτυξη δεκάδων κλινικών εφαρμογών Τεχνητής Νοημοσύνης και έζησα από πρώτο χέρι τις υποκείμενες προκλήσεις που σχετίζονται με την πρόσβαση και την «ενεργοποίηση» των δεδομένων που απαιτούνται για την ανάπτυξη και την εκπαίδευση προϊόντων Τεχνητής Νοημοσύνης που υπόκεινται σε κανονιστικές εξετάσεις.

Παρά τις πολλές προόδους στην Τεχνητή Νοημοσύνη της υγείας, ο δρόμος από την ανάπτυξη έως την εκτόξευση ενός προϊόντος στην αγορά είναι μακρύς και συχνά ανώμαλος. Οι λύσεις συντρίβονται (ή απλώς απογοητεύουν) όταν αναπτύσσονται κλινικά, και η υποστήριξη του πλήρους κύκλου ζωής της Τεχνητής Νοημοσύνης είναι σχεδόν αδύνατη χωρίς τη συνεχή πρόσβαση σε μια σειρά κλινικών δεδομένων. Η πρόκληση έχει μετατοπιστεί από τη δημιουργία μοντέλων σε συντήρηση τους. Για να απαντήσω σε αυτήν την πρόκληση, πείστησα το σύστημα του Mass General Brigham για την αξία της δημιουργίας του δικού τους «ειδικού CRO για Τεχνητή Νοημοσύνη» (CRO = Κλινική Ερευνητική Οργάνωση), για να δοκιμάσουν αλγόριθμους από πολλαπλούς εμπορικούς αναπτυξιακούς.

Ωστόσο, το πρόβλημα παρέμεινε – τα δεδομένα υγείας είναι ακόμη πολύ απομονωμένα, και ακόμη και μεγάλος όγκος δεδομένων από ένα δίκτυο δεν είναι αρκετός για να καταπολεμήσει τους ολοένα και στενότερους στόχους της ιατρικής Τεχνητής Νοημοσύνης. Το καλοκαίρι του 2020, ξεκίνησα και ηγήθηκα (μαζί με τον Δρ. Μόνα Φλόρες από την NVIDIA (NVDA )), τη μεγαλύτερη μελέτη Συνομοσπονδιακής Μάθησης (FL) στην υγεία εκείνη την εποχή, EXAM. Χρησιμοποιήσαμε τη Συνομοσπονδιακή Μάθηση για να δημιουργήσουμε ένα προγνωστικό μοντέλο για τα αποτελέσματα του COVID, αξιοποιώντας δεδομένα από όλο τον κόσμο, χωρίς να μοιραστούμε κανένα δεδομένο.. Αργότερα, δημοσιεύθηκε στο Nature Medicine, αυτή η μελέτη έδειξε την θετική επίδραση της αξιοποίησης διαφορετικών και διασκορπισμένων συνόλων δεδομένων και υπογράμμισε το δυναμικό για ευρύτερη χρήση της Συνομοσπονδιακής Μάθησης στην υγεία.

Αυτή η εμπειρία, ωστόσο, αποκάλυψε μια σειρά προκλήσεων. Αυτές περιελάμβαναν την ορχήστρα δεδομένων σε συνεργαζόμενα ιδρύματα, την εξασφάλιση της ιχνηλασιμότητας και της σωστής χαρακτηριστικής των δεδομένων, καθώς και το βάρος που τοποθετείται στα τμήματα IT κάθε ιδρύματος, τα οποία πρέπει να μάθουν τις τελευταίες τεχνολογίες που δεν ήταν συνηθισμένες. Αυτό απαιτούσε μια νέα πλατφόρμα που θα υποστήριζε αυτές τις νέες «κατανεμημένες δεδομενικές» συνεργασίες. Αποφάσισα να συνεργαστώ με τον συνιδρυτή μου, Yuval Baror, για να δημιουργήσουμε μια ολοκληρωμένη πλατφόρμα για την υποστήριξη συνεργασιών που διατηρούν την ιδιωτικότητα. Αυτή η πλατφόρμα είναι η «Πλατφόρμα Rhino Health», αξιοποιώντας τη Συνομοσπονδιακή Μάθηση και την υπολογιστική περιφέρεια.

Γιατί πιστεύετε ότι τα μοντέλα Τεχνητής Νοημοσύνης συχνά αποτυγχάνουν να παράσχουν τα αναμενόμενα αποτελέσματα σε ένα περιβάλλον υγείας;

Η ιατρική Τεχνητή Νοημοσύνη συχνά εκπαιδεύεται σε μικρά, στενά συνόλα δεδομένων, όπως συνόλα δεδομένων από ένα μόνο ίδρυμα ή γεωγραφική περιοχή, τα οποία οδηγούν στο μοντέλο να λειτουργεί καλά μόνο στα δεδομένα που έχει δει. Όταν ο αλγόριθμος εφαρμόζεται σε ασθενείς ή σενάρια που διαφέρουν από το στενό συνόλο δεδομένων εκπαίδευσης, η απόδοση επηρεάζεται σοβαρά.

Ο Andrew Ng, κατέγραψε την έννοια καλά όταν δήλωσε, «Αποδεικνύεται ότι όταν συλλέγουμε δεδομένα από το Νοσοκομείο του Στάνφορντ…μπορούμε να δημοσιεύσουμε ερευνητικές εργασίες που δείχνουν [τις εφαρμογές] είναι συγκρίσιμες με τους ανθρώπινους ακτινολόγους στην ανίχνευση ορισμένων καταστάσεων. … [Όταν] παίρνουμε το ίδιο μοντέλο, το ίδιο σύστημα Τεχνητής Νοημοσύνης, σε ένα παλαιότερο νοσοκομείο στην οδό, με μια παλαιότερη μηχανή, και ο τεχνικός χρησιμοποιεί μια slightly διαφορετική πρωτόκολλο απεικόνισης, τα δεδομένα παρουσιάζουν μια απόκλιση που προκαλεί την απόδοση του συστήματος Τεχνητής Νοημοσύνης να μειωθεί σημαντικά.»³

Απλά, τα περισσότερα μοντέλα Τεχνητής Νοημοσύνης δεν εκπαιδεύονται σε δεδομένα που είναι αρκετά διαφορετικά και της υψηλής ποιότητας, με αποτέλεσμα την κακή απόδοση στο «πραγματικό κόσμο». Αυτό το ζήτημα έχει τεκμηριωθεί τόσο σε επιστημονικούς όσο και σε κυκλοφοριακούς κύκλους, όπως στο Science και Politico.

Πόσο σημαντικό είναι το τεστ σε διαφορετικές ομάδες ασθενών;

Το τεστ σε διαφορετικές ομάδες ασθενών είναι κρίσιμο για να διασφαλιστεί ότι το προϊόν Τεχνητής Νοημοσύνης δεν είναι μόνο αποτελεσματικό και αποδοτικό, αλλά και ασφαλές. Οι αλγόριθμοι που δεν εκπαιδεύονται ή δεν ελέγχονται σε αρκετά διαφορετικές ομάδες ασθενών μπορεί να υποφέρουν από προκατάληψη αλγορίθμου, ένα σοβαρό ζήτημα στην υγεία και την τεχνολογία υγείας. Δεν μόνο θα αντανακλούν τις προκαταλήψεις που ήταν παρόντες στα δεδομένα εκπαίδευσης, αλλά θα τις ενισχύσουν και θα τις ενισχύσουν τις υφιστάμενες φυλετικές, εθνοτικές, θρησκευτικές, φυλετικές, κ.λπ. ανισότητες στην υγεία. Η αποτυχία να ελέγξουν σε διαφορετικές ομάδες ασθενών μπορεί να οδηγήσει σε επικίνδυνα προϊόντα.

Μια πρόσφατη μελέτη⁵, που αξιοποίησε την Πλατφόρμα Rhino Health, ερεύνησε την απόδοση ενός αλγορίθμου ανίχνευσης εγκεφαλικών ανευρυσμάτων που αναπτύχθηκε σε ένα ίδρυμα σε τέσσερα διαφορετικά ιδρύματα με διάφορους τύπους σκανερ. Τα αποτελέσματα έδειξαν σημαντική μεταβλητότητα της απόδοσης σε ιδρύματα με διάφορους τύπους σκανερ, τονίζοντας την σημασία της εκπαίδευσης και του ελέγχου σε διαφορετικά συνόλα δεδομένων.

Πώς μπορείτε να αναγνωρίσετε αν μια υπο-ποπуляция δεν αντιπροσωπεύεται;

Μια κοινή προσέγγιση είναι να αναλύσετε τις κατανομές των متαβλητών σε διαφορετικά συνόλα δεδομένων, ατομικά και συνδυασμένα. Αυτό μπορεί να ενημερώσει τους αναπτυξιακούς για την προετοιμασία «συνόλων εκπαίδευσης» και συνόλων επαλήθευσης. Η Πλατφόρμα Rhino Health σας επιτρέπει να το κάνετε αυτό, και επιπλέον, οι χρήστες possono να δουν πώς το μοντέλο λειτουργεί σε διάφορες κοόρτες για να διασφαλίσουν τη γενικευσιμότητα και τη βιώσιμη απόδοση σε υπο-ποπуляσμους.

Μπορείτε να περιγράψετε τι είναι η Συνομοσπονδιακή Μάθηση και πώς λύνει κάποια από αυτά τα ζητήματα;

Η Συνομοσπονδιακή Μάθηση (FL) μπορεί να οριστεί ευρέως ως η διαδικασία με την οποία τα μοντέλα Τεχνητής Νοημοσύνης εκπαιδεύονται και συνεχίζουν να βελτιώνονται με τον καιρό, χρησιμοποιώντας διαφορετικά δεδομένα, χωρίς την ανάγκη για κοινή χρήση ή κεντρική αποθήκευση δεδομένων. Αυτό είναι ένα τεράστιο βήμα προς τα εμπρός στην ανάπτυξη Τεχνητής Νοημοσύνης. Ιστορικά, οποιοσδήποτε χρήστης που ήθελε να συνεργαστεί με πολλαπλά ιδρύματα πρέπει να συγχωνεύσει τα δεδομένα μαζί, προκαλώντας μια σειρά από δυσχερείς, δαπανηρές και χρονοβόρες νομικές, κινδύνους και συμμόρφωση.

Σήμερα, με λογισμικό όπως η Πλατφόρμα Rhino Health, η Συνομοσπονδιακή Μάθηση γίνεται μια καθημερινή πραγματικότητα στην υγεία και τις βιομηχανίες ζωής. Η Συνομοσπονδιακή Μάθηση επιτρέπει στους χρήστες να εξερευνούν, να επιλέγουν και να επικυρώνουν δεδομένα ενώ τα δεδομένα παραμένουν στους τοπικούς серверες των συνεργατών. Ο κωδικός σε κοντέινερ, όπως ένας αλγόριθμος Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης ή μια εφαρμογή ανάλυσης, αποστέλλεται στον τοπικό сервер όπου εκτελείται ο κωδικός, όπως η εκπαίδευση ή η επικύρωση ενός αλγορίθμου Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης, «τοπικά». Τα δεδομένα παραμένουν με τον «διαχειριστή δεδομένων» σε όλες τις φορές.

Τα νοσοκομεία, ιδιαίτερα, είναι ανήσυχα για τους κινδύνους που σχετίζονται με τη συσσώρευση ευαίσθητων δεδομένων ασθενών. Αυτό έχει ήδη οδηγήσει σε ντροπιαστικές καταστάσεις, όπου έχει γίνει σαφές ότι οι οργανώσεις υγείας συνεργάστηκαν με την βιομηχανία χωρίς να κατανοούν ακριβώς τη χρήση των δεδομένων τους. Αυτό έχει οδηγήσει στην περιορισμένη συνεργασία μεταξύ της βιομηχανίας και των ακαδημαϊκών ερευνητών, επιβραδύνοντας την έρευνα και την ανάπτυξη προϊόντων σε όλη την υγεία. Η Συνομοσπονδιακή Μάθηση μπορεί να μετριάσει αυτό και να ενεργοποιήσει συνεργασίες δεδομένων όπως ποτέ πριν, जबकαι ελέγχει τον κίνδυνο που σχετίζεται με αυτές τις συνεργασίες.

Μπορείτε να μοιραστείτε την όραση της Rhino Health για την ενεργοποίηση της ταχείας δημιουργίας μοντέλων χρησιμοποιώντας πιο διαφορετικά δεδομένα;

Ενvision μια οικοσυστήματος αναπτυξιακών και χρηστών Τεχνητής Νοημοσύνης, που συνεργάζονται χωρίς φόβο ή περιορισμό, ενώ σεβόμενοι τα όρια των κανονισμών. Οι συνεργάτες μπορούν να αναγνωρίσουν γρήγορα τα απαραίτητα δεδομένα εκπαίδευσης και ελέγχου από διάφορες γεωγραφικές περιοχές, να έχουν πρόσβαση και να αλληλεπιδρούν με αυτά τα δεδομένα, και να επαναλάβουν την ανάπτυξη μοντέλων για να διασφαλίσουν επαρκή γενικευσιμότητα, απόδοση και ασφάλεια.

Στην καρδιά αυτού, είναι η Πλατφόρμα Rhino Health, που παρέχει ένα «ένα-στα-όλα» για τους αναπτυξιακούς Τεχνητής Νοημοσύνης να κατασκευάσουν τεράστια και διαφορετικά συνόλα δεδομένων, να εκπαιδεύσουν και να επικυρώσουν αλγόριθμους Τεχνητής Νοημοσύνης, και να παρακολουθούν και να διατηρούν συνεχώς τα αναπτυγμένα προϊόντα Τεχνητής Νοημοσύνης.

Πώς η Πλατφόρμα Rhino Health προλαμβάνει την προκατάληψη Τεχνητής Νοημοσύνης και προσφέρει εξηγήσιμη Τεχνητή Νοημοσύνη;

Ανοίγοντας και ρυθμίζοντας τις συνεργασίες δεδομένων, οι αναπτυξιακοί Τεχνητής Νοημοσύνης μπορούν να αξιοποιήσουν μεγαλύτερα, πιο διαφορετικά συνόλα δεδομένων στην εκπαίδευση και τον έλεγχο των εφαρμογών τους. Το αποτέλεσμα των πιο ρομπούστων συνόλων δεδομένων είναι ένα πιο γενικευμένο προϊόν που δεν είναι βαρόμενο από τις προκαταλήψεις ενός μόνο ιδρύματος ή στενού συνόλου δεδομένων. Για την εξηγήσιμη Τεχνητή Νοημοσύνη, η πλατφόρμα μας παρέχει μια σαφή θέα στα δεδομένα που αξιοποιούνται καθ’ όλη τη διάρκεια της διαδικασίας ανάπτυξης, με τη δυνατότητα να αναλύσετε την προέλευση των δεδομένων, τις κατανομές των τιμών και άλλους βασικούς δείκτες για να διασφαλίσετε επαρκή ποικιλία και ποιότητα δεδομένων. Επιπλέον, η πλατφόρμα μας επιτρέπει λειτουργικότητες που δεν είναι δυνατές αν τα δεδομένα απλώς συσσωρευθούν μαζί, συμπεριλαμβανομένης της δυνατότητας να ενισχύσετε τα συνόλα δεδομένων σας με πρόσθετες μεταβλητές, όπως αυτές που υπολογίζονται από υπάρχοντα σημεία δεδομένων, για να ερευνήσετε την αιτιολογική εύρεση και να μετριάσετε τους παραγόμενους.

Πώς απαντάτε στους ιατρούς που ανησυχούν ότι μια υπερ-εξάρτηση από την Τεχνητή Νοημοσύνη μπορεί να οδηγήσει σε προκατειλημμένα αποτελέσματα που δεν έχουν ανεξάρτητα επικυρωθεί;

Συμπαθούμε με αυτήν την ανησυχία και αναγνωρίζουμε ότι πολλές από τις εφαρμογές στην αγορά σήμερα μπορεί να είναι προκατειλημμένες. Η απάντησή μας είναι ότι πρέπει να έρθουμε μαζί ως βιομηχανία, ως μια κοινότητα υγείας που είναι πρώτα και πάνω από όλα ανήσυχη για την ασφάλεια των ασθενών, για να ορίσουμε πολιτικές και διαδικασίες για να αποτρέψουμε τέτοιες προκαταλήψεις και να διασφαλίσουμε ασφαλείς, αποτελεσματικές εφαρμογές Τεχνητής Νοημοσύνης. Οι αναπτυξιακοί Τεχνητής Νοημοσύνης έχουν την ευθύνη να διασφαλίσουν ότι τα προϊόντα Τεχνητής Νοημοσύνης που προωθούνται είναι ανεξάρτητα επικυρωμένα για να κερδίσουν την εμπιστοσύνη των επαγγελματιών υγείας και των ασθενών. Η Rhino Health είναι αφοσιωμένη στην υποστήριξη ασφαλών, αξιόπιστων προϊόντων Τεχνητής Νοημοσύνης και εργάζεται με συνεργάτες για να ενεργοποιήσει και να ρυθμίσει την ανεξάρτητη επικύρωση των εφαρμογών Τεχνητής Νοημοσύνης πριν από την ανάπτυξή τους σε κλινικά περιβάλλοντα, ανοίγοντας τις barrières για την απαραίτητη επικύρωση δεδομένων.

Τι είναι η όρασή σας για το μέλλον της Τεχνητής Νοημοσύνης στην υγεία;

Η όραση της Rhino Health είναι ενός κόσμου όπου η Τεχνητή Νοημοσύνη έχει επιτύχει το πλήρες δυναμικό της στην υγεία. Εργαζόμαστε με συνέπεια για να δημιουργήσουμε διαφάνεια και να προωθήσουμε τη συνεργασία, διατηρώντας την ιδιωτικότητα για να ενεργοποιήσουμε αυτόν τον κόσμο. Ενvision την Τεχνητή Νοημοσύνη της υγείας που δεν είναι περιορισμένη από τοίχους, γεωγραφικές περιοχές ή κανονιστικές περιορισμοί. Οι αναπτυξιακοί Τεχνητής Νοημοσύνης θα έχουν ελεγχόμενη πρόσβαση σε όλα τα δεδομένα που χρειάζονται για να κατασκευάσουν ισχυρά, γενικευμένα μοντέλα – και να τα παρακολουθούν και να τα βελτιώνουν συνεχώς με μια ροή δεδομένων σε πραγματικό χρόνο. Οι παρόχοι και οι ασθενείς θα έχουν την εμπιστοσύνη ότι δεν χάνουν τον έλεγχο των δεδομένων τους και μπορούν να διασφαλίσουν ότι χρησιμοποιούνται για το καλό. Οι ρυθμιστές θα μπορούν να παρακολουθούν την αποτελεσματικότητα των μοντέλων που χρησιμοποιούνται στην ανάπτυξη φαρμάκων και συσκευών σε πραγματικό χρόνο. Οι οργανώσεις δημόσιας υγείας θα επωφεληθούν από αυτές τις προόδους στην Τεχνητή Νοημοσύνη, ενώ οι ασθενείς και οι παρόχοι μπορούν να ξεκουράζονται γνωρίζοντας ότι η ιδιωτικότητα προστατεύεται.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν την Rhino Health.