Βιβέκ Ντεσάι, Διευθυντής Τεχνολογίας, Βόρεια Αμερική στη RLDatix – Σειρά Συνεντεύξεων

Βιβέκ Ντεσάι είναι ο Διευθυντής Τεχνολογίας της Βόρειας Αμερικής στη RLDatix, μια εταιρεία που προσφέρει συνδεδεμένες υπηρεσίες και λογισμικά για τις ιατρικές υπηρεσίες. Η RLDatix έχει ως αποστολή να αλλάξει τον τρόπο που λειτουργεί η ιατρική. Βοηθά τις οργανώσεις να προσφέρουν ασφαλέστερη και πιο αποτελεσματική φροντίδα, παρέχοντας εργαλεία διακυβέρνησης, κινδύνου και συμμόρφωσης που οδηγούν σε γενική βελτίωση και ασφάλεια.

Τι σας έκανε να ενδιαφερθείτε για την πληροφορική και την κυβερνοασφάλεια;

Μου άρεσε η πολυπλοκότητα των προβλημάτων που η πληροφορική και η κυβερνοασφάλεια προσπαθούν να λύσουν – υπάρχουν πάντα νέες προκλήσεις να ανακαλύψουμε. Ένα καλό παράδειγμα είναι όταν η τεχνολογία του cloud άρχισε να κερδίζει έδαφος. Υπήρχε μια μεγάλη υπόσχεση, αλλά και κάποια ερωτήματα γύρω από την ασφάλεια του φορτίου εργασίας. Ήταν πολύ σαφές από την αρχή ότι οι παραδοσιακές μεθόδους ήταν προσωρινές λύσεις και ότι οι οργανώσεις σε όλα τα επίπεδα θα χρειαζόταν να αναπτύξουν νέες διαδικασίες για να ασφαλίσουν αποτελεσματικά τα φορτία εργασίας στο cloud. Η πλοήγηση σε αυτές τις νέες μεθόδους ήταν ένα πολύ ενδιαφέρον ταξίδι για μένα και πολλούς άλλους που εργαζόμαστε σε αυτόν τον τομέα. Είναι ένας δυναμικός και εξελισσόμενος κλάδος, οπότε κάθε μέρα φέρνει κάτι νέο και ενδιαφέρον.

Μπορείτε να μοιραστείτε κάποιες από τις τρέχουσες ευθύνες σας ως Διευθυντής Τεχνολογίας στη RLDatix;

Τώρα, επικεντρώνομαι στην ηγεσία της στρατηγικής μας για τα δεδομένα και στην αναζήτηση τρόπων για να δημιουργήσουμε συnergίες μεταξύ των προϊόντων μας και των δεδομένων που αυτά περιέχουν, για να κατανοήσουμε καλύτερα τις τάσεις. Πολλά από τα προϊόντα μας περιέχουν παρόμοια είδη δεδομένων, οπότε η δουλειά μου είναι να βρω τρόπους να σπάσω αυτά τα τείχη και να κάνω πιο εύκολη την πρόσβαση των πελατών μας, τόσο των νοσοκομείων όσο και των συστημάτων υγείας, στα δεδομένα. Με αυτό, εργάζομαι επίσης στην παγκόσμια στρατηγική μας για την τεχνητή νοημοσύνη (AI) για να ενημερώσω αυτήν την πρόσβαση και χρήση των δεδομένων σε ολόκληρο το οικοσύστημα.

Η διατήρηση της ενημέρωσης για τις νέες τάσεις σε διάφορους κλάδους είναι επίσης ένα κρίσιμο μέρος του ρόλου μου, για να βεβαιωθώ ότι προχωράμε στη σωστή στρατηγική κατεύθυνση. Τώρα, παρακολουθώ στενά τα μεγάλα μοντέλα γλωσσών (LLMs). Jako εταιρεία, εργαζόμαστε για να βρούμε τρόπους να ενσωματώσουμε τα LLMs στην τεχνολογία μας, για να ενδυναμώσουμε και να βελτιώσουμε τους ανθρώπους, ιδιαίτερα τους παρόχους υγείας, να μειώσουμε το γνωστικό τους φορτίο και να τους επιτρέψουμε να επικεντρωθούν στην φροντίδα των ασθενών.

Σε μια πρόσφατη ομιλία, ο Chief Product Officer Barbara Staruk μοιράστηκε πώς η RLDatix χρησιμοποιεί τη γεννητική AI και τα μεγάλα μοντέλα γλωσσών για να αυτοματοποιήσει και να απλοποιήσει την αναφορά περιστατικών ασφάλειας ασθενών. Μπορείτε να εξηγήσετε πώς λειτουργεί αυτό;

Αυτό είναι ένα πολύ σημαντικό εγχείρημα για τη RLDatix και ένα καλό παράδειγμα του πώς αξιοποιούμε το δυναμικό των LLMs. Όταν τα νοσοκομεία και τα συστήματα υγείας ολοκληρώνουν αναφορές περιστατικών, υπάρχουν τώρα τρεις τυποποιημένες μορφές για τον καθορισμό του επιπέδου ζημιάς που αναφέρεται στην αναφορά: η Κοινή Μορφή της Υπηρεσίας Έρευνας για την Υγεία, το Εθνικό Συμβούλιο Συντονισμού για την Αναφορά Σφαλμάτων Φαρμάκων και η Ταξινόμηση Περιστατικών Ασφάλειας Υγείας (HPI SEC). Τώρα, μπορούμε εύκολα να εκπαιδεύσουμε ένα LLM να διαβάσει το κείμενο σε μια αναφορά περιστατικού. Αν ένας ασθενής πεθάνει, για παράδειγμα, το LLM μπορεί να επιλέξει εύκολα αυτήν την πληροφορία. Η πρόκληση, ωστόσο, έγκειται στην εκπαίδευση του LLM να κατανοήσει το контέκστ και να διακρίνει μεταξύ πιο σύνθετων κατηγοριών, όπως η σοβαρή μόνιμη ζημιά, μια ταξινόμηση που περιλαμβάνεται στην HPI SEC, για παράδειγμα, σε σύγκριση με τη σοβαρή προσωρινή ζημιά. Αν ο αναφερόμενος δεν περιλαμβάνει достаточно контέκστ, το LLM δεν θα μπορεί να καθορίσει το κατάλληλο επίπεδο κατηγορίας ζημιάς για αυτό το συγκεκριμένο περιστατικό ασφάλειας ασθενών.

Τι είναι ο ρόλος της τεχνητής νοημοσύνης στο μέλλον των συνδεδεμένων ιατρικών υπηρεσιών;

Ως ενσωματωμένα δεδομένα γίνονται πιο διαθέσιμα με την AI, μπορούν να χρησιμοποιηθούν για να συνδέσουν διαφορετικά συστήματα και να βελτιώσουν την ασφάλεια και την ακρίβεια σε ολόκληρο το φάσμα της φροντίδας. Αυτή η έννοια των συνδεδεμένων ιατρικών υπηρεσιών είναι μια κατηγορία που επικεντρωνόμαστε στη RLDatix, καθώς ξεκλειδώνει ενεργά δεδομένα και ενημερώσεις για τους λήπτες αποφάσεων υγείας – και η AI είναι ουσιαστική για να γίνει αυτό πραγματικότητα.

Μια αμετάβλητη πτυχή αυτής της ενσωμάτωσης είναι η διασφάλιση ότι η χρήση των δεδομένων είναι ασφαλής και συμμορφώνεται με τους κανονισμούς, και ότι οι κίνδυνοι κατανοούνται. Είμαστε η ηγέτιδα αγορά σε πολιτική, κίνδυνο και ασφάλεια, που σημαίνει ότι έχουμε πολλά δεδομένα για να εκπαιδεύσουμε θεμελιώδη LLMs με μεγαλύτερη ακρίβεια και αξιοπιστία. Για να επιτύχουμε πραγματικές συνδεδεμένες ιατρικές υπηρεσίες, ο πρώτος βήμας είναι η συγχώνευση των διαφορετικών λύσεων, και ο δεύτερος είναι η εξαγωγή δεδομένων και η τυποποίηση τους σε ολόκληρες τις λύσεις. Τα νοσοκομεία θα ωφεληθούν πολύ από μια ομάδα διασυνδεδεμένων λύσεων που μπορούν να συνδυάσουν συνόλους δεδομένων και να παρέχουν ενεργά αξία στους χρήστες, αντί να διατηρούν ξεχωριστά σύνολα δεδομένων από μεμονωμένες λύσεις.

Ποια είναι κάποιες άλλες τρόπες με τις οποίες η RLDatix έχει αρχίσει να ενσωματώνει τα LLMs στις λειτουργίες της;

Μια άλλη τρόπος που αξιοποιούμε τα LLMs εσωτερικά είναι για να απλοποιήσουμε τη διαδικασία πιστοποίησης. Τα διαπιστευτήρια κάθε παρόχου είναι διαμορφωμένα διαφορετικά και περιέχουν μοναδικές πληροφορίες. Για να το θέσω σε προοπτική, σκεφτείτε πώς κάθε βιογραφικό σημείωμα έχει διαφορετική μορφή – από γραμματοσειρές, σε εμπειρία εργασίας, σε εκπαίδευση και γενική μορφή. Η πιστοποίηση είναι παρόμοια. Πού παρακολούθησε ο παρόχος το κολέγιο; Ποια είναι η πιστοποίηση του; Σε ποια άρθρα έχει δημοσιευθεί; Κάθε επαγγελματίας υγείας θα παρέχει αυτήν την πληροφορία με τον δικό του τρόπο.

Στη RLDatix, τα LLMs μας επιτρέπουν να διαβάσουμε αυτά τα διαπιστευτήρια και να εξαγάγουμε όλα τα δεδομένα σε một τυποποιημένη μορφή, ώστε όσοι εργάζονται στην εισαγωγή δεδομένων δεν θα χρειαστεί να ψάξουν εκτενώς για αυτά, επιτρέποντάς τους να περάσουν λιγότερο χρόνο στην διοικητική πλευρά και να επικεντρωθούν στις σημαντικές εργασίες που προσθέτουν αξία.

Η κυβερνοασφάλεια ήταν πάντα μια πρόκληση, ιδιαίτερα με τη μετάβαση στις τεχνολογίες βασισμένες στο cloud, μπορούσατε να συζητήσετε κάποιες από αυτές τις προκλήσεις;

Η κυβερνοασφάλεια είναι μια πρόκληση, που είναι ο λόγος για τον οποίο είναι σημαντικό να συνεργαστείτε με τον σωστό συνεργάτη. Η διασφάλιση ότι τα LLMs παραμένουν ασφαλή και συμμορφώνεται με τους κανονισμούς είναι η πιο σημαντική consider όταν αξιοποιούμε αυτήν την τεχνολογία. Αν η οργάνωση σας δεν έχει το αφιερωμένο προσωπικό εσωτερικά για να το κάνει αυτό, μπορεί να είναι εξαιρετικά δύσκολο και χρονοβόρο. Αυτός είναι ο λόγος για τον οποίο συνεργαζόμαστε με την Amazon Web Services (AWS) στις περισσότερες από τις πρωτοβουλίες κυβερνοασφάλειας. Η AWS μας βοηθά να ενσωματώσουμε την ασφάλεια και τη συμμόρφωση ως βασικές αρχές στην τεχνολογία μας, ώστε η RLDatix να μπορεί να επικεντρωθεί σε αυτό που πραγματικά κάνει καλά – που είναι η κατασκευή εξαιρετικών προϊόντων για τους πελάτες μας σε όλους τους αντίστοιχους τομείς.

Τι είναι κάποιες από τις νέες απειλές ασφαλείας που έχετε δει με την πρόσφατη ταχεία υιοθέτηση των LLMs;

Από την πλευρά της RLDatix, υπάρχουν κάποιες consider που εργαζόμαστε για να τις αντιμετωπίσουμε καθώς αναπτύσσουμε και εκπαιδεύουμε τα LLMs. Ένας σημαντικός στόχος για εμάς είναι η μείωση των προκαταλήψεων και της αδικίας. Τα LLMs είναι τόσο καλά όσο τα δεδομένα στα οποία εκπαιδεύονται. Παράγοντες όπως το φύλο, η φυλή και άλλες δημογραφικές παράμετροι μπορούν να περιλαμβάνουν πολλές εγγενείς προκαταλήψεις επειδή το σύνολο δεδομένων είναι προκατειλημμένο. Για παράδειγμα, σκεφτείτε πώς η νοτιοανατολική Ηνωμένες Πολιτείες χρησιμοποιεί τη λέξη “y’all” στην καθημερινή γλώσσα. Αυτή είναι μια μοναδική γλωσσική προκατάληψη που είναι εγγενής σε một συγκεκριμένη πληθυσμό ασθενών που οι ερευνητές πρέπει να λάβουν υπόψη όταν εκπαιδεύουν το LLM για να αναγνωρίσει ακριβώς τις γλωσσικές νuanσεις σε σύγκριση με άλλες περιοχές. Αυτού του είδους οι προκαταλήψεις πρέπει να αντιμετωπιστούν σε μεγάλη κλίμακα όταν πρόκειται για την αξιοποίηση των LLMs στην υγεία, επειδή η εκπαίδευση ενός μοντέλου σε ένα πληθυσμό ασθενών δεν σημαίνει απαραίτητα ότι το μοντέλο θα λειτουργήσει σε άλλον.

Τι είναι κάποιες άλλες αλγόριθμοι μηχανικής μάθησης που χρησιμοποιούνται στη RLDatix;

Η χρήση της μηχανικής μάθησης για να ανακαλύψουμε κρίσιμες πληροφορίες για την προγραμματισμένη εργασία έχει sido ένα ενδιαφέρον εγχείρημα για την οργάνωση μας. Στο Ηνωμένο Βασίλειο, ειδικά, έχουμε εξερευνήσει πώς να αξιοποιήσουμε τη μηχανική μάθηση για να κατανοήσουμε καλύτερα πώς η ροή εργασίας, ή η προγραμματισμένη εργασία, των νοσηλευτών και των γιατρών, συμβαίνει. Η RLDatix έχει πρόσβαση σε ένα τεράστιο ποσό δεδομένων προγραμματισμένης εργασίας από την τελευταία δεκαετία, αλλά τι μπορούμε να κάνουμε με όλα αυτά τα δεδομένα; Αυτό είναι το σημείο όπου η μηχανική μάθηση έρχεται. Χρησιμοποιούμε ένα μοντέλο μηχανικής μάθησης για να αναλύσουμε αυτά τα ιστορικά δεδομένα και να παρέχουμε πληροφορίες για το πώς μια κατάσταση προγραμματισμένης εργασίας μπορεί να φαίνεται δύο εβδομάδες από τώρα, σε ένα συγκεκριμένο νοσοκομείο ή μια συγκεκριμένη περιοχή.

Αυτό το συγκεκριμένο εγχείρημα είναι ένα πολύ επιτεύξιμο μοντέλο μηχανικής μάθησης, αλλά πιέζουμε το βήμα ακόμη παραπέρα συνδέοντας το με πραγματικά γεγονότα. Για παράδειγμα, τι αν εξετάζαμε κάθε πρόγραμμα ποδοσφαίρου στην περιοχή; Ξέρουμε από την πρώτη στιγμή ότι τα αθλητικά γεγονότα οδηγούν συνήθως σε περισσότερα τραύματα και ότι ένα τοπικό νοσοκομείο θα έχει πιθανώς περισσότερους εσωτερικούς ασθενείς την ημέρα του γεγονότος σε σύγκριση με μια τυπική ημέρα. Εργαζόμαστε με την AWS και άλλους συνεργάτες για να εξετάσουμε ποια δημόσια σύνολα δεδομένων μπορούμε να σπείρουμε για να κάνουμε την προγραμματισμένη εργασία ακόμη πιο ροή. Ήδη έχουμε δεδομένα που δείχνουν ότι θα δούμε μια αύξηση ασθενών γύρω από μεγάλα αθλητικά γεγονότα ή ακόμη και κακές καιρικές συνθήκες, αλλά το μοντέλο μηχανικής μάθησης μπορεί να το πάρει ένα βήμα παραπέρα, λαμβάνοντας αυτά τα δεδομένα και αναγνωρίζοντας κρίσιμες τάσεις που θα βοηθήσουν να διασφαλίσουν ότι τα νοσοκομεία είναι επαρκώς προγραμματισμένα, μειώνοντας τελικά την πίεση στη δουλειά μας και παίρνοντας τη βιομηχανία μας ένα βήμα παραπέρα στην επίτευξη ασφαλέστερης φροντίδας για όλους. Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν RLDatix.