συνεντεύξεις
Matthew Crowson, MD, Διευθυντής Διαχείρισης Προϊόντων Τεχνητής Νοημοσύνης/Γενικής Τεχνητής Νοημοσύνης στην Wolters Kluwer Health – Σειρά Συνεντεύξεων
Δρ. Ματ Κρόουσον είναι ηγέτης στην τεχνολογία υγειονομικής περίθαλψης και χειρουργός που ειδικεύεται στην εφαρμογή της Τεχνητής Νοημοσύνης στην κλινική πράξη. Είναι Διευθυντής Προϊόντος Τεχνητής Νοημοσύνης/Γεννητικής Τεχνητής Νοημοσύνης στην Wolters Kluwer Health, όπου ηγείται πρωτοβουλιών για τη βελτίωση της σύνθεσης στοιχείων και της ανάλυσης δεδομένων πραγματικού κόσμου. Προηγουμένως, ηγήθηκε της πρακτικής Τεχνητής Νοημοσύνης της Deloitte για παρόχους υγειονομικής περίθαλψης, αναπτύσσοντας λύσεις γενετικής Τεχνητής Νοημοσύνης για την ενίσχυση της τεκμηρίωσης, των κύκλων εσόδων και της έρευνας. Υπηρετεί επίσης ως επίκουρος καθηγητής στην Ιατρική Σχολή του Χάρβαρντ και έχει συγγράψει πάνω από 90 δημοσιεύσεις με αξιολόγηση από ομοτίμους.
Wolters Kluwer είναι ένας παγκόσμιος πάροχος επαγγελματικών πληροφοριών, λογισμικού και υπηρεσιών, υποστηρίζοντας πελάτες στους τομείς της υγειονομικής περίθαλψης, της φορολογίας και της λογιστικής, της νομικής και κανονιστικής συμμόρφωσης, της χρηματοοικονομικής συμμόρφωσης και της ESG. Με έδρα την Ολλανδία, η εταιρεία αξιοποιεί βαθιά τεχνογνωσία στον κλάδο και προηγμένη τεχνολογία για να παρέχει εργαλεία που βελτιστοποιούν τις ροές εργασίας, διασφαλίζουν τη συμμόρφωση και υποστηρίζουν τη λήψη κρίσιμων αποφάσεων. Οι δραστηριότητές της εκτείνονται σε περισσότερες από 180 χώρες, με προσφορές οργανωμένες σε τομείς όπως η Υγεία, η Φορολογία και η Λογιστική, η Νομική και Κανονιστική, η Χρηματοοικονομική και Εταιρική Συμμόρφωση και η Εταιρική Απόδοση και η ESG.
Ας ξεκινήσουμε με κάτι προσωπικό—πώς εξισορροπείτε τους διπλούς σας ρόλους ως χειρουργός και ως ηγέτης προϊόντων Τεχνητής Νοημοσύνης; Έχει διαμορφώσει η κλινική σας εργασία την άποψή σας για το τι πρέπει ή δεν πρέπει να είναι η Τεχνητή Νοημοσύνη στην υγειονομική περίθαλψη;
Ειλικρινά; Ξεκινάει με αδίστακτο time-boxing και μια μηχανή καφέ βιομηχανικής ισχύος. Τα πρωινά στο ιατρείο διατηρούν τις δεξιότητες φροντίδας των ασθενών μου ειλικρινείς, ενώ το υπόλοιπο της ημέρας το περνάω μετατρέποντας αυτόν τον πόνο στην πρώτη γραμμή σε προδιαγραφές προϊόντος. Οι δύο ρόλοι τροφοδοτούν ο ένας τον άλλον: το να βλέπω έναν κάτοικο να κάνει κλικ σε δέκα οθόνες για να παραγγείλει Tylenol είναι όλη η έρευνα αγοράς που χρειάζομαι.
Τα έργα τεχνητής νοημοσύνης (ΤΝ) εξαφανίζονται όταν κανείς στην αίθουσα δεν έχει νιώσει αυτόν τον πόνο. Η έρευνά μας Future Ready Healthcare δείχνει ότι το 80% των ηγετών λένε ότι η «βελτιστοποίηση των ροών εργασίας» αποτελεί ύψιστη προτεραιότητα. Ωστόσο, μόνο το 63% πιστεύει ότι είναι έτοιμο να το κάνει με την γενετική ΤΝ (GenAI). Αυτό είναι το κλασικό χάσμα στρατηγικής-εκτέλεσης που οι ειδικοί του τομέα μπορούν να κλείσουν ρωτώντας το σωστό κλινικό «γιατί» πριν γράψουν έστω και μια γραμμή κώδικα.
Η κλινική μου οπτική γωνία διατηρεί επίσης την αποστολή πρακτική. Το προσωπικό της πρώτης γραμμής μας είπε ότι οι κύριες προτεραιότητές τους είναι η διόρθωση των ελλείψεων προσωπικού (82%), η συμπίεση των διοικητικών εξόδων (77%) και η συντριβή της επαγγελματικής εξουθένωσης (76%). Εάν ένας αλγόριθμος δεν μετακινήσει μία από αυτές τις βελόνες, πρόκειται απλώς για θέατρο. Οι κλινικοί γιατροί αποσυνδέονται γρήγορα.
Αυτός ο φακός με κάνει επίσης επιφυλακτικό σχετικά με το πού η Τεχνητή Νοημοσύνη δεν θα έπρεπε περιπλάνηση. Στην πραγματικότητα, το 57% των επαγγελματιών ανησυχούν ότι η υπερβολική εξάρτηση από την GenAI θα μπορούσε να διαβρώσει την κλινική κρίση, ωστόσο μόνο το 18% λέει ότι οι οργανισμοί τους έχουν δημοσιεύσει προστατευτικά κιγκλιδώματα. Μέχρι να καλύψει η διακυβέρνηση το χαμένο έδαφος, η εντολή είναι σαφής: αυτοματοποίηση της γραφειοκρατίας, όχι της σκέψης.
Έτσι, για μένα, η ισορροπία δεν είναι στην πραγματικότητα ο καφές έναντι του ημερολογίου. Πρόκειται για το να κρατάς το ένα πόδι στην κλινική – ώστε να μην ξεχνάω ποτέ ποιον υποτίθεται ότι υπηρετεί η Τεχνητή Νοημοσύνη – και το άλλο πόδι στο προϊόν, ώστε η γνώση να μεταφέρεται. Αν το κάνεις αυτό καλά, η καφεΐνη είναι απλώς ένα ωραίο πλεονέκτημα.
The Έκθεση Έρευνας για την Υγειονομική Περίθαλψη Future Ready για το μέλλον Ο Wolters Kluwer υπογραμμίζει ένα ισχυρό χάσμα μεταξύ του ενθουσιασμού και της εκτέλεσης της GenAI. Σας εξέπληξε κάποιο από τα αποτελέσματα; Τι σας έκανε περισσότερο εντύπωση προσωπικά;
Δεν εξεπλάγην καθόλου. Δεν έχω γνωρίσει ακόμη κλινικό γιατρό που να αντιτίθεται στον αυτοματισμό. Αυτό που επιβραδύνει την ανάπτυξη δεν είναι ο φόβος για κάποιο σενάριο «Skynet σε πλήρη εξέλιξη», αλλά μάλλον η καθημερινή ρουτίνα των λειτουργιών υγειονομικής περίθαλψης. Η έρευνα αποκρυσταλλώνει αυτή την πραγματικότητα. Οκτώ στους 10 ηγέτες κατατάσσουν τη βελτιστοποίηση της ροής εργασίας ως κορυφαία προτεραιότητα, ωστόσο μόλις έξι στους 10 δηλώνουν ότι είναι έτοιμοι να αφήσουν την GenAI να το αντιμετωπίσει. Αυτό το δέλτα είναι ακριβώς αυτό που βλέπω: νάρκες ευθύνης, δεδομένα που μοιάζουν περισσότερο με συρτάρι σκουπιδιών παρά με λίμνη δεδομένων και οικονομικά κίνητρα που εξακολουθούν να ανταμείβουν τον όγκο δεδομένων έναντι της αποτελεσματικότητας. Υπάρχουν και άλλα εμπόδια, όπως το κενό εκπαίδευσης, η κόπωση της shadow-IT και η κανονιστική ομίχλη.
Αυτό που με εντυπωσίασε περισσότερο ήταν το πόσο κοινότοπα είναι αυτά τα εμπόδια. Οι ελλείψεις προσωπικού, το διοικητικό φόρτο και η επαγγελματική εξουθένωση κυριαρχούν στη λίστα ανησυχιών, αλλά μόνο το 18% των οργανισμών έχουν επίσημες πολιτικές για την Τεχνητή Νοημοσύνη Γενιάς. Αν δεν γνωρίζετε ποιος εγκρίνει ένα μοντέλο ή πώς ελέγχονται τα αποτελέσματά του, ο ενθουσιασμός πεθαίνει στο γραφείο συμμόρφωσης. Επιπλέον, το 68% των ερωτηθέντων λένε ότι το κόστος εργασίας είναι η πιο σημαντική οικονομική τους πίεση και δεν είναι περίεργο που τα στελέχη θέλουν απόδειξη απόδοσης επένδυσης (ROI) πριν υπογράψουν ένα άλλο τιμολόγιο λογισμικού. Ο τίτλος δεν είναι «πανικός για την Τεχνητή Νοημοσύνη», είναι «Εξαιρετική ιδέα - δείξτε μου τη ροή εργασίας και την επιχειρηματική περίπτωση».
Πάνω από τους μισούς επαγγελματίες υγείας που συμμετείχαν στην έρευνα ανησυχούν ότι η Γενετική Τεχνητή Νοημοσύνη (GenAI) θα μπορούσε να διαβρώσει τις δεξιότητες λήψης κλινικών αποφάσεων. Πιστεύετε ότι αυτός ο φόβος είναι βάσιμος ή μήπως αντανακλά βαθύτερες ανησυχίες σχετικά με την εμπιστοσύνη και τη διαφάνεια στα συστήματα Τεχνητής Νοημοσύνης;
Μέρος του άγχους είναι πραγματικό, αλλά έχει λιγότερο να κάνει με τους φόβους επιστημονικής φαντασίας για μια απατεώνα τεχνητή νοημοσύνη τύπου HAL-9000 και περισσότερο με την απλή λογοδοσία. Όταν ένα εργαλείο προσφέρει διαφορικές διαγνώσεις σε δευτερόλεπτα, χρειάζεστε κρυστάλλινη προέλευση: Από πού προήλθε η σύσταση, ποιος την υπογράφει και πώς ελέγχεται; Σήμερα, μόνο μια μικρή μειοψηφία οργανισμών διαθέτει επίσημη διακυβέρνηση GenAI, επομένως οι κλινικοί γιατροί συνήθως είναι προσεκτικοί. Αυτό φαίνεται στα δεδομένα μας, καθώς το 57% λέει ότι «η υπερβολική εμπιστοσύνη θα μπορούσε να διαβρώσει την κρίση τους». Για μένα, αυτό είναι ένα σημάδι ότι δεν θέλουν ένα μαύρο κουτί να εισβάλλει στην άδεια ασκήσεως επαγγέλματος.
Βλέπω το ζήτημα μέσα από ένα ιστορικό πρίσμα. Όταν τα υπολογιστικά φύλλα έφτασαν στα οικονομικά τμήματα, ορισμένοι λογιστές ανησυχούσαν ότι οι αναλυτικοί τους μύες θα ατροφούσαν. Αντ' αυτού, το λογισμικό υπολογιστικών φύλλων έγινε η νέα βάση, ανεβάζοντας το όριο ακρίβειας. Η υγειονομική περίθαλψη έχει καθυστερήσει για ένα παρόμοιο άλμα. Χάνουμε πάρα πολλούς ασθενείς λόγω διακύμανσης στην περίθαλψη. Το ιατρικό λάθος παραμένει η κύρια αιτία τραυματισμού και θανάτου. Η υπερδύναμη της Γενετικής Τεχνητής Νοημοσύνης μπορεί να περιορίζει αυτά τα όρια σφάλματος εμφανίζοντας κατευθυντήριες γραμμές, επισημαίνοντας αντενδείξεις και επισημαίνοντας ακραίες τιμές πιο γρήγορα από ό,τι μπορεί οποιοσδήποτε άνθρωπος να εξετάσει το διάγραμμα. Αλλά πρέπει να παραμείνει βοηθός, όχι αυτόνομος φορέας λήψης αποφάσεων, ειδικά στο επόμενο παράθυρο τριών έως πέντε ετών.
Ναι, λοιπόν, ο φόβος είναι βάσιμος, αλλά επιλύσιμος. Τα διαφανή σύνολα δεδομένων, τα ίχνη ελέγχου και τα σημεία ελέγχου ανθρώπινης παρουσίας μετατρέπουν τη «διάβρωση της Τεχνητής Νοημοσύνης» σε «αύξηση της Τεχνητής Νοημοσύνης». Δώστε στους κλινικούς γιατρούς ανιχνεύσιμες συστάσεις και σαφείς γραμμές λογοδοσίας και αυτό το 57% θα εξαφανιστεί. Δεν πρόκειται για αντικατάσταση της εμπειρογνωμοσύνης. πρόκειται για την εμπλουτισμό της με καλύτερα εργαλεία.
Μόνο το 18% των ερωτηθέντων δηλώνουν ότι γνωρίζουν σαφείς πολιτικές GenAI στους οργανισμούς τους. Ποιοι είναι οι πιθανοί κίνδυνοι από την ανάπτυξη εργαλείων GenAI χωρίς την ύπαρξη τέτοιας διακυβέρνησης;
Σκεφτείτε το σαν την κυκλοφορία ενός νέου φαρμάκου χωρίς ετικέτα δοσολογίας. Τα δεδομένα υγειονομικής περίθαλψης είναι εξαιρετικά ευαίσθητα και τα μοντέλα GenAI γίνονται πιο έξυπνα μόνο όταν απορροφούν αυτό το πλούσιο σε προστατευμένες πληροφορίες υγείας (PHI) πλαίσιο. Χωρίς αυστηρές πολιτικές διαχείρισης δεδομένων που να διέπουν το ποιος μπορεί να ανεβάσει πληροφορίες, τον τρόπο καταγραφής αυτών των δεδομένων και το πού βρίσκονται, ένας οργανισμός απέχει μόνο ένα στιγμιότυπο από μια παραβίαση απορρήτου που θα μπορούσε να γίνει πρωτοσέλιδο.
Η ευθύνη είναι η επόμενη νάρκη. Όταν ένας αλγόριθμος παραισθησιολογεί μια αντενδείκνυτη δόση, ποιος «τρώει» την αξίωση για αμέλεια; Ο προμηθευτής, το νοσοκομείο ή ο κλινικός ιατρός που πάτησε «αποδοχή»; Αυτή τη στιγμή, η απάντηση είναι ασαφής επειδή λιγότεροι από ένας στους πέντε οργανισμούς έχουν κωδικοποιήσει «κανόνες του δρόμου» για την Γενετικά Τεστ Νοημοσύνης. Στο κενό, οι δικηγόροι συχνά απευθύνονται στις πιο βαθιές τσέπες, και αυτή η αβεβαιότητα από μόνη της μπορεί να σταματήσει την καινοτομία.
Η διακυβέρνηση προστατεύει επίσης από ανεπαίσθητους κινδύνους, όπως η παρέκκλιση μοντέλων και η σιωπηλή προκατάληψη. Ένα ογκολογικό ρομπότ που έχει εκπαιδευτεί στις οδηγίες του τελευταίου τριμήνου μπορεί αθόρυβα να καταστεί παρωχημένο, αποσπώντας την προσοχή από τις βασισμένες σε τεκμήρια γραμμές. Οι πολιτικές που επιβάλλουν τον έλεγχο εκδόσεων, την παρακολούθηση αποτελεσμάτων και τα ενεργοποιητικά λήξης εμποδίζουν τους αλγόριθμους να γεράσουν και να μετατραπούν σε κινδύνους για την ασφάλεια.
Τέλος, η εμπιστοσύνη διακυβεύεται. Οι κλινικοί γιατροί ανησυχούν ότι η υπερβολική εξάρτηση από την GenAI θα μπορούσε να αμβλύνει την κλινική τους κρίση. Η εφαρμογή αδιαφανών εργαλείων επιβεβαιώνει μόνο αυτούς τους φόβους. Η σαφής διακυβέρνηση, η διαφάνεια στη γενεαλογία δεδομένων, τα πρωτόκολλα επικύρωσης και τα σημεία ελέγχου ανθρώπινης παρουσίας μετατρέπουν το άγχος του «μαύρου κουτιού» σε εμπιστοσύνη ότι η Τεχνητή Νοημοσύνη είναι ένας βοηθητικός συμπαίκτης, όχι ένας αδίστακτος κάτοικος.
Με βάση την εργασία σας με τον Wolters Kluwer και στο χειρουργείο, ποια είναι η πιο ρεαλιστική περίπτωση βραχυπρόθεσμης χρήσης της GenAI στην υγειονομική περίθαλψη;
Ξεχάστε τους ρομποτ χειρουργούς. Μέσα στα επόμενα τρία χρόνια, η θανατηφόρα ευκαιρία για την GenAI είναι... διοικητική εξόντωσηΔύο λωρίδες κυκλοφορίας αποδεικνύουν ήδη την αξία τους:
- Λήψη σημειώσεων από την μπροστινή πλευρά. Τα εργαλεία ακρόασης περιβάλλοντος συντάσσουν πλέον τη σημείωση προόδου ενώ ένας γιατρός μιλάει με τον ασθενή του και στη συνέχεια την τοποθετούν απευθείας στο ηλεκτρονικό αρχείο υγείας (EHR). Η έρευνά μας δείχνει ότι το 41% των ερωτηθέντων την προσθέτουν στη λίστα επιθυμιών τους για την GenAI και η τεχνολογία είναι ήδη διαθέσιμη σε συστήματα υγείας που υιοθετούν πρώιμα συστήματα. Αρκετές μελέτες έχουν δείξει ότι τα συστήματα υπαγόρευσης περιβάλλοντος μπορούν να μειώσουν το γνωστικό φορτίο κατά 51% και τον χρόνο που χρειάζεται να φοράς πιτζάμα μετά το ωράριο κατά περισσότερο από 60%. Αυτή είναι μια δύσκολη απόδοση επένδυσης (ROI). Μπορείτε να την καταλάβετε γρήγορα.
- Προστασία εσόδων από το back-office. Το επόμενο ντόμινο είναι τα πακέτα προηγούμενης εξουσιοδότησης, οι επιστολές έφεσης για απόρριψη και άλλες λάσπες που επηρεάζουν τον κύκλο εσόδων. Για αναφορά, το 67% των ηγετών λένε ότι η προηγούμενη εξουσιοδότηση από μόνη της πνίγει την παραγωγικότητα και το 62% επικαλείται την καθυστέρηση της διαχείρισης των ηλεκτρονικών αρχείων υγείας (EHR). Τα μεγάλα γλωσσικά μοντέλα που διαβάζουν το γράφημα και συμπληρώνουν αυτόματα αυτές τις φόρμες ήδη μειώνουν τις ημέρες των αιτήσεων και απελευθερώνουν προσωπικό για εργασία υψηλότερης αξίας.
Γιατί αυτά τα δύο; Πέτυχαν το τρίπτυχο: χαμηλός κλινικός κίνδυνος, υψηλή ανακούφιση του εργατικού δυναμικού και σαφής αιτιολόγηση των χρημάτωνΣε μια αγορά όπου το 68% των στελεχών αναφέρουν το κόστος προσωπικού ως την κορυφαία οικονομική πίεση, τα εργαλεία που επιστρέφουν ώρες χωρίς να αλλάζουν το σχέδιο φροντίδας είναι το πιο εύκολο «ναι». Η αυτόνομη διάγνωση θα έρθει αργότερα. Τώρα, η GenAI κερδίζει τα προς το ζην εξαφανίζοντας το πρόχειρο.
Η έρευνα σημειώνει ότι τα δεδομένα δεν αποτελούν τον κορυφαίο κίνδυνο που αναφέρουν οι ερωτηθέντες — κάτι που προκαλεί έκπληξη δεδομένου του πόσο συχνά η προστασία των δεδομένων κυριαρχεί στα πρωτοσέλιδα. Ποιους κινδύνους θεωρούν οι κλινικοί γιατροί και οι διοικητικοί υπάλληλοι ως πιο πιεστικούς;Επίσης, έμεινα έκπληκτος. Οι τίτλοι θα μας έκαναν να πιστέψουμε ότι οι παραβιάσεις του HIPAA κρατούν κάθε CIO νοσοκομείου ξύπνιο τη νύχτα. Ωστόσο, τα δεδομένα μας δείχνουν ότι τα δεδομένα μας δείχνουν ότι αποκλειστικά Το 56% των επαγγελματιών αναφέρουν την ιδιωτικότητα ως τον κορυφαίο κίνδυνο της Γενετικής Τεχνητής Νοημοσύνης, ενώ ένα ακόμη μεγαλύτερο ποσοστό (57%) ανησυχεί για την «υποβάθμιση» της κλινικής κρίσης. Αυτό μου λέει ότι ο πρώτος φόβος δεν είναι οι χάκερ, αλλά η λογοδοσία.
Να τι ανησυχούν οι κλινικοί γιατροί και οι διοικητικοί υπάλληλοι:
- Ρουλέτα αστικής ευθύνης. Αν ο αλγόριθμος ωθήσει την Care εκτός πορείας, ποιος υπογράφει τον έλεγχο αμέλειας; Η έλλειψη σαφών κανονισμών και προτύπων κατατάσσεται παράλληλα με τα κενά διαφάνειας στο 55%, σηματοδοτώντας πραγματική ανησυχία σχετικά με την ακτίνα της νόμιμης έκρηξης.
- Ρυθμιστική βλάβη στο λαιμό. Το εβδομήντα έξι τοις εκατό των ηγετών αισθάνονται ήδη αποπροσανατολισμένοι από την αλλαγή των κανόνων του Medicare και του Medicaid. Η προσθήκη αδιαφανούς GenAI στην κορυφή είναι δύσκολο να πουληθεί μέχρι να σταθεροποιηθούν τα προστατευτικά κιγκλιδώματα.
- Μετατόπιση και μεροληψία μοντέλου. Το πενήντα πέντε τοις εκατό επισημαίνει την προκατάληψη από υποεκπαιδευμένα μοντέλα ως κρίσιμο κίνδυνο, μια υπενθύμιση ότι τα παλιά δεδομένα μπορεί να είναι εξίσου επικίνδυνα με τα ελλείποντα δεδομένα.
Με λίγα λόγια, οι περισσότεροι οργανισμοί υποθέτουν ότι τα τείχη προστασίας τους είναι αξιοπρεπή. δεν να έχουν μια σαφή αλυσίδα λογοδοσίας όταν ένα αποτέλεσμα μεγάλου γλωσσικού μοντέλου (LLM) καταλήγει σε ένα σχέδιο φροντίδας. Μέχρι τα πλαίσια διακυβέρνησης να καθορίσουν την ιδιοκτησία, τα ίχνη ελέγχου και τους ρυθμούς ενημέρωσης, οι εφαρμογές GenAI θα συνεχίσουν να καθυστερούν, ανεξάρτητα από το πόσο σφιχτή είναι η στοίβα ασφαλείας.
Πιστεύετε ότι τα εργαλεία GenAI θα ενισχύσουν ή θα μειώσουν τελικά την αυτονομία των κλινικών ιατρών; Πώς σχεδιάζουμε συστήματα που υποστηρίζουν τη λήψη αποφάσεων χωρίς να την υπερβαίνουμε;
Η Γενετική Τεχνητή Νοημοσύνη είναι έτοιμη να επεκτείνουν, όχι συρρικνωτική, κλινική αυτονομία. Αυτή τη στιγμή, μεγάλο μέρος αυτής της αυτονομίας παρεμποδίζεται από την ταξινόμηση εισερχομένων, την προηγούμενη γραφειοκρατία και την άσκηση Ηλεκτρονικών Αρχείων Υγείας (EHR). Δεν αποτελεί έκπληξη, λοιπόν, το γεγονός ότι το προσωπικό πρώτης γραμμής κατατάσσει τη «βελτιστοποίηση των ροών εργασίας» ως την πρώτη περίπτωση χρήσης για το GenAI (προτεραιότητα 80%), παρόλο που μόλις το 63% αισθάνεται τεχνικά έτοιμο να το εκτελέσει. Οι φαρμακοποιοί και οι επαγγελματίες υγείας ήδη στοιχηματίζουν στην ανοδική πορεία: το 41% και το 47% αναμένουν ότι το GenAI θα διαθέσει αρκετό διοικητικό βάρος για να μειώσει τις ανάγκες σε προσωπικό υποστήριξης. Η απελευθέρωση των κλινικών ιατρών από την εισαγωγή δεδομένων σημαίνει περισσότερο χρόνο με τους ασθενείς. Αυτή είναι η αυτονομία που θέλουν όλοι.
Ωστόσο, η έρευνα μας υπενθυμίζει ότι η αυτονομία έχει και τα δύο αρνητικά αποτελέσματα, όπως έχουμε αναφέρει νωρίτερα: το 57% των ερωτηθέντων ανησυχεί ότι η υπερβολική εξάρτηση από την GenAI θα μπορούσε να αμβλύνει την κλινική κρίση. Το αντίδοτο είναι ο προσεκτικός σχεδιασμός, όχι η επιβράδυνση. Τα συστήματα πρέπει να παρουσιάζουν την εργασία τους με σημαίες προέλευσης, παραπομπές και βαθμολογίες εμπιστοσύνης, ώστε οι άνθρωποι να παραμένουν οι τελικοί κριτές. Ο έλεγχος έκδοσης και η παρακολούθηση μετά την ανάπτυξη εντοπίζουν την σιωπηλή απόκλιση του μοντέλου προτού αυτή δηλητηριάσει τις οδούς φροντίδας, ενώ τα κουμπιά "πάντα ορατά" καθιστούν σαφές ότι ο αλγόριθμος είναι βοηθός και όχι αυτός που παρακολουθεί.
Η διακυβέρνηση είναι το τελευταίο βήμα. Μόνο το 18% των επαγγελματιών λένε ότι ο οργανισμός τους έχει μια δημοσιευμένη πολιτική GenAI. Χωρίς μια διαφανή αλυσίδα λογοδοσίας, ακόμη και η καλύτερη εμπειρία χρήστη θα κολλήσει σε νομικό κενό. Οι ισχυρές πολιτικές πρέπει να καθορίζουν τη διαχείριση δεδομένων, τα ίχνη ελέγχου και την οριοθέτηση ρόλων που κοινωνικοποιούνται μεταξύ των γιατρών, των νοσηλευτών και του βοηθού ιατρού που πατάει το κουμπί. Όταν συνδυάζουμε αυτά τα προστατευτικά κιγκλιδώματα με σχεδιασμό που βασίζεται στη ροή εργασίας, η GenAI σταματά να αισθάνεται σαν απειλή για την αυτονομία και αρχίζει να ενεργεί όπως ζητούσαν οι κλινικοί γιατροί που συν-πιλότοι.
Τι εμποδίζει περισσότερο την υιοθέτηση — οι τεχνολογικοί περιορισμοί, η κανονιστική αβεβαιότητα, οι τριβές στη ροή εργασίας ή κάτι βαθύτερο, όπως η πολιτισμική αντίσταση;
Πρόκειται για ένα έλλειμμα εκτέλεσης που καλύπτεται από παλαιότερα κίνητρα. Οι περισσότεροι ηγέτες των συστημάτων υγείας μπορούν να διατυπώσουν ένα έξυπνο όραμα για την GenAI, αλλά η λειτουργική τους δύναμη δεν έχει καταφέρει να το καλύψει. Η έρευνά μας δείχνει την αποσύνδεση σε μία γραμμή: το 80% των ερωτηθέντων κατατάσσει τη «βελτιστοποίηση των ροών εργασίας» ως κορυφαία προτεραιότητα, ωστόσο μόνο το 63% πιστεύει ότι είναι έτοιμο να το κάνει. Το όραμα είναι φθηνό. Οι μηχανικοί ολοκλήρωσης, τα εγχειρίδια διαχείρισης αλλαγών και οι προϋπολογισμοί για τις μονάδες επεξεργασίας γραφικών (GPU) δεν είναι.
Η διακυβέρνηση είναι η επόμενη καταβόθρα. Μόνο το 18% των επαγγελματιών γνωρίζουν καν μια δημοσιευμένη πολιτική GenAI στο νοσοκομείο τους. Χωρίς σαφείς κανόνες χρήσης, επικύρωσης και ευθύνης δεδομένων, κάθε πολλά υποσχόμενο πιλοτικό πρόγραμμα κινδυνεύει να γίνει χειροβομβίδα συμμόρφωσης. Αυτή η νομική ομίχλη ενισχύεται από τη μακροοικονομική αβεβαιότητα. Στην πραγματικότητα, το 75% των ηγετών ανησυχούν ότι οι ταχέως μεταβαλλόμενοι πολιτειακοί και ομοσπονδιακοί κανονισμοί θα ανατρέψουν οποιαδήποτε λύση που θα εφαρμόσουν.
Έπειτα, έρχονται οι τριβές σε επίπεδο τάφρων: σχεδόν τα μισά στελέχη αναφέρουν τα βρώμικα δεδομένα και τους εφιάλτες ενσωμάτωσης Ηλεκτρονικών Αρχείων Υγείας ως κύρια εμπόδια και μόνο το 42% λέει ότι διαθέτει μια διαδικασία για την ενσωμάτωση εργαλείων Γενικής Τεχνητής Νοημοσύνης (GenAI) σε υπάρχουσες ροές εργασίας. Εάν το μοντέλο δεν μπορεί να δει το διάγραμμα ή να προσθέσει κλικ, οι κλινικοί γιατροί θα την εγκαταλείψουν πριν από το μεσημεριανό γεύμα.
Τέλος, υπάρχει το «καθαρτήριο πιλότων». Πολυάριθμες εξωτερικές μελέτες υπολογίζουν το ποσοστό επιτυχίας των πιλοτικών εφαρμογών Τεχνητής Νοημοσύνης που αποφοιτούν σε εταιρική κλίμακα σε περίπου ένα στα δέκα. Τα διοικητικά συμβούλια γιορτάζουν την επίδειξη, εκδίδουν δελτίο τύπου και προχωρούν. Επειδή κανείς δεν χρηματοδοτεί τις ακόλουθες άκομψες υδραυλικές εργασίες. Η Γενετική Τεχνητή Νοημοσύνη θα παραμείνει μια υπόσχεση του PowerPoint μέχρι τα νοσοκομεία να στελεχώσουν με ιδιοκτήτες προϊόντων που έχουν αποστείλει λογισμικό στο παρελθόν.
Εν ολίγοις, η τεχνολογία και ο πολιτισμός δεν αποτελούν ξεχωριστά εμπόδια. Είναι συγχωνευμένα. Λύστε για υπεύθυνη ηγεσία, πραγματικούς προϋπολογισμούς ενσωμάτωσης, σαφείς προστατευτικές μπάρες και η όρεξη για Γενική Τεχνητή Νοημοσύνη θα ανταποκριθεί στον ενθουσιασμό της.
Έχετε δημιουργήσει συστήματα Τεχνητής Νοημοσύνης που επικεντρώνονται σε πρακτικά, βασισμένα σε στοιχεία αποτελέσματα. Ποιες συμβουλές θα δίνατε στους ηγέτες της υγειονομικής περίθαλψης που προσπαθούν να ξεπεράσουν τον ενθουσιασμό και να εντοπίσουν πραγματικά πολύτιμες επενδύσεις στην Τεχνητή Νοημοσύνη;
Ξεκινήστε με μια διάγνωση, όχι με μια επίδειξη. Πριν αφήσετε ένα λαμπερό σφυρί να κυνηγήσει καρφιά, ποσοτικοποιήστε το καρφί: Μειώνεται η χρήση του χειρουργείου κατά 8% για δύο συνεχόμενα τρίμηνα; Οι εφέσεις απόρριψης ατονούν και χάνουν τα έσοδα; Ξοδεύει η τρίτη μονάδα νοσηλευτών δύο ώρες σε μια βάρδια στο EHR «χρόνος εναλλαγής» (χρόνος που αφιερώνεται στην εναλλαγή μεταξύ οθονών και εργασιών); Μόλις ο πόνος γίνει σαφής, το σωστό εργαλείο τείνει να εμφανίζεται. Όπως υπενθύμισε ο Sir William Osler στην ιατρική κοινότητα πριν από γενιές, «Ακούστε τον ασθενή. [Θα] σας πουν τη διάγνωση».
Με το πρόβλημα καρφιτσωμένο, εξετάστε την επιχειρηματική περίπτωση όπως ένας οικονομικός διευθυντής. Απαιτήστε συγκεκριμένους αριθμούς: βασικές μετρήσεις, προβλεπόμενους δέλτα και παράθυρα αποπληρωμής που επιβιώνουν από μια δοκιμασία ανίχνευσης σε αίθουσα συνεδριάσεων. Να θυμάστε ότι μόνο περίπου ένας στους δέκα πιλότους τεχνητής νοημοσύνης μεταβαίνει σε εταιρική κλίμακα. Εάν ο προμηθευτής δεν μπορεί να δείξει σε έναν ενεργό πελάτη που μετέφερε τον βασικό δείκτη απόδοσης (KPI) που σας ενδιαφέρει, συνεχίστε να προχωράτε.
Στη συνέχεια, αποφασίστε αν θα αγοράσετε, θα κατασκευάσετε ή θα συνεργαστείτε. Η αγορά μπορεί να επιταχύνει τον χρόνο επίτευξης αξίας, αλλά προσέξτε τα ατμιστικά προϊόντα που ντύνονται με κοινές λέξεις-κλειδιά. Η οικοδόμηση σας δίνει τον έλεγχο, αλλά μόνο εάν έχετε έναν ιδιοκτήτη κερδών και ζημιών που έχει εφαρμόσει στο παρελθόν μηχανική μάθηση παραγωγής. Οι υβριδικές συνεργασίες συχνά επιτυγχάνουν την ισορροπία: τα δεδομένα σας, το μοντέλο τους, η κοινή ανοδική πορεία, ο κοινός κίνδυνος.
Τέλος, δώστε προτεραιότητα σε μικρές, διαλειτουργικές ομάδες με σαφή λογοδοσία. Σκεφτείτε μια ομάδα δύο πίτσας που περιλαμβάνει τον CMO, τον CIO, τον επικεφαλής της μηχανικής δεδομένων και έναν πρωταθλητή πρώτης γραμμής, αντί για μεγάλες επιτροπές διεύθυνσης. Ευθυγραμμίστε τα κίνητρά τους με πολυετείς στόχους αποτελεσμάτων αντί για βραχυπρόθεσμες μετρήσεις και δώστε τους έναν ειδικό προϋπολογισμό για υποδομές - GPU, μηχανική δεδομένων, λειτουργίες μηχανικής μάθησης (MLOps) - ώστε το έργο να προχωρήσει πέρα από το πιλοτικό στάδιο.
Τέλος, κοιτάζοντας μπροστά: πώς θα μοιάζει ένα υπεύθυνο, πλήρως ενσωματωμένο σύστημα GenAI σε ένα νοσοκομειακό περιβάλλον σε πέντε χρόνια από τώρα; Ποια είναι τα ορόσημα που πρέπει να πετύχουμε για να φτάσουμε εκεί;
Φανταστείτε να μπαίνετε σε μια κλινική όπου ο γιατρός δεν στρέφεται ποτέ στο πληκτρολόγιο. Η συζήτηση ρέει και ένας διακριτικός παράγοντας ακρόασης περιβάλλοντος καταγράφει τον διάλογο, συντάσσει μια σημείωση, υποδεικνύει εντολές βάσει κατευθυντήριων γραμμών και δημιουργεί το πακέτο προηγούμενης εξουσιοδότησης πριν το χέρι του γιατρού φτάσει στο πόμολο της πόρτας. Τα πρώτα πιλοτικά προγράμματα αποδεικνύουν ήδη την ιδέα και το 41% των κλινικών ιατρών στην έρευνά μας λένε ότι αυτή είναι ακριβώς η λειτουργία GenAI που θέλουν στη συνέχεια.
Αυτό που καθιστά δυνατή αυτή τη σκηνή δεν είναι η ρομποτική επιστημονικής φαντασίας. Είναι μια αόρατη αρχιτεκτονική που συνδυάζει καθαρά, διαλειτουργικά δεδομένα με ένα επίπεδο ενορχήστρωσης σε πραγματικό χρόνο και «διακυβέρνηση ως κώδικα». Έχουμε ακόμα να κάνουμε την έρευνά μας. Για να κλείσουμε τα κενά, σκεφτείτε πρώτα την υδραυλική εγκατάσταση δεδομένων και, στη συνέχεια, ενσωματώστε τα προστατευτικά κιγκλιδώματα (αντί να τα στερεώσετε με βίδες) για να μετατρέψετε τη διαφημιστική εκστρατεία σε συνήθεια.
Τα ορόσημα έρχονται φυσικά μόλις τεθούν τα θεμέλια. Κατά το πρώτο έτος, συνιστώ στα νοσοκομεία και τα συστήματα υγείας να συνδέσουν τον ιστό δεδομένων, να δημοσιεύσουν κατευθυντήριες γραμμές GenAI σε ολόκληρη την επιχείρηση και να δημιουργήσουν έναν αγωγό MLOps. Κατά το δεύτερο έτος εφαρμογής, θα είναι σημαντικό να κλιμακωθεί η τεκμηρίωση περιβάλλοντος σε όλες τις εξωτερικές κλινικές, να μετρηθεί ο χρόνος τεκμηρίωσης και ο «χρόνος της πιτζάμας» μετά το ωράριο. Κατά το τρίτο έτος, να επιτραπεί στο GenAI να συντάξει εφέσεις απόρριψης και πακέτα προηγούμενης έγκρισης (το 67% των ηγετών δήλωσαν ότι το βάρος είναι ώριμο για εξάλειψη). Κατά το τέταρτο και πέμπτο έτος, να εξελιχθεί σε υποστήριξη κλινικών αποφάσεων σε πραγματικό χρόνο με προέλευση και, τελικά, σε σχεδιασμό φροντίδας βασισμένο σε συνομιλία, όπου το σύστημα εκτελεί εντολές τη στιγμή που εκφωνούνται.
Σας ευχαριστούμε για την υπέροχη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να το επισκεφτούν Wolters Kluwer ή να διαβάσετε το Έρευνα για την Υγειονομική Περίθαλψη Future Ready Αναφορά.
