Το Γεννητικό AI στη Βιομηχανία Υγείας Χρειάζεται Μια Δόση Εξηγήσιμης Λειτουργίας

Η αξιοσημείωτη ταχύτητα με την οποία τα εργαλεία γεννητικού AI βασισμένα σε κείμενο μπορούν να ολοκληρώσουν εργασίες γραφής και επικοινωνίας υψηλού επιπέδου έχει κάνει εντύπωση σε εταιρείες και καταναλωτές. Nhưng οι διαδικασίες που λαμβάνουν χώρα πίσω από τις σκηνές για να ενεργοποιήσουν αυτές τις εντυπωσιακές ικανότητες possono κάνουν το ρίσκο για ευαίσθητες, κυβερνητικά ρυθμιζόμενες βιομηχανίες, όπως η ασφάλιση, η χρηματοδότηση ή η υγεία, να χρησιμοποιήσουν γεννητικό AI χωρίς να ασκούν σημαντική προσοχή.

Κάποια από τα πιο εικονογραφικά παραδείγματα αυτού μπορούν να βρεθούν στη βιομηχανία υγείας.

Τέτοιου είδους προβλήματα συνήθως σχετίζονται με τα εκτενή και διαφορετικά σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των Μεγάλων Μοντέλων Γλώσσας (LLM) – τα μοντέλα που τα εργαλεία γεννητικού AI βασισμένα σε κείμενο ταΐζουν για να εκτελέσουν εργασίες υψηλού επιπέδου. Χωρίς ρητή εξωτερική παρέμβαση από προγραμματιστές, αυτά τα LLMs έχουν την τάση να σαρώνουν δεδομένα ανεπιλεκτικά από διάφορες πηγές στο διαδίκτυο για να επεκτείνουν τη βάση γνώσεων τους.

Αυτή η προσέγγιση είναι πιο κατάλληλη για περιπτώσεις χαμηλού κινδύνου που προσανατολίζονται στον καταναλωτή, στις οποίες ο τελικός στόχος είναι να κατευθύνει τους πελάτες σε επιθυμητές προσφορές με ακρίβεια. Όμως, τα μεγάλα σύνολα δεδομένων και οι ασαφείς διαδρομές με τις οποίες τα μοντέλα AI παράγουν τις εξόδους τους αποκρύπτουν την εξηγήσιμη λειτουργία που τα νοσοκομεία και οι πάροχοι υγείας απαιτούν για να ανιχνεύσουν και να προληψουν πιθανές ανακρίβειες.

Σε αυτό το πλαίσιο, η εξηγήσιμη λειτουργία αναφέρεται στην ικανότητα να κατανοηθεί η λογική των LLM. Οι επαγγελματίες υγείας που επιθυμούν να υιοθετήσουν βοηθητικά εργαλεία γεννητικού AI πρέπει να έχουν τα μέσα να κατανοήσουν πώς τα μοντέλα τους παράγουν αποτελέσματα, ώστε οι ασθενείς και το προσωπικό να είναι εξοπλισμένοι με πλήρη διαφάνεια σε διάφορες διαδικασίες λήψης αποφάσεων. Με άλλα λόγια, σε μια βιομηχανία όπως η υγεία, όπου οι ζωές είναι σε κίνδυνο, τα στοιχήματα είναι απλά πολύ υψηλά για τους επαγγελματίες να παρερμηνεύσουν τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση των εργαλείων AI τους.

Ευτυχώς, υπάρχει ένας τρόπος να παρακαμφθεί το δίλημμα της εξηγήσιμης λειτουργίας του γεννητικού AI – απλά απαιτεί λίγο περισσότερο έλεγχο και εστίαση.

Μυστήριο και Σκεπτικισμός

Στο γεννητικό AI, η έννοια της κατανόησης του πώς ένα LLM φτάνει από το Σημείο Α – την είσοδο – στο Σημείο Β – την έξοδο – είναι πολύ πιο σύνθετη από τις μη γεννητικές αλγόριθμους που τρέχουν κατά μήκος πιο καθορισμένων μοτίβων.

Τα εργαλεία γεννητικού AI δημιουργούν αμέτρητες συνδέσεις ενώ διασχίζουν από την είσοδο στην έξοδο, αλλά για τον εξωτερικό παρατηρητή, πώς και γιατί κάνουν οποιαδήποτε σειρά συνδέσεων παραμένει μυστήριο. Χωρίς τρόπο να δουν τη «σκέψη» που μια αλγόριθμος AI λαμβάνει, οι ανθρώπινοι χειριστές λείπουν ενός πλήρους μέσου για την έρευνα της λογικής τους και την ανίχνευση πιθανών ανακρίβειων.

Επιπλέον, τα συνεχώς επεκτεινόμενα σύνολα δεδομένων που χρησιμοποιούνται από τους αλγορίθμους ML περιπλέκουν την εξηγήσιμη λειτουργία περαιτέρω. Όσο μεγαλύτερο είναι το σύνολο δεδομένων, τόσο πιο πιθανό είναι το σύστημα να μάθει από σχετικές και ασχετές πληροφορίες και να παράγει «οπτασιασμούς AI» – ψευδείς που απομακρύνονται από εξωτερικές πραγματικότητες και λογική, όσο πειστικά.

Στη βιομηχανία υγείας, αυτού του είδους οι ελαττωματικές εξόδους μπορούν να προκαλέσουν μια σειρά από προβλήματα, όπως λανθασμένες διαγνώσεις και λανθασμένες συνταγές. Παρά τις ηθικές, νομικές και οικονομικές συνέπειες, τέτοιου είδους λάθη θα μπορούσαν εύκολα να βλάψουν τη φήμη των παρόχων υγείας και των ιδρυμάτων που αντιπροσωπεύουν.

Έτσι, παρά το потенシャル να βελτιώσει τις ιατρικές παρεμβάσεις, να βελτιώσει την επικοινωνία με τους ασθενείς και να ενισχύσει την λειτουργική αποτελεσματικότητα, το γεννητικό AI στη υγεία παραμένει περιβαλλόμενο από σκεπτικισμό, και δικαίως – 55% των κλινικών δεν πιστεύουν ότι είναι έτοιμο για ιατρική χρήση και 58% δεν εμπιστεύονται καθόλου. Όμως, οι οργανισμοί υγείας προχωρούν, με 98% να ενσωματώνουν ή να σχεδιάζουν μια στρατηγική ανάπτυξης γεννητικού AI σε μια προσπάθεια να αντισταθμίσουν την επίδραση της συνεχιζόμενης έλλειψης εργατικού δυναμικού του τομέα.

Έλεγχος της Πηγής

Η βιομηχανία υγείας συχνά πιάστηκε στο πίσω πόδι στο τρέχον καταναλωτικό κλίμα, το οποίο τιμωρεί την αποδοτικότητα και την ταχύτητα έναντι της διασφάλισης ασφαλών μέτρων. Τα πρόσφατα νέα σχετικά με τις παγίδες της σχεδόν ατελείωτης σαρώσεως δεδομένων για την εκπαίδευση των LLM, οδηγώντας σε αγωγές για παραβίαση πνευματικών δικαιωμάτων, έχουν φέρει αυτά τα ζητήματα στο προσκήνιο. Κάποιες εταιρείες αντιμετωπίζουν επίσης ισχυρισμούς ότι προσωπικά δεδομένα πολιτών χρησιμοποιήθηκαν για την εκπαίδευση αυτών των μοντέλων γλώσσας, потенτικά παραβιάζοντας νόμους περί προστασίας δεδομένων.

Οι développers AI για υψηλά ρυθμιζόμενες βιομηχανίες πρέπει επομένως να ασκούν έλεγχο над τις πηγές δεδομένων για να περιορίσουν πιθανές λάθη. Δηλαδή, να προτεραιοποιούν την εξαγωγή δεδομένων από αξιόπιστες, βιομηχανικά ελεγμένες πηγές αντί να σαρώνουν εξωτερικές σελίδες του ιστότοπου τυχαία και χωρίς εξπρές άδεια. Για τη βιομηχανία υγείας, αυτό σημαίνει να περιορίζουν τις εισαγωγές δεδομένων σε σελίδες FAQ, αρχεία CSV και ιατρικές βάσεις δεδομένων – μεταξύ άλλων εσωτερικών πηγών.

Εάν αυτό ακούγεται κάπως περιοριστικό, δοκιμάστε να αναζητήσετε μια υπηρεσία σε einen μεγάλο ιστότοπο υγειονομικής περίθαλψης. Οι οργανισμοί υγείας στις Ηνωμένες Πολιτείες δημοσιεύουν εκατοντάδες, αν όχι χιλιάδες, πληροφοριακές σελίδες στα πλαίσιά τους. Τα περισσότερα από αυτά είναι θαμμένα τόσο βαθιά που οι ασθενείς δεν μπορούν ποτέ να τα προσεγγίσουν. Οι λύσεις γεννητικού AI που βασίζονται σε εσωτερικά δεδομένα μπορούν να παραδώσουν αυτές τις πληροφορίες στους ασθενείς με ευκολία και ομαλά. Αυτό είναι ένα win-win για όλες τις πλευρές, καθώς το σύστημα υγείας τελικά βλέπει απόδοση από αυτό το περιεχόμενο, και οι ασθενείς μπορούν να βρουν τις υπηρεσίες που χρειάζονται αμέσως και χωρίς κόπο.

Τι Είναι το Επόμενο για το Γεννητικό AI στις Ρυθμιζόμενες Βιομηχανίες;

Η βιομηχανία υγείας έχει πολλά να κερδίσει από το γεννητικό AI.

Σκεφτείτε, για παράδειγμα, την ευρεία καύση που επηρεάζει τον τομέα υγείας στις Ηνωμένες Πολιτείες τελευταία – κοντά στο 50% της εργατικής δύναμης προβλέπεται να εγκαταλείψει τις θέσεις τους μέχρι το 2025. Τα chatbots που τροφοδοτούνται από γεννητικό AI θα μπορούσαν να βοηθήσουν να ανακουφίσουν μεγάλο μέρος του φόρτου εργασίας και να διατηρήσουν τις υπερεκτεταμένες ομάδες πρόσβασης ασθενών.

Στην πλευρά του ασθενούς, το γεννητικό AI έχει το потенシャル να βελτιώσει τις υπηρεσίες κέντρου κλήσεων των παρόχων υγείας. Η αυτοματοποίηση AI έχει τη δύναμη να αντιμετωπίσει ένα ευρύ φάσμα ερωτημάτων μέσω διαφόρων καναλιών επικοινωνίας, συμπεριλαμβανομένων των FAQ, προβλημάτων IT, αναπλήρωσης φαρμάκων και συστάσεων ιατρών. Εκτός από την εκνευρισμένη που προέρχεται από την αναμονή σε κράτηση, μόνο περίπου το μισό των ασθενών στις Ηνωμένες Πολιτείες επιτυγχάνουν να επιλύσουν τα προβλήματά τους στην πρώτη κλήση, με αποτέλεσμα υψηλές ταχύτητες εγκατάλειψης και μειωμένη πρόσβαση σε φροντίδα. Η αντίστοιχη χαμηλή ικανοποίηση του πελάτη δημιουργεί περαιτέρω πίεση για τον κλάδο να ενεργήσει.