Ηγέτες σκέψης

Η AI είναι ήδη πιο έξυπνη από τον γιατρό σας. Αυτό δεν είναι το τρομακτικό κομμάτι.

Dr. Brandy Zachary
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ κλινική τεχνητή νοημοσύνη αποτυγχάνει όταν παραλείπει δεδομένα σιωπηλά αντί να…
Δείτε περισσότερα
  • Η κλινική τεχνητή νοημοσύνη αποτυγχάνει όταν παραλείπει δεδομένα σιωπηλά αντί να παραδέχεται την αβεβαιότητα.
  • Η ανθρώπινη παρουσία παρέχει κλινικά δεδομένα που κανένας φάκελος ή μοντέλο δεν μπορεί να αποτυπώσει.
  • Η δύσκολη δουλειά βρίσκεται σε αξιόπιστα συστήματα γύρω από το μοντέλο και όχι στην ακατέργαστη νοημοσύνη.

Ήθελα η AI να λύσει αυτό το πρόβλημα.

Για χρόνια, συνέλεξα πολύπλοκες ιατρικές ιστορίες ασθενών, εργαστηριακά ευρήματα, συμπτώματα, φάρμακα, συμπληρώματα και χρόνια προηγούμενης θεραπείας και προσπαθούσα να τα μετατρέψω όλα σε ένα συνεκτικό κλινικό σχέδιο. Μια σύνθετη περίπτωση μπορούσε να απαιτήσει τρεις ώρες έρευνας πριν νιώσω άνετα να αποφασίσω τι είναι σημαντικό και τι πρέπει να συμβεί στη συνέχεια.

Τότε ήρθε η παραγωγική AI.

Η πρώτη μου σκέψη ήταν η προφανής: επιτέλους.

Ήταν μια τεχνολογία που μπορούσε να καταναλώσει τεράστιες ποσότητες πληροφοριών, να ανακαλεί ιατρικές γνώσεις γρηγορότερα από ό,τι εγώ ποτέ θα μπορούσα, και να εντοπίζει σχέσεις σε μια περίπτωση μέσα σε δευτερόλεπτα. Υπολόγισα ότι θα μπορούσα να τοποθετήσω μια διεπαφή γύρω από ένα μεγάλο μοντέλο γλώσσας, να δημιουργήσω μερικά μέτρα ασφαλείας και να τελειώσω.

Αυτό θα ήταν υπέροχο.

Αντίθετα, περίπου ένα χρόνο και 1 εκατομμύριο δολάρια αργότερα, με μηχανικούς λογισμικού να εργάζονται παράλληλα με μια κλινική ομάδα 10 ατόμων, συνεχίζαμε να χτίζουμε.

Ο λόγος δεν ήταν ότι η AI δεν ήταν αρκετά έξυπνη.

Ήταν ότι η νοημοσύνη ήταν το εύκολο μέρος.

Έπαιρνα μια διαφορετική AI από όλους τους άλλους.

Το πρώτο μου στοιχείο εμφανίστηκε πριν προσπαθήσουμε ποτέ να δημιουργήσουμε κλινικό λογισμικό. Συνεχώς παρατηρούσα ότι μπορούσα να χρησιμοποιήσω το ίδιο εργαλείο AI με κάποιον που καθόταν δίπλα μου και να πετύχω δραματικά καλύτερα αποτελέσματα.

Γιατί; Επειδή δεν έθετα απλώς μια ερώτηση και έπαιρνα την απάντηση. Συζητούσα με αυτό. Αμφισβητούσα υποθέσεις. Παρείχα το πλαίσιο που του έλειπε. Διόρθωνα σφάλματα. Αλλάζα το πλαίσιο. Πίεζα ξανά.

Τεχνικά, χρησιμοποιούσαμε το ίδιο εργαλείο. Λειτουργικά, δεν το κάναμε.

Αυτό είναι ένα ενδιαφέρον πρόβλημα παραγωγικότητας όταν γράφετε μια διαφήμιση. Γίνεται ένα πολύ διαφορετικό πρόβλημα όταν το αντικείμενο είναι ένας ασθενής.

Έχω συνεργαστεί με πάνω από 70.000 επαγγελματίες. Κάποιος μπορεί να είναι εξαιρετικός κλινικά και να είναι ακόμη κακός στο να εξάγει χρήσιμες πληροφορίες από ένα σύστημα AI.

Αυτές είναι διαφορετικές δεξιότητες.

Ωστόσο, η απάντηση του συστήματος υγείας φαίνεται να είναι ότι οι κλινικοί χρειάζεται απλώς να μάθουν το «prompt engineering».

Δεν νομίζω ότι είναι μια σοβαρή λύση.

Αν ένα κλινικό σύστημα AI απαιτεί από έναν γιατρό να γίνει ένας εξελιγμένος μηχανικός προτροπών πριν το σύστημα είναι αξιόπιστο, δεν έχουμε ολοκληρώσει την κατασκευή του κλινικού AI.

Η έρευνα μας λέει ήδη κάτι άβολο.

Μια τυχαιοποιημένη κλινική δοκιμή του 2024 έδωσε σε 50 γιατρούς δύσκολες διαγνωστικές περιπτώσεις. Οι γιατροί που χρησιμοποίησαν το GPT-4 σημείωσαν 76 τοις εκατό· όσοι χρησιμοποίησαν συμβατικούς πόρους σημείωσαν 74 τοις εκατό, μια διαφορά που δεν ήταν στατιστικά σημαντική.

Στη συνέχεια, οι ερευνητές έλεγξαν το GPT-4 μόνο του. Ξεπέρασε τους γιατρούς που χρησιμοποίησαν συμβατικούς πόρους κατά 16 ποσοστιαίες μονάδες.

Μια δοκιμή του 2026 στο Πακιστάν διαπίστωσε ότι, μετά από εκπαίδευση στην εγγραμματοσύνη AI, οι γιατροί με πρόσβαση στο GPT-4o σημείωσαν 71.4 τοις εκατό στην διαγνωστική λογική έναντι 42.6 τοις εκατό για όσους χρησιμοποίησαν συμβατικούς πόρους. Ωστόσο, το GPT-4o μόνο του σημείωσε 82.9 τοις εκατό.

Μια επανάληψη του 2026 στο Ηνωμένο Βασίλειο διαπίστωσε ένα παρόμοιο χάσμα: οι γιατροί βελτιώθηκαν με τη βοήθεια AI, αλλά εξακολουθούσαν να σημειώνουν πάνω από 21 ποσοστιαίες μονάδες χαμηλότερα από το LLM που λειτουργεί μόνο του.

Πρέπει να πούμε το άβολο κομμάτι δυνατά: σε ορισμένες γνωστικές εργασίες, η AI είναι ήδη καλύτερη από έναν μεμονωμένο γιατρό.

Κανένας γιατρός δεν έχει διαβάσει κάθε ιατρική μελέτη ή δεν μπορεί να θυμηθεί κάθε σπάνια διαταραχή, αλληλεπίδραση ή αντένδειξη τη στιγμή που γίνεται σχετική. Η AI μπορεί να επεξεργαστεί τεράστιες ποσότητες πληροφοριών χωρίς να κουράζεται ή να της τελειώνει ο χρόνος.

Το λάθος είναι να υποθέτουμε ότι μπορούμε να τοποθετήσουμε ένα chatbot μπροστά σε έναν κλινικό και να θεωρήσουμε το πρόβλημα λυμένο.

Το κενό πλαίσιο προτροπής είναι το πρόβλημα.

Φανταστείτε έναν γιατρό να ανεβάζει μια εργαστηριακή αναφορά που περιέχει 150 δείκτες και να ζητά από ένα LLM να την αναλύσει.

Η απάντηση επιστρέφει όμορφα οργανωμένη. Υπάρχει μόνο ένα πρόβλημα: το σύστημα δεν εξήγαγε αξιόπιστα όλους τους 150 δείκτες.

Τα γενικού σκοπού LLM δεν είναι ντετερμινιστικοί κλινικοί αναλυτές εγγράφων. Πίνακες και πυκνές ιατρικές αναφορές παραμένουν ιδιαίτερα δύσκολες. Το τρομακτικό μέρος είναι ότι η τελική απάντηση μπορεί να μην ανακοινώσει: «Παρέλειψα 50 τιμές».

Μπορεί απλώς να απαντήσει.

Τώρα φανταστείτε ότι μία από τις ελλιπείς τιμές απαιτεί επείγουσα ιατρική αξιολόγηση.

Αυτό δεν ήταν περιορισμός που ήμουν διατεθειμένος να παρακάμψω. Έπρεπε να δημιουργήσουμε διαφορετική τεχνολογία εξαγωγής για να διαχειριζόμαστε τις εργαστηριακές αναφορές με ακρίβεια και επαναληψιμότητα πριν ξεκινήσει το τμήμα κλινικής λογικής του συστήματός μας.

Αυτή η εμπειρία άλλαξε τον τρόπο που σκέφτομαι για την ασφάλεια της AI.

Ένα σύστημα AI που σας λέει ότι δεν ξέρει κάτι είναι ενοχλητικό.

Ένα σύστημα AI που δεν ξέρει τι του έλειψε είναι επικίνδυνο.

Γιατί έπρεπε να δημιουργήσουμε κάτι πέρα από το AI

Η κλινική εργασία απαιτεί κάτι που η παραγωγική AI γενικού σκοπού δεν παρέχει φυσικά: επαναληψιμότητα.

Χρειαζόμασταν έλεγχο πάνω σε ό,τι εισήχθη και τι εξήχθη: αξιόπιστη εξαγωγή δεδομένων, δομημένη γνώση, ντετερμινιστική λογική, μέτρα ασφαλείας και συστήματα ικανά να αξιολογούν σχέσεις σε όλο το ιστορικό ενός ασθενούς.

Η κλινική λογική δεν αποτελεί απλώς μια συλλογή δηλώσεων αν-τότε. Μερικές φορές το σήμα είναι η σχέση μεταξύ πολλών δεικτών. Μερικές φορές πέντε ατομικά μη αξιοσημείωτα ευρήματα γίνονται σημαντικά όταν τα βλέπουμε μαζί.

Οι μηχανικοί χρειάζονται κανόνες αρκετά σαφείς ώστε το λογισμικό να τους εκτελεί. Οι κλινικοί περνούν τη ζωή τους λέγοντας: «Ναι, εκτός…»

Η ανθρώπινη βιολογία είναι γεμάτη εξαιρέσεις, τροποποιητές, συμφραζόμενα και ανταγωνιστικές εξηγήσεις. Σε ορισμένες στιγμές, η κατασκευή του συστήματος έμοιαζε με το ότι μια ομάδα επικοινωνούσε με νοηματική γλώσσα ενώ η άλλη μιλούσε Klingon.

Η απάντηση δεν ήταν ποτέ «AI» ή «όχι AI». Ήταν η ακριβής τοποθέτηση του καθενός.

Το AI μπορεί να διαβάσει το αρχείο. Οι άνθρωποι μπορούν να αντιληφθούν την ατμόσφαιρα του χώρου.

Χρησιμοποιημένο σωστά, το AI μπορεί να επεκτείνει τη μνήμη του κλινικού, να επιταχύνει την έρευνα, να φέρει στην επιφάνεια ασυνήθιστες δυνατότητες και να αναγνωρίσει μοτίβα σε τεράστιες ποσότητες πληροφοριών.

Αυτό αρχίζει να μοιάζει λιγότερο με αντικατάσταση του επαγγελματία και περισσότερο με δημιουργία ενός βιονικού.

Αλλά ο ασθενής δεν είναι μια σύντομη περιγραφή κλινικού περιστατικού.

Ένας επαγγελματίας ακούει την διστακτικότητα πριν από την απάντηση. Παρατηρεί όταν η ιστορία αλλάζει. Μαθαίνει ότι ένας ασθενής τυπικά ελαχιστοποιεί τα συμπτώματα, ενώ άλλος αναφέρει κάθε αίσθηση με μέγιστη ένταση. Ξέρει πότε το «Είμαι καλά» δεν σημαίνει καθαρά καλά.

Αυτές οι πληροφορίες μπορεί να μην υπάρχουν ποτέ στο αρχείο.

Η ανθρώπινη αλληλεπίδραση στην ιατρική δεν είναι απλώς ένα ευχάριστο στρώμα που προσθέτουμε αφού το μηχάνημα έχει ολοκληρώσει τη διανοητική εργασία. Είναι μια ακόμη πηγή κλινικών δεδομένων.

Το AI μπορεί να διαβάσει το αρχείο. Οι άνθρωποι μπορούν να αντιληφθούν την ατμόσφαιρα του χώρου.

Τα καλύτερα κλινικά συστήματα θα χρειάζονται και τα δύο.

Σταματήστε να ρωτάτε αν το AI θα αντικαταστήσει τον γιατρό

Κάνουμε την λάθος ερώτηση.

Το μέλλον δεν θα ανήκει απαραίτητα στην εταιρεία με το πιο έξυπνο chatbot ή το πιο έξυπνο μοντέλο βάσης. Η σημαντική καινοτομία συμβαίνει όλο και περισσότερο γύρω από το μοντέλο: πώς καταγράφονται και επαληθεύονται οι πληροφορίες, ποια γνώση παρέχεται, τι επιτρέπεται στο σύστημα να συμπεράνει, πού οι ντετερμινιστικοί έλεγχοι παίρνουν την εξουσία και πού ένας άνθρωπος πρέπει να παραμείνει στον βρόχο.

Η ακατέργαστη νοημοσύνη γίνεται άφθονη.

Τα αξιόπιστα συστήματα για την εφαρμογή αυτής της νοημοσύνης είναι πολύ πιο δύσκολο να κατασκευαστούν.

Και δεν πρέπει να λύσουμε αυτό το πρόβλημα απαιτώντας από κάθε κλινικό να γίνει ερασιτέχνης προγραμματιστής AI. Η πολυπλοκότητα πρέπει να ζει μέσα στην τεχνολογία, όχι μέσα στην προτροπή του γιατρού.

Ο γιατρός του μέλλοντος δεν θα νικήσει το AI στη μνήμη. Αυτός ο διαγωνισμός γίνεται ήδη άσκοπος.

Αντίθετα, πρέπει να δημιουργήσουμε συστήματα που δίνουν στους κλινικούς τη μνήμη, την επεξεργαστική ισχύ και την αναγνώριση προτύπων του μηχανήματος, διατηρώντας το πλαίσιο, την κρίση, την αμφισβήτηση και την ανθρώπινη σύνδεση του επαγγελματία.

Το αποκαλούμε βιονικό επαγγελματία.

Υποθέτω ότι οι ασθενείς θα το ονομάσουν τελικά κάτι πολύ πιο απλό.

Ο γιατρός τους.

Δρ. Brandy Zachary, DC, IFMCP, γνωστή ως Δρ. Z, είναι η ιδρύτρια και διευθύνουσα σύμβουλος του TDZ Functional Medicine Academy (TDZ-FMA), LabDX και DiagnoseThis. Είναι γιατρός χειροπρακτικής και Πιστοποιημένη Επαγγελματίας του Institute for Functional Medicine. Ανέπτυξε το TDZ-FMA χωρίς εξωτερική επένδυση, μετατρέποντάς το σε εταιρεία Inc. 5000 του 2026 με 2095% τριετή ανάπτυξη. Η Δρ. Z είναι η πρώτη νικήτρια του Gold Stevie® Award για την Καλύτερη Γυναικεία Επιχειρηματία και συγγραφέας οκτώ βιβλίων, συμπεριλαμβανομένου ενός τίτλου της McGraw-Hill.