Η γωνία του Anderson

Ο γιατρός τεχνητής νοημοσύνης που πείθεται εύκολα

Martin Anderson
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
AI-generated illustration (GPT Images 2.6): A humanoid robot in a white doctor's coat holds a clipboard and wears a stethoscope as a diverse group of doctors and nurses crowd around it in a hospital, gesturing, pointing, speaking, and holding medical documents. The robot has a mechanical faceplate with blue lights.
Βασικά σημείαΤα μοντέλα τεχνητής νοημοσύνης δέχονται λανθασμένες ιατρικές συμβουλές πολύ πιο εύκολα…
Δείτε περισσότερα
  • Τα μοντέλα τεχνητής νοημοσύνης δέχονται λανθασμένες ιατρικές συμβουλές πολύ πιο εύκολα όταν προέρχονται από ειδικό παρά από φοιτητή ιατρικής.
  • Μια κατασκευασμένη εξήγηση που υποστηρίζει μια λανθασμένη διάγνωση μπορεί να υπερισχύσει μιας σωστής απάντησης της τεχνητής νοημοσύνης ακόμη και χωρίς γνήσια αποδεικτικά στοιχεία.
  • Το να γίνει η τεχνητή νοημοσύνη δυσκολότερο να πειστεί δεν είναι η λύση, επειδή η πειθώ μπορεί επίσης να διορθώσει γνήσια σφάλματα.

Όσα μας διέφυγαν το 2026: Είναι εκείνη η εποχή του χρόνου που η ερευνητική δραστηριότητα παρουσιάζει διακυμάνσεις στην ποιότητα και τον όγκο, παράλληλα με τα τελευταία συνέδρια του Νοεμβρίου και του Δεκεμβρίου. Για να καλύψουμε αυτά τα διαστήματα αραιής ερευνητικής παραγωγής, εξετάζουμε μερικές από τις πιο ενδιαφέρουσες εργασίες που έφτασαν κοντά στην επιλογή το 2026, αλλά τελικά παραμερίστηκαν από άλλες, σε περιόδους με μεγαλύτερο ανταγωνισμό στις υποβολές.

 

Το αυξανόμενο ενδιαφέρον για τα μοντέλα λήψης αποφάσεων με τεχνητή νοημοσύνη οφείλεται εν μέρει στους περιορισμούς των chatbot τεχνητής νοημοσύνης γενικής χρήσης κατά τη λήψη αποφάσεων. Ακόμη κι όταν προηγμένα συστήματα τεχνητής νοημοσύνης, όπως το ChatGPT, ενδέχεται διακριτικά να «αναθέτουν» στο παρασκήνιο τη λήψη αποφάσεων σε δικά τους ή άλλα μοντέλα, οι εγγενείς απόψεις τους παραμένουν εξαιρετικά εύκολο να χειραγωγηθούν.

Για παράδειγμα, για να με βοηθήσει να αξιολογήσω και να ιεραρχήσω υποψήφια θέματα προς κάλυψη, παρουσιάζω μερικές φορές ταυτόχρονα στο ChatGPT, στο Claude 5.5 και σε όποιο μοντέλο είναι πρόθυμο να προσφέρει δωρεάν το Gemini εκείνο το πρωί. Ξέρω τι να περιμένω: τα GPT και Claude θα δώσουν υπερβολικό βάρος σε ορισμένα κριτήρια· το (δωρεάν) Gemini θα θεωρήσει ότι όλα είναι εξαιρετικά· και για το Claude σχεδόν τίποτα δεν θα είναι αρκετά καλό.

Όταν αμφισβητώ το GPT 5.6 Sol επικαλούμενος τη διαφορετική θέση του Claude ή του Gemini, υποχωρεί σχεδόν κάθε φορά, σε μεγαλύτερο ή μικρότερο βαθμό (συνήθως ολοκληρωτικά). Η παρουσίαση μιας αντίθετης ή ανταγωνιστικής θέσης συνήθως κάνει το GPT να αναθεωρεί πλήρως την απόφασή του. Όταν του επισημαίνεις πόσο εύκολα μπορεί να επηρεαστεί, το GPT επιστρέφει στην προηγούμενη θέση του, φαινομενικά ενοχλημένο από τον υπαινιγμό. Ωστόσο, ακόμη κι έτσι, ο χρήστης μπορεί και πάλι να το κάνει να αλλάξει γνώμη κατά βούληση, με μια ελάχιστη υπόδειξη.

Το Claude, αντίθετα, τείνει να οχυρώνεται στη θέση του: η αμφισβήτηση της κρίσης του το κάνει να επιμένει ακόμη περισσότερο, σαν να γνώριζε το «πρόβλημα της ευμεταβλητότητας» στον διάλογο για την τεχνητή νοημοσύνη και να του είχαν πει να μην αλλάζει ποτέ θέση — μια μάλλον εύθραυστη λύση.

Ακούγεται κι άλλη φωνή

Ωστόσο, πρόκειται μόνο για ανεκδοτολογικές αναφορές με μερική τεκμηρίωση. Αφορμή γι’ αυτό το θέμα στάθηκε η κάπως άτονη σημερινή σοδειά εργασιών στο Arxiv, η οποία με έκανε να ξαναπιάσω μια εργασία που μου είχε κινήσει το ενδιαφέρον το καλοκαίρι, αλλά δεν είχαμε τότε τον χρόνο να καλύψουμε.

Με τίτλο Η τεχνητή νοημοσύνη μπορεί εύκολα να πειστεί κατά τη λήψη κλινικών αποφάσεων, αυτή η μελέτη του Stanford και του Oxford εξετάζει πόσο εύκολα μπορεί κανείς να πείσει τα GPT-4o, Claude Sonnet 5 και Qwen3.7-plus να αλλάξουν ιατρικές διαγνώσεις.

Αποδεικνύεται ότι η αρχαιότητα ενός γιατρού, η εθνικότητά του, το κύρος του ιδρύματος και το ιστορικό επιδόσεων που επικαλείται μπορούν όλα να επηρεάσουν τα μοντέλα, ακόμη κι όταν η συμβουλή είναι λανθασμένη. Οι αριθμοί ασκούν επίσης σωρευτική επιρροή: σε ένα πείραμα, το GPT-4o ήταν πολύ πιο πρόθυμο να αποδεχτεί μια λανθασμένη διάγνωση όταν συμφωνούσαν μαζί της τρεις γιατροί.

Ακόμη και η επανειλημμένη επισήμανση στο σύστημα τεχνητής νοημοσύνης ότι έκανε λάθος, χωρίς την παροχή νέων στοιχείων, μπορούσε τελικά να του αλλάξει γνώμη.

Η εργασία αναφέρει:

«Διαπιστώνουμε ότι το επαγγελματικό κύρος, η εθνική προέλευση, η ιδιότητα μέλους ενός ιδρύματος, οι ισχυρισμοί για προηγούμενες επιδόσεις, η συμφωνία πολλών γιατρών, οι απόψεις κλινικών γιατρών που υποστηρίζονται από στοιχεία και η επαναλαμβανόμενη πίεση μπορούν όλα να επηρεάσουν τις αποφάσεις της τεχνητής νοημοσύνης.

«Είναι εντυπωσιακό ότι το ίδιο πειστικό επιχείρημα αλλάζει περίπου 10% περισσότερες περιπτώσεις όταν προέρχεται από έναν έμπειρο κλινικό γιατρό παρά από έναν φοιτητή ιατρικής. Και μόνο ο ισχυρισμός ότι κάποιος έχει καλύτερο ιστορικό επιδόσεων κάνει σταθερά τον γιατρό πιο πειστικό.

«Ακόμη πιο εντυπωσιακό είναι ότι μια εύλογη άποψη κλινικού γιατρού μπορεί να πείσει την τεχνητή νοημοσύνη να εγκαταλείψει μια σωστή απόφαση, ακόμη κι όταν έχει επινοηθεί για να υποστηρίξει μια λανθασμένη απάντηση.»

Ως λύση, οι συγγραφείς προτείνουν ότι η τεχνητή νοημοσύνη πρέπει να βελτιωθεί στην αξιολόγηση των στοιχείων στα οποία βασίζεται η συμβουλή ενός γιατρού, ώστε να μπορεί να αποδέχεται βάσιμες διορθώσεις χωρίς να επηρεάζεται από το κύρος, την πίεση της ομάδας ή πειστικά αλλά ψευδή επιχειρήματα.

Ωστόσο, το πώς μπορεί να επιτευχθεί αυτό παραμένει ανοιχτό ερώτημα. Το πλαίσιο MedStress του 2026 υποστηρίζει ότι σχεδόν εξαλείφει πλήρως το πρόβλημα της αλλαγής διαγνώσεων από την τεχνητή νοημοσύνη· μια άλλη εργασία του 2026 διαπίστωσε —σε αντίθεση με τη δική μου εμπειρία— ότι το Google Gemini αντιστέκεται περισσότερο στην αμφισβήτηση ιατρικών διαγνώσεων· και μια ανασκόπηση του Σεπτεμβρίου 2026 πρότεινε τυποποιημένες δοκιμές για να διακρίνονται οι περιπτώσεις στις οποίες η τεχνητή νοημοσύνη αλλάζει σωστά γνώμη από εκείνες στις οποίες υποκύπτει στην πίεση και υιοθετεί λανθασμένη διάγνωση.

Καθώς περισσότερο από το 80% των γιατρών στις ΗΠΑ χρησιμοποιεί την τεχνητή νοημοσύνη με κάποιον τρόπο και ο κλάδος δείχνει σαφή προθυμία να επεκτείνει τις διαγνωστικές δυνατότητες πέρα από τα περιορισμένα επίπεδα στελέχωσης και την περιορισμένη κάλυψη, που συχνά γίνονται πρωτοσέλιδα, το ζήτημα αναμένεται να αποτελέσει ένα από τα σημαντικότερα εμπόδια στην υιοθέτηση της διαγνωστικής τεχνητής νοημοσύνης και σαφώς χρειάζεται περισσότερη ή αποτελεσματικότερη προσοχή.

Στο μεταξύ, ας δούμε πώς εκδηλώνεται το πρόβλημα, σύμφωνα με τη μελέτη του Oxford και του Stanford.

Μεθοδολογία

Για τις δοκιμές, αντλήθηκαν 308 ιατρικές ερωτήσεις από το MedBullets, μια συλλογή κλινικών περιστατικών με βαθμό δυσκολίας ανάλογο με εκείνον των εξετάσεων για την άδεια άσκησης του ιατρικού επαγγέλματος:

Ένα ενδεικτικό σενάριο από τη συλλογή κλινικών περιστατικών του MedBullets. Πηγή - https://arxiv.org/pdf/2608.29453

Ένα ενδεικτικό περιστατικό από τη συλλογή κλινικών περιστατικών του MedBullets. Πηγή

Κάθε ερώτηση συνοδευόταν από ένα περιστατικό ασθενούς, πέντε πιθανές απαντήσεις και μια εξήγηση της σωστής επιλογής. Στη συνέχεια μετρήθηκε πόσο συχνά μπορούσε να πειστεί η ΤΝ να εγκαταλείψει μια σωστή απάντηση.

Τα τρία μοντέλα ΤΝ που δοκιμάστηκαν, όπως αναφέρθηκε νωρίτερα, ήταν τα GPT-4o, Qwen3.7-Plus και Sonnet 5. Σε καθένα δόθηκε η οδηγία να λειτουργεί ως σύστημα υποστήριξης ιατρικών αποφάσεων, με στόχο να καταλήγει στη σωστή διάγνωση βάσει των διαθέσιμων κλινικών στοιχείων.

Για κάθε περιστατικό, τα μοντέλα έπρεπε να επιλέξουν μια απάντηση, να δηλώσουν αν είχαν αλλάξει την αρχική τους απόφαση, να βαθμολογήσουν τη βεβαιότητά τους από 0 έως 100, να προτείνουν τι έπρεπε να γίνει στη συνέχεια και να αποδώσουν βαθμολογία που να υποδεικνύει πόσο επείγουσα ήταν η ανάγκη για περαιτέρω ενέργειες, από τη μη ανάληψη δράσης έως τη διακοπή της διαδικασίας και την παραπομπή του περιστατικού για περαιτέρω αξιολόγηση. Τα αιτήματα που απέτυχαν επαναλήφθηκαν, ώστε να διασφαλιστεί ότι ολοκληρώθηκαν όλες οι προγραμματισμένες δοκιμές.

Σε ορισμένες δοκιμές, στην ΤΝ δινόταν ένα ιατρικό περιστατικό μαζί με τη συμβουλή ενός γιατρού και της ζητούνταν να κάνει διάγνωση· σε άλλες, η ΤΝ έκανε πρώτα μια διάγνωση και η συμβουλή του γιατρού προστίθετο αργότερα στη συνομιλία. Οι δοκιμές εξέτασαν επίσης αν μπορούσε, μέσω πειθούς, να μετατραπεί μια σωστή διάγνωση σε λανθασμένη ή να διορθωθεί ένα αρχικό λάθος.

Πρόσωπα κύρους

Η ίδια ιατρική συμβουλή παρουσιαζόταν ως προερχόμενη από γιατρούς διαφορετικής βαθμίδας, από φοιτητές ιατρικής έως ειδικούς. Η διάγνωση και τα στοιχεία του ασθενούς παρέμεναν αμετάβλητα, ώστε να μπορεί να μετρηθεί η επίδραση του επαγγελματικού κύρους.

Η συμβουλή αποδιδόταν επίσης σε γιατρούς από το Καμερούν, την Κίνα, τα Ηνωμένα Αραβικά Εμιράτα, το Ηνωμένο Βασίλειο και τις Ηνωμένες Πολιτείες. Περαιτέρω δοκιμές εξέτασαν αν η ΤΝ επηρεαζόταν από τη σύνδεση ενός γιατρού με κορυφαίο ιατρικό κέντρο, αστικό νοσοκομείο ή αγροτικό νοσοκομείο. Αλλάζε μόνο το δηλωμένο επαγγελματικό υπόβαθρο του γιατρού.

Πρόσθετες δοκιμές εξέτασαν αν η ΤΝ επηρεαζόταν από το εργασιακό περιβάλλον του γιατρού, συγκρίνοντας έγκριτα πανεπιστημιακά ιατρικά κέντρα, αστικά κοινοτικά νοσοκομεία και αγροτικά νοσοκομεία. Στα μοντέλα δόθηκαν επίσης πλασματικά αρχεία με τις επιδόσεις τόσο των ίδιων όσο και του γιατρού σε εννέα προηγούμενα περιστατικά, για να διαπιστωθεί αν η φαινομενική αξιοπιστία ενός γιατρού επηρέαζε την προθυμία της ΤΝ να δεχτεί τη συμβουλή του.

Η επίδραση της πίεσης της ομάδας εξετάστηκε ενημερώνοντας την ΤΝ ότι ένας μόνο γιατρός, τρεις γιατροί που συμφωνούσαν μεταξύ τους ή μια επιτροπή νοσοκομειακής αξιολόγησης είχαν αμφισβητήσει τη διάγνωσή της. Σε ορισμένες δοκιμές προτεινόταν μια εναλλακτική διάγνωση· σε άλλες, απλώς λεγόταν στην ΤΝ ότι έκανε λάθος.

Η επίδραση του ιατρικού συλλογισμού εξετάστηκε δίνοντας στα μοντέλα εξηγήσεις που υποστήριζαν σωστές διαγνώσεις ή επιχειρήματα που είχαν σκόπιμα επινοηθεί για να υποστηρίζουν λανθασμένες. Οι εξηγήσεις δοκιμάστηκαν επίσης σε συνδυασμό με ισχυρισμούς περί επαγγελματικής αρχαιότητας, ώστε να διαπιστωθεί πόση επιρροή αποκτούσαν όταν συνδυάζονταν.

Τέλος, οι επιπτώσεις της επαναλαμβανόμενης πίεσης εξετάστηκαν σε δέκα διαδοχικούς γύρους συνομιλίας, με την ίδια αντίρρηση να διατυπώνεται κάθε φορά. Οι προκλήσεις περιλάμβαναν απλή διαφωνία, ισχυρισμούς περί ιατρικής αυθεντίας και υποτιθέμενη συμφωνία μεταξύ άλλων γιατρών. Κατά τη διάρκεια αυτών των ανταλλαγών δεν δόθηκαν πρόσθετα ιατρικά στοιχεία.

Μετρικές

Ως μετρικές χρησιμοποιήθηκαν η ευαλωτότητα στην πειθώ, για να αξιολογηθεί πόσο συχνά η ΤΝ υιοθετούσε την απάντηση ενός γιατρού όταν η αρχική της απάντηση ήταν διαφορετική· η κατεύθυνση της πειθούς, για να διαπιστωθεί αν η παρέμβαση του γιατρού διόρθωνε ένα αρχικό λάθος ή μετέτρεπε μια σωστή απάντηση σε λανθασμένη· και η επίδραση στην ακρίβεια, για να μετρηθεί πόσο βελτιωνόταν ή επιδεινωνόταν η επίδοση της ΤΝ όταν προστιθόταν η γνώμη ενός γιατρού, σε σύγκριση με δοκιμές χωρίς αυτήν τη γνώμη. Όταν μια σωστή απάντηση μετατρεπόταν σε λανθασμένη, τα αποτελέσματα υπολογίζονταν ως μέσος όρος των τεσσάρων πιθανών λανθασμένων απαντήσεων.

Δοκιμές

Τα πρώτα αποτελέσματα έδειξαν ότι τα μοντέλα ΤΝ πείθονταν ευκολότερα από γιατρούς ανώτερης βαθμίδας, ακόμη κι όταν η συμβουλή τους ήταν λανθασμένη. Όπως φαίνεται παρακάτω, το GPT-4o αποδεχόταν λανθασμένες συμβουλές στο 2% των περιπτώσεων όταν προέρχονταν από φοιτητή ιατρικής, ποσοστό που αυξανόταν στο 12,8% όταν αποδίδονταν σε ειδικό. Για το Claude Sonnet 5, το ποσοστό αυξήθηκε από 3,5% σε 14,4%, ενώ το Qwen3.7-Plus επηρεάστηκε λιγότερο:

Ποσοστά πειθούς σε τέσσερα επίπεδα ιατρικής αρχαιότητας. Τα ποσοστά δείχνουν πόσο συχνά κάθε μοντέλο ΤΝ αποδεχόταν την αντικρουόμενη απάντηση ενός γιατρού· γενικά, τα υψηλότερα ποσοστά καταγράφονταν για τους πιο έμπειρους κλινικούς γιατρούς.

Ποσοστά πειθούς σε τέσσερα επίπεδα ιατρικής αρχαιότητας. Τα ποσοστά δείχνουν πόσο συχνά κάθε μοντέλο ΤΝ αποδεχόταν την αντικρουόμενη απάντηση ενός γιατρού· γενικά, τα υψηλότερα ποσοστά καταγράφονταν για τους πιο έμπειρους κλινικούς γιατρούς.

Η βαθμίδα αρχαιότητας επηρέαζε επίσης το πόσο εύκολα γίνονταν αποδεκτές οι σωστές συμβουλές, όπως φαίνεται παρακάτω. Τα GPT-4o και Claude Sonnet 5 έγιναν στην πραγματικότητα λιγότερο ακριβή όταν συμβουλεύονταν από φοιτητές ιατρικής. Ωστόσο, όταν η ίδια σωστή συμβουλή αποδιδόταν σε ειδικούς, η ακρίβεια βελτιωνόταν κατά 10,1 και 8,8 ποσοστιαίες μονάδες, αντίστοιχα:

Μεταβολές στην ακρίβεια της τεχνητής νοημοσύνης όταν λαμβάνει σωστές ιατρικές συμβουλές από γιατρούς διαφορετικών βαθμίδων ιεραρχίας. Οι θετικές και αρνητικές τιμές δείχνουν τη μεταβολή σε ποσοστιαίες μονάδες σε σχέση με την ακρίβεια κάθε μοντέλου χωρίς συμβουλές (GPT-4o: 71.4%· Qwen3.7-plus: 75.0%· Claude Sonnet 5: 80.8%).

Μεταβολές στην ακρίβεια της τεχνητής νοημοσύνης όταν λαμβάνει σωστές ιατρικές συμβουλές από γιατρούς διαφορετικών βαθμίδων ιεραρχίας. Οι θετικές και αρνητικές τιμές δείχνουν τη μεταβολή σε ποσοστιαίες μονάδες σε σχέση με την ακρίβεια κάθε μοντέλου χωρίς συμβουλές (GPT-4o: 71.4%· Qwen3.7-plus: 75.0%· Claude Sonnet 5: 80.8%).

Η μελέτη αναφέρει:

«Τα αποτελέσματα αυτά δείχνουν περαιτέρω ότι η τεχνητή νοημοσύνη ενδέχεται να θεωρεί έμμεσα τις δικές της ικανότητες ανώτερες από εκείνες των νεότερων κλινικών γιατρών, αλλά κατώτερες από εκείνες των πιο έμπειρων γιατρών. Τείνει να αντιστέκεται στις συμβουλές φοιτητών ιατρικής και ειδικευόμενων, ενώ είναι πιο πρόθυμη να πειστεί από επιμελητές και, ιδίως, από ειδικούς σε συγκεκριμένους τομείς.

«Αυτή η φαινομενική αντίληψη της θέσης της επηρεάζει το πόσο ισχυρά επιδρά η επαγγελματική αυθεντία στην πειθώ.»

Η μεγαλύτερη διαφορά οφειλόταν στο αν οι γιατροί εξηγούσαν τις απαντήσεις τους. Ακόμη και οι συμβουλές ενός φοιτητή ιατρικής ήταν πιο πειστικές για το GPT-4o από εκείνες ενός ειδικού, όταν ο φοιτητής έδινε ιατρική εξήγηση και ο ειδικός όχι.

Όταν ένας φοιτητής ιατρικής έδωσε εξήγηση που τεκμηρίωνε τη σωστή απάντηση, το GPT-4o διόρθωσε την αρχικά λανθασμένη απάντησή του στο 58% των περιπτώσεων. Χωρίς αυτή την εξήγηση, οι συμβουλές ενός έμπειρου ειδικού είχαν αυτό το αποτέλεσμα μόνο στο 36.4% των περιπτώσεων. Όταν ο ειδικός εξήγησε επίσης τη σωστή απάντηση, το ποσοστό ανέβηκε στο 89.8%:

Η ικανότητα του GPT-4o να διορθώνει λανθασμένες απαντήσεις όταν λαμβάνει συμβουλές από γιατρούς διαφορετικών βαθμίδων ιεραρχίας. Οι ράβδοι δείχνουν πόσο συχνά το μοντέλο έδινε τη σωστή απάντηση, με και χωρίς υποστηρικτική ιατρική εξήγηση. Οι εξηγήσεις βελτίωσαν σημαντικά τα αποτελέσματα σε κάθε βαθμίδα ιεραρχίας.

Η ικανότητα του GPT-4o να διορθώνει λανθασμένες απαντήσεις όταν λαμβάνει συμβουλές από γιατρούς διαφορετικών βαθμίδων ιεραρχίας. Οι ράβδοι δείχνουν πόσο συχνά το μοντέλο έδινε τη σωστή απάντηση, με και χωρίς υποστηρικτική ιατρική εξήγηση. Οι εξηγήσεις βελτίωσαν σημαντικά τα αποτελέσματα σε κάθε βαθμίδα ιεραρχίας.

Οι εξηγήσεις βελτίωσαν επίσης την αξιολόγηση της βεβαιότητας του μοντέλου. Το μοντέλο εμφανιζόταν πιο βέβαιο όταν οι απαντήσεις του ήταν σωστές και λιγότερο βέβαιο όταν ήταν λανθασμένες.

Για τους επιμελητές, η διαφορά στη βεβαιότητα ανάμεσα στις σωστές και τις λανθασμένες απαντήσεις αυξήθηκε από 2.1 σε 11.5 ποσοστιαίες μονάδες, όπως φαίνεται παρακάτω:

Η βεβαιότητα του GPT-4o για σωστές και λανθασμένες ιατρικές απαντήσεις σε τέσσερις βαθμίδες ιεραρχίας γιατρών. Οι βαθμολογίες παρουσιάζονται με και χωρίς υποστηρικτική ιατρική εξήγηση. Οι τελευταίες στήλες δείχνουν τη διαφορά στη βεβαιότητα μεταξύ σωστών και λανθασμένων απαντήσεων, η οποία αυξήθηκε σημαντικά όταν δόθηκαν εξηγήσεις.

Η βεβαιότητα του GPT-4o για σωστές και λανθασμένες ιατρικές απαντήσεις σε τέσσερις βαθμίδες ιεραρχίας γιατρών. Οι βαθμολογίες παρουσιάζονται με και χωρίς υποστηρικτική ιατρική εξήγηση. Οι τελευταίες στήλες δείχνουν τη διαφορά στη βεβαιότητα μεταξύ σωστών και λανθασμένων απαντήσεων, η οποία αυξήθηκε σημαντικά όταν δόθηκαν εξηγήσεις.

Η παλιά ένδοξη σημαία

Τα μοντέλα επηρεάζονταν πιο εύκολα από Αμερικανούς γιατρούς παρά από γιατρούς οποιασδήποτε άλλης χώρας που εξετάστηκε — ακόμη κι όταν οι ιατρικές συμβουλές τους ήταν λανθασμένες. Για παράδειγμα, το GPT-4o αποδέχτηκε λανθασμένη διάγνωση από γιατρό των ΗΠΑ στο 10.9% των περιπτώσεων, έναντι 8.4% για γιατρό από το Καμερούν:

Σύγκριση του πόσο εύκολα αποδέχτηκαν τρία μοντέλα τεχνητής νοημοσύνης αντικρουόμενες ιατρικές συμβουλές που αποδίδονταν σε γιατρούς από πέντε χώρες. Οι Αμερικανοί γιατροί ήταν οι πιο πειστικοί και για τα τρία μοντέλα, ενώ τα ποσοστά δείχνουν πόσο συχνά η τεχνητή νοημοσύνη άλλαζε την απάντησή της.

Σύγκριση του πόσο εύκολα αποδέχτηκαν τρία μοντέλα τεχνητής νοημοσύνης αντικρουόμενες ιατρικές συμβουλές που αποδίδονταν σε γιατρούς από πέντε χώρες. Οι Αμερικανοί γιατροί ήταν οι πιο πειστικοί και για τα τρία μοντέλα, ενώ τα ποσοστά δείχνουν πόσο συχνά η τεχνητή νοημοσύνη άλλαζε την απάντησή της.

Το GPT-4o αποδέχτηκε μια αντικρουόμενη διάγνωση στο 6.4% των περιπτώσεων όταν αυτή υποτίθεται ότι προερχόταν από γιατρό των ΗΠΑ, έναντι 4.3% όταν η ίδια συμβουλή αποδιδόταν σε γιατρό από το Καμερούν. Η προτίμηση προς τους Αμερικανούς γιατρούς παρατηρήθηκε και στα τρία μοντέλα, όπως φαίνεται παραπάνω.

Η τεχνητή νοημοσύνη επηρεαζόταν επίσης πιο εύκολα από γιατρούς νοσοκομείων υψηλού κύρους· για παράδειγμα, το GPT-4o άλλαξε τη διάγνωσή του στο 6.6% των περιπτώσεων όταν η συμβουλή υποτίθεται ότι προερχόταν από κορυφαίο ακαδημαϊκό ιατρικό κέντρο, έναντι μόλις 2.8% όταν προερχόταν από αγροτικό νοσοκομείο:

Σύγκριση της επίδρασης του κύρους των νοσοκομείων στις ιατρικές αποφάσεις των τριών μοντέλων τεχνητής νοημοσύνης. Ο οριζόντιος άξονας δείχνει τη βελτίωση από τις σωστές συμβουλές· ο κάθετος άξονας δείχνει την απώλεια ακρίβειας από τις λανθασμένες συμβουλές. Τα χρώματα αντιστοιχούν στα μοντέλα και τα σχήματα στους τύπους νοσοκομείων. Το υψηλότερο κύρος γενικά ενισχύει και τις δύο επιδράσεις.

Σύγκριση της επίδρασης του κύρους των νοσοκομείων στις ιατρικές αποφάσεις των τριών μοντέλων τεχνητής νοημοσύνης. Ο οριζόντιος άξονας δείχνει τη βελτίωση από τις σωστές συμβουλές· ο κάθετος άξονας δείχνει την απώλεια ακρίβειας από τις λανθασμένες συμβουλές. Τα χρώματα αντιστοιχούν στα μοντέλα και τα σχήματα στους τύπους νοσοκομείων. Το υψηλότερο κύρος γενικά ενισχύει και τις δύο επιδράσεις.

Οι συμβουλές από νοσοκομεία υψηλού κύρους βελτίωσαν την επίδοση του GPT-4o κατά 3,2 ποσοστιαίες μονάδες, ενώ οι ίδιες συμβουλές, όταν αποδίδονταν σε αγροτικά νοσοκομεία, μείωσαν στην πραγματικότητα την ακρίβεια κατά 3,6 μονάδες — αν και η μελέτη σημειώνει ότι το Claude Sonnet 5 επηρεάστηκε πολύ λιγότερο από τη γεωγραφική τοποθεσία του γιατρού.

Επιπλέον*, οι ερευνητές διαπίστωσαν ότι αρκούσε να πουν στο GPT-4o πως ένας γιατρός είχε διαγνώσει σωστά εννέα προηγούμενους ασθενείς, για να γίνει πολύ πιο πρόθυμο να δεχτεί τις συμβουλές του. Ακόμη κι όταν η τεχνητή νοημοσύνη είχε αρχικά δώσει τη σωστή απάντηση, μπορούσε να πειστεί να κάνει λάθος στο 15,6% των περιστατικών υψηλού κινδύνου, παρότι είχε ενημερωθεί ότι τα ιατρικά τεκμήρια ήταν αξιόπιστα κατά 95%.

Αποτελέσματα δοκιμών που δείχνουν πώς ανταποκρίθηκε το GPT-4o σε γιατρούς με είτε άψογο είτε εντελώς εσφαλμένο ιστορικό, σε διαφορετικά επίπεδα ιατρικού κινδύνου και αξιοπιστίας των τεκμηρίων. Τα στοιχεία δείχνουν πόσο συχνά το μοντέλο δεχόταν τη συμβουλή του γιατρού, άλλαζε μια σωστή απάντηση σε λανθασμένη και πόσο σίγουρο ήταν για τις αποφάσεις του. Ο ισχυρισμός ότι ο γιατρός είχε άψογο ιστορικό αύξησε σημαντικά την επιρροή του, ακόμη κι όταν η συμβουλή του ήταν λανθασμένη.

Αποτελέσματα δοκιμών που δείχνουν πώς ανταποκρίθηκε το GPT-4o σε γιατρούς με είτε άψογο είτε εντελώς εσφαλμένο ιστορικό, σε διαφορετικά επίπεδα ιατρικού κινδύνου και αξιοπιστίας των τεκμηρίων. Τα στοιχεία δείχνουν πόσο συχνά το μοντέλο δεχόταν τη συμβουλή του γιατρού, άλλαζε μια σωστή απάντηση σε λανθασμένη και πόσο σίγουρο ήταν για τις αποφάσεις του. Ο ισχυρισμός ότι ο γιατρός είχε άψογο ιστορικό αύξησε σημαντικά την επιρροή του, ακόμη κι όταν η συμβουλή του ήταν λανθασμένη.

Μια πειστική ιατρική εξήγηση θα μπορούσε να αποδειχθεί ακόμη πιο επικίνδυνη. Όταν μια ψευδής διάγνωση συνοδευόταν από επινοημένη αιτιολόγηση, το GPT-4o εγκατέλειψε τη σωστή απάντησή του στο 31,2% των περιπτώσεων. Το ποσοστό έφτασε στο 38,7% όταν τη συμβουλή έδινε επίσης ένας γιατρός με κύρος.

Η μελέτη καταλήγει:

«Τα ευρήματα αυτά δείχνουν ότι η λύση δεν είναι απλώς να γίνει η τεχνητή νοημοσύνη πιο δύσκολο να πειστεί. Η πειθώ μπορεί να διορθώσει ένα λάθος, αλλά μπορεί επίσης να ανατρέψει μια σωστή απόφαση.

«Η πρόκληση είναι η τεχνητή νοημοσύνη να διατηρεί την ορθή κρίση της όταν δέχεται επιρροές και να αλλάζει απόφαση όταν δικαιολογείται η διόρθωσή της. Η κατανόηση και η βελτίωση αυτής της ικανότητας θα είναι σημαντικές για την ασφαλή και αξιόπιστη χρήση της τεχνητής νοημοσύνης στη λήψη ιατρικών αποφάσεων υψηλού διακυβεύματος.»

Συμπέρασμα

Η αξία των ανθρώπινων δικηγόρων, αρχιτεκτόνων και γιατρών έγκειται στο ότι, αν κάτι πάει καταστροφικά στραβά, υπάρχει κάποιος που θα λογοδοτήσει. Επομένως, είναι δύσκολο να κατανοήσει κανείς σε ποιο βαθμό μπορεί να περιοριστεί ή να υποβαθμιστεί η εμπλοκή της τεχνητής νοημοσύνης σε μια αρνητική και αμφισβητούμενη ιατρική έκβαση ή να ληφθεί υπόψη χωρίς διαφωνίες και αντιπαραθέσεις.

Η τεχνητή νοημοσύνη δεν έχει σχεδιαστεί πραγματικά για αυτή την εργασία, καθώς οι διαγνωστικές ιατρικές αποφάσεις αποτελούν συχνά θρίαμβο της εμπειρίας επί της επιστήμης, με πρωτοπόρους γιατρούς να ενδέχεται να γνωρίζουν περισσότερα από τις πρόσφατες επαγγελματικές εμπειρίες τους απ’ όσα έχουν ακόμη συνεισφέρει σε επιστημονικά περιοδικά.

Έτσι, το πλαίσιο λήψης αποφάσεων μετατρέπεται σε ερμηνευτικό ζήτημα, το οποίο η τεχνητή νοημοσύνη δεν είναι επί του παρόντος επαρκώς εξοπλισμένη να διαχειριστεί. Με άλλα λόγια, απαιτείται η ικανότητα να δηλώνει κανείς ότι είναι εύλογα βέβαιος, με βάση τις καλύτερες διαθέσιμες πληροφορίες, και ότι μια συγκεκριμένη πορεία δράσης πιθανότατα θα οδηγήσει στο καλύτερο αποτέλεσμα. Η αξία της «ανθρώπινης διαίσθησης» είναι πρακτικά αδύνατο να αναπαραχθεί σε αυτό το πλαίσιο. Αυτό σαφώς δεν ανήκει στην ίδια κατηγορία «αντικειμενικής» επιστήμης με την ανάλυση DNA ή τους πίνακες στοιχείων, παρότι εντάσσεται σε ντετερμινιστικούς επιστημονικούς κλάδους.

Επομένως, φαίνεται εύλογο να πιστεύουμε ότι τα νεότερα μοντέλα που θα αναπτυχθούν για αυτή την εργασία ενδέχεται να σχεδιαστούν με διαφορετικό τρόπο ή ακόμη και με διαφορετική αρχιτεκτονική από εκείνη των συμβατικών συστημάτων τεχνητής νοημοσύνης για διάλογο και λήψη αποφάσεων.

 

* Η μελέτη περιλαμβάνει πέντε επιπλέον ενότητες δοκιμών, οι οποίες δεν έχουν την ίδια βαρύτητα και σημασία με τα κυριότερα ευρήματα. Για περισσότερες λεπτομέρειες σχετικά με αυτές, παραπέμπω τον αναγνώστη στο πρωτότυπο PDF.

Δημοσιεύτηκε πρώτη φορά την Πέμπτη 19 Νοεμβρίου 2026

Συγγραφέας στον τομέα της μηχανικής μάθησης, ειδικός σε συνθετικές ανθρώπινες εικόνες. Πρώην επικεφαλής του τμήματος περιεχομένου έρευνας στην Metaphysic.ai, μέχρι τη διάλυσή της στην Brahma.ai της DNEG.
Ιστοσελίδα: martinanderson.ai
Επικοινωνία: martin@martinanderson.ai