Η Τεχνητή Νοημοσύνη στη Υγεία Μπορεί να Φέρει Κινδύνους Μαζί με Ευκαιρίες

Η Τεχνητή Νοημοσύνη έχει τεράστια δυνατότητα όταν πρόκειται για το πεδίο της υγείας, ικανή να βελτιώσει τις διαγνώσεις και να βρει νέες, πιο αποτελεσματικές θεραπείες. Ωστόσο, όπως συζητήθηκε σε ένα άρθρο του Scientific American πρόσφατα, η ταχύτητα με την οποία η Τεχνητή Νοημοσύνη διεισδύει στο πεδίο της υγείας ανοίγει επίσης πολλές νέες προκλήσεις και κινδύνους.

Κατά τη διάρκεια των τελευταίων πέντε ετών, το Αμερικανικό Οργανισμό Τροφίμων και Φαρμάκων έχει εγκρίνει πάνω από 40 διαφορετικά προϊόντα Τεχνητής Νοημοσύνης. Ωστόσο, όπως αναφέρθηκε από το Scientific American, κανένα από τα προϊόντα που εγκρίθηκαν για πώληση στις Ηνωμένες Πολιτείες δεν έχει αξιολογηθεί ως προς την απόδοσή του σε τυχαιοποιημένες ελεγχόμενες κλινικές δοκιμές. Πολλά εργαλεία ιατρικής Τεχνητής Νοημοσύνης δεν απαιτούν даже έγκριση από τον Οργανισμό Τροφίμων και Φαρμάκων.

Ο Evan Topol, ο συγγραφέας του «Deep Medicine: Πώς η Τεχνητή Νοημοσύνη Μπορεί να Κάνει την Υγεία Ανθρώπινη Ξανά», δήλωσε στο Scientific American ότι πολλά από τα προϊόντα Τεχνητής Νοημοσύνης που ισχυρίζονται ότι είναι αποτελεσματικά σε εργασίες όπως η διάγνωση ασθενειών έχουν πραγματικά υποβληθεί σε αυστηρά τεστ με这样的 τρόπο, με την πρώτη μεγάλη τυχαιοποιημένη δοκιμή ενός εργαλείου ανίχνευσης και διάγνωσης Τεχνητής Νοημοσύνης να γίνεται τον περασμένο Οκτώβριο. Επιπλέον, πολύ λίγες εταιρείες τεχνολογίας δημοσιεύουν τις ερευνητικές εργασίες τους σε επιστημονικά περιοδικά, όπου θα αναλυθεί η εργασία τους από επιστήμονες.

Όταν δοκιμαστούν και ελεγχθούν σωστά, τα συστήματα Τεχνητής Νοημοσύνης μπορούν να είναι ισχυρά εργαλεία που μπορούν να βοηθήσουν τους ιατρούς να ανιχνεύσουν συμπτώματα που δεν έχουν παρατηρηθεί, βελτιώνοντας τα αποτελέσματα της υγείας.

Ως παράδειγμα, ένα εργαλείο Τεχνητής Νοημοσύνης για την ανίχνευση της διαβητικής οφθαλμικής νόσου δοκιμάστηκε σε εκατοντάδες ασθενείς και φάνηκε να είναι αξιόπιστο. Η εταιρεία που ήταν υπεύθυνη για τη δοκιμή συνεργάστηκε με τον Οργανισμό Τροφίμων και Φαρμάκων για πάνω από οκτώ χρόνια, για να βελτιώσει το προϊόν. Η δοκιμή, IDx-DR, βρίσκεται στο δρόμο προς τις κλινικές πρωτοβάθμιας φροντίδας, όπου θα μπορούσε να βοηθήσει στην ανίχνευση πρώιμων σημάτων διαβητικής ρετινopathίας, αναφέροντας τους ασθενείς σε ειδικούς οφθαλμιάτρους εάν υπάρχουν υπόνοια συμπτωμάτων.

Εάν δεν δοκιμαστούν προσεκτικά, τα συστήματα Τεχνητής Νοημοσύνης που οι ιατροί μπορούν να χρησιμοποιήσουν για να οδηγήσουν τη διάγνωση και τη θεραπεία τους έχουν τη δυνατότητα να προκαλέσουν ζημιά αντί να την αποφύγουν.

Το άρθρο του Scientific American περιγράφει ένα πιθανό πρόβλημα με την εξάρτηση από την Τεχνητή Νοημοσύνη για τη διάγνωση ασθενειών, αναφέροντας το παράδειγμα ενός συστήματος Τεχνητής Νοημοσύνης που προορίζεται να αναλύσει ακτίνες Χ και να ανιχνεύσει ποιους ασθενείς μπορεί να αναπτύξουν πνευμονία. Ενώ το σύστημα αποδείχθηκε ακριβές όταν δοκιμάστηκε στο Νοσοκομείο Mount Sinai στη Νέα Υόρκη, απέτυχε όταν δοκιμάστηκε σε εικόνες που λήφθηκαν σε άλλα νοσοκομεία. Οι ερευνητές βρήκαν ότι η Τεχνητή Νοημοσύνη διάκρινε μεταξύ εικόνων που δημιουργήθηκαν από φορητά συστήματα ακτίνων Χ και εκείνων που δημιουργήθηκαν σε τμήμα ακτινολογίας. Οι γιατροί χρησιμοποιούν φορητά συστήματα ακτίνων Χ σε ασθενείς που είναι συχνά πολύ άρρωστοι για να αφήσουν τα κρεβάτια τους, και αυτοί οι ασθενείς είναι σε μεγαλύτερο κίνδυνο να αναπτύξουν πνευμονία.

Οι ψευδείς συναγερμοί είναι επίσης ένα πρόβλημα. Η DeepMind δημιούργησε μια εφαρμογή Τεχνητής Νοημοσύνης που είναι ικανή να προβλέψει την οξεία νεφρική ανεπάρκεια σε νοσηλευόμενους ασθενείς έως και 48 ώρες πριν. Ωστόσο, το σύστημα αναφέρθηκε ότι έκανε δύο ψευδείς συναγερμούς για κάθε νεφρική ανεπάρκεια που προβλέφθηκε επιτυχώς. Οι ψευδείς θετικοί possono να είναι βλαβερά, καθώς μπορούν να ενθαρρύνουν τους γιατρούς να δαπανήσουν άσκοπα χρόνο και πόρους για περαιτέρω εξετάσεις ή να αλλάξουν τις προτεινόμενες θεραπείες.

Σε μια άλλη περίπτωση, ένα σύστημα Τεχνητής Νοημοσύνης κατέληξε λανθασμένα στο συμπέρασμα ότι οι ασθενείς που είχαν πνευμονία ήταν πιο πιθανό να επιβιώσουν εάν είχαν άσθμα, το οποίο θα μπορούσε να οδηγήσει τους γιατρούς να αλλάξουν τις θεραπείες για ασθενείς με άσθμα.

Τα συστήματα Τεχνητής Νοημοσύνης που αναπτύσσονται για ένα νοσοκομείο συχνά υποπερφέρουν όταν χρησιμοποιούνται σε ένα διαφορετικό νοσοκομείο. Υπάρχουν πολλαπλοί λόγοι για αυτό. Για παράδειγμα, τα συστήματα Τεχνητής Νοημοσύνης συχνά εκπαιδεύονται σε ηλεκτρονικά ιατρικά αρχεία, αλλά πολλά ηλεκτρονικά ιατρικά αρχεία είναι συχνά ελλιπή ή λανθασμένα, καθώς ο πρωταρχικός σκοπός τους είναι συχνά η χρέωση και όχι η φροντίδα του ασθενούς. Για παράδειγμα, μια έρευνα που διεξήχθη από το KHN βρήκε ότι đôiότερες φορές υπήρχαν ζωτικής σημασίας λάθη σε ιατρικά αρχεία ασθενών, όπως λίστες φαρμάκων που περιείχαν άκυρα φάρμακα. Πέρα από αυτό, οι ασθένειες είναι συχνά πιο σύνθετες, και το σύστημα υγείας πιο πολύπλοκο, από ότι μπορεί συχνά να προβλεφθεί από τους μηχανικούς και επιστήμονες Τεχνητής Νοημοσύνης.

Όταν η Τεχνητή Νοημοσύνη γίνεται όλο και πιο διαδεδομένη, θα είναι σημαντικό για τους dévelopτερς Τεχνητής Νοημοσύνης να εργαστούν μαζί με τις υγειονομικές αρχές για να διασφαλίσουν ότι τα συστήματα Τεχνητής Νοημοσύνης τους έχουν ελεγχθεί πλήρως και για τα ρυθμιστικά σώματα να διασφαλίσουν ότι existάν πρότυπα και ακολουθούνται για την αξιοπιστία των εργαλείων διάγνωσης Τεχνητής Νοημοσύνης.