Η Τεχνητή Νοημοσύνη στη Φροντίδα Υγείας Μπορεί Να Φέρει Κινδύνους Μαζί Με Ευκαιρίες

Η Τεχνητή Νοημοσύνη έχει τεράστιο δυναμικό όταν πρόκειται για το πεδίο της υγείας, ικανό να βελτιώσει τις διαγνώσεις και να βρει новые, πιο αποτελεσματικές θεραπείες. Ωστόσο, όπως συζητήθηκε πρόσφατα σε ένα άρθρο στο Scientific American, η ταχύτητα με την οποία η Τεχνητή Νοημοσύνη διεισδύει στο πεδίο της υγείας ανοίγει επίσης πολλές νέες προκλήσεις και κινδύνους.

Κατά τη διάρκεια των τελευταίων πέντε ετών, η Υπηρεσία Τροφίμων και Φαρμάκων των ΗΠΑ έχει εγκρίνει πάνω από 40 διαφορετικά προϊόντα Τεχνητής Νοημοσύνης. Ωστόσο, όπως αναφέρθηκε στο Scientific American, κανένα από τα προϊόντα που εγκρίθηκαν για πώληση στις ΗΠΑ δεν είχε αξιολογηθεί την απόδοσή του σε τυχαιοποιημένες ελεγχόμενες κλινικές δοκιμές. Πολλά εργαλεία ιατρικής Τεχνητής Νοημοσύνης δεν απαιτούν ούτε καν έγκριση από την Υπηρεσία Τροφίμων και Φαρμάκων.

Ο Evan Topol, ο συγγραφέας του “Deep Medicine: Πώς η Τεχνητή Νοημοσύνη Μπορεί Να Κάνει τη Φροντίδα Υγείας Ανθρώπινη Ξανά”, δήλωσε στο Scientific American ότι πολλά από τα προϊόντα Τεχνητής Νοημοσύνης που ισχυρίζονται ότι είναι αποτελεσματικά σε εργασίες όπως η διάγνωση ασθενειών δεν έχουν δοκιμαστεί ρηχά με τέτοιο τρόπο, με την πρώτη μεγάλη τυχαιοποιημένη δοκιμή ενός εργαλείου ανίχνευσης και διάγνωσης Τεχνητής Νοημοσύνης να πραγματοποιείται τον περασμένο Οκτώβριο. Επιπλέον, πολύ λίγες εταιρείες τεχνολογίας δημοσιεύουν τις ερευνητικές τους εργασίες σε περιοδικά με κριτές, όπου θα αναλυθεί η εργασία τους από επιστήμονες.

Όταν δοκιμαστούν και ελεγχθούν σωστά, τα συστήματα Τεχνητής Νοημοσύνης μπορούν να είναι ισχυρά εργαλεία που μπορούν να βοηθήσουν τους ιατρικούς επαγγελματίες να ανιχνεύσουν συμπτώματα που δεν είχαν παρατηρηθεί, βελτιώνοντας τις επιπτώσεις στην υγεία.

Ως παράδειγμα, ένα εργαλείο Τεχνητής Νοημοσύνης για την ανίχνευση της διαβητικής νόσου των ματιών δοκιμάστηκε σε εκατοντάδες ασθενείς και φάνηκε να αποδεικνύεται αξιόπιστο. Η εταιρεία που ήταν υπεύθυνη για τη δοκιμή συνεργάστηκε με την Υπηρεσία Τροφίμων και Φαρμάκων για πάνω από οκτώ χρόνια, προκειμένου να βελτιώσει το προϊόν. Η δοκιμή, IDx-DR, βρίσκεται στο δρόμο προς τα κλινικά ιατρείες όπου θα μπορούσε να βοηθήσει στην ανίχνευση πρώιμων σημείων διαβητικής ρετινopathίας, αναφέροντας τους ασθενείς σε ειδικούς ματιών εάν υπάρχουν υπόνοια συμπτώματα.

Εάν δεν δοκιμαστούν προσεκτικά, τα συστήματα Τεχνητής Νοημοσύνης που οι ιατρικοί επαγγελματίες μπορούν να χρησιμοποιήσουν για να οδηγήσουν τη διάγνωση και τη θεραπεία έχουν το δυναμικό να δημιουργήσουν ζημιά αντί να την αποφεύγουν.

Το άρθρο του Scientific American περιγράφει ένα πιθανό πρόβλημα με την εξάρτηση από την Τεχνητή Νοημοσύνη για τη διάγνωση ασθενειών, αναφέροντας το παράδειγμα μιας Τεχνητής Νοημοσύνης που προορίζεται να αναλύει χειρογράφες ακτίνων Χ και να ανιχνεύει ποιοι ασθενείς μπορεί να αναπτύξουν πνευμονία. Ενώ το σύστημα αποδείχθηκε ακριβές όταν δοκιμάστηκε στο νοσοκομείο Mount Sinai στη Νέα Υόρκη, απέτυχε όταν δοκιμάστηκε σε εικόνες που λήφθηκαν σε άλλα νοσοκομεία. Οι ερευνητές發ησαν ότι η Τεχνητή Νοημοσύνη διέκρινε μεταξύ εικόνων που δημιουργήθηκαν από φορητά συστήματα ακτίνων Χ και εκείνων που δημιουργήθηκαν σε τμήμα ακτινολογίας. Οι γιατροί χρησιμοποιούν φορητά συστήματα ακτίνων Χ σε ασθενείς που είναι συχνά πολύ άρρωστοι για να αφήσουν τα κρεβάτια τους, και αυτοί οι ασθενείς είναι σε μεγαλύτερο κίνδυνο ανάπτυξης πνευμονίας.

Οι ψευδείς συναγερμοί είναι επίσης ένα πρόβλημα. Η DeepMind δημιούργησε μια εφαρμογή Τεχνητής Νοημοσύνης που είναι ικανή να προβλέπει την οξεία νεφρική ανεπάρκεια σε νοσηλευόμενους ασθενείς μέχρι και 48 ώρες πριν. Ωστόσο, το σύστημα αναφέρθηκε ότι έκανε δύο ψευδείς συναγερμούς για κάθε νεφρική ανεπάρκεια που προβλέφθηκε επιτυχώς. Οι ψευδείς θετικοί possono να είναι βλαβερά, καθώς possono να ενθαρρύνουν τους γιατρούς να δαπανήσουν άσκοπα χρόνο και πόρους για την παραγγελία περαιτέρω εξετάσεων ή την τροποποίηση των συνταγογραφημένων θεραπειών.

Σε ένα άλλο περιστατικό, ένα σύστημα Τεχνητής Νοημοσύνης κατέληξε λανθασμένα στο συμπέρασμα ότι οι ασθενείς που είχαν πνευμονία ήταν πιο πιθανό να επιβιώσουν εάν είχαν άσθμα, το οποίο θα μπορούσε να οδηγήσει τους γιατρούς να τροποποιήσουν τις θεραπείες για ασθενείς με άσθμα.

Τα συστήματα Τεχνητής Νοημοσύνης που αναπτύσσονται για ένα νοσοκομείο συχνά υπολειτουργούν όταν χρησιμοποιούνται σε ένα διαφορετικό νοσοκομείο. Υπάρχουν πολλαπλοί λόγοι για αυτό. Για παράδειγμα, τα συστήματα Τεχνητής Νοημοσύνης συχνά εκπαιδεύονται σε ηλεκτρονικά ιατρικά αρχεία, αλλά πολλά ηλεκτρονικά ιατρικά αρχεία είναι συχνά ελλιπή ή λανθασμένα, καθώς ο πρωταρχικός σκοπός τους είναι συχνά η χρέωση και όχι η φροντίδα του ασθενούς. Για παράδειγμα, μια έρευνα που διεξήχθη από το KHN βρήκε ότι σε κάποιες περιπτώσεις υπήρχαν ζωτικής σημασίας λάθη στα ιατρικά αρχεία των ασθενών, όπως λίστες φαρμάκων που περιείχαν άκυρα φάρμακα. Πέρα από αυτό, οι ασθένειες είναι συχνά πιο σύνθετες και το σύστημα υγείας πιο复잡, από ότι μπορούν να προβλεφθούν από τους μηχανικούς και επιστήμονες Τεχνητής Νοημοσύνης.

Όσο η Τεχνητή Νοημοσύνη γίνεται ολοένα και πιο διαδεδομένη, θα είναι σημαντικό για τους dévelopers Τεχνητής Νοημοσύνης να συνεργαστούν με τις αρχές υγείας για να διασφαλίσουν ότι τα συστήματα Τεχνητής Νοημοσύνης τους έχουν δοκιμαστεί πλήρως και για τις ρυθμιστικές αρχές να διασφαλίσουν ότι existάν πρότυπα και ακολουθούνται για την αξιοπιστία των εργαλείων διάγνωσης Τεχνητής Νοημοσύνης.