Έρευνα για τον περιορισμό του κινδύνου χρήσης της τεχνητής νοημοσύνης στην ιατρική

Τα προγράμματα τεχνητής νοημοσύνης είναι ικανά να βελτιώσουν την υγεία με πολλούς διαφορετικούς τρόπους. Για παράδειγμα, οι εφαρμογές της τεχνητής νοημοσύνης μπορούν να χρησιμοποιήσουν την υπολογιστική όραση για να βοηθήσουν τους γιατρούς να διαγνώσουν καταστάσεις από ακτίνες Χ και ΦΜΡΙ. Οι αλγόριθμοι της μηχανικής μάθησης μπορούν επίσης να χρησιμοποιηθούν για να βοηθήσουν στη μείωση των ψευδώς θετικών ποσοστών εξαγωγής υποννοούμενων προτύπων από δεδομένα που οι άνθρωποι μπορεί να μην είναι σε θέση να βρουν στα ιατρικά δεδομένα. Ωστόσο, με τις δυνατότητες έρχονται νέες προκλήσεις, και πρόσφατα μια νέα εργασία δημοσιεύθηκε στο Science που εξέτασε τους πιθανούς κινδύνους και τις ρυθμιστικές στρατηγικές για τις ιατρικές τεχνικές της μηχανικής μάθησης σε μια προσπάθεια να ελαττωθούν οι πιθανές αρνητικές παρενέργειες της χρήσης της τεχνητής νοημοσύνης σε ιατρικό контέκστ.

Επεκτείνοντας τις Εφαρμογές της Τεχνητής Νοημοσύνης στην Υγεία

Η τεχνητή νοημοσύνη βλέπει τις εφαρμογές της στο ιατρικό πεδίο να επεκτείνονται γρήγορα. Πρόσφατες εξελίξεις στο πεδίο της υγείας, που οδηγούνται από την τεχνητή νοημοσύνη, περιλαμβάνουν τη δημιουργία μιας νέας εταιρείας φαρμάκων που στοχεύει να χρησιμοποιήσει την τεχνητή νοημοσύνη για τη δημιουργία νέων φαρμάκων, τη δημιουργία τηλε-υγείας αισθητήρων που οδηγούνται από την τεχνητή νοημοσύνη και εφαρμογές υπολογιστικής όρασης που αναλύουν σκηνές ΤΚ και ακτίνες Χ.

Για να είμαστε πιο ακριβείς, η Genesis Therapeutics είναι μια εταιρεία που στοχεύει να χρησιμοποιήσει την τεχνητή νοημοσύνη για να επιταχύνει τη διαδικασία ανακάλυψης φαρμάκων, ελπίζοντας να δημιουργήσει φάρμακα που μπορούν να μειώσουν τη σοβαρότητα των αναπηριών ασθενειών. Η Genesis Therapeutics είναι μόνο μια από σχεδόν 170 διαφορετικές εταιρείες που χρησιμοποιούν την τεχνητή νοημοσύνη για την έρευνα νέων φαρμακευτικών συνθέσεων. Εν τω μεταξύ, όσον αφορά τις συσκευές παρακολούθησης υγείας, η iRhythm (IRTC ) και η γαλλική εταιρεία τεχνητής νοημοσύνης Cardiologs χρησιμοποιούν αλγόριθμους της τεχνητής νοημοσύνης για την ανάλυση δεδομένων ΗΕΓ και παρακολούθηση της υγείας των ατόμων που έχουν καρδιακές παθήσεις και είναι σε κίνδυνο επιπλοκών. Το λογισμικό που σχεδιάστηκε από τις εταιρείες μπορεί να ανιχνεύσει καρδιακούς θορύβους, μια κατάσταση που προκαλείται από την τουρμπουλεντία της αιματικής ροής.

Τέλος, μια πρόσφατη μελέτη που ερεύνησε πώς η υπολογιστική όραση μπορεί να εφαρμοστεί σε ιατρικές εικόνες βρήκε ότι τα συστήματα υπολογιστικής όρασης εκτελούνται τουλάχιστον τόσο καλά ή καλύτερα από τους ειδικούς ραδιολόγους όταν εξετάζουν σκηνές ΤΚ για να βρουν μικρές αιμορραγίες. Οι αλγόριθμοι που χρησιμοποιήθηκαν στη μελέτη ήταν σε θέση να κάνουν προβλέψεις μετά την εξέταση σκηνοθετών ΤΚ για μόλις ένα δευτερόλεπτο. Τα συστήματα υπολογιστικής όρασης ήταν επίσης σε θέση να τοποθετήσουν την αιμορραγία μέσα στο εγκέφαλο.

Έτσι, ενώ τα πιθανά οφέλη της χρήσης της τεχνητής νοημοσύνης στην υγεία είναι σαφή, αυτό που είναι λιγότερο σαφές είναι ποίες νέες προκλήσεις και κίνδυνοι θα προκύψουν ως παρενέργεια της χρήσης της τεχνητής νοημοσύνης στο πεδίο της υγείας.

Ρυθμίζοντας ένα Επεκτεινόμενο Πεδίο

Όπως ανέφερε η TechXplore, για να αξιολογήσει τους πιθανούς μειονεκτήματα της χρήσης της τεχνητής νοημοσύνης στην υγεία, μια ομάδα ερευνητών δημοσίευσε πρόσφατα μια εργασία στο Science, με στόχο να εξαγάγει απαντήσεις για την πρόβλεψη πιθανών προβλημάτων με την τεχνητή νοημοσύνη και να εξερευνήσει πιθανές λύσεις σε αυτά τα προβλήματα. Προβλήματα που μπορεί να προκύψουν από τη χρήση της τεχνητής νοημοσύνης στο πεδίο της υγείας περιλαμβάνουν την ακατάλληλη σύσταση θεραπειών που οδηγούν σε τραυματισμούς, προβλήματα προστασίας προσωπικών δεδομένων και αλγοριθμική προκατάληψη/ανισότητα.

Η FDA έχει εγκρίνει μόνο την ιατρική τεχνητή νοημοσύνη που χρησιμοποιεί “κλειδωμένους αλγόριθμους”, αλγόριθμους που παράγουν το ίδιο αποτέλεσμα κάθε φορά που εκτελούνται. Ωστόσο, πολλή από την τεχνητή νοημοσύνη βρίσκεται στην ικανότητά της να μαθαίνει και να ανταποκρίνεται σε νέους τύπους εισόδων. Για να ενεργοποιήσει τους “αдаптивους αλγόριθμους” να δουν περισσότερη χρήση και να λάβουν έγκριση από την FDA, οι συγγραφείς της εργασίας έκαναν μια ενδελεχή εξέταση του πώς οι κίνδυνοι που σχετίζονται με την ενημέρωση των αλγορίθμων μπορούν να μετριαστούν.

Οι συγγραφείς υποστηρίζουν ότι οι μηχανικοί και ερευνητές της μηχανικής μάθησης πρέπει να εστιάσουν στην συνεχή παρακολούθηση των μοντέλων κατά τη διάρκεια της ζωής της ανάπτυξής τους. Μεταξύ των προτεινόμενων εργαλείων για την παρακολούθηση των συστημάτων της τεχνητής νοημοσύνης ήταν η ίδια η τεχνητή νοημοσύνη, η οποία θα μπορούσε να βοηθήσει στην παροχή αυτοματοποιημένων αναφορών σχετικά με το πώς μια τεχνητή νοημοσύνη συμπεριφέρεται. Είναι επίσης δυνατό ότι πολλά συσκευές της τεχνητής νοημοσύνης θα μπορούσαν να παρακολουθούν η μια την άλλη.

«Για να διαχειριστούμε τους κινδύνους, οι ρυθμιστές πρέπει να εστιάσουν ιδιαίτερα στην συνεχή παρακολούθηση και αξιολόγηση κινδύνων και λιγότερο στη σχεδίαση για μελλοντικές αλλαγές αλγορίθμων», είπαν οι συγγραφείς της εργασίας.

Οι συγγραφείς της εργασίας επίσης συνιστάνε ότι οι ρυθμιστές πρέπει να εστιάσουν στην ανάπτυξη νέων μεθόδων για την αναγνώριση, παρακολούθηση, αξιολόγηση και διαχείριση κινδύνων. Η εργασία εφαρμόζει πολλές από τις τεχνικές που η FDA έχει χρησιμοποιήσει για να ρυθμίσει άλλες μορφές ιατρικής τεχνολογίας.

Όπως εξήγησαν οι συγγραφείς της εργασίας:

«Ο στόχος μας είναι να τονίσουμε τους κινδύνους που μπορούν να προκύψουν από τις απροσδόκητες αλλαγές στο πώς τα συστήματα της τεχνητής νοημοσύνης/μηχανικής μάθησης αντιδρούν ή προσαρμόζονται στο περιβάλλον τους. Υποννοούμενες, συχνά μη αναγνωρισμένες ενημερώσεις παραμέτρων ή νέοι τύποι δεδομένων μπορούν να προκαλέσουν μεγάλες και δαπανηρές λάθη.»