Η Τεχνητή Νοημοσύνη Μπορεί Να Αποφεύγει Συγκεκριμένες Ανεπιθύμητες Συμπεριφορές Με Νέα Αλγόριθμους

Καθώς οι αλγόριθμοι και τα συστήματα της τεχνητής νοημοσύνης γίνονται πιο εξελιγμένα και αναλαμβάνουν μεγαλύτερες ευθύνες, γίνεται όλο και πιο σημαντικό να διασφαλιστεί ότι τα συστήματα της τεχνητής νοημοσύνης αποφεύγουν επικίνδυνες, ανεπιθύμητες συμπεριφορές. Πρόσφατα, μια ομάδα ερευνητών από το Πανεπιστήμιο του Μασαχουσέττης Άμχερστ και το Στάνφορντ έöffentωσε了一ή έρευνα που δείχνει πώς συγκεκριμένες συμπεριφορές της τεχνητής νοημοσύνης μπορούν να αποφευχθούν, με τη χρήση μιας τεχνικής που προκαλεί ακριβείς μαθηματικές οδηγίες που μπορούν να χρησιμοποιηθούν για να điều chỉnh τη συμπεριφορά της τεχνητής νοημοσύνης.

Σύμφωνα με το TechXplore, η έρευνα βασίστηκε στην υπόθεση ότι ανεπιθύμητες/απαισιόδοξες συμπεριφορές μπορούν να οριστούν με μαθηματικές συναρτήσεις και μεταβλητές. Εάν αυτό είναι αλήθεια, τότε πρέπει να είναι δυνατό για τους ερευνητές να εκπαιδεύσουν συστήματα να αποφεύγουν αυτές τις συγκεκριμένες συμπεριφορές. Η ερευνητική ομάδα στόχευε να αναπτύξει ένα εργαλείο που θα μπορούσε να χρησιμοποιηθεί από τους χρήστες της τεχνητής νοημοσύνης για να ορίσουν ποιες συμπεριφορές θέλουν να αποφύγουν και να επιτρέψουν στους μηχανικούς της τεχνητής νοημοσύνης να εκπαιδεύσουν ένα σύστημα που θα αποφεύγει ανεπιθύμητες ενέργειες όταν χρησιμοποιείται σε πραγματικές καταστάσεις.

Ο Phillip Thomas, ο πρώτος συγγραφέας της έρευνας και βοηθός καθηγητής υπολογιστικών συστημάτων στο Πανεπιστήμιο του Μίσιγκαν Άμχερστ, εξήγησε ότι η ερευνητική ομάδα στόχευε να αποδείξει ότι οι σχεδιαστές αλγορίθμων της τεχνητής νοημοσύνης μπορούν να κάνουν πιο εύκολη για τους χρήστες της τεχνητής νοημοσύνης να περιγράψουν ανεπιθύμητες συμπεριφορές και να είναι πολύ πιθανό ότι το σύστημα της τεχνητής νοημοσύνης θα αποφύγει τη συμπεριφορά.

Η ερευνητική ομάδα έ-tested την τεχνική τους εφαρμόζοντάς την σε ένα κοινό πρόβλημα της επιστήμης των δεδομένων, την σεξιστική προκατάληψη. Η ερευνητική ομάδα στόχευε να κάνει τους αλγόριθμους που χρησιμοποιούνται για να προβλέψουν το GPA των φοιτητών να είναι πιο δίκαιοι μειώνοντας την σεξιστική προκατάληψη. Η ερευνητική ομάδα χρησιμοποίησε ένα πειραματικό σύνολο δεδομένων και διέταξε το σύστημα της τεχνητής νοημοσύνης να αποφύγει τη δημιουργία μοντέλων που υποτιμούσαν/υπερτιμούσαν το GPA για ένα φύλο. Jako αποτέλεσμα των οδηγιών των ερευνητών, ο αλγόριθμος δημιούργησε ένα μοντέλο που προέβλεψε καλύτερα το GPA των φοιτητών και είχε σημαντικά λιγότερη συστημική σεξιστική προκατάληψη από τα προηγούμενα μοντέλα. Τα προηγούμενα μοντέλα προέβλεψης του GPA υπέφεραν από προκατάληψη επειδή τα μοντέλα μείωσης της προκατάληψης ήταν συχνά πολύ περιορισμένα για να είναι χρήσιμα ή δεν χρησιμοποιούσαν καθόλου μείωση της προκατάληψης.

Μια διαφορετική αλγόριθμος αναπτύχθηκε επίσης από την ερευνητική ομάδα. Αυτός ο αλγόριθμος εφαρμόστηκε σε ένα αυτόματο insulin pump, και ο αλγόριθμος στόχευε να ισορροπήσει cả την απόδοση και την ασφάλεια. Τα αυτόματα insulin pumps πρέπει να αποφασίσουν πόσο μεγάλη δόση ινσουλίνης πρέπει να λάβει ένας ασθενής. Μετά το γεύμα, η αντλία θα πρέπει να παραδώσει μια δόση ινσουλίνης ακριβώς τόσο μεγάλη όσο χρειάζεται για να διατηρήσει τα επίπεδα σακχαρώδους στο αίμα υπό έλεγχο. Οι δόσεις ινσουλίνης που παραδίδονται πρέπει να μην είναι ούτε πολύ μεγάλες ούτε πολύ μικρές.

Οι αλγόριθμοι της τεχνητής νοημοσύνης είναι ήδη ικανοί να αναγνωρίζουν μοτίβα στην αντίδραση ενός ατόμου σε δόσεις ινσουλίνης, αλλά αυτές οι υπάρχουσες μεθόδους ανάλυσης δεν επιτρέπουν στους γιατρούς να ορίσουν αποτελέσματα που πρέπει να αποφευχθούν, όπως η πτώση του σακχαρώδους αίματος. Σε αντίθεση, η ερευνητική ομάδα ήταν σε θέση να αναπτύξει μια μέθοδο που μπορούσε να εκπαιδευτεί για να παραδώσει δόσεις ινσουλίνης που παραμένουν μέσα στα δύο άκρα, αποτρέποντας είτε την υπο-δοσολογία είτε την υπερ-δοσολογία. Αν και το σύστημα δεν είναι ακόμη έτοιμο για δοκιμή σε πραγματικούς ασθενείς, ένα πιο εξελιγμένο σύστημα της τεχνητής νοημοσύνης με βάση αυτήν την προσέγγιση θα μπορούσε να βελτιώσει την ποιότητα ζωής των ατόμων που πάσχουν από διαβήτη.

Στην έρευνα, οι ερευνητές αναφέρουν τον αλγόριθμο ως “Seledonian” αλγόριθμο. Αυτό είναι μια αναφορά στους τρεις νόμους της ρομποτικής που περιγράφηκαν από τον συγγραφέα επιστημονικής φαντασίας Isaac Asimov. Η έννοια είναι ότι το σύστημα της τεχνητής νοημοσύνης “δεν πρέπει να βλάψει έναν άνθρωπο ή, μέσω της απραξίας, να επιτρέψει σε έναν άνθρωπο να υποστεί ζημιά.” Η ερευνητική ομάδα ελπίζει ότι το πλαίσιο τους θα επιτρέψει στους ερευνητές και τους μηχανικούς της τεχνητής νοημοσύνης να δημιουργήσουν μια ποικιλία αλγορίθμων και συστημάτων που αποφεύγουν επικίνδυνες συμπεριφορές. Η Emma Brunskill, senior συγγραφέας της έρευνας και βοηθός καθηγητής υπολογιστικών συστημάτων στο Στάνφορντ, εξήγησε στο TechXplore:

“Θέλουμε να προωθήσουμε την τεχνητή νοημοσύνη που σέβεται τις αξίες των ανθρώπινων χρηστών της και δικαιολογεί την εμπιστοσύνη που τοποθετούμε στα αυτόνομα συστήματα.”