Η Τεχνητή Νοημοσύνη Μπορεί Να Αποφύγει Συγκεκριμένες Ακατορθώσιμες Συμπεριφορές Με Νέα Αλγόριθμους

Όσο οι αλγόριθμοι και τα συστήματα της τεχνητής νοημοσύνης γίνονται πιο εξελιγμένα και αναλαμβάνουν μεγαλύτερες ευθύνες, γίνεται ολοένα και πιο σημαντικό να διασφαλιστεί ότι τα συστήματα της τεχνητής νοημοσύνης αποφεύγουν επικίνδυνες, ακατορθώσιμες συμπεριφορές. Πρόσφατα, μια ομάδα ερευνητών από το Πανεπιστήμιο του Μασαχουσέτης Amherst και το Stanford δημοσίευσε μια εργασία που δείχνει πώς μπορεί να αποφευχθεί συγκεκριμένη συμπεριφορά της τεχνητής νοημοσύνης, μέσω της χρήσης μιας τεχνικής που προκαλεί ακριβείς μαθηματικές οδηγίες που μπορούν να χρησιμοποιηθούν για να điều chỉnh τη συμπεριφορά της τεχνητής νοημοσύνης.

Σύμφωνα με το TechXplore, η έρευνα βασίστηκε στην υπόθεση ότι οι αθέμιτες/ακατορθώσιμες συμπεριφορές μπορούν να οριστούν με μαθηματικές συναρτήσεις και μεταβλητές. Αν αυτό είναι αλήθεια, τότε πρέπει να είναι δυνατό για τους ερευνητές να εκπαιδεύσουν τα συστήματα να αποφεύγουν αυτές τις συγκεκριμένες συμπεριφορές. Η ομάδα έρευνας στόχευε να αναπτύξει ένα εργαλείο που θα μπορούσε να χρησιμοποιηθεί από τους χρήστες της τεχνητής νοημοσύνης για να ορίσουν ποίες συμπεριφορές θέλουν να αποφύγουν η τεχνητή νοημοσύνη και να επιτρέψουν στους μηχανικούς της τεχνητής νοημοσύνης να εκπαιδεύσουν ένα σύστημα που θα αποφεύγει τις ακατορθώσιμες ενέργειες όταν χρησιμοποιείται σε πραγματικές καταστάσεις.

Ο Phillip Thomas, ο πρώτος συγγραφέας της εργασίας και βοηθός καθηγητής επιστήμης υπολογιστών στο U του Michigan Amherst, εξήγησε ότι η ομάδα έρευνας στόχευε να αποδείξει ότι οι σχεδιαστές των αλγορίθμων της μηχανικής μάθησης μπορούν να κάνουν πιο εύκολη για τους χρήστες της τεχνητής νοημοσύνης να περιγράψουν τις ακατορθώσιμες συμπεριφορές και να είναι πολύ πιθανό ότι το σύστημα της τεχνητής νοημοσύνης θα αποφύγει τη συμπεριφορά.

Η ομάδα έρευνας έτρεξε την τεχνική τους εφαρμόζοντας την σε ένα κοινό πρόβλημα στην επιστήμη των δεδομένων, την προκατάληψη φύλου. Η ομάδα έρευνας στόχευε να κάνει τους αλγόριθμους που χρησιμοποιούνται για να προβλέψουν το GPA των φοιτητών να είναι πιο δίκαιοι μειώνοντας την προκατάληψη φύλου. Η ομάδα έρευνας χρησιμοποίησε ένα πειραματικό σύνολο δεδομένων και διέταξε το σύστημα της τεχνητής νοημοσύνης τους να αποφύγει τη δημιουργία μοντέλων που υποτιμούσαν/υπερτιμούσαν το GPA για ένα φύλο. Jako αποτέλεσμα των οδηγιών της ομάδας έρευνας, ο αλγόριθμος δημιούργησε ένα μοντέλο που προέβλεψε καλύτερα το GPA των φοιτητών και είχε σημαντικά λιγότερη συστημική προκατάληψη φύλου από τα προηγούμενα μοντέλα. Τα προηγούμενα μοντέλα προβλέψης GPA έπασχαν από προκατάληψη γιατί τα μοντέλα μείωσης προκατάληψης ήταν συχνά πολύ περιορισμένα για να είναι χρήσιμα ή δεν χρησιμοποιούσαν καθόλου μείωση προκατάληψης.

Μια διαφορετική αλγόριθμος αναπτύχθηκε επίσης από την ομάδα έρευνας. Αυτός ο αλγόριθμος εφαρμόστηκε σε μια αυτόματη αντλία ινσουλίνης και ο αλγόριθμος προοριζόταν να ισορροπήσει τόσο την απόδοση όσο και την ασφάλεια. Οι αυτόματες αντλίες ινσουλίνης πρέπει να αποφασίσουν πόσο μεγάλη δόση ινσουλίνης πρέπει να λάβει ένας ασθενής. Μετά το γεύμα, η αντλία θα πρέπει να παραδώσει μια δόση ινσουλίνης ακριβώς αρκετά μεγάλη για να διατηρήσει τα επίπεδα σακχαρώδους στο αίμα υπό έλεγχο. Οι δόσεις ινσουλίνης που παραδίδονται πρέπει να μην είναι ούτε πολύ μεγάλες ούτε πολύ μικρές.

Οι αλγόριθμοι της μηχανικής μάθησης είναι ήδη ικανοί να αναγνωρίζουν μοτίβα στην αντίδραση ενός ατόμου στις δόσεις ινσουλίνης, αλλά αυτές οι υπάρχουσες μεθόδοι ανάλυσης δεν επιτρέπουν στους γιατρούς να ορίσουν αποτελέσματα που πρέπει να αποφευχθούν, όπως οι πτώσεις σακχαρώδους αίματος. Αντίθετα, η ομάδα έρευνας μπόρεσε να αναπτύξει μια μέθοδο που θα μπορούσε να εκπαιδευτεί για να παραδώσει δόσεις ινσουλίνης που παραμένουν μέσα στα δύο άκρα, αποτρέποντας τόσο την υποδόση όσο και την υπερδόση. Ενώ, το σύστημα δεν είναι έτοιμο για δοκιμή σε πραγματικούς ασθενείς ακόμη, ένα πιο εξελιγμένο σύστημα της τεχνητής νοημοσύνης με βάση αυτήν την προσέγγιση θα μπορούσε να βελτιώσει την ποιότητα ζωής για εκείνους που πάσχουν από διαβήτη.

Στην εργασία, οι ερευνητές αναφέρονται στον αλγόριθμο ως “Seledonian” αλγόριθμο. Αυτό είναι μια αναφορά στα τρία νόμοι της ρομποτικής που περιγράφηκαν από τον συγγραφέα επιστημονικής φαντασίας Isaac Asimov. Η σημασία είναι ότι το σύστημα της τεχνητής νοημοσύνης “δεν μπορεί να傷ήσει ένα ανθρώπινο ον ή, μέσω της αδρανοποίησης, να επιτρέψει σε ένα ανθρώπινο ον να έρθει σε βλάβη.” Η ομάδα έρευνας ελπίζει ότι το πλαίσιο τους θα επιτρέψει στους ερευνητές και μηχανικούς της τεχνητής νοημοσύνης να δημιουργήσουν eine ποικιλία αλγορίθμων και συστημάτων που αποφεύγουν επικίνδυνες συμπεριφορές. Η Emma Brunskill, senior συγγραφέας της εργασίας και βοηθός καθηγητής επιστήμης υπολογιστών στο Stanford, εξήγησε στο TechXplore:

“Θέλουμε να προωθήσουμε την τεχνητή νοημοσύνη που σέβεται τις αξίες των ανθρώπινων χρηστών της και να δικαιολογήσει την εμπιστοσύνη που τοποθετούμε στα αυτόνομα συστήματα.”