Ερευνητές Αναπτύσσουν Αλγόριθμους για την Πρόληψη Κακής Συμπεριφοράς σε Αλγόριθμους Τεχνητής Νοημοσύνης

Παρά τις πολλές προόδους και τα πλεονεκτήματα που έχει δείξει η τεχνητή νοημοσύνη μέχρι τώρα, υπήρξαν επίσης αναφορές για ανεπιθύμητες παρενέργειες όπως ρατσιστικές και φυλετικές διακρίσεις σε αλγόριθμους. Έτσι, όπως αναφέρει το sciencealert.com, “πώς μπορούν οι επιστήμονες να διασφαλίσουν ότι τα προηγμένα συστήματα σκέψης μπορούν να είναι δίκαια ή ακόμη και ασφαλή;”

Η απάντηση μπορεί να βρίσκεται στην αναφορά των ερευνητών στο Στάνφορντ και το Πανεπιστήμιο του Μασαχουσέτης Αμχέρστ, με τίτλο Πρόληψη της ανεπιθύμητης συμπεριφοράς των έξυπνων μηχανών. Όπως σημειώνει το eurekaalert.org στην ιστορία της για αυτή την αναφορά, η τεχνητή νοημοσύνη αρχίζει τώρα να χειρίζεται ευαίσθητες εργασίες, οπότε “οι νομοθέτες απαιτούν από τους επιστήμονες υπολογιστών να προσφέρουν εγγυήσεις ότι τα αυτόματα συστήματα έχουν σχεδιαστεί για να ελαχιστοποιούν, αν όχι να αποφεύγουν完全, τις ανεπιθύμητες επιπτώσεις, όπως ο υπερβολικός κίνδυνος ή οι ρατσιστικές και φυλετικές διακρίσεις.”

Η αναφορά που παρουσίασε αυτή η ομάδα ερευνητών “περιγράφει μια νέα τεχνική που μεταφράζει ένα ασαφές στόχο, όπως η αποφυγή φυλετικών διακρίσεων, σε ακριβή μαθηματικά κριτήρια που θα επιτρέψουν σε ένα αλγόριθμο μάθησης να εκπαιδεύσει μια εφαρμογή τεχνητής νοημοσύνης για να αποφύγει αυτή τη συμπεριφορά.”

Ο σκοπός ήταν, όπως σημειώνει η Emma Brunskill, αναπληρώτρια καθηγήτρια επιστημών υπολογιστών στο Στάνφορντ και старший συγγραφέας του εγγράφου, “θέλουμε να προωθήσουμε την τεχνητή νοημοσύνη που σέβεται τις αξίες των ανθρώπινων χρηστών και να δικαιολογούμε την εμπιστοσύνη που τοποθετούμε στα αυτόνομα συστήματα.”

Η ιδέα ήταν να οριστούν “ακατάλληλες” ή “αδίκαιες” επιπτώσεις ή συμπεριφορές σε μαθηματικούς όρους. Αυτό, σύμφωνα με τους ερευνητές, θα καθιστά δυνατό “να δημιουργηθούν αλγόριθμοι που μπορούν να μάθουν από δεδομένα για να αποφύγουν αυτά τα ανεπιθύμητα αποτελέσματα με υψηλή βεβαιότητα.”

Ο δεύτερος στόχος ήταν να “αναπτύξουν einen σετ τεχνικών που θα κάνουν εύκολη για τους χρήστες να ορίσουν ποια είδη ανεπιθύμητης συμπεριφοράς θέλουν να περιορίσουν και να επιτρέψουν στους σχεδιαστές μάθησης να προβλέψουν με βεβαιότητα ότι ένα σύστημα που έχει εκπαιδευτεί με δεδομένα του παρελθόντος μπορεί να θεωρηθεί αξιόπιστο όταν εφαρμόζεται σε πραγματικές συνθήκες.”

Το ScienceAlert λέει ότι η ομάδα ονόμασε αυτό το νέο σύστημα  ‘Σελδόνι’ αλγόριθμους, από τον κεντρικό χαρακτήρα της σειράς επιστημονικής φαντασίας του Isaac Asimov, Foundation. Ο Philip Thomas, αναπληρώτρια καθηγητής επιστημών υπολογιστών στο Πανεπιστήμιο του Μασαχουσέτης Αμχέρστ και πρώτος συγγραφέας του εγγράφου, σημειώνει, “Εάν χρησιμοποιήσω έναν Σελδόνι αλγόριθμο για διαβήτη θεραπεία, μπορώ να ορίσω ότι η ανεπιθύμητη συμπεριφορά σημαίνει επικίνδυνα χαμηλά επίπεδα σακχάρου στο αίμα ή υπογλυκαιμία.”

“Μπορώ να πω στη μηχανή, ‘Ενώ προσπαθείς να βελτιώσεις τον έλεγχο της αντλίας ινσουλίνης, μην κάνεις αλλαγές που θα αυξήσουν τη συχνότητα της υπογλυκαιμίας.’ Οι περισσότεροι αλγόριθμοι δεν σας δίνουν έναν τρόπο να τοποθετήσετε αυτό το είδος περιορισμού στη συμπεριφορά. Δεν ήταν περιλαμβανόμενο στα πρώιμα σχέδια.”

Ο Thomas προσθέτει ότι “αυτό το Σελδόνι πλαίσιο θα κάνει εύκολη για τους σχεδιαστές μάθησης να χτίσουν οδηγίες αποφυγής συμπεριφοράς σε όλους τους τύπους αλγορίθμων, με τρόπο που θα τους επιτρέψει να αξιολογήσουν την πιθανότητα ότι τα εκπαιδευμένα συστήματα θα λειτουργήσουν σωστά στον πραγματικό κόσμο.”

Για το μέρος της, η Emma Brunskill σημειώνει επίσης ότι “η σκέψη για το πώς podemos να δημιουργήσουμε αλγόριθμους που σέβονται τις αξίες όπως η ασφάλεια και η δικαιοσύνη είναι απαραίτητη, καθώς η κοινωνία εξαρτάται ολοένα και περισσότερο από την τεχνητή νοημοσύνη.”