Το Ινστιτούτο AI Now Προειδοποιεί για Κατάχρηση Λογισμικού Ανίχνευσης Συναισθήματος και Άλλες Ηθικές Προβλήματα

Το Ινστιτούτο AI Now έχει κυκλοφορήσει μια έκθεση που παρουσιάζει εντολή στους νομοθέτες και άλλα ρυθμιστικά όργανα να θέσουν σκληρά όρια στη χρήση της τεχνολογίας ανίχνευσης συναισθήματος, απαγορεύοντας τη χρήση της σε περιπτώσεις όπου μπορεί να χρησιμοποιηθεί για να ληφθούν σημαντικές αποφάσεις όπως η πρόσληψη υπαλλήλων ή η αποδοχή φοιτητών. Επιπλέον, η έκθεση περιείχε μια σειρά από άλλες προτάσεις σχετικά με μια σειρά θεμάτων στον τομέα της τεχνολογίας AI.

Το Ινστιτούτο AI Now είναι ένα ερευνητικό ινστιτούτο που εδρεύει στο NYU, με αποστολή τη μελέτη της επίδρασης της τεχνολογίας AI στην κοινωνία. Το Ινστιτούτο AI Now κυκλοφορεί μια ετήσια έκθεση που παρουσιάζει τα ευρήματά του σχετικά με την κατάσταση της έρευνας της τεχνολογίας AI και τις ηθικές επιπτώσεις του τρόπου με τον οποίο η τεχνολογία AI χρησιμοποιείται σήμερα. Όπως ανέφερε το BBC, η έκθεση της χρονιάς αυτή κατέταξε θέματα όπως η αλγοριθμική διάκριση, η έλλειψη ποικιλίας στην έρευνα της τεχνολογίας AI και τα προβλήματα εργασίας.

Η αναγνώριση συναισθήματος, ο τεχνικός όρος για τους αλγόριθμους ανίχνευσης συναισθήματος, είναι ένας ταχέως αναπτυσσόμενος τομέας της έρευνας της τεχνολογίας AI. Những που χρησιμοποιούν την τεχνολογία για να ληφθούν αποφάσεις συχνά ισχυρίζονται ότι τα συστήματα μπορούν να εξάγουν αξιόπιστες πληροφορίες σχετικά με τις συναισθηματικές καταστάσεις των ανθρώπων αναλύοντας μικρο-εκφράσεις, μαζί με άλλες ενδείξεις όπως ο τόνος της φωνής και η σωματική γλώσσα. Το Ινστιτούτο AI Now σημειώνει ότι η τεχνολογία χρησιμοποιείται σε eine ευρεία γκάμα εφαρμογών, όπως η καθορισμός ποιος να προσληφθεί, η καθορισμός των τιμών των ασφαλειών και η παρακολούθηση εάν οι μαθητές προσεχτικά στην τάξη.

Η καθηγήτρια Kate Crawford, συνιδρύτρια του Ινστιτούτου AI Now, εξήγησε ότι συχνά πιστεύεται ότι τα ανθρώπινα συναισθήματα μπορούν να προβλεφθούν με σχετικά απλούς μοντέλους. Η Crawford είπε ότι ορισμένες εταιρείες βασίζουν την ανάπτυξη του λογισμικού τους στην εργασία του Paul Ekman, ενός ψυχολόγου που υποστήριξε ότι υπάρχουν μόνο έξι βασικοί τύποι συναισθημάτων που καταγράφονται στο πρόσωπο. Ωστόσο, η Crawford σημειώνει ότι από τότε που εισαγωγής της θεωρίας του Ekman, μελέτες έχουν δείξει ότι υπάρχει πολύ μεγαλύτερη ποικιλία στις εκφράσεις του προσώπου και ότι οι εκφράσεις μπορούν να αλλάξουν σε διαφορετικές καταστάσεις και πολιτισμούς πολύ εύκολα.

“Την ίδια στιγμή που αυτές οι τεχνολογίες αναπτύσσονται, μεγάλος αριθμός μελετών δείχνει ότι δεν υπάρχει… καμία ουσιαστική απόδειξη ότι οι άνθρωποι έχουν αυτή τη σταθερή σχέση μεταξύ του συναισθήματος που νιώθουν και του τρόπου με τον οποίο το πρόσωπό τους φαίνεται”, είπε η Crawford στο BBC.

Για αυτόν τον λόγο, το Ινστιτούτο AI Now υποστηρίζει ότι μεγάλο μέρος της αναγνώρισης συναισθήματος βασίζεται σε αξιόπιστες θεωρίες και αμφισβητούμενη επιστήμη. Ως εκ τούτου, τα συστήματα ανίχνευσης συναισθήματος δεν πρέπει να αναπτυχθούν μέχρι να γίνει περισσότερη έρευνα και ότι “οι κυβερνήσεις πρέπει να απαγορεύσουν ειδικά τη χρήση της αναγνώρισης συναισθήματος σε διαδικασίες λήψης αποφάσεων υψηλού κινδύνου”. Το Ινστιτούτο AI Now υποστηρίζει ότι πρέπει especially να σταματήσουμε τη χρήση της τεχνολογίας σε “ευαίσθητες κοινωνικές και πολιτικές περιπτώσεις”, περιπτώσεις που περιλαμβάνουν την απασχόληση, την εκπαίδευση και την αστυνομία.

Τουλάχιστον μία εταιρεία ανάπτυξης AI που ειδικεύεται στην αναγνώριση συναισθήματος, η Emteq, συμφώνησε ότι πρέπει να existει ρύθμιση που να προλαμβάνει την κατάχρηση της τεχνολογίας. Ο ιδρυτής της Emteq, Charles Nduka, εξήγησε στο BBC ότι ενώ τα συστήματα AI μπορούν να αναγνωρίσουν με ακρίβεια διαφορετικές εκφράσεις του προσώπου, δεν υπάρχει απλή αντιστοίχηση από έκφραση σε συναισθήμα. Ο Nduka εξέφρασε ανησυχία ότι η ρύθμιση μπορεί να πάει πολύ μακριά και να σβήσει την έρευνα, σημειώνοντας ότι αν “τα πράγματα θα απαγορευτούν, είναι πολύ σημαντικό ότι οι άνθρωποι δεν θα ρίχνουν το μωρό μαζί με το νερό του μπάνιου”.

Όπως αναφέρει το NextWeb, το Ινστιτούτο AI Now συνιστά了一 σειρά από άλλες πολιτικές και κανόνες που πρέπει να οδηγήσουν την βιομηχανία της τεχνολογίας AI στο μέλλον.

Το Ινστιτούτο AI Now τόνισε την ανάγκη για την βιομηχανία της τεχνολογίας AI να κάνει τους χώρους εργασίας πιο ποικιλόμορφους και ότι οι εργαζόμενοι πρέπει να έχουν το δικαίωμα να εκφράσουν τις ανησυχίες τους σχετικά με την εισβολή και την εκμετάλλευση της τεχνολογίας AI. Οι τεχνικοί εργαζόμενοι πρέπει επίσης να έχουν το δικαίωμα να γνωρίζουν αν οι προσπάθειές τους χρησιμοποιούνται για να κατασκευάσουν εργασία που είναι βλαβερή ή αήθικη.

Το Ινστιτούτο AI Now συνιστά επίσης ότι οι νομοθέτες πρέπει να λάβουν μέτρα για να απαιτήσουν την ενημερωμένη συναίνεση για τη χρήση των δεδομένων που προέρχονται από την τεχνολογία AI που σχετίζεται με την υγεία. Πέρα από αυτό, συνιστά ότι η προστασία των δεδομένων πρέπει να λαμβάνεται πιο σοβαρά και ότι οι πολιτείες πρέπει να εργαστούν για να σχεδιάσουν νόμους για την προστασία των δεδομένων που αφορούν τα βιομετρικά δεδομένα, τόσο για τις ιδιωτικές όσο και για τις δημόσιες οντότητες.

Τέλος, το ινστιτούτο συνιστά ότι η βιομηχανία της τεχνολογίας AI πρέπει να αρχίσει να σκέφτεται και να δρα περισσότερο παγκοσμίως, προσπαθώντας να αντιμετωπίσει τις μεγαλύτερες πολιτικές, κοινωνικές και οικολογικές επιπτώσεις της τεχνολογίας AI. Συνιστά ότι πρέπει να existει μια σημαντική προσπάθεια για να λογαριαστεί η επίδραση της τεχνολογίας AI σχετικά με τη γεωγραφική μετατόπιση και το κλίμα και ότι οι κυβερνήσεις πρέπει να κάνουν τη影响 της βιομηχανίας της τεχνολογίας AI στο κλίμα διαθέσιμη στο κοινό.