Ηθικές Συμμετοχές κατά την Ανάπτυξη του AI για την Αναγνώριση Συναισθημάτων

Το τεχνητό νοημοσύνη για την ρύθμιση των συναισθημάτων είναι μια από τις τελευταίες τεχνολογικές προόδους στο πεδίο της μηχανικής μάθησης. Αν και δείχνει μεγάλο δυναμικό, ηθικά ζητήματα είναι έτοιμα να επηρεάσουν το ποσοστό υιοθέτησής του και τη μακροζωία. Μπορούν οι développers του AI να υπερβούν αυτά τα ζητήματα;

Τι είναι το AI για την Αναγνώριση Συναισθημάτων;

Το AI για την αναγνώριση συναισθημάτων είναι ένας τύπος μοντέλου μηχανικής μάθησης. Συχνά βασίζεται σε τεχνολογία οπτικής που καταγράφει και αναλύει τις εκφράσεις του προσώπου για να αποκρυπτογραφήσει τις διάθεσεις σε εικόνες και βίντεο. Ωστόσο, μπορεί επίσης να λειτουργήσει σε ηχητικά αποσπάσματα για να καθορίσει τον τόνο της φωνής ή γραπτό κείμενο για να αξιολογήσει τη διάθεση της γλώσσας.

Είδος αλγορίθμου αντιπροσωπεύει εξαιρετική πρόοδο στο πεδίο του AI επειδή, μέχρι τώρα, τα μοντέλα δεν ήταν σε θέση να κατανοήσουν τα ανθρώπινα συναισθήματα. Ενώ τα μεγάλα μοντέλα γλώσσας όπως το ChatGPT μπορούν να μιμηθούν διάθεσεις και προσωπικότητες πειστικά, μπορούν μόνο να συνδέσουν λέξεις логικά — δεν μπορούν να αισθανθούν τίποτα και δεν εμφανίζουν συναισθηματική νοημοσύνη.Ενώ ένα μοντέλο αναγνώρισης συναισθημάτων δεν είναι ικανό να έχει συναισθήματα, μπορεί ακόμη να ανιχνεύσει και να καταλογραφήσει. Αυτή η εξέλιξη είναι σημαντική επειδή σηματοδοτεί ότι το AI μπορεί σύντομα να κατανοήσει και να δείξει ευχαρίστηση, λύπη ή θυμό. Τεχνικές προόδους όπως αυτές δείχνουν επιταχυνόμενη πρόοδο.

Χρήσεις του AI για την Αναγνώριση Συναισθημάτων

Επιχειρήσεις, εκπαιδευτικοί, σύμβουλοι και επαγγελματίες ψυχικής υγείας είναι κάποιες από τις ομάδες που μπορούν να χρησιμοποιήσουν το AI για την αναγνώριση συναισθημάτων.

Αξιολόγηση του Ρίσκου στο Γραφείο

Οι ομάδες ανθρώπινου δυναμικού μπορούν να χρησιμοποιήσουν αλγόριθμους για να διεξάγουν ανάλυση συναισθημάτων σε αλληλογραφία ηλεκτρονικού ταχυδρομείου ή σε εσωτερικές συνομιλίες μεταξύ μελών της ομάδας. Εναλλακτικά, μπορούν να ενσωματώσουν τον αλγόριθμό τους στο σύστημα επιτήρησης ή οπτικής. Οι χρήστες μπορούν να παρακολουθούν τη διάθεση για να υπολογίσουν μετρήσεις όπως ο κίνδυνος εξόδου, ο ρυθμός καύσης και η ικανοποίηση των εργαζομένων.

Βοήθεια στους Πράκτορες Εξυπηρέτησης Πελατών

Οι λιανοπωλητές μπορούν να χρησιμοποιήσουν εσωτερικούς πράκτορες εξυπηρέτησης πελατών του AI για τους τελικούς χρήστες ή εικονικούς βοηθούς για να επιλύσουν καταστάσεις υψηλού στρες.既然 το μοντέλο τους μπορεί να αναγνωρίσει τη διάθεση, μπορεί να προτείνει τεχνικές αποσύνδεσης ή να αλλάξει τον τόνο όταν συνειδητοποιήσει ότι ένας καταναλωτής θυμώνει. Μέτρα όπως αυτά μπορεί να βελτιώσουν την ικανοποίηση και τη διατήρηση των πελατών.

Βοήθεια στους Μαθητές στην Τάξη

Οι εκπαιδευτικοί μπορούν να χρησιμοποιήσουν αυτό το AI για να κρατήσουν τους μαθητές από απόσταση από την πτώση. Μια εταιρεία έχει ήδη χρησιμοποιήσει το εργαλείο της για να μετρήσει τα σημεία των μυών στα πρόσωπα των μαθητών ενώ καταλογραφεί η ταχύτητά τους και οι βαθμοί τους. Αυτή η μέθοδος καθορίζει τη διάθεσή τους, την κίνησή τους, τις δυνάμεις και τις αδυναμίες τους. Ο ιδρυτής της εταιρείας υποστηρίζει ότι οι μαθητές σημειώνουν 10% υψηλότερους βαθμούς στις εξετάσεις όταν χρησιμοποιούν το λογισμικό.

Διεξαγωγή Εσωτερικής Έρευνας Αγοράς

Οι επιχειρήσεις μπορούν να διεξάγουν εσωτερική έρευνα αγοράς χρησιμοποιώντας ένα μοντέλο αναγνώρισης συναισθημάτων. Μπορεί να τους βοηθήσει να κατανοήσουν ακριβώς πώς αντιδρά η στόχευση τους στο προϊόν, την υπηρεσία ή το υλικό μάρκετινγκ, δίνοντάς τους πολύτιμες δεδομένα-κίνητρα. Jako αποτέλεσμα, μπορεί να επιταχύνουν τον χρόνο-στη-αγορά και να αυξήσουν τα έσοδά τους.

Το Πρόβλημα με τη Χρήση του AI για την Αναγνώριση Συναισθημάτων

Η έρευνα δείχνει ότι η ακρίβεια εξαρτάται σε μεγάλο βαθμό από τις πληροφορίες εκπαίδευσης. Μια ερευνητική ομάδα — προσπαθώντας να αποκρυπτογραφήσει συναισθήματα από εικόνες — ανέφερε ανεκδοτικά αυτή την концепцию όταν το μοντέλο έφτασε σε ακρίβεια 92,05% στο σύνολο Japanese Female Facial Expression και 98,13% ακρίβεια στο σύνολο Extended Cohn-Kanade.

Ενώ η διαφορά μεταξύ 92% και 98% μπορεί να φαίνεται αμελητέα, έχει σημασία — αυτή η μικρή απόκλιση θα μπορούσε να έχει σημαντικές επιπτώσεις. Για αναφορά, ένας ρυθμός δηλητηρίασης του συνόλου τόσο χαμηλός όσο 0,001% έχει αποδειχθεί αποτελεσματικός στην εγκατάσταση πισωπόρων ή στην προκατάληψη των μοντέλων. Ακόμη και ένα κλάσμα του ποσοστού είναι σημαντικό.

Επιπλέον, αν και οι μελέτες φαίνονται υποσχόμενες — οι ρυθμοί ακρίβειας πάνω από 90% δείχνουν δυνατότητα — οι ερευνητές τις διεξάγουν σε ελεγχόμενα περιβάλλοντα. Στο πραγματικό κόσμο, θολές εικόνες, πλαστές εκφράσεις προσώπου, κακές γωνίες και λεπτά συναισθήματα είναι πολύ πιο συχνά. Με άλλα λόγια, το AI μπορεί να μην είναι σε θέση να εκτελεστεί συνεχώς.

Η Τρέχουσα Κατάσταση του AI για την Αναγνώριση Συναισθημάτων

Η αλγοριθμική ανάλυση συναισθημάτων είναι η διαδικασία της χρήσης ενός αλγορίθμου για να καθορίσει αν ο τόνος του κειμένου είναι θετικός, ουδέτερος ή αρνητικός. Αυτή η τεχνολογία είναι αμφισβητήσιμο ότι είναι η βάση για τα σύγχρονα μοντέλα ανίχνευσης συναισθημάτων,既然 έθεσε το έδαφος για αλγοριθμικές αξιολογήσεις διάθεσης.

Τα σημερινά αλγόριθμοι μπορούν κυρίως να ανιχνεύσουν μόνο απλές διάθεσεις όπως η ευχαρίστηση, η λύπη, ο θυμός, ο φόβος και η έκπληξη με διαφορετικούς βαθμούς ακρίβειας. Αυτές οι εκφράσεις του προσώπου είναι εγγενείς και παγκόσμιες — που σημαίνει ότι είναι φυσικές και παγκοσμίως κατανοητές —所以 η εκπαίδευση του AI για να τις αναγνωρίσει είναι tương đối απλή.

Επιπλέον, οι βασικές εκφράσεις του προσώπου είναι συχνά υπερβολικές. Οι άνθρωποι στρέφουν τα φρύδια τους όταν θυμώνουν, χμούρουν όταν είναι λυπημένοι, χαμογελάνε όταν είναι ευχαριστημένοι και ανοίγουν τα μάτια τους όταν είναι σοκαρισμένοι. Αυτές οι απλές, δραματικές εμφανίσεις είναι εύκολες να διαφοροποιηθούν. Περισσότερες σύνθετες συναισθήματα είναι πιο δύσκολο να εντοπιστούν επειδή είναι είτε λεπτά είτε συνδυασμός βασικών εκφράσεων.

Καθώς αυτό το υποσύνολο του AI παραμένει σε μεγάλο βαθμό στην έρευνα και ανάπτυξη, δεν έχει προχωρήσει ακόμη για να καλύψει σύνθετα συναισθήματα όπως η νοσταλγία, η ντροπή, ο πόνος, η ζήλια, η ανακούφιση ή η σύγχυση. Ενώ είναι πιθανό να τα καλύψει τελικά, δεν υπάρχει εγγύηση ότι θα είναι σε θέση να τα ερμηνεύσει όλα.

Στην πραγματικότητα, οι αλγόριθμοι μπορεί να μην είναι ποτέ σε θέση να ανταγωνιστούν τους ανθρώπους. Για αναφορά, ενώ το σύνολο δεδομένων GPT-4 της OpenAI είναι περίπου 1 petabyte, ένα seul cubic millimeter του ανθρώπινου εγκεφάλου περιέχει περίπου 1,4 petabytes δεδομένων. Οι νευροεπιστήμονες δεν μπορούν να κατανοήσουν πλήρως πώς ο εγκέφαλος αντιλαμβάνεται τα συναισθήματα παρά τις δεκαετίες της έρευνας,所以 η κατασκευή ενός πολύ ακριβούς AI μπορεί να είναι αδύνατο.

Ενώ η χρήση αυτής της τεχνολογίας για την αναγνώριση συναισθημάτων έχει προηγούμενο, αυτό το πεδίο είναι ακόμη τεχνικά στην παιδική του ηλικία. Υπάρχει eine πλούσια έρευνα για την έννοια, αλλά λίγα πραγματικά παραδείγματα μεγάλης κλίμακας ανάπτυξης υπάρχουν. Κάποια σημάδια δείχνουν ότι η καθυστερημένη υιοθέτηση μπορεί να οφείλεται σε ανησυχίες σχετικά με την ασυνέπεια της ακρίβειας και τα ηθικά ζητήματα.

Ηθικές Συμμετοχές για τους Ανάπτυκτες του AI

Σύμφωνα με μια έρευνα, 67% των απαντώντων συμφωνούν ότι το AI πρέπει να ρυθμίζεται κάπως ή πολύ περισσότερο. Για να βάλουν τους ανθρώπους στην ησυχία τους, οι développpers πρέπει να ελαττώσουν την προκατάληψη, να διασφαλίσουν ότι τα μοντέλα τους συμπεριφέρονται όπως αναμένεται και να βελτιώσουν τα αποτελέσματα. Αυτές οι λύσεις είναι δυνατές αν προτεραιοποιήσουν τις ηθικές συμμετοχές κατά την ανάπτυξη.

1. Συμφωνημένη Συλλογή και Χρήση Δεδομένων

Η συναίνεση είναι όλα σε μια εποχή όπου η ρύθμιση του AI αυξάνεται. Τι συμβαίνει αν οι εργαζόμενοι ανακαλύψουν ότι οι εκφράσεις του προσώπου τους καταγράφονται χωρίς τη γνώση τους; Χρειάζονται οι γονείς να υπογράψουν για την ανάλυση συναισθημάτων βασισμένη στην εκπαίδευση ή οι μαθητές μπορούν να αποφασίσουν για τον εαυτό τους;

Οι développpers πρέπει να αποκαλύψουν ρητά ποια πληροφορίες θα συλλέξει το μοντέλο, πότε θα είναι σε λειτουργία, για ποιο σκοπό θα χρησιμοποιηθεί η ανάλυση και ποιος θα έχει πρόσβαση σε αυτά τα δεδομένα. Επιπλέον, πρέπει να περιλαμβάνουν χαρακτηριστικά opt-out ώστε τα άτομα να μπορούν να προσαρμόσουν τις άδειες.

2. Ανώνυμη Έξοδος Ανάλυσης Συναισθημάτων

Η ανωνυμοποίηση των δεδομένων είναι τόσο ένα πρόβλημα ιδιωτικής ζωής όσο και ένα ζήτημα ασφαλείας. Οι développpers πρέπει να ανωνυμοποιήσουν τις πληροφορίες συναισθημάτων που συλλέγουν για να προστατεύσουν τα άτομα που εμπλέκονται. Τουλάχιστον, πρέπει να εξετάσουν σοβαρά την αξιοποίηση της κρυπτογράφησης σε αναμονή.

3. Ανθρώπινη-σε-το-Λουπ-Λήψη Αποφάσεων

Ο único λόγος για τη χρήση του AI για τον καθορισμό της συναισθηματικής κατάστασης είναι για να ενημερώσει τη λήψη αποφάσεων. Ως εκ τούτου, είτε χρησιμοποιείται σε μια ψυχική ικανότητα είτε σε ένα λιανοπωλητικό περιβάλλον, θα επηρεάσει τους ανθρώπους. Οι développpers πρέπει να αξιοποιήσουν ανθρώπινες-σε-το-λουπ-ασφάλειες για να ελαττώσουν την απροσδόκητη συμπεριφορά.

4. Ανθρώπινη-Κεντρική Πιστωτική Έξοδος για την Έξοδο του AI

Ακόμη και αν ένας αλγόριθμος έχει σχεδόν 100% ακρίβεια, θα παραγάγει ακόμη ψευδείς θετικούς. Λαμβάνοντας υπόψη ότι δεν είναι ασυνήθιστο για τα μοντέλα να επιτύχουν 50% ή 70% — και αυτό χωρίς να αγγίξουν τα ζητήματα προκατάληψης ή ψευδούς εντύπωσης — οι développpers πρέπει να εξετάσουν την εφαρμογή ενός συστήματος ανατροφοδότησης.

Οι άνθρωποι πρέπει να μπορούν να αναθεωρήσουν τι λέει το AI για την συναισθηματική τους κατάσταση και να προσφύγουν εάν πιστεύουν ότι είναι ψευδές. Ενώ ένα τέτοιο σύστημα θα απαιτούσε φραγμούς και μέτρα ευθύνης, θα ελαττώσει τις αντίθετες επιπτώσεις που προκύπτουν από ανακριβή έξοδο.

Οι Συνέπειες της Παραμέλησης των Ηθικών

Οι ηθικές συμμετοχές πρέπει να είναι προτεραιότητα για τους μηχανικούς του AI, τους développpers της μηχανικής μάθησης και τους ιδιοκτήτες επιχειρήσεων επειδή επηρεάζουν αυτούς. Λαμβάνοντας υπόψη ότι η αυξανόμενη αβεβαιότητα της δημόσιας γνώμης και οι στενότερες ρυθμίσεις είναι σε ισχύ, οι συνέπειες της παραμέλησης των ηθικών μπορεί να είναι σημαντικές.