Considerazioni Etiche Nello Sviluppo di Intelligenza Artificiale per il Riconoscimento delle Emozioni

L’intelligenza artificiale per la regolazione delle emozioni è uno degli ultimi progressi tecnologici nel campo dell’apprendimento automatico. Sebbene mostri un grande potenziale, le questioni etiche sono pronte ad influenzare la sua adozione e longevità. I sviluppatori di intelligenza artificiale possono superare questi ostacoli?

Che Cos’è l’Intelligenza Artificiale per il Riconoscimento delle Emozioni?

L’intelligenza artificiale per il riconoscimento delle emozioni è un tipo di modello di apprendimento automatico. Spesso si basa su tecnologie di visione computerizzata che catturano e analizzano le espressioni facciali per decifrare gli umori nelle immagini e nei video. Tuttavia, può anche funzionare su snippet audio per determinare il tono della voce o su testo scritto per valutare il sentimento del linguaggio.

Questo tipo di algoritmo rappresenta un progresso affascinante nel campo dell’intelligenza artificiale, poiché fino ad ora i modelli non sono stati in grado di comprendere i sentimenti umani. Mentre i grandi modelli linguistici come ChatGPT possono simulare umori e personalità in modo convincente, possono solo combinare parole in modo logico – non possono provare emozioni e non mostrano intelligenza emotiva.Sebbene un modello di riconoscimento delle emozioni non possa provare emozioni, può comunque rilevarle e catalogarle. Questo sviluppo è significativo perché segnala che l’intelligenza artificiale potrebbe presto essere in grado di comprendere e dimostrare realmente felicità, tristezza o rabbia. I progressi tecnologici come questo indicano un avanzamento accelerato.

Casi d’Uso per il Riconoscimento delle Emozioni tramite Intelligenza Artificiale

Le aziende, gli educatori, i consulenti e i professionisti della salute mentale sono alcuni dei gruppi che possono utilizzare l’intelligenza artificiale per il riconoscimento delle emozioni.

Valutazione del Rischio in Ufficio

I team delle risorse umane possono utilizzare algoritmi per condurre analisi del sentimento su corrispondenza via email o chat tra i membri del team. In alternativa, possono integrare il loro algoritmo nel sistema di sorveglianza o di visione computerizzata. Gli utenti possono tracciare l’umore per calcolare metriche come il rischio di turnover, il tasso di burnout e la soddisfazione dei dipendenti.

Assistenza agli Agenti di Servizio Clienti

I dettaglianti possono utilizzare agenti di servizio clienti interni basati su intelligenza artificiale per gli utenti finali o assistenti virtuali per risolvere situazioni ad alto stress. Poiché il loro modello può riconoscere l’umore, può suggerire tecniche di de-escalation o cambiare il tono quando si rende conto che un consumatore sta diventando arrabbiato. Contromisure come queste possono migliorare la soddisfazione e la fedeltà dei clienti.

Aiuto agli Studenti in Classe

Gli educatori possono utilizzare questo tipo di intelligenza artificiale per evitare che gli studenti a distanza restino indietro. Una startup ha già utilizzato il suo strumento per misurare i punti muscolari sui volti degli studenti mentre cataloga la loro velocità e voti. Questo metodo determina il loro umore, la motivazione, i punti di forza e di debolezza. Il fondatore della startup afferma che ottengono voti del 10% più alti nei test quando utilizzano il software.

Esecuzione di Ricerche di Mercato Interne

Le aziende possono condurre ricerche di mercato interne utilizzando un modello di riconoscimento delle emozioni. Ciò può aiutarle a comprendere esattamente come il loro pubblico target reagisce al loro prodotto, servizio o materiale di marketing, fornendo loro preziose informazioni basate sui dati. Di conseguenza, possono accelerare il time-to-market e aumentare i ricavi.

Il Problema dell’Utilizzo dell’Intelligenza Artificiale per Rilevare le Emozioni

La ricerca suggerisce che l’accuratezza dipende fortemente dalle informazioni di formazione. Un gruppo di ricerca – che ha cercato di decifrare i sentimenti dalle immagini – ha dimostrato aneddoticamente questo concetto quando il loro modello ha raggiunto un’accuratezza del 92,05% nel dataset di espressioni facciali giapponesi femminili e un’accuratezza del 98,13% nel dataset esteso Cohn-Kanade.

Mentre la differenza tra il 92% e il 98% può sembrare insignificante, è importante – questa leggera discrepanza potrebbe avere conseguenze sostanziali. Per fare un riferimento, un tasso di avvelenamento del dataset così basso come lo 0,001% si è dimostrato efficace nell’istituire backdoor del modello o nel causare intenzionalmente errori di classificazione. Anche una frazione di percentuale è significativa.

Inoltre, sebbene gli studi sembrino promettenti – tassi di accuratezza superiori al 90% mostrano potenziale – i ricercatori li conducono in ambienti controllati. Nel mondo reale, le immagini sfocate, le espressioni facciali false, gli angoli cattivi e i sentimenti sottili sono molto più comuni. In altre parole, l’intelligenza artificiale potrebbe non essere in grado di eseguire in modo coerente.

Lo Stato Attuale dell’Intelligenza Artificiale per il Riconoscimento delle Emozioni

L’analisi del sentimento algoritmico è il processo di utilizzo di un algoritmo per determinare se il tono del testo è positivo, neutro o negativo. Questa tecnologia è probabilmente la base per i moderni modelli di rilevamento delle emozioni, poiché ha aperto la strada alle valutazioni algoritmiche dell’umore. Tecnologie simili come il software di riconoscimento facciale hanno anche contribuito ai progressi.

Gli algoritmi odierni possono principalmente rilevare solo umori semplici come felicità, tristezza, rabbia, paura e sorpresa con gradi di accuratezza variabili. Queste espressioni facciali sono innate e universali – il che significa che sono naturali e comprese a livello globale – quindi addestrare un’intelligenza artificiale a identificarle è relativamente semplice.

Inoltre, le espressioni facciali di base sono spesso esagerate. Le persone corrugano le sopracciglia quando sono arrabbiate, si incupiscono quando sono tristi, sorridono quando sono felici e spalancano gli occhi quando sono scioccati. Questi look semplici e drammatici sono facili da distinguere. Le emozioni più complesse sono più difficili da individuare perché sono sottili o combinano espressioni di base.

Poiché questo subset di intelligenza artificiale rimane in gran parte nella ricerca e nello sviluppo, non ha ancora progredito per coprire sentimenti complessi come la nostalgia, la vergogna, il dolore, la gelosia, il sollievo o la confusione. Sebbene sia probabile che coprirà di più in futuro, non c’è garanzia che sarà in grado di interpretarli tutti.

In realtà, gli algoritmi potrebbero non essere in grado di competere con gli esseri umani. Per fare un riferimento, mentre il dataset GPT-4 di OpenAI è approssimativamente di 1 petabyte, un singolo millimetro cubo di cervello umano contiene circa 1,4 petabyte di dati. I neuroscienziati non possono ancora comprendere appieno come il cervello percepisce le emozioni nonostante decenni di ricerca, quindi costruire un’intelligenza artificiale altamente precisa potrebbe essere impossibile.

Sebbene l’utilizzo di questa tecnologia per il riconoscimento delle emozioni abbia precedenti, questo campo è ancora tecnicamente nella sua infanzia. C’è un’abbondanza di ricerche sul concetto, ma pochi esempi di implementazione su larga scala esistono. Alcuni segni indicano che un’adozione lenta potrebbe derivare da preoccupazioni sull’accuratezza inconsistente e questioni etiche.

Considerazioni Etiche per gli Sviluppatori di Intelligenza Artificiale

Secondo un sondaggio, il 67% dei rispondenti concorda che l’intelligenza artificiale dovrebbe essere regolamentata in qualche modo. Per mettere a riposo le menti delle persone, gli sviluppatori dovrebbero minimizzare i pregiudizi, assicurarsi che i loro modelli si comportino come previsto e migliorare i risultati. Queste soluzioni sono possibili se danno priorità alle considerazioni etiche durante lo sviluppo.

1. Raccolta e Utilizzo dei Dati con il Consenso

Il consenso è tutto in un’era in cui la regolamentazione dell’intelligenza artificiale sta aumentando. Cosa succede se i dipendenti scoprono che le loro espressioni facciali stanno essere catalogate senza la loro conoscenza? I genitori devono firmare una liberatoria per l’analisi del sentimento basata sull’istruzione o gli studenti possono decidere da soli?

Gli sviluppatori dovrebbero divulgare esplicitamente quali informazioni il modello raccoglierà, quando sarà in funzione, a cosa sarà utilizzata l’analisi e chi potrà accedere a quei dettagli. Inoltre, dovrebbero includere funzionalità di opt-out in modo che gli individui possano personalizzare le autorizzazioni.

2. Output dell’Analisi del Sentimento Anonimizzato

L’anonimizzazione dei dati è tanto un problema di privacy quanto un problema di sicurezza. Gli sviluppatori dovrebbero anonimizzare le informazioni sulle emozioni che raccolgono per proteggere gli individui coinvolti. Almeno, dovrebbero considerare seriamente l’utilizzo della crittografia a riposo.

3. Decisioni con Intervento Umano

L’unico motivo per utilizzare l’intelligenza artificiale per determinare lo stato emotivo di qualcuno è per informare le decisioni. Che sia utilizzato in un contesto di salute mentale o in un ambiente retail, avrà un impatto sulle persone. Gli sviluppatori dovrebbero sfruttare le salvaguardie dell’intervento umano per minimizzare comportamenti inaspettati.

4. Feedback Umano-Centrico per l’Output dell’Intelligenza Artificiale

Anche se un algoritmo ha un’accuratezza quasi del 100%, produrrà comunque falsi positivi. Considerando che non è insolito per i modelli raggiungere il 50% o il 70% – e che è senza toccare questioni di pregiudizio o allucinazione – gli sviluppatori dovrebbero considerare l’implementazione di un sistema di feedback.

Le persone dovrebbero essere in grado di esaminare cosa l’intelligenza artificiale dice sul loro stato emotivo e fare appello se credono che sia falso. Sebbene un tale sistema richiederebbe parapetti e misure di responsabilità, minimizzerebbe gli impatti negativi derivanti da output inaccurati.

Le Conseguenze dell’Ignorare le Considerazioni Etiche

Le considerazioni etiche dovrebbero essere una priorità per gli ingegneri di intelligenza artificiale, gli sviluppatori di apprendimento automatico e i proprietari di aziende perché li riguarda. Considerando che l’opinione pubblica sempre più incerta e le normative sempre più stringenti sono in gioco, le conseguenze dell’ignorare le considerazioni etiche potrebbero essere significative.