L’Istituto AI Now avverte contro l’uso improprio del software di rilevamento delle emozioni e altre questioni etiche

L’Istituto AI Now ha pubblicato un rapporto che esorta i legislatori e gli altri organismi regolatori a stabilire limiti rigorosi sull’uso della tecnologia di rilevamento delle emozioni, vietandola nei casi in cui potrebbe essere utilizzata per prendere decisioni importanti come l’assunzione di dipendenti o l’ammissione di studenti. Inoltre, il rapporto contiene una serie di altre raccomandazioni su una gamma di argomenti nel campo dell’IA.

L’Istituto AI Now è un istituto di ricerca con sede alla NYU, che ha lo scopo di studiare l’impatto dell’IA sulla società. AI Now pubblica un rapporto annuale che dimostra i suoi risultati riguardo allo stato della ricerca sull’IA e alle implicazioni etiche di come l’IA viene attualmente utilizzata. Come riportato dalla BBC, il rapporto di quest’anno ha affrontato argomenti come la discriminazione algoritmica, la mancanza di diversità nella ricerca sull’IA e le questioni legate al lavoro.

Il riconoscimento delle emozioni, il termine tecnico per gli algoritmi di rilevamento delle emozioni, è un’area di ricerca sull’IA in rapida crescita. Coloro che utilizzano la tecnologia per prendere decisioni spesso affermano che i sistemi possono fornire informazioni affidabili sugli stati emotivi delle persone analizzando le microespressioni, insieme ad altri segnali come il tono di voce e il linguaggio del corpo. L’istituto AI Now nota che la tecnologia viene utilizzata in una vasta gamma di applicazioni, come determinare chi assumere, stabilire i prezzi delle assicurazioni e monitorare se gli studenti stanno prestando attenzione in classe.

La prof.ssa Kate Crawford, co-fondatrice di AI Now, ha spiegato che spesso si ritiene che le emozioni umane possano essere previste con modelli relativamente semplici. Crawford ha detto che alcune aziende stanno basando lo sviluppo del loro software sul lavoro di Paul Ekman, uno psicologo che ha ipotizzato che esistano solo sei tipi fondamentali di emozioni che si registrano sul viso. Tuttavia, Crawford nota che da quando la teoria di Ekman è stata introdotta, gli studi hanno scoperto che c’è una grande variabilità nelle espressioni facciali e che le espressioni possono cambiare facilmente tra situazioni e culture.

“Allo stesso tempo in cui queste tecnologie vengono messe in atto, un gran numero di studi mostra che non c’è… alcuna prova sostanziale che le persone abbiano una relazione costante tra l’emozione che si sta provando e il modo in cui appare il viso”, ha detto Crawford alla BBC.

Per questo motivo, l’istituto AI Now sostiene che gran parte del riconoscimento delle emozioni si basa su teorie non affidabili e scienza discutibile. Pertanto, i sistemi di rilevamento delle emozioni non dovrebbero essere utilizzati fino a quando non sarà stata condotta ulteriore ricerca e che “i governi dovrebbero specificamente vietare l’uso del riconoscimento delle emozioni nei processi decisionali ad alto rischio”. AI Now ha sostenuto che dovremmo soprattutto smettere di utilizzare la tecnologia in “contesti sociali e politici sensibili”, contesti che includono l’occupazione, l’istruzione e la polizia.

Almeno una società di sviluppo di IA specializzata nel riconoscimento delle emozioni, Emteq, ha concordato sul fatto che dovrebbe esserci una regolamentazione che impedisca l’uso improprio della tecnologia. Il fondatore di Emteq, Charles Nduka, ha spiegato alla BBC che mentre i sistemi di IA possono riconoscere con precisione diverse espressioni facciali, non c’è una mappa semplice dall’espressione all’emozione. Nduka ha espresso preoccupazione per il fatto che la regolamentazione potrebbe essere eccessiva e soffocare la ricerca, notando che se “le cose saranno vietate, è molto importante che le persone non gettino via il bambino con l’acqua del bagno”.

Come riportato da NextWeb, AI Now ha anche raccomandato una serie di altre politiche e norme che dovrebbero guidare l’industria dell’IA in futuro.

AI Now ha sottolineato la necessità che l’industria dell’IA renda i luoghi di lavoro più diversificati e che i lavoratori abbiano il diritto di esprimere le loro preoccupazioni riguardo all’IA invasiva e sfruttatrice. I lavoratori dell’industria tecnologica dovrebbero anche avere il diritto di sapere se i loro sforzi sono utilizzati per costruire lavori dannosi o non etici.

AI Now ha anche suggerito che i legislatori prendano misure per richiedere il consenso informato per l’uso di qualsiasi dato derivato dall’IA sanitaria. Oltre a ciò, è stato consigliato che la privacy dei dati sia presa più seriamente e che gli stati lavorino per progettare leggi sulla privacy per i dati biometrici che coprono entrambe le entità private e pubbliche.

Infine, l’istituto ha consigliato che l’industria dell’IA inizi a pensare e agire in modo più globale, cercando di affrontare le più ampie conseguenze politiche, sociali e ecologiche dell’IA. È stato raccomandato che ci sia uno sforzo sostanziale per tenere conto dell’impatto dell’IA riguardo allo spostamento geografico e al clima e che i governi dovrebbero rendere pubblicamente disponibile l’impatto climatico dell’industria dell’IA.