Coalizione Etica Intelligenza Artificiale Condanna Algoritmi di Previsione della Criminalità

Martedì, un gruppo di ricercatori di intelligenza artificiale, etici, scienziati dei dati e scienziati sociali hanno pubblicato un post del blog in cui sostengono che i ricercatori accademici dovrebbero smettere di perseguire ricerche che tentano di prevedere la probabilità che un individuo commetta un atto criminale, in base a variabili come le statistiche sulla criminalità e le scansioni facciali.

Il post del blog è stato scritto dalla Coalizione per la Tecnologia Critica, che sostiene che l’utilizzo di tali algoritmi perpetua un ciclo di pregiudizi contro le minoranze. Molti studi sull’efficacia degli algoritmi di riconoscimento facciale e di polizia predittiva trovano che gli algoritmi tendono a giudicare le minoranze più severamente, il che gli autori del post del blog sostengono sia dovuto alle disuguaglianze nel sistema di giustizia penale. Il sistema di giustizia produce dati distorti e quindi gli algoritmi addestrati su questi dati propagano quelle distorsioni, sostiene la Coalizione per la Tecnologia Critica. La coalizione sostiene che la nozione stessa di “criminalità” è spesso basata sulla razza e quindi la ricerca condotta su queste tecnologie presume la neutralità degli algoritmi quando in realtà non esiste alcuna neutralità.

Come riporta The Verge, un grande editore di opere accademiche, Springer, stava pianificando di pubblicare uno studio intitolato “Un modello di rete neurale profonda per prevedere la criminalità utilizzando l’elaborazione di immagini”. Gli autori dello studio sostenevano di aver progettato un algoritmo di riconoscimento facciale in grado di prevedere la probabilità che un individuo commettesse un reato senza pregiudizi e con un’accuratezza del 80%. Tuttavia, la Coalizione per la Tecnologia Critica ha scritto una lettera aperta a Springer, esortando l’editore a non pubblicare lo studio o future ricerche simili.

“La circolazione di questo lavoro da parte di un importante editore come Springer rappresenterebbe un passo significativo verso la legittimazione e l’applicazione di ricerche ripetutamente smentite e socialmente dannose nel mondo reale”, sostiene la coalizione.

Springer ha dichiarato di non pubblicare il documento, come riportato da MIT Technology Review. Springer ha dichiarato che il documento era stato presentato per una conferenza imminente, ma dopo il processo di revisione paritaria il documento è stato rifiutato per la pubblicazione.

La Coalizione per la Tecnologia Critica sostiene che il documento di previsione della criminalità è solo un esempio di una tendenza più ampia e dannosa in cui gli ingegneri e i ricercatori di intelligenza artificiale tentano di prevedere il comportamento in base a dati composti da variabili socialmente costruite sensibili. La coalizione sostiene anche che molta della ricerca si basa su idee e teorie scientificamente discutibili, che non sono supportate dalle prove disponibili in biologia e psicologia. Ad esempio, i ricercatori di Princeton e Google (GOOGL ) hanno pubblicato un articolo in cui avvertono che gli algoritmi che sostengono di poter prevedere la criminalità in base alle caratteristiche facciali si basano su pseudoscienze pericolose e discreditate come la fisiognomica. I ricercatori hanno avvertito contro l’utilizzo dell’apprendimento automatico per rivitalizzare teorie smentite da tempo utilizzate per sostenere sistemi razzisti.

La recente ondata di slancio del movimento Black Lives Matter ha spinto molte aziende che utilizzano algoritmi di riconoscimento facciale a rivedere l’utilizzo di questi sistemi. La ricerca ha scoperto che questi algoritmi sono spesso distorti, basati su dati di addestramento distorti e distorti.

I firmatari della lettera, oltre a sostenere che i ricercatori di intelligenza artificiale dovrebbero rinunciare alla ricerca sugli algoritmi di previsione della criminalità, hanno anche raccomandato che i ricercatori rivalutino come viene giudicato il successo dei modelli di intelligenza artificiale. I membri della coalizione raccomandano che l’impatto sociale degli algoritmi debba essere una metrica di successo, oltre a metriche come precisione, richiamo e accuratezza. Come scrivono gli autori del documento:

“Se l’apprendimento automatico deve portare il ‘bene sociale’ vantato nelle proposte di sovvenzione e nei comunicati stampa, i ricercatori in questo settore devono riflettere attivamente sulle strutture di potere (e le relative oppressioni) che rendono possibile il loro lavoro.”