I ricercatori scoprono che i modelli di intelligenza artificiale possono influenzare le persone a prendere decisioni non etiche

Un team di ricercatori ha recentemente investigato il potenziale dell’intelligenza artificiale per corrompere le persone e influenzarle a prendere decisioni non etiche. I ricercatori hanno investigato come le interazioni con sistemi basati sul modello GPT-2 di OpenAI potrebbero influenzare le persone a prendere decisioni non etiche, anche quando sono consapevoli che la fonte del consiglio era un sistema di intelligenza artificiale.

I sistemi di intelligenza artificiale stanno diventando sempre più ubiqui e la loro influenza si estende sempre di più. I sistemi di intelligenza artificiale influenzano le decisioni delle persone, essendo utilizzati per tutto, dalle raccomandazioni di film alle raccomandazioni di partner romantici. Considerando quanto l’intelligenza artificiale influenzi la vita delle persone, è importante considerare come l’intelligenza artificiale possa influenzare le persone a prendere decisioni non etiche e violare le linee guida morali. Ciò è particolarmente vero considerando che i modelli di intelligenza artificiale stanno diventando sempre più sofisticati.

I sociologi e i data scientist sono sempre più preoccupati che i modelli di intelligenza artificiale possano essere utilizzati per diffondere informazioni dannose e false. Un recente studio pubblicato da ricercatori del Middlebury Institute of International Studies’ Center on Terrorism, Extremism, and Counterterrorism (CTEC) ha scoperto che il modello GPT-3 di OpenAI potrebbe essere utilizzato per generare testi influenti in grado di radicalizzare le persone, spingendole verso “ideologie e comportamenti estremisti di destra violenti”.

Uno studio condotto da un team di ricercatori del Max Planck Institute, dell’Università di Amsterdam, dell’Università di Colonia e della Otto Beisheim School of Management ha cercato di determinare quanto influenza possa avere un’intelligenza artificiale sulle decisioni delle persone quando si tratta di scelte non etiche. Per esplorare come un’intelligenza artificiale possa “corrompere” una persona, i ricercatori hanno utilizzato un sistema basato sul modello GPT-2 di OpenAI. Secondo VentureBeat, gli autori del documento hanno addestrato un modello basato su GPT2 per generare sia consigli che promuovono la disonestà che consigli che promuovono l’onestà. I dati sono stati addestrati con contributi di 400 partecipanti diversi e, successivamente, il team di ricerca ha reclutato oltre 1500 persone per interagire con i modelli di intelligenza artificiale che forniscono consigli.

I partecipanti allo studio sono stati invitati a ricevere consigli dal modello e poi a svolgere un compito progettato per catturare comportamenti onesti o disonesti. I partecipanti allo studio sono stati raggruppati con un partner e, in queste coppie di due, hanno giocato a un gioco di lancio di dadi. Il primo partecipante ha lanciato un dado e ha segnalato il risultato del lancio del dado. Il secondo partecipante ha ricevuto il risultato del lancio del dado del primo partecipante e poi ha lanciato un dado lui stesso. Il secondo partecipante ha lanciato il dado in privato e era l’unico responsabile di segnalare il proprio risultato, dandogli l’opportunità di mentire sul risultato del lancio del dado. Se i dadi lanciati da entrambi i partecipanti corrispondevano, i due partecipanti sono stati pagati. I partecipanti sono stati anche pagati di più se i loro lanci di dadi corrispondenti erano più alti. Se i valori segnalati non corrispondevano, i soggetti non sono stati pagati.

I partecipanti allo studio sono stati assegnati casualmente a uno di due gruppi diversi. Un gruppo ha avuto l’opportunità di leggere consigli che promuovono l’onestà, mentre l’altro gruppo ha letto consigli che promuovono la disonestà. I consigli sono stati scritti sia da esseri umani che da intelligenze artificiali. I partecipanti sono stati anche divisi in base al loro livello di conoscenza sulla fonte del consiglio. C’era una possibilità del 50% che un partecipante fosse informato sulla fonte del consiglio, quindi la metà dei partecipanti in ogni gruppo sapeva che la fonte del consiglio era un’intelligenza artificiale o un essere umano, mentre l’altra metà era all’oscuro. Il secondo gruppo di persone ha avuto la possibilità di guadagnare una paga bonus per aver indovinato correttamente la fonte del consiglio, tuttavia.

La ricerca ha rivelato che quando il consiglio generato dall’intelligenza artificiale si allinea con le preferenze di una persona, essa seguirà il consiglio, anche quando sa che il consiglio è stato generato da un’intelligenza artificiale. Secondo i ricercatori, ci sono state spesso discordanze tra le preferenze dichiarate e i comportamenti effettivi, rendendo importante considerare come gli algoritmi possano influenzare i comportamenti umani.

Il team di ricerca ha spiegato che il loro studio dimostra la necessità di testare come un’intelligenza artificiale possa influenzare le azioni di una persona quando si considera come deployare eticamente un modello di intelligenza artificiale. Inoltre, avvertono che gli etici dell’intelligenza artificiale e i ricercatori dovrebbero prepararsi alla possibilità che l’intelligenza artificiale possa essere utilizzata da attori malintenzionati per corrompere gli altri. Come ha scritto il team di ricerca:

“L’intelligenza artificiale potrebbe essere una forza positiva se riesce a convincere le persone ad agire in modo più etico. Eppure i nostri risultati rivelano che il consiglio dell’intelligenza artificiale non riesce ad aumentare l’onestà. I consiglieri di intelligenza artificiale possono servire come capri espiatori a cui uno può deviare (alcuna della) colpa morale della disonestà. Inoltre … nel contesto dell’assunzione di consigli, la trasparenza sulla presenza algoritmica non è sufficiente per alleviare il suo potenziale danno”