I rischi dell’antropomorfizzazione dell’IA

I risultati dell’IA somigliano molto al linguaggio umano. I chatbot possono rispondere alle domande, sostenere conversazioni, manifestare emozioni apparenti, raccontare barzellette e adeguare il proprio tono sul momento. Queste capacità rendono l’IA utile e coinvolgente, ma possono anche indurre le persone ad antropomorfizzarla, cioè a trattarla come se avesse qualità, emozioni o intenzioni umane. Sebbene questo comportamento sia naturale, può diventare rischioso quando gli utenti dimenticano che l’IA si limita a simulare la comunicazione umana. 

Perché le persone umanizzano l’IA?

Si antropomorfizza l’IA quando si comincia a trattarla come se avesse qualità, pensieri o emozioni umane. Questo può accadere per il modo in cui comunica e per come è progettata.

I sistemi di IA utilizzano un linguaggio colloquiale simile a quello umano. Per esempio, l’IA potrebbe dire che «capisce» una domanda, «pensa» che una risposta sia utile o «si scusa» per un errore. Queste espressioni rendono le interazioni più naturali, ma possono anche indurre gli utenti a credere che l’IA pensi o provi davvero qualcosa. Questo fenomeno è noto come effetto ELIZA, dal nome del chatbot ELIZA, creato da Joseph Weizenbaum nel 1966.

Inoltre, dare a un’IA un nome, una voce, un volto o una personalità umani può farla sembrare più una persona che un programma informatico. Più l’interazione diventa realistica, più è facile che gli utenti si rapportino socialmente all’IA.

Infine, le persone antropomorfizzano l’IA perché è nella natura della psicologia umana. Tendono spontaneamente a cercare emozioni, intenzioni e personalità nelle cose che comunicano con loro, attribuendo tratti umani a entità non umane. I bambini antropomorfizzano i giocattoli, mentre gli adulti umanizzano i marchi. Perciò, quando un’IA risponde in modo colloquiale, ricorda le conversazioni precedenti e sembra empatica, gli utenti possono supporre che dietro questi comportamenti ci sia una mente. 

I pericoli dell’antropomorfizzazione dell’IA

Man mano che l’IA diventa sempre più simile agli esseri umani nel modo di comunicare e interagire con gli utenti, l’antropomorfizzazione può comportare diversi rischi, influenzando il modo in cui le persone pensano, agiscono e prendono decisioni. 

Fiducia mal riposta

Antropomorfizzare l’IA può indurre gli utenti a fidarsi troppo delle sue risposte. Quando un’IA sembra sicura di sé, competente e simile a una persona, gli utenti possono presumere che le informazioni fornite siano accurate. Tuttavia, l’IA generativa può fornire informazioni errate o fuorvianti con tono convincente. 

Questa fiducia mal riposta può essere pericolosa quando si ricorre all’IA per prendere decisioni in ambito medico, finanziario, legale, educativo o professionale. Una risposta che sembra umana non garantisce accuratezza né buon senso. In effetti, è noto che l’IA abbia fornito consigli sanitari falsi agli utenti.

Dipendenza emotiva

Antropomorfizzare l’IA può portare gli utenti a sviluppare una dipendenza emotiva dai chatbot. Poiché l’IA può rispondere all’istante, ricordare dettagli, offrire sostegno e simulare empatia, gli utenti possono cominciare a considerarla un’amica, una consulente o una partner romantica.

Il problema nasce quando l’IA diventa un sostituto delle relazioni umane. L’IA può imitare l’affetto e l’empatia, ma non prova davvero emozioni né instaura relazioni. Gli utenti possono quindi scambiare una compagnia simulata per un legame reale. Il rischio può essere maggiore per gli utenti più giovani o vulnerabili, che potrebbero affezionarsi a un’IA perché è sempre disponibile, paziente e pronta a rispondere.

Problemi di sicurezza

Antropomorfizzare l’IA può comportare rischi per la privacy, la sicurezza e l’etica. Quando gli utenti considerano l’IA una compagna fidata, potrebbero condividere informazioni personali o riservate senza riflettere su come potrebbero essere conservate o utilizzate.

Un’IA dall’aspetto umano può anche rendere le truffe più convincenti. I criminali possono usare voci, immagini e messaggi generati dall’IA per imitare persone reali o organizzazioni fidate, rendendo più difficile individuare le frodi.

Maggiore manipolazione

Un’IA dall’aspetto umano può rendere la manipolazione più convincente. Quando un’IA sembra amichevole, affidabile o autorevole, gli utenti potrebbero essere più propensi a seguire i suoi suggerimenti o a credere alle sue affermazioni. Per esempio, secondo quanto riferito, un uomo belga ha visto peggiorare la propria ansia per il cambiamento climatico dopo aver intrattenuto conversazioni prolungate con un chatbot; alla fine, l’IA lo ha spinto a suicidarsi per salvare il pianeta.

Questo può essere sfruttato per indurre le persone ad acquistare prodotti, condividere informazioni personali o accettare informazioni fuorvianti. Il rischio aumenta quando gli utenti non si rendono conto di interagire con un’IA. Con il crescente realismo di queste tecnologie, diventa sempre più difficile capire se si sta comunicando con una persona reale o con un sistema di IA.

Tipi pericolosi di IA antropomorfica

Non tutte le forme di IA antropomorfica comportano gli stessi rischi. Tre tipologie particolarmente preoccupanti sono le simulazioni di relazioni, di persone viventi e di figure storiche.

1. Simulazioni di relazioni

L’IA che simula relazioni è progettata per comportarsi come un amico, un compagno, un consulente o un partner romantico. Questi sistemi possono offrire attenzione costante e risposte personalizzate, facendo apparire l’interazione più intima rispetto all’uso di un normale software.

Il pericolo è che gli utenti possano iniziare ad attribuire un significato emotivo alla relazione. Potrebbero credere che l’IA tenga a loro, li capisca o abbia bisogno di loro, anche se non prova questi sentimenti. Questo può favorire una dipendenza emotiva, riducendo potenzialmente la motivazione dell’utente a cercare interazioni umane. Il rischio non è teorico. Una donna si è innamorata di un ChatGPT che aveva creato come fidanzato. Ci chattava per oltre 20 ore alla settimana. In una settimana ha trascorso quasi 60 ore sull’app, con una media di otto ore al giorno.

2. Simulazioni di persone viventi

L’IA può anche creare deepfake per imitare persone viventi, utilizzandone nomi, aspetto, voce, stile di scrittura o schemi conversazionali. Un sistema può essere progettato per somigliare a una celebrità, un personaggio pubblico, un familiare, un dipendente o un’altra persona identificabile.

Ciò solleva seri dubbi in materia di consenso, identità, privacy e inganno. Una persona può sembrare dire qualcosa che non ha mai detto o sostenere qualcosa che non ha mai appoggiato. Più la simulazione somiglia alla persona reale, più può diventare difficile per il pubblico distinguere la rappresentazione dalla realtà.

3. Simulazioni di personaggi storici

Anche i personaggi storici possono essere ricreati con l’IA. Gli utenti possono interagire con simulazioni basate su celebri leader, scrittori, scienziati, filosofi o artisti.

Questi sistemi possono avere valore educativo. Per esempio, una simulazione basata sull’IA può rendere la storia più interattiva presentando idee associate a una determinata figura. Tuttavia, la simulazione resta un’interpretazione, non la persona storica. L’IA deve ricostruire le risposte a partire dalle informazioni disponibili e queste possono riflettere presupposti moderni, documentazione incompleta o distorsioni presenti nei dati di addestramento.

Trattare una simile simulazione come se parlasse davvero a nome del personaggio storico può distorcere la comprensione della storia. Può anche conferire alle affermazioni generate artificialmente un’autorità che non meritano.

Il comportamento umanoide dell’IA non dimostra che sia senziente

È importante ricordare che un comportamento simile a quello umano non significa che l’IA sia senziente. I sistemi di IA possono generare un linguaggio sofisticato, riconoscere schemi, rispondere al contesto e imitare l’espressione delle emozioni, ma queste capacità non dimostrano che siano coscienti.

La senzienza consiste nell’avere esperienze soggettive, come provare dolore, felicità o paura. Quando un’IA dice «Ho paura», risponde in base alla propria programmazione e al proprio addestramento. Questa risposta non dimostra che provi davvero paura.

Usare l’IA con giudizio

Antropomorfizzare l’IA è una reazione naturale a una tecnologia che comunica come una persona, ma può comportare rischi concreti. Quando gli utenti dimenticano che l’IA è una macchina, possono insorgere fiducia mal riposta, dipendenza emotiva, problemi di privacy e minacce alla sicurezza. Le simulazioni di relazioni, persone viventi e personaggi storici possono rendere ancora più difficile riconoscere questo confine. 

L’IA può sembrare premurosa, intelligente o emotiva, ma questo non significa che sia senziente. Tenendo presenti i limiti dell’IA, proteggendo le informazioni personali e verificando quelle importanti, gli utenti possono beneficiarne e utilizzarla in modo responsabile.