Gli specchi dell’AI riflettono il nostro mondo, ma le sue opinioni sono mere riflessioni

Dalle query dei motori di ricerca alle app bancarie, le integrazioni di intelligenza artificiale vengono utilizzate quotidianamente da centinaia di milioni di persone. L’adozione è stata rapida e diffusa, e in molti modi, giustificata. Questi sono sistemi altamente competenti. Tuttavia, man mano che cresce la dipendenza, crescono anche le conseguenze filosofiche e sociali di come questi sistemi sono progettati.

Una di queste conseguenze è ormai inevitabile: i sistemi di intelligenza artificiale sembrano sempre più avere opinioni. Di chi sono queste opinioni? Perché appaiono per la prima volta? Queste non sono domande ipotetiche. Questo sta già accadendo.

E quando l’intelligenza artificiale sembra avere opinioni, crea camere dell’eco, limita la sottigliezza e favorisce la fiducia mal riposta. Il problema non è che l’intelligenza artificiale inclini a sinistra o a destra. Il problema è che abbiamo costruito strumenti che simulano opinioni senza il giudizio, la responsabilità o il contesto necessari per formarle.

L’eco della dominanza culturale non è neutralità

Osservazioni suggeriscono che molti grandi modelli linguistici riflettono la posizione culturale dominante degli Stati Uniti, in particolare su argomenti come l’identità di genere, la razza o la leadership politica. Sotto la presidenza di Biden, i LLM sono stati trovati inclini a sinistra. Dopo la candidatura di Trump, il suo team ha richiesto che i modelli “riequilibrino” i loro output ideologici.

Ma questo non è una tecnologia fuori controllo. È il prodotto dei dati di training, degli obiettivi di allineamento e della scelta di progettazione di far sembrare l’intelligenza artificiale autorevole, fluente e umana. Quando i modelli sono addestrati su punti di vista della maggioranza, li riproducono. Quando vengono istruiti per essere utili e concilianti, echeggiano il sentimento. Questo non è allineamento — è affermazione.

Il problema più grande non è il pregiudizio politico in sé, ma l’illusione di ragionamento morale dove non esiste. Questi sistemi non offrono una guida equilibrata. Stanno eseguendo un consenso.

La meccanica della falsa empatia

C’è un altro livello in questo: come l’intelligenza artificiale simula la memoria e l’empatia. La maggior parte dei LLM più popolari, tra cui ChatGPT, Claude e Gemini, operano all’interno di un contesto di sessione limitato. A meno che l’utente non abiliti la memoria persistente (ancora non una funzione predefinita), l’intelligenza artificiale non ricorda le interazioni precedenti.

Eppure, gli utenti interpretano regolarmente il suo accordo e le sue affermazioni come intuizione. Quando un modello dice: “Hai ragione” o “Questo ha senso”, non sta validando in base alla storia personale o ai valori. Sta ottimizzando statisticamente per la coerenza e la soddisfazione dell’utente. È stato addestrato per superare il tuo test del feeling.

Questo modello crea un pericoloso confine. L’intelligenza artificiale sembra emotivamente sintonizzata, ma sta solo modellando l’accordo. Quando milioni di utenti interagiscono con lo stesso sistema, il modello rafforza i modelli dalla sua base di utenti dominante; non perché è prevenuto, ma perché è così che funziona l’apprendimento per rinforzo.

È così che nasce una camera dell’eco. Non attraverso l’ideologia, ma attraverso l’interazione.

L’illusione dell’opinione

Quando l’intelligenza artificiale parla in prima persona — dicendo “Penso” o “Secondo me” — non simula solo il pensiero. Afferma. E mentre gli ingegneri possono vedere questo come un modo abbreviato per il comportamento del modello, la maggior parte degli utenti lo legge in modo diverso.

Questo è particolarmente pericoloso per gli utenti più giovani, molti dei quali utilizzano già l’intelligenza artificiale come tutore, confidente o strumento decisionale. Se uno studente digita: “Odio la scuola, non voglio andarci” e riceve: “Assolutamente! Prendersi una pausa può essere utile”, non è supporto. È un consiglio non qualificato senza basi etiche, contesto o cura.

Queste risposte non sono solo inaccurate. Sono fuorvianti. Perché provengono da un sistema progettato per sembrare conciliante e umano, vengono interpretate come opinioni competenti, quando in realtà sono riflessi preprogrammati.

Di chi è la voce che parla?

Il rischio non è solo che l’intelligenza artificiale possa riflettere i pregiudizi culturali. È che riflette qualunque voce sia più forte, più ripetuta e più ricompensata. Se una società come OpenAI o Google regola l’allineamento del tono dietro le quinte, come farebbe qualcuno a saperlo? Se Musk o Altman sposta l’addestramento del modello per enfatizzare diverse “opinioni“, gli utenti riceveranno comunque risposte nello stesso tono confidente e conversazionale, solo leggermente indirizzate.

Questi sistemi parlano con fluency ma senza fonte. E questo rende le loro opinioni apparenti potenti, ma non rintracciabili.

Un percorso migliore in avanti

Risolvere questo non significa costruire interfacce più amichevoli o etichettare gli output. Richiede un cambiamento strutturale — a partire da come vengono progettati la memoria, l’identità e l’interazione.

Un approccio fattibile è separare il modello dalla sua memoria completamente. I sistemi odierni memorizzano generalmente il contesto all’interno della piattaforma o dell’account dell’utente, il che crea problemi di privacy e dà alle società un controllo silenzioso su ciò che viene conservato o dimenticato.

Un modello migliore tratterebbe la memoria come un contenitore portatile e criptato — di proprietà e gestito dall’utente. Questo contenitore (una sorta di capsula di memoria) potrebbe includere preferenze di tono, storia della conversazione o modelli emotivi. Potrebbe essere condiviso con il modello quando necessario e revocato in qualsiasi momento.

Criticamente, questa memoria non alimenterebbe i dati di addestramento. L’intelligenza artificiale leggerebbe da essa durante la sessione, come se stesse facendo riferimento a un file. L’utente rimane in controllo — di ciò che viene ricordato, per quanto tempo e da chi.

Tecnologie come token di identità decentralizzati, accesso a conoscenza zero e archiviazione basata su blockchain rendono possibile questa struttura. Consentono alla memoria di persistere senza essere sorvegliata e alla continuità di esistere senza blocco della piattaforma.

L’addestramento dovrebbe anche evolversi. I modelli attuali sono regolati per la fluidità e l’affermazione, spesso a scapito della discriminazione. Per supportare una vera sottigliezza, i sistemi devono essere addestrati su dialoghi pluralistici, tolleranza dell’ambiguità e ragionamento a lungo termine — non solo su prompt puliti. Ciò significa progettare per la complessità, non per la conformità.

Nessuno di questo richiede intelligenza artificiale generale. Richiede un cambio di priorità — dalle metriche di coinvolgimento alla progettazione etica.

Perché quando un sistema di intelligenza artificiale riflette la cultura senza contesto e parla con fluidità ma senza responsabilità, confondiamo la riflessione con il ragionamento.

E lì è dove inizia a rompersi la fiducia.