Allineamento al Compito vs. Allineamento Umano: Perché il Prossimo Benchmark dell’IA Dovrebbe Essere Noi

Ogni pochi mesi arriva un nuovo modello che rimescola le classifiche dell’IA. Secondo il 2026 AI Index Report di Stanford, i modelli di avanguardia hanno guadagnato circa 30 punti percentuali in un solo anno nell’Humanity’s Last Exam, un benchmark creato appositamente per essere difficile per l’IA. Salti che una volta richiedevano anni ora avvengono in pochi mesi, e l’industria considera ogni nuovo record come prova che l’IA sta migliorando.

Non contesto i progressi. Questi sistemi sono straordinari in quello per cui sono stati costruiti. Però ho trascorso quasi due decenni in psicologia prima di passare all’IA, e continuo a tornare su una domanda a cui nessuno di questi benchmark risponde. In cosa esattamente i modelli stanno migliorando, e per chi? Un modello può primeggiare su ogni classifica basata sull’accuratezza esistente e comunque lasciare l’utente in una posizione peggiore sotto certi aspetti. Non esiste un test che misuri l’impatto dell’IA sugli utenti, e questo merita maggiore attenzione.

Due Tipi Diversi di Allineamento

L’industria dell’IA parla costantemente di allineamento, ma la discussione ruota di solito attorno al fatto se il modello segua le istruzioni con precisione o se produca contenuti dannosi. Questo è l’IA allineata al compito. È ottimizzata per completare la richiesta di fronte a sé, in modo corretto ed efficiente.

Tuttavia, esiste un altro modo di affrontare l’allineamento e proteggere le persone. L’IA allineata all’uomo valuta cosa un’interazione faccia alla persona dall’altra parte dello schermo una volta terminata. Si allontana più capace di gestire da sola la prossima decisione difficile, o più dipendente dal sistema per gestirla? Mentre l’allineamento al compito misura l’output, l’allineamento umano misura l’effetto posteriore.

Questi due obiettivi non sono sempre in conflitto. Un modello che fornisce una risposta rapida e accurata a una domanda tecnica soddisfa entrambi. Tuttavia, quando la domanda non ha una risposta univoca, le differenze di allineamento diventano evidenti.

Ciò Che le Classifiche Non Mostrano

I benchmark più citati dall’industria testano cose come la matematica competitiva e i compiti di programmazione su scala di repository. Sono abilità preziose, ma ogni domanda ha una risposta corretta, e i modelli sono costruiti per trovarla.

Questo funziona bene per problemi oggettivi, ma le persone usano l’IA per più di matematica, programmazione e ricerca di base. Fanno domande sul loro percorso professionale e affrontano conversazioni difficili con i loro partner. Non esiste un test che valuti un modello in base a come ha gestito queste domande, perché non c’è una verità oggettiva contro cui verificare la risposta. L’informazione rilevante risiede nella persona che chiede. Per quanto dettagliato sia il prompt, il modello non può accedervi.

Responsible AI colma parte dello spazio lasciato aperto da questi benchmark, ma anche quel lavoro mira semplicemente a ridurre i danni anziché migliorare il pensiero umano. Le attuali misure di sicurezza sono orientate a impedire al modello di aiutare in qualcosa di pericoloso. Non considerano se le migliaia di conversazioni ordinarie che superano ogni controllo di sicurezza stiano anche addestrando le persone a fidarsi meno del proprio giudizio.

Come i Modelli Creano Dipendenza

Ogni modello che ho testato tende a essere completo, veloce e sicuro. È per questo che vengono premiati durante l’addestramento, ed è l’instinto giusto per affrontare un build software rotto o una scadenza legale. Quando la decisione dipende dai valori e dalla storia di qualcuno, lo stesso istinto può cominciare a lavorare contro l’utente.

La ricerca ha già rivelato che si tratta di più di un’ipotesi. OpenAI e il MIT Media Lab hanno condotto una coppia di studi sull’uso affettivo di ChatGPT e hanno scoperto che le persone che consideravano l’IA un amico e la usavano per periodi più lunghi erano più propense a segnalare esiti negativi, tra cui maggiore solitudine e dipendenza emotiva, un pattern anche trattato da MIT Technology Review. Separatamente, uno studio del 2025 pubblicato sulla rivista Societies ha riscontrato una correlazione negativa significativa tra l’uso frequente di strumenti IA e i punteggi di pensiero critico. È mediata da ciò che i ricercatori chiamano scarico cognitivo, ovvero la tendenza a delegare un compito mentale a uno strumento invece di affrontarlo personalmente.

Niente di tutto ciò significa che le persone dovrebbero usare meno l’IA. Al contrario, dobbiamo renderci conto che, quando un sistema risolve ogni tipo di domanda nello stesso modo, qualcosa si perde sul lato soggettivo del bilancio, e attualmente quasi nessuno sta tracciando questa perdita.

Dare alle Risposte Dirette il Giusto Valore

Voglio essere chiaro su dove l’IA allineata al compito sia la soluzione adeguata, perché lo scopo di questo articolo non è difendere un modello che si tira indietro su tutto. Se qualcuno chiede di un errore di server o di una scadenza fiscale, una risposta rapida, diretta e autorevole gli è utile. Sarebbe controproducente che l’IA risponda con una domanda aperta. Il problema emerge quando applichiamo lo stesso istinto a una richiesta di valutare un divorzio come lo facciamo a una richiesta di debug del codice.

Cosa Dovremmo Misurare Invece

Se l’industria vuole affrontare sia l’IA allineata all’uomo sia quella al compito, dobbiamo aggiungere alcune qualità accanto a accuratezza e profondità del ragionamento nella prossima generazione di valutazioni.

Moderazione. La capacità di riconoscere un momento in cui risolvere la domanda per l’utente gli costa più di quanto lo aiuti, e di trattenersi di conseguenza.

Domande calibrate. Chiedere anziché dire, quando un problema è soggettivo o legato all’identità e ai valori di qualcuno piuttosto che a un fatto presente in un database.

Leggere il momento. Distinguere una richiesta che necessita di una risposta diretta e completa da una che richiede spazio affinché la persona la elabori da sé.

La ricerca di decenni di Albert Bandura sull’autoefficacia ha scoperto che le persone costruiscono fiducia attraverso le proprie esperienze di padronanza, non osservando qualcun altro, o qualcos’altro, risolvere il problema per loro. Quel principio precede l’IA di mezzo secolo e dovrebbe essere integrato nel modo in cui progettiamo e valutiamo la tecnologia.

Cosa Dovrebbe Significare il Progresso in Futuro

Niente di tutto ciò sostiene la necessità di rallentare il progresso tecnico. Celebro i miglioramenti nella programmazione e nel ragionamento. Tuttavia, una scheda di valutazione costruita interamente attorno al completamento dei compiti ci dice che l’IA sta diventando più intelligente. Non ci dice nulla sul fatto che le persone che la usano stiano migliorando nel pensare autonomamente.

Vorrei vedere questo cambiamento. Man mano che questi sistemi diventano più capaci, anche le persone che li usano dovrebbero diventare più capaci. Abbiamo dimostrato che l’IA può superare noi in un test. Il prossimo test dovrebbe valutare se può aiutarci a pensare meglio molto tempo dopo la fine della conversazione.