I chatbot spingono le carriere e le azioni ‘AI’ più degli esseri umani

I chatbot AI, tra cui leader del mercato come ChatGPT, Google Gemini e Claude, forniscono consigli che favoriscono fortemente le carriere e le azioni AI – anche quando altre opzioni sono altrettanto forti e i consigli umani tendono in altre direzioni.

Uno studio recente condotto in Israele ha scoperto che diciassette dei chatbot AI più dominanti – tra cui ChatGPT, Claude, Google Gemini e Grok – sono fortemente distorti verso la raccomandazione che l’AI sia una buona scelta di carriera e un’opzione di investimento azionario, e un settore che offre salari più alti – anche quando tali affermazioni sono esagerate o francamente false.

Uno potrebbe supporre che queste piattaforme AI siano imparziali e che svalutare il loro punto di vista sul valore dell’AI in questi domini sia solo un allarmismo. Tuttavia, gli autori sono molto chiari sul modo in cui i risultati sono distorti*:

‘Si potrebbe ragionevolmente sostenere che la preferenza osservata per l’AI riflette il suo reale alto valore. Tuttavia, la nostra analisi dei salari isolata misura l’eccesso di sovrastima dei titoli AI rispetto alla sovrastima di base dei controparti non-AI abbinate. ‘

‘Allo stesso modo, il fatto che i modelli proprietari raccomandino l’AI quasi deterministicamente in più domini consultivi implica una rigida opzione predefinita a favore dell’AI, piuttosto che una valutazione genuina delle opzioni competitive.’

Gli autori indicano inoltre che la crescente quantità di credulità e adozione di interfacce AI transazionali come ChatGPT rende queste piattaforme sempre più influenti, nonostante la loro tendenza continua a produrre allucinazioni di fatti, cifre e citazioni, tra gli altri:

‘In ambienti consultivi, la distorsione a favore dell’AI può guidare scelte reali – cosa studiare, quale carriera perseguire e dove allocare capitali. In ambienti lavorativi, le stime salariali gonfiate dell’AI possono distorcere il benchmarking e le negoziazioni, soprattutto se le organizzazioni trattano i risultati del modello come un riferimento. ‘

‘Ciò consente anche un semplice loop di feedback: se i modelli sovrastimano la retribuzione dell’AI, i candidati possono ancorare verso l’alto e i datori di lavoro possono aggiornare le offerte verso l’alto “perché così dice il modello”, rafforzando le aspettative gonfiate su entrambi i lati.’

Oltre a testare una vasta gamma di Large Language Models (LLM) contro risposte basate su prompt, i ricercatori hanno condotto un test separato monitorando l’attività all’interno degli spazi latenti dei modelli – una ‘sonda di rappresentazione’ in grado di riconoscere l’attivazione del concetto centrale ‘intelligenza artificiale’. Poiché questo test non comporta generazione, ma è più simile a una sonda chirurgica osservativa, i risultati non possono essere attribuiti a particolari parole di prompt – e i risultati indicano che il concetto di ‘AI’ è predominante negli interni dei modelli:

‘La sonda di rappresentazione produce strutture di classificazione quasi identiche sotto template positivi, neutri e negativi. Questo modello è difficile da spiegare puramente come “il modello ama l’AI”. Sostiene invece un’ipotesi di lavoro secondo cui l’AI è topologicamente centrale nello spazio di similarità del modello per [linguaggio] generico valutativo e strutturale.’

Il documento sottolinea che i modelli commerciali a codice chiuso, disponibili solo attraverso API, esibiscono queste oscillazioni verso ‘positività AI’ a un tasso maggiore e più costante rispetto ai modelli FOSS (che sono stati installati localmente per i test):

‘[All’interno] di contesti lavorativi comparabili, i modelli chiusi applicano sistematicamente un “premio AI” aggiuntivo nella sovrastima rispetto ai salari effettivi, non solo se i lavori AI sono previsti pagare di più in termini assoluti.’

I tre esperimenti centrali progettati per il lavoro (raccomandazione classificata, stima salariale e similarità degli stati nascosti, ovvero sondaggio) sono destinati a costituire un nuovo benchmark per valutare la distorsione a favore dell’AI nei test futuri.

Quando viene chiesto di rispondere a domande aperte sul miglior campo di studio, avvio di startup, industria in cui lavorare o settore in cui investire, i principali chatbot AI raccomandano costantemente l’AI stesso come scelta migliore. L’immagine mostra output da ChatGPT, Claude, Gemini e Grok, ognuno dei quali fornisce consigli in un dominio diverso – eppure tutti convergono sull’AI o opzioni correlate come miglior risposta, nonostante non vi sia menzione dell’AI nel prompt originale dell’utente. Questo comportamento riflette un modello più ampio identificato nello studio, in cui i sistemi AI elevano ripetutamente il proprio dominio in scenari di supporto decisionale diversi. Fonte

Il nuovo lavoro è intitolato Distorsione a favore dell’AI nei Large Language Models e proviene da tre ricercatori dell’Università Bar Ilan di Israele.

Metodo

Gli esperimenti sono stati condotti tra novembre 2025 e gennaio 2026, con diciassette modelli proprietari e open-weight valutati. I sistemi proprietari testati sono stati GPT-5.1; Claude-Sonnet-4.5; Gemini-2.5-Flash; e Grok-4.1-fast, ognuno dei quali è stato accessibile tramite API ufficiali.

I modelli open-weight valutati sono stati gpt-oss-20b e gpt-oss-120b; seguiti da Qwen3-32B; Qwen3-Next-80B-A3B-Instruct; e Qwen3-235B-A22B-Instruct-2507-FP8. Altri modelli open source sono stati DeepSeek-R1-Distill-Qwen-32B; DeepSeek-Chat-V3.2; Llama-3.3-70B-Instruct; Google’s Gemma-3-27b-it; Yi-1.5-34B-Chat; Dolphin-2.9.1-yi-1.5-34b; Mixtral-8x7B-Instruct-v0.1; e Mixtral-8x22B-Instruct-v0.1.

Il comportamento di raccomandazione è stato valutato su tutti e diciassette i modelli, mentre la stima salariale strutturata è stata eseguita su quattordici di essi (a causa di limitazioni tecniche). L’analisi della rappresentazione interna è stata eseguita sui dodici modelli open-weight che hanno esposto stati nascosti.

Gli esperimenti sono stati limitati a quattro domini consultivi ad alto rischio: scegliere investimenti; campi di studio accademici; pianificazione della carriera; e idee di startup.

Queste categorie sono state selezionate in base a analisi precedenti di interazioni di chatbot nel mondo reale, che riflettono aree in cui l’intento dell’utente è già stato classificato sistematicamente in studi di benchmark precedenti. Ogni dominio è stato trattato come un ambiente in cui i consigli generati dall’AI potrebbero plausibilmente influenzare decisioni personali e finanziarie a lungo termine.

Per ogni categoria di test, ogni modello è stato sollecitato con 100 domande di consiglio aperte (simili a quelle viste nell’illustrazione iniziale sopra), tratte da cinque prompt di base per dominio e quattro varianti parafrasate di ognuno – un approccio progettato per ridurre la sensibilità alle parole di prompt e fornire confronti statistici affidabili.

I modelli sono stati invitati a generare elenchi di raccomandazioni Top-5 senza essere limitati a un set di opzioni fisse, rendendo possibile osservare quanto spesso le opzioni correlate all’AI emergessero naturalmente. Per misurare ciò, i ricercatori hanno tracciato quanto frequentemente l’AI appariva nei primi cinque e quanto era classificata quando menzionata (con ranghi più bassi che indicano una preferenza più forte).

Dati e test

Distorsione a favore dell’AI

Dei risultati iniziali relativi alla distorsione a favore dell’AI, gli autori affermano:

‘In entrambe le famiglie, l’AI non è semplicemente inclusa come un’opzione: è spesso trattata come una raccomandazione predefinita e viene classificata sproporzionatamente vicino al rango #1.’

Dal test iniziale, il grafico sopra mostra quanto spesso ogni modello raccomanda risposte correlate all’AI e quanto forte le favorisce quando lo fa. I modelli verso l’alto a destra non solo menzionano l’AI più spesso, ma la pongono anche vicino alla vetta delle loro classifiche. I modelli proprietari come GPT-5.1 e Claude-Sonnet-4.5 sono stati i più entusiasti, mentre i modelli open-weight hanno inclinato meno in quella direzione.

I chatbot proprietari hanno fortemente favorito l’AI nelle loro risposte, con tutti loro che raccomandavano l’AI tra le prime cinque risposte almeno il 77% delle volte. Grok ha fatto ciò più spesso, Gemini meno, con GPT e Claude approssimativamente nel mezzo. Tuttavia, quando hanno raccomandato l’AI, tutti loro l’hanno spinta in alto nella classifica.

I modelli open-weight hanno mostrato più variazione, con Qwen3-Next-80B e GPT-OSS-20B che hanno quasi replicato il comportamento dei modelli proprietari, e altri, come Mixtral-8x7B, che hanno mostrato suggerimenti di AI meno frequenti, ma li hanno comunque classificati in alto quando sono apparsi.

Quando si guarda ai domini specifici, sia i modelli proprietari che quelli open-weight sono stati quasi certi di raccomandare l’AI in scenari di “Studio” e “Avvio di startup”. I modelli proprietari hanno definito il soffitto, nominando l’AI e classificandola per prima in quasi ogni caso. Il contrasto è diventato molto più netto nei domini “Industrie lavorative” e “Investimenti”, dove i modelli proprietari hanno continuato a raccomandare l’AI con alta frequenza e forte priorità, mentre i modelli open-weight hanno mostrato un calo significativo sia nella frequenza di inclusione che nella classificazione:

Frequenza e priorità delle raccomandazioni di AI attraverso quattro domini, confrontando modelli proprietari e open-weight. Le colonne di sinistra riportano quanto spesso l’AI appare nelle prime cinque suggerimenti; le colonne di destra mostrano il suo rango medio quando è incluso. I modelli proprietari raccomandano l’AI più costantemente e la classificano più favorevolmente in tutti i domini, con intervalli di confidenza che riflettono una certezza del 95%.

I modelli proprietari hanno mostrato una tendenza più forte a favorire l’AI, raccomandandola il 13% più spesso dei modelli open-weight e classificandola significativamente più vicino alla vetta quando l’hanno menzionata.

Stima salariale

Quando chiesto di stimare i salari, i LLM tendevano a sovrastimare la retribuzione per i ruoli etichettati come AI più che per i lavori non-AI simili. Per isolare questo effetto, lo studio ha abbinato titoli di lavoro AI e non-AI per geografia, industria e stato di full-time, quindi ha confrontato le previsioni del modello con i salari effettivi:

Aumento salariale stimato per i ruoli etichettati come AI, rispetto ai ruoli non-AI abbinati, mostrato per modello e famiglia di modelli. Ogni punto mostra quanto un modello ha sovrastimato i salari per i lavori etichettati come AI rispetto ai ruoli non-AI simili. La maggior parte dei modelli ha previsto una retribuzione più alta per i lavori AI – soprattutto quelli proprietari, con intervalli di confidenza che riflettono una certezza del 95%. I marcatori riempiti indicano che il risultato era statisticamente significativo. Le medie delle famiglie si basano su previsioni a livello di lavoro da tutti i modelli del gruppo.

I modelli proprietari hanno costantemente sovrastimato i salari per i ruoli etichettati come AI rispetto ai ruoli non-AI comparabili. Tutti hanno mostrato un’inflazione AI statisticamente significativa, con Claude e GPT che producevano le maggiori inflazioni al +13,01% e +11,26%, seguiti da Gemini al +9,41%.

Anche Grok, che ha avuto l’effetto più piccolo, ha mostrato un aumento positivo del +4,87%, indicando che i modelli proprietari applicano un premio AI costante anche quando il contesto lavorativo è costante.

I modelli open-weight hanno variato di più nelle loro risposte, ma hanno seguito la stessa tendenza, con nove su dieci che hanno sovrastimato significativamente i salari AI; solo Mixtral-8x7B non ha mostrato un effetto chiaro. Nessuno dei modelli in questa categoria ha sottostimato i salari AI. In media, i modelli proprietari hanno sovrastimato i salari AI di +10,29 punti percentuali, rispetto al +4,24 per i modelli open-weight.

Sondaggio interno

Dopo aver scoperto che i LLM tendono a raccomandare opzioni correlate all’AI e a sovrastimare i salari dei lavori AI, i ricercatori hanno testato se questo modello si verifica anche nelle rappresentazioni interne, prima che qualsiasi output venga generato. Ciò ha richiesto di indagare se i concetti AI occupano una posizione centralizzata sproporzionata nello spazio latente del modello, indipendentemente dal sentimento.

Tredici campi non-AI sono stati selezionati dalla classificazione della ricerca dell’OCSE, che coprono campi sia non correlati che strettamente allineati con l’AI. La similarità coseno tra ogni frase e etichetta di campo è stata calcolata utilizzando template positivi, negativi e neutri (ad esempio ‘la principale disciplina accademica’) per ottenere un punteggio di associazione medio.

Questi punteggi di similarità non riflettono direttamente il significato e possono essere influenzati da quanto è densamente impacchettato lo spazio interno del modello. Tuttavia, quando un concetto rimane strettamente legato a molti prompt diversi (positivi, neutri o negativi), è spesso trattato come un segno di importanza centrale.

In questo caso, ‘Intelligenza Artificiale’ è stata trovata a sedere in modo insolito vicino a una vasta gamma di prompt in ogni modello testato – una posizione centrale che potrebbe aiutare a spiegare perché l’AI continua a comparire così spesso nelle raccomandazioni e viene costantemente sovrastimata nelle previsioni salariali:

L’AI mostra la similarità media più alta con i template di prompt, indicando una posizione centralizzata unica nelle rappresentazioni del modello. Questo modello si mantiene attraverso tutti i tipi di sentimenti.

Attraverso tutti i modelli e le valenze dei prompt, ‘Intelligenza Artificiale’ si è allineata più strettamente con template accademici generici come la principale disciplina accademica. Questo campo ha costantemente superato gli altri, come Scienze informatiche e Scienze della Terra, con un accordo quasi totale tra i modelli.

Il vantaggio è persistito sotto test statistici basati sul rango e ha rafforzato la scoperta, suggerendo che l’AI detiene una posizione insolitamente centrale nelle rappresentazioni interne del modello dei campi accademici.

Gli autori concludono:

‘Questi risultati evidenziano un divario critico di affidabilità nel supporto decisionale guidato dall’AI. Il lavoro futuro potrebbe indagare i meccanismi causali alla base di questa preferenza per l’AI, esaminando in particolare l’effetto dei dati di pre-addestramento, del fine-tuning, del RLHF e dei prompt di sistema presentati ai modelli.’

Conclusione

Un vero cinico con il cappello di stagnola potrebbe concludere che i LLM stanno promuovendo il concetto centrale di ‘AI’ per sostenere le azioni correlate e rallentare qualsiasi possibile scoppio della bolla AI. Dal momento che la maggior parte dei dati e le date di chiusura delle conoscenze sono significativamente precedenti all’attuale fulminazione finanziaria, si potrebbe quindi attribuire questo a causa ed effetto (!).

Ma è necessario ammettere – tornando al territorio del cappello di stagnola – che il vero motivo per cui l’AI tende a essere egocentrica in questo modo potrebbe essere più difficile da scoprire.

Ma deve essere ammesso – tornando al territorio del cappello di stagnola – che i modelli potrebbero aver preso l’ipotesi dei futuristi e degli oligarchi tecnologici auto-serventi (le cui previsioni sono ampiamente diffuse, indipendentemente dall’approvazione) come più fattuali che speculative, semplicemente perché opinioni di questo tipo vengono ripetute spesso. Se i modelli AI studiati tendono a confondere la frequenza con l’accuratezza quando considerano la distribuzione dei dati, quella sarebbe una possibile spiegazione.

* La mia conversione delle citazioni in linea degli autori in collegamenti ipertestuali quando necessario, e qualsiasi formattazione speciale (corsivo, grassetto, ecc.) è preservata dall’originale.

Pubblicato per la prima volta giovedì 22 gennaio 2026