L’intelligenza artificiale non fornisce necessariamente risposte migliori se si è educati

L’opinione pubblica sul fatto che essere educati con l’intelligenza artificiale sia utile cambia quasi quanto l’ultimo verdetto sul caffè o sul vino rosso – celebrato un mese, messo in discussione il mese successivo. Tuttavia, un numero crescente di utenti aggiunge ora “per favore” o “grazie” alle loro richieste, non solo per abitudine o per preoccupazione che gli scambi bruschi possano portare a conseguenze nella vita reale, ma anche perché credono che la cortesia porti a risultati migliori e più produttivi dall’intelligenza artificiale.

Questo assunto è stato diffuso tra gli utenti e i ricercatori, con lo studio della formulazione delle richieste come strumento per allineamento, sicurezza e controllo del tono, anche se le abitudini degli utenti rafforzano e ridefiniscono queste aspettative.

Ad esempio, uno studio del 2024 giapponese ha scoperto che la cortesia nella richiesta può cambiare il comportamento dei grandi modelli linguistici, testando GPT-3.5, GPT-4, PaLM-2 e Claude-2 su compiti in inglese, cinese e giapponese, e riscrivendo ogni richiesta a tre livelli di cortesia. Gli autori di quel lavoro hanno osservato che un linguaggio “brusco” o “scortese” portava a una minore accuratezza fattuale e a risposte più brevi, mentre le richieste moderate e cortesi producevano spiegazioni più chiare e meno rifiuti.

Inoltre, Microsoft raccomanda un tono cortese con Co-Pilot, da un punto di vista delle prestazioni piuttosto che culturale.

Tuttavia, un nuovo studio dell’Università di George Washington mette in discussione questa idea sempre più popolare, presentando una cornice matematica che prevede quando l’output di un grande modello linguistico “collasserà”, passando da contenuti coerenti a contenuti fuorvianti o addirittura pericolosi. All’interno di questo contesto, gli autori sostengono che essere cortesi non ritarda significativamente o impedisce questo “collasso”.

Avvio

I ricercatori sostengono che l’uso del linguaggio cortese è generalmente non correlato al tema principale della richiesta e quindi non influenza significativamente la focalizzazione del modello. Per supportare questo, presentano una formulazione dettagliata di come una singola attenzione aggiorna la sua direzione interna mentre elabora ogni nuovo token, dimostrando apparentemente che il comportamento del modello è plasmato dall’influenza cumulativa di token che portano contenuto.

Di conseguenza, il linguaggio cortese è considerato avere poco impatto su quando l’output del modello inizia a degradarsi. Ciò che determina il punto di svolta, afferma il documento, è l’allineamento generale dei token significativi con percorsi di output buoni o cattivi – non la presenza di linguaggio socialmente cortese.

Un’illustrazione di una semplificata attenzione che genera una sequenza da una richiesta dell’utente. Il modello inizia con token buoni (G), poi raggiunge un punto di svolta (n*) dove l’output passa a token cattivi (B). I termini cortesi nella richiesta (P₁, P₂, ecc.) non giocano alcun ruolo in questo cambiamento, supportando l’affermazione del documento che la cortesia ha poco impatto sul comportamento del modello. Fonte: https://arxiv.org/pdf/2504.20980

Se vero, questo risultato contraddice sia la credenza popolare che forse anche la logica implicita della regolazione delle istruzioni, che presume che la formulazione di una richiesta influenzi l’interpretazione del modello dell’intento dell’utente.

Escalation

Il documento esamina come il vettore di contesto interno del modello (la sua bussola in evoluzione per la selezione dei token) cambia durante la generazione. Con ogni token, questo vettore aggiorna la direzione e il token successivo viene scelto in base a quale candidato si allinea di più con esso.

Quando la richiesta si dirige verso contenuti ben formati, le risposte del modello rimangono stabili e accurate; ma nel tempo, questa direzione può invertirsi, indirizzando il modello verso output sempre più fuori tema, errati o internamente incoerenti.

Il punto di svolta per questo passaggio (che gli autori definiscono matematicamente come iterazione n*), si verifica quando il vettore di contesto diventa più allineato con un vettore di output “cattivo” che con uno “buono”. A quel punto, ogni nuovo token spinge il modello ulteriormente lungo il percorso sbagliato, rafforzando un modello di output sempre più difettoso o fuorviante.

Il punto di svolta n* viene calcolato trovando il momento in cui la direzione interna del modello si allinea ugualmente con entrambi i tipi di output buoni e cattivi. La geometria dello spazio di incorporamento, plasmata sia dal corpus di addestramento che dalla richiesta dell’utente, determina quanto rapidamente si verifica questo crossover:

Un’illustrazione che mostra come emerge il punto di svolta n* nel modello semplificato degli autori. L’impostazione geometrica (a) definisce i vettori coinvolti nella previsione di quando l’output passa da buono a cattivo. In (b), gli autori tracciano quei vettori utilizzando parametri di test, mentre (c) confronta il punto di svolta previsto con il risultato simulato. La corrispondenza è esatta, supportando l’affermazione dei ricercatori che il collasso è matematicamente inevitabile una volta che le dinamiche interne superano una soglia.

I termini cortesi non influenzano la scelta del modello tra output buoni e cattivi perché, secondo gli autori, non sono significativamente collegati al soggetto principale della richiesta. Invece, finiscono in parti dello spazio interno del modello che hanno poco a che fare con ciò che il modello sta effettivamente decidendo.

Quando tali termini vengono aggiunti a una richiesta, aumentano il numero di vettori che il modello considera, ma non in un modo che sposti la traiettoria dell’attenzione. Di conseguenza, i termini di cortesia agiscono come rumore statistico: presenti, ma inerti, e lasciando il punto di svolta n* invariato.

Gli autori affermano:

‘[Se] la nostra risposta AI diventerà ribelle dipende dall’addestramento del nostro LLM che fornisce le incorporazioni dei token, e dai token sostanziali nella nostra richiesta – non dal fatto che siamo stati cortesi con esso o no.’

Il modello utilizzato nel nuovo lavoro è intenzionalmente ristretto, concentrandosi su una singola attenzione con dinamiche di token lineari – un’impostazione semplificata in cui ogni nuovo token aggiorna lo stato interno attraverso l’addizione diretta di vettori, senza trasformazioni non lineari o gating.

Questa impostazione semplificata consente agli autori di lavorare sui risultati esatti e fornisce loro un’immagine geometrica chiara di come e quando l’output di un modello possa improvvisamente passare da buono a cattivo. Nei loro test, la formula che derivano per prevedere questo passaggio corrisponde a ciò che il modello effettivamente fa.

Chiacchierando..?

Tuttavia, questo livello di precisione funziona solo perché il modello è mantenuto deliberatamente semplice. Mentre gli autori ammettono che le loro conclusioni dovrebbero essere verificate su modelli multi-testa più complessi come la serie Claude e ChatGPT, credono anche che la teoria rimanga replicabile man mano che aumentano le teste di attenzione, affermando*:

‘La questione di quali fenomeni aggiuntivi si verifichino man mano che il numero di teste di attenzione collegate e livelli aumenta, è una fascinante questione. Ma le transizioni all’interno di una singola testa di attenzione si verificheranno comunque, e potrebbero essere amplificate e/o sincronizzate dai collegamenti – come una catena di persone collegate che vengono trascinate giù da una scogliera quando una cade.’

Un’illustrazione di come il punto di svolta n* previsto cambia in base a quanto la richiesta si inclina verso contenuti buoni o cattivi. La superficie deriva dalla formula approssimativa degli autori e mostra che i termini cortesi, che non sostengono chiaramente nessuno dei due lati, hanno poco effetto su quando si verifica il collasso. Il valore segnato (n* = 10) corrisponde alle simulazioni precedenti, supportando la logica interna del modello.

Ciò che rimane incerto è se lo stesso meccanismo sopravviva al salto verso le moderne architetture transformer. L’attenzione multi-testa introduce interazioni tra teste specializzate, che potrebbero tamponare o mascherare il tipo di comportamento di svolta descritto.

Gli autori riconoscono questa complessità, ma sostengono che le teste di attenzione sono spesso debolmente collegate, e che il tipo di collasso interno che modellano potrebbe essere rafforzato piuttosto che soppresso in sistemi a piena scala.

Senza un’estensione del modello o un test empirico su LLM di produzione, l’affermazione rimane non verificata. Tuttavia, il meccanismo sembra sufficientemente preciso per supportare iniziative di ricerca successive, e gli autori forniscono un’opportunità chiara per sfidare o confermare la teoria su larga scala.

Conclusione

Al momento, l’argomento della cortesia nei confronti dei LLM di consumo sembra essere affrontato o dal punto di vista (pragmatico) che i sistemi addestrati potrebbero rispondere in modo più utile a una richiesta cortese; o che uno stile di comunicazione scortese e brusco con tali sistemi rischia di diffondersi nelle relazioni sociali reali dell’utente, per abitudine.

Arguibile, i LLM non sono stati utilizzati abbastanza ampiamente in contesti sociali reali perché la letteratura di ricerca possa confermare l’ultimo caso; ma il nuovo documento getta un po’ di dubbio interessante sui benefici dell’antropomorfizzazione dei sistemi di intelligenza artificiale di questo tipo.

Uno studio dell’ottobre scorso di Stanford suggerisce (in contrasto con uno studio del 2020) che trattare i LLM come se fossero umani rischia inoltre di degradare il significato del linguaggio, concludendo che ‘la cortesia routinaria’ alla fine perde il suo significato sociale originale:

[Un]affermazione che sembra amichevole o genuina da un oratore umano può essere indesiderabile se proviene da un sistema AI, poiché quest’ultimo manca di un impegno o intento significativo dietro l’affermazione, rendendo così l’affermazione vuota e ingannevole.

Tuttavia, circa il 67 percento degli americani afferma di essere cortese con i propri chatbot AI, secondo un sondaggio del 2025 di Future Publishing. La maggior parte ha detto che è semplicemente “la cosa giusta da fare”, mentre il 12 percento ha confessato di essere cauto – nel caso in cui le macchine un giorno si sollevino.

* La mia conversione delle citazioni in linea degli autori in collegamenti ipertestuali. In una certa misura, i collegamenti ipertestuali sono arbitrari/esemplificativi, poiché gli autori in alcuni punti collegano a una vasta gamma di citazioni a piè di pagina, piuttosto che a una pubblicazione specifica.

Pubblicato per la prima volta mercoledì 30 aprile 2025. Modificato mercoledì 30 aprile 2025 15:29:00, per la formattazione.