Non allineiamo più gli AI. Allineiamo le civiltà

Per molti anni, la principale domanda nell’intelligenza artificiale (AI) era come allineare i modelli di intelligenza artificiale con i valori umani. I ricercatori hanno cercato di definire regole di sicurezza, principi etici e meccanismi di controllo che guidano le decisioni dell’AI. Questo lavoro ha raggiunto notevoli progressi. Ma ora, poiché questi sistemi di intelligenza artificiale diventano più capaci e diffusi, il focus dell’allineamento sta iniziando a spostarsi. Ciò che è iniziato come la sfida di allineare un singolo modello a un singolo set di istruzioni è ora diventata la sfida molto più grande di allineare intere civiltà che utilizzano questi sistemi su scala globale. L’AI non è più solo uno strumento. Sta evolvendo in un ambiente in cui le società lavorano, comunicano, negoziano e competono. Di conseguenza, l’allineamento non rimane più un problema tecnico. È diventato un problema civilizzazionale. In questo articolo, spiego perché l’allineamento non è più solo questione di modelli e perché dobbiamo iniziare a pensare in termini di civiltà invece che di macchine. Discuto anche come questo spostamento influenzi le nostre responsabilità e cosa significhi per la cooperazione globale.

Chi rappresentano veramente i valori dell’AI?

Se chiedi a un’AI di un evento storico sensibile, la sua risposta dipende dai dati che ha studiato. Se quei dati provengono principalmente da internet occidentale, la risposta avrà un bias occidentale. Darà priorità all’individualismo, alla libertà di parola e agli ideali democratici. Questi sono valori buoni per molte persone. Ma non sono i soli valori nel mondo.

Un utente a Singapore, un utente a Riyadh e un utente a San Francisco hanno definizioni diverse di ciò che è “utile” e ciò che è “dannoso”. In alcune culture, l’armonia sociale è più importante della libertà di parola assoluta. In altre, il rispetto per la gerarchia è più importante della rottura.

Quando una società della Silicon Valley utilizza “Reinforcement Learning from Human Feedback” (RLHF), assume esseri umani per valutare le risposte dell’AI. Ma chi sono questi esseri umani? Quali sono le loro credenze? Se allineano il modello con gli standard americani, stanno accidentalmente costruendo un’esportazione culturale americana. Stanno costruendo un diplomatico digitale che impone le regole di una specifica civiltà al resto del mondo.

L’ascesa dei cicli di feedback

La sfida non è solo che l’AI riflette le credenze di una cultura. È come quelle credenze possono cambiarci. I sistemi di intelligenza artificiale moderni hanno il potenziale di plasmare il comportamento degli individui, delle organizzazioni e persino delle nazioni. Possono influenzare come pensiamo, lavoriamo, fidiamo e competiamo. Ciò crea cicli di feedback tra i sistemi di intelligenza artificiale e le società umane; addestriamo l’AI e l’AI plasma come pensiamo e agiamo. Questi cicli stanno diventando più forti poiché l’AI sta diventando più pervasiva. Per vedere come funziona questo ciclo di feedback, ecco due esempi:

• La distribuzione su larga scala dell’AI cambia il comportamento sociale, e il comportamento sociale cambia i dati che addestrano i nuovi sistemi. Ad esempio, un algoritmo di raccomandazione può plasmare cosa le persone guardano, leggono e credono. Gli strumenti di produttività ridisegnano come i team collaborano e come gli studenti imparano. Questi spostamenti nel comportamento cambiano i modelli di dati in forma di abitudini di visione diverse, modelli di comunicazione sul posto di lavoro o stili di scrittura. Quando questi dati fluiscono nei set di dati di addestramento futuri, i modelli adattano le loro ipotesi e output di conseguenza. Il comportamento umano plasma i modelli, e i modelli, a loro volta, plasmano il comportamento umano.
• Gli strumenti di decisione automatizzati influenzano le politiche pubbliche, e le politiche pubbliche influenzano l’addestramento dei modelli futuri. Ad esempio, molti governi ora utilizzano l’AI per suggerire dove allocare risorse come l’identificazione di quali quartieri necessitano di più sostegno sanitario o quali aree potrebbero vedere un rischio di criminalità più alto. Quando i responsabili delle politiche agiscono su queste raccomandazioni, i risultati di quelle decisioni diventano in seguito parte di nuovi set di dati. Nel tempo, le decisioni di politica plasmate dall’AI finiscono per plasmare la prossima generazione di modelli di intelligenza artificiale.

Una volta che si riconosce questo ciclo di feedback, diventa chiaro che l’AI sta gradualmente plasmando e allineando le civiltà. Di conseguenza, le nazioni stanno iniziando a chiedersi: Come possono salvaguardare i loro valori mentre integrano l’AI nelle loro società e istituzioni?

L’emergere dell’AI sovrana

Questa sfida di allineamento ha suscitato una reazione significativa da parte dei governi di tutto il mondo. Le nazioni hanno capito che affidarsi all’AI importata è un rischio per la loro sovranità. Non possono permettersi di avere i loro cittadini educati, informati e consigliati da una scatola nera che pensa come uno straniero.

Questa consapevolezza ha portato all’ascesa dell'”AI sovrana“. La Francia sta investendo pesantemente per costruire modelli che parlano francese e comprendono la legge e la cultura francese. L’India sta costruendo modelli di intelligenza artificiale indigeni per garantire che i loro valori culturali siano rispettati. Gli Emirati Arabi Uniti e la Cina stanno costruendo modelli di intelligenza artificiale allineati con le loro visioni nazionali.

Questa è la nuova corsa agli armamenti. È una corsa per il controllo della narrazione. Una civiltà che non ha la sua intelligenza artificiale finirà per perdere la sua memoria. Se i tuoi figli chiedono a una macchina una domanda, e la macchina risponde con la logica di una cultura diversa, la tua cultura inizia a erodersi. Questa consapevolezza, tuttavia, potrebbe portare alla formazione di blocchi digitali distinti. Potremmo finire con un’AI occidentale, un’AI cinese, un’AI indiana e così via. Questi sistemi opereranno con fatti diversi e bussole morali diverse. Questi sviluppi rendono chiaro che, se vogliamo creare un modello di intelligenza artificiale veramente allineato, dobbiamo prima trovare un modo per allineare le civiltà.

La necessità di un’AI diplomatica

L’allineamento tradizionale presume che un modello possa essere allineato attraverso un addestramento, un prompt e delle guardrails accurati. Questo pensiero proviene dalla mentalità tecnica della ricerca sulla sicurezza dell’AI. Ma anche un allineamento del modello perfetto non può risolvere le sfide di allineamento delle civiltà. L’allineamento non può rimanere stabile quando le società tirano in direzioni opposte. Se i paesi, le società e le comunità hanno obiettivi in conflitto, spingeranno i sistemi di intelligenza artificiale a riflettere quei conflitti. Questi limiti mostrano che l’allineamento non è solo un problema tecnico. È un problema di governance, culturale e di coordinamento. E questi problemi richiedono non solo esperti o sviluppatori. Richiedono intere civiltà.

Quindi, come procediamo? Se accettiamo che l’allineamento universale è impossibile, dobbiamo cambiare la nostra strategia. Dobbiamo smettere di cercare una soluzione tecnica a un problema filosofico. Dobbiamo iniziare a pensare come diplomatici. Dobbiamo costruire protocolli per l'”Allineamento delle civiltà”. Dobbiamo capire come l’AI possa rispettare le credenze e i valori di una società senza imporre le credenze di altre culture. In altre parole, abbiamo bisogno di una sorta di Nazioni Unite digitali per i nostri algoritmi.

Ciò richiede trasparenza. Attualmente, non sappiamo realmente quali valori sono nascosti nei livelli profondi di una rete neurale. Vediamo solo l’output. Per allineare le civiltà, dobbiamo essere chiari sulla “Costituzione” di ogni modello. Un modello dovrebbe essere in grado di dichiarare il suo bias. Dovrebbe essere in grado di dire: “Sono stato addestrato con questi dati, con queste regole di sicurezza, dando priorità a questi valori”. Solo quando il bias è visibile possiamo fidarci del sistema. Un utente dovrebbe essere in grado di passare tra prospettive diverse. Dovresti essere in grado di fare una domanda e vedere come un modello “occidentale” risponde rispetto a come un modello “orientale” risponde. Ciò trasformerebbe l’AI in uno strumento per la comprensione, piuttosto che uno strumento per l’indottrinamento.

Il punto fondamentale

Abbiamo speso troppo tempo preoccupandoci del Terminator. Il vero rischio non è che un robot ci distrugge. Il vero rischio è che un robot ci fa dimenticare chi siamo. L’allineamento non è un codice che possiamo scrivere una volta e dimenticare. È una negoziazione costante con i modelli di intelligenza artificiale per mantenerli allineati con le nostre credenze e valori. È un atto politico. Mentre entriamo in questa prossima fase dell’era dell’intelligenza, dobbiamo guardare oltre lo schermo. Dobbiamo considerare come l’AI interpreta la nostra storia, i nostri confini e le nostre credenze. Stiamo costruendo le menti che ci aiuteranno a gestire il mondo. Dobbiamo assicurarci che quelle menti rispettino le differenze tra le civiltà.