Come pensa Claude? La ricerca di Anthropic per sbloccare la scatola nera dell’AI

I grandi modelli linguistici (LLM) come Claude hanno cambiato il modo in cui utilizziamo la tecnologia. Sono alla base di strumenti come i chatbot, aiutano a scrivere saggi e persino a creare poesie. Ma nonostante le loro capacità incredibili, questi modelli sono ancora un mistero in molti sensi. Le persone li chiamano spesso “scatola nera” perché possiamo vedere cosa dicono, ma non come lo scoprono. Questa mancanza di comprensione crea problemi, soprattutto in aree importanti come la medicina o il diritto, dove errori o pregiudizi nascosti potrebbero causare danni reali.

Capire come funzionano gli LLM è essenziale per costruire la fiducia. Se non possiamo spiegare perché un modello ha dato una particolare risposta, è difficile fidarsi dei suoi risultati, soprattutto in aree sensibili. L’interpretazione aiuta anche a identificare e correggere pregiudizi o errori, assicurando che i modelli siano sicuri ed etici. Ad esempio, se un modello favorisce costantemente certi punti di vista, sapere perché può aiutare gli sviluppatori a correggerlo. Questa esigenza di chiarezza è ciò che guida la ricerca per rendere questi modelli più trasparenti.

Anthropic, l’azienda dietro Claude, ha lavorato per aprire questa scatola nera. Hanno fatto progressi emozionanti nel capire come funzionano gli LLM, e questo articolo esplora i loro progressi nel rendere più facile da comprendere i processi di Claude.

Mappare i pensieri di Claude

A metà del 2024, il team di Anthropic ha fatto una scoperta emozionante breakthrough. Hanno creato una mappa di base di come Claude elabora le informazioni. Utilizzando una tecnica chiamata dictionary learning, hanno trovato milioni di pattern nel “cervello” di Claude – la sua rete neurale. Ogni pattern, o “caratteristica”, si collega a un’idea specifica. Ad esempio, alcune caratteristiche aiutano Claude a riconoscere le città, le persone famose o gli errori di codifica. Altre si collegano a temi più complessi, come il pregiudizio di genere o la segretezza.

I ricercatori hanno scoperto che queste idee non sono isolate all’interno di singoli neuroni. Invece, sono diffuse su molti neuroni della rete di Claude, con ogni neurone che contribuisce a varie idee. Quella sovrapposizione ha reso difficile per Anthropic capire queste idee inizialmente. Ma individuando questi pattern ricorrenti, i ricercatori di Anthropic hanno iniziato a decodificare come Claude organizza i suoi pensieri.

Rintracciare il ragionamento di Claude

Successivamente, Anthropic ha voluto vedere come Claude utilizza quei pensieri per prendere decisioni. Hanno recentemente costruito uno strumento chiamato attribution graphs, che funziona come una guida passo dopo passo al processo di pensiero di Claude. Ogni punto del grafico rappresenta un’idea che si accende nella mente di Claude, e le frecce mostrano come un’idea fluisce nell’altra. Questo grafico consente ai ricercatori di tracciare come Claude trasforma una domanda in una risposta.

Per capire meglio il funzionamento dei grafici di attribuzione, consideriamo questo esempio: quando viene chiesto “Qual è la capitale dello stato con Dallas?”, Claude deve realizzare che Dallas è nel Texas, quindi ricordare che la capitale del Texas è Austin. Il grafico di attribuzione ha mostrato esattamente questo processo – una parte di Claude ha segnalato “Texas”, che ha portato a un’altra parte che ha selezionato “Austin”. Il team ha anche testato questo modificando la parte “Texas” e, come previsto, la risposta è cambiata. Ciò dimostra che Claude non sta solo indovinando – sta lavorando sul problema, e ora possiamo osservarlo.

Perché questo è importante: un’analogia dalle scienze biologiche

Per capire perché questo è importante, è utile pensare ad alcuni importanti sviluppi nelle scienze biologiche. Proprio come l’invenzione del microscopio ha permesso ai ricercatori di scoprire le cellule – i mattoni nascosti della vita – questi strumenti di interpretazione stanno permettendo ai ricercatori di AI di scoprire i mattoni del pensiero all’interno dei modelli. E proprio come la mappatura dei circuiti neurali nel cervello o la sequenziazione del genoma ha aperto la strada a scoperte nella medicina, la mappatura del funzionamento interno di Claude potrebbe aprire la strada a una maggiore affidabilità e controllabilità dell’intelligenza artificiale. Questi strumenti di interpretazione potrebbero svolgere un ruolo vitale, aiutandoci a guardare nel processo di pensiero dei modelli di AI.

Le sfide

Anche con tutti questi progressi, siamo ancora lontani dal comprendere appieno gli LLM come Claude. Al momento, i grafici di attribuzione possono spiegare solo circa un quarto delle decisioni di Claude. Mentre la mappa delle sue caratteristiche è impressionante, copre solo una parte di ciò che accade all’interno del “cervello” di Claude. Con miliardi di parametri, Claude e altri LLM eseguono innumerevoli calcoli per ogni attività. Rintracciare ogni calcolo per vedere come si forma una risposta è come cercare di seguire ogni neurone che si attiva nel cervello umano durante un singolo pensiero.

C’è anche la sfida della “allucinazione“. A volte, i modelli di AI generano risposte che sembrano plausibili ma sono in realtà false – come affermare con fiducia un fatto errato. Ciò accade perché i modelli si basano su pattern dai loro dati di addestramento piuttosto che su una vera comprensione del mondo. Capire perché si allontanano dalla realtà rimane un problema difficile, evidenziando lacune nella nostra comprensione del loro funzionamento interno.

Pregiudizio è un altro ostacolo significativo. I modelli di AI imparano da enormi set di dati raccolti da internet, che portano naturalmente pregiudizi umani – stereotipi, pregiudizi e altre imperfezioni sociali. Se Claude acquisisce questi pregiudizi dal suo addestramento, potrebbe rifletterli nelle sue risposte. Analizzare da dove provengono questi pregiudizi e come influenzano il ragionamento del modello è una sfida complessa che richiede sia soluzioni tecniche che una attenta considerazione dei dati e dell’etica.

Il punto fondamentale

Il lavoro di Anthropic per rendere più comprensibili i grandi modelli linguistici (LLM) come Claude è un passo significativo in avanti nella trasparenza dell’AI. Rivelando come Claude elabora le informazioni e prende decisioni, stanno facendo progressi verso la risoluzione di preoccupazioni chiave sull’accountability dell’AI. Questo progresso apre la porta a un’integrazione sicura degli LLM in settori critici come la sanità e il diritto, dove la fiducia e l’etica sono vitali.

Man mano che si sviluppano metodi per migliorare l’interpretazione, le industrie che sono state caute nell’adottare l’AI possono ora riconsiderare. Modelli trasparenti come Claude offrono una chiara via per il futuro dell’AI – macchine che non solo replicano l’intelligenza umana ma spiegano anche il loro ragionamento.