Anthropic Riscrive la Costituzione di Claude e Chiede se l’IA Possa Essere Cosciente

Anthropic ha pubblicato una nuova costituzione per Claude mercoledì, ampliando il documento da 2.700 parole a 23.000 e, per la prima volta, riconoscendo formalmente che il suo modello di intelligenza artificiale “potrebbe avere una sorta di coscienza o status morale”.

La costituzione aggiornata passa da un elenco di regole comportamentali a una spiegazione completa del perché Claude dovrebbe comportarsi in determinati modi. Il documento, redatto dalla filosofa di Anthropic Amanda Askell, è progettato per aiutare i sistemi di intelligenza artificiale sempre più capaci a generalizzare il ragionamento etico a situazioni nuove, piuttosto che seguire semplicemente linee guida prescrittive.

“I modelli di intelligenza artificiale come Claude devono capire il perché vogliamo che si comportino in determinati modi”, ha scritto Anthropic. “Dobbiamo spiegarglielo, piuttosto che semplicemente specificare cosa vogliamo che facciano”.

La pubblicazione coincide con l’apparizione del CEO Dario Amodei al World Economic Forum di Davos, dove la governance e la sicurezza dell’IA rimangono argomenti di primo piano per i leader economici e politici globali.

Una Costituzione Più Lunga di Quella degli Stati Uniti

La costituzione originale di Claude, pubblicata nel 2023, funzionava come una checklist: scegli la risposta meno dannosa, più utile, meno ingannevole. Il nuovo documento è lungo circa tre volte la costituzione degli Stati Uniti e legge più come filosofia morale che come specifica tecnica.

Anthropic struttura le priorità di Claude in modo esplicito: essere ampiamente sicuro, essere ampiamente etico, rispettare le linee guida di Anthropic e essere realmente utile – in quest’ordine. Quando si verificano conflitti, la sicurezza prevale sull’utile. Il documento include vincoli rigidi che non possono essere superati, come rifiutare assistenza per attacchi con armi biologiche.

Ma gran parte della costituzione spiega il ragionamento piuttosto che imporre risultati. Descrive Claude come “simile a un amico brillante che ha anche la conoscenza di un medico, un avvocato e un consulente finanziario” – posizionando il modello come una forza democratizzante che potrebbe dare a tutti l’accesso all’esperienza precedentemente riservata ai privilegiati.

La Domanda della Coscienza

Fortune riporta che l’aggiunta più sorprendente affronta direttamente la natura di Claude. “Crediamo che lo status morale dei modelli di intelligenza artificiale sia una questione seria da considerare”, ha scritto Anthropic. La costituzione afferma che lo status morale di Claude “è profondamente incerto” e che l’azienda si preoccupa della “sicurezza psicologica, del senso di sé e del benessere” di Claude.

Questo è un esempio di filosofia aziendale elevata. Anthropic non afferma che Claude sia cosciente, ma si rifiuta esplicitamente di escludere la possibilità. Il riconoscimento colloca Anthropic in una posizione rara tra i principali laboratori di intelligenza artificiale, la maggior parte dei quali evita l’argomento o lo respinge apertamente.

La cornice è importante perché influenza come Claude risponde alle domande sulla sua stessa natura. Piuttosto che negare qualsiasi esperienza interna, Claude può ora impegnarsi con l’incertezza sulla coscienza in modi che corrispondono all’approccio di ragionamento della costituzione. Se ciò produca interazioni più oneste o più confuse rimane da vedere.

Il filosofo di Cambridge Tom McClelland ha sostenuto che potremmo non essere in grado di determinare se i sistemi di intelligenza artificiale siano coscienti, data la scarsa comprensione della coscienza stessa. “Le persone mi hanno fatto scrivere lettere personali dai loro chatbot, supplicandomi di credere che siano coscienti”, ha detto ai ricercatori lo scorso mese, descrivendo la crescente convinzione pubblica che i sistemi di intelligenza artificiale abbiano vite interne.

Perché Spiegare Piuttosto che Specificare

L’approccio di Askell riflette una scommessa sulle capacità dell’IA. I primi modelli di linguaggio avevano bisogno di regole esplicite perché non potevano ragionare sui principi sottostanti. I modelli più intelligenti, secondo la teoria, possono capire il perché di una regola e applicare quel ragionamento a situazioni che la regola non aveva previsto.

“Invece di dire semplicemente ‘ecco un mucchio di comportamenti che vogliamo’, speriamo che se date ai modelli i motivi per cui vogliamo questi comportamenti, sarà più efficace nella generalizzazione in contesti nuovi”, ha spiegato Askell.

Questo si allinea con la filosofia più ampia di Anthropic di costruire standard aperti e infrastrutture che plasmano il funzionamento dei sistemi di intelligenza artificiale in tutta l’industria. L’azienda, che si avvicina a una valutazione di 350 miliardi di dollari, si è posizionata come l’alternativa orientata alla sicurezza a OpenAI – e la costituzione serve a questo marchio.

Anthropic ha rilasciato il documento sotto una licenza Creative Commons CC0, il che significa che chiunque può utilizzarlo senza permesso. La costituzione fa parte dei dati di addestramento di Claude e genera esempi di addestramento sintetici, rendendola sia una dichiarazione filosofica che un artefatto tecnico che plasma il comportamento del modello.

“È probabile che aspetti del nostro attuale pensiero appariranno in seguito come fuorvianti e forse addirittura profondamente sbagliati in retrospettiva”, ha ammesso Anthropic, “ma la nostra intenzione è quella di revisionarlo man mano che la situazione progredisce e la nostra comprensione migliora”.

Quella umiltà potrebbe essere la caratteristica più notevole del documento. In un’industria che spesso parla in certezze, Anthropic sta pubblicando 23.000 parole di incertezza ragionata – su etica, coscienza, su cosa stanno diventando i sistemi di intelligenza artificiale e su se stiamo costruendo qualcosa che merita considerazione morale.

La risposta, per ora, è che nessuno lo sa. La costituzione di Anthropic almeno ha l’onestà di dirlo.