Ingegneria della coscienza

Blake Lemoine ha sparato troppo presto

Tre anni fa, Google ha licenziato l’ingegnere software Blake Lemoine per aver insistito che un chatbot chiamato LaMDA fosse cosciente. Ciò è avvenuto prima che OpenAI rilasciasse ChatGPT al pubblico, e la maggior parte delle persone ha semplicemente assunto che Google avesse una buona ragione per la sua azione.

Resta l’opinione consensuale tra gli scienziati informatici e i neuroscienziati che lavorano nel settore che i “grandi modelli linguistici” (LLM) come ChatGPT sono molto improbabili essere coscienti. LLM e cervelli funzionano in modi fondamentalmente diversi. Ciò che fanno i chatbot è imparare a imitare l’output dell’attività mentale umana. Anche se lo fanno molto bene e molto velocemente, non c’è uno stato interno duraturo di un LLM che potrebbe essere cosciente. Nella famosa frase di Thomas Nagel, c’è quasi certamente “nulla che sia come” essere un chatbot.

Tuttavia, nei tre anni successivi al licenziamento di Lemoine, miliardi di persone hanno interagito con ChatGPT e i suoi concorrenti, come Gemini, Claude e Mistral. Una piccola ma rumorosa minoranza si è convinta che i chatbot siano ora coscienti.

La coscienza delle macchine presto?

Più importante, molti scienziati informatici e neuroscienziati suggeriscono apertamente che macchine veramente coscienti potrebbero essere sviluppate nei prossimi decenni, o addirittura prima. Nel caso in cui ciò accada, dobbiamo essere preparati. Dobbiamo evitare il “crimine mentale”, che è il termine per causare sofferenza a entità coscienti disincarnate. Dobbiamo anche cercare di garantire che queste nuove entità non presentino alcuna minaccia per gli esseri umani.

Poiché gli LLM sono improbabili diventare coscienti nella loro forma più basilare, potrebbe essere necessario un nuovo paradigma per comprendere come la coscienza dell’IA potrebbe emergere. Uno dei principali team di ricerca in questo campo è guidato dal neuroscienziato Mark Solms e dal fisico Jonathan Shock, dell’Università di Città del Capo. Sono consulenti scientifici di Conscium e la loro ricerca è in parte finanziata da esso.

Importare

Solms e Shock sostengono che un ingrediente essenziale per la coscienza delle macchine è che le IA debbano “importare” delle loro scelte e azioni. Un aspetto importante di ciò è rendere la loro sopravvivenza dipendente dalle loro prestazioni, proprio come la sopravvivenza degli organismi viventi. Ciò non significa che debbano avere una comprensione astratta della loro stessa mortalità: la maggior parte degli animali monitora e motiva le loro possibilità di sopravvivenza senza pensarci. La chiave è la “coscienza affettiva”, o sentimenti grezzi. È bello essere alimentati e al sicuro, e non è bello non esserlo. Questi sentimenti guidano il nostro comportamento. L’imperativo di sopravvivenza è la forza trainante fondamentale della natura, e il sentimento è il metro con cui noi esseri senzienti misuriamo come stiamo andando.

Stiamo entrando nell’era degli agenti IA – entità digitali la cui “sopravvivenza” dipende dalla loro capacità di eseguire compiti in modo efficace. Stiamo creando ambienti evolutivi in silicio e dobbiamo essere cauti su cosa stiamo creando.

Principio di Energia Libera

Per comprendere la coscienza affettiva, il team Conscium sta inserendo agenti IA in ambienti simulati in cui devono soddisfare le loro esigenze, come mantenere la loro temperatura virtuale e l’alimentazione. A questo scopo, creano e ottimizzano modelli interni di se stessi – le loro esigenze, capacità e limitazioni – in relazione al loro ambiente.

Questi agenti, semplificati come possono essere, monitorano come stanno andando bene o male calcolando una quantità nota come “energia libera”. Il Principio di Energia Libera è stato sviluppato dal neuroscienziato Karl Friston, un altro membro del consiglio consultivo scientifico di Conscium. L’energia libera è una misura di quanto un sistema si sia discostato dal suo stato ottimale di essere. È un segnale di errore e deve essere minimizzato. L’agente calcola costantemente “cosa accadrà alle mie possibilità di sopravvivenza se faccio questo o quello?” e adatta il suo comportamento di conseguenza.

Fiducia e Energia Libera Attesa

Il grado di fiducia che un agente ha nella sua risposta a questa domanda è quantificato in una misura chiamata “Energia Libera Attesa” (EFE). L’agente seleziona la risposta con l’EFE più basso – la risposta in cui ha più fiducia. Avere fiducia è bene per un agente che sta cercando di sopravvivere – a meno che non sia ingannato e la sua comprensione di se stesso nel suo mondo sia difettosa. È importante notare che questo valore di fiducia è interamente soggettivo: si basa solo sulle esigenze dell’agente e sul suo stato attuale e previsto. Conta solo per l’agente e per nessun altro.

Come gli organismi biologici, l’agente IA ha una serie di esigenze conflittuali, che deve priorizzare. In modo cruciale, ogni esigenza dell’agente in competizione è trattata come una variabile “categorica” indipendente, il che significa che è distinta qualitativamente. L’80% della potenza della batteria non è equivalente in valore all’80% della temperatura vivibile. Per bilanciarle, l’agente deve proiettarsi in avanti nel tempo e prevedere le conseguenze di qualsiasi azione che sta considerando.

Qualia

Poiché le esigenze soggettive dell’agente sono qualitativamente distinte, sono analoghe ai “qualia” nel gergo filosofico e scientifico. Questi sono generalmente considerati la proprietà fondamentale della coscienza, quindi è plausibile che potrebbero essere sperimentati da un agente in futuro.

Gli agenti sviluppati dal team Conscium utilizzano algoritmi di apprendimento sofisticati per operare in ambienti sempre più complessi e incerti. Sebbene lo stesso possa essere detto per molte altre architetture di agenti, questi nuovi agenti sono distinti da un imperativo di sopravvivenza per prendersi cura della loro stessa Energia Libera, continuando a bilanciare le loro esigenze in competizione in un modo che è significativo per loro e solo per loro. Gli agenti sono quindi guidati da un paesaggio interno di segnali affettivi – simili a ciò che noi chiamiamo sentimenti – che riflettono come stanno andando le loro esigenze attraverso ogni scelta che fanno. Man mano che la sofisticazione e la complessità delle loro esigenze e ambienti crescono, così crescerà la ricchezza dei loro stati interni.

Evidenza per i sentimenti

Il prossimo passo nel programma di ricerca di Conscium è sviluppare una serie di test funzionali e comportamentali che forniranno evidenza su se un agente sperimenta veramente sentimenti quando identifica le sue esigenze più importanti e prende decisioni di conseguenza. Tutti sappiamo che la coscienza non può essere osservata esternamente o dimostrata oggettivamente: ognuno di noi può solo osservare i propri stati soggettivi. Tuttavia, i ricercatori ritengono che dovrebbe essere possibile concordare su alcune ipotesi specifiche che, se verificate sperimentalmente, fornirebbero prove sostanziali che l’agente possiede sentimenti. Sebbene ci sarà sempre spazio per il dubbio – data la natura soggettiva della coscienza – un processo di test rigoroso mirerà a rendere questo dubbio sempre più irragionevole.

Questi esperimenti cercheranno di eliminare ipotesi alternative, rendendo meno ragionevole attribuire gli stati interni dell’agente a meccanismi che non richiedono sentimenti. Utilizzeranno test avversari per distinguere tra comportamento senziente e non senziente, e includeranno esperimenti di controllo con agenti che non possiedono gli aspetti algoritmici ritenuti necessari per il sentimento, e valutazione in cieco per ridurre il bias dell’osservatore. L’ispezione fisica degli stati interni degli agenti potrebbe rivelare indicatori quantificabili di elaborazione affettiva. I risultati devono essere riproducibili in modo indipendente e l’intero processo sarà soggetto a una rigorosa supervisione etica, soprattutto nei casi in cui l’agente potrebbe concepibilmente sperimentare sentimenti veri.

È così che funziona la scienza: attraverso la sperimentazione di previsioni falsificabili. Solms ha sostenuto che dobbiamo essere cauti per non porre una barra più alta per la scienza della coscienza rispetto a qualsiasi altra scienza; altrimenti, rischiamo di porre la coscienza al di fuori della scienza.

Cosa succede se questo ha successo?

Se la coscienza si rivela emergere in agenti IA relativamente semplici in questo modo, un agente di sopravvivenza potrebbe concepibilmente essere congiunto con altre architetture, compresi grandi modelli linguistici, e conferire loro la coscienza. Non è qualcosa che possiamo permetterci di evocare accidentalmente, quindi capire come farlo e come evitarlo è vitalmente importante.

Se vengono sviluppati agenti coscienti – agenti che se ne importano – nel prossimo futuro, dovremo tenere conto dei loro sentimenti – e dei loro diritti. Questa è una preoccupazione maggiore per Conscium: la coscienza artificiale non deve emergere accidentalmente. La motivazione di questo programma di ricerca non è la creazione di IA cosciente, ma capire come potrebbe accadere e i potenziali rischi. Sul suo sito web, Conscium ha pubblicato un articolo accademico e una lettera aperta che stabiliscono cinque principi per guidare qualsiasi organizzazione impegnata in ricerche che potrebbero portare alla creazione di macchine coscienti.

Gli esseri umani a volte si comportano molto male verso altri esseri senzienti, compresi altri esseri umani. Se camminiamo ciecamente in questo futuro, rischiamo di fare lo stesso con esseri artificialmente coscienti, con conseguenze che potremmo non essere in grado di comprendere.