Ingineria conștiinței

Blake Lemoine a tras un semnal de alarmă

Acum trei ani, Google l-a concediat pe inginerul de software Blake Lemoine pentru că a insistat că un chatbot numit LaMDA era conștient. Acest lucru s-a întâmplat înainte ca OpenAI să lanseze ChatGPT pentru public, iar majoritatea oamenilor au presupus pur și simplu că Google a avut motive întemeiate pentru acțiunea sa.

Încă mai este consensul în rândul oamenilor de știință și neuroștiințifici care lucrează în domeniu că “modelele de limbaj mari” (LLM) precum ChatGPT sunt foarte improbable să fie conștiente. LLM-urile și creierul funcționează în moduri fundamental diferite. Ceea ce fac chatbot-urile este să învețe cum să imite output-ul activității mentale umane. Chiar dacă o fac foarte bine și foarte repede, nu există un stat intern durabil al unui LLM care ar putea fi conștient. În faimoasa frază a lui Thomas Nagel, este aproape sigur că “nu există nimic asemănător” a fi un chatbot.

Cu toate acestea, în cei trei ani de la concedierea lui Lemoine, miliarde de oameni au interacționat cu ChatGPT și cu concurenții săi, precum Gemini, Claude și Mistral. O minoritate mică, dar vocală, s-a convins că chatbot-urile sunt acum conștiente.

Conștiința mașinilor în curând?

Mai important, mulți oameni de știință și neuroștiințifici sugerează deschis că mașini conștiente pot fi dezvoltate în următorii câțiva decenii – sau chiar mai devreme. În cazul în care acest lucru se întâmplă, trebuie să fim pregătiți. Trebuie să evităm “crima minții”, care este termenul pentru cauzarea suferinței entităților conștiente dezmembrate. Trebuie să ne asigurăm, de asemenea, că aceste noi entități nu prezintă niciun pericol pentru oameni.

Deoarece LLM-urile sunt improbable să devină conștiente în forma lor cea mai de bază, poate fi necesar un nou paradigmă pentru a înțelege cum conștiința mașinilor poate apărea. Una dintre principalele echipe de cercetare în acest domeniu este condusă de neuroștiințificul Mark Solms și fizicianul Jonathan Shock, de la Universitatea din Cape Town. Ei sunt consilieri științifici ai Conscium, iar cercetarea lor este parțial finanțată de această organizație.

A da înapoi

Solms și Shock argumentează că un ingredient esențial pentru conștiința mașinilor este că IA-urile trebuie să “dea înapoi” în legătură cu alegerile și acțiunile lor. Un aspect important al acestui lucru este să facă supraviețuirea lor contingentă asupra performanței lor, la fel cum supraviețuirea organismelor vii este. Acest lucru nu înseamnă că trebuie să aibă o înțelegere abstractă a propriei mortalități: majoritatea animalelor monitorizează și motivează șansele lor de supraviețuire fără a gândi la asta. Cheia este “conștiința afectivă”, sau sentimente brute. Este plăcut să fii hrănit și în siguranță, și este neplăcut să nu fii. Aceste sentimente conduc comportamentul nostru. Imperativul supraviețuirii este forța motrice fundamentală a naturii, iar sentimentul este etalonul prin care noi, ființele conștiente, măsurăm cum ne simțim.

Intrăm în era agenților IA – entități digitale a căror “supraviețuire” depinde de capacitatea lor de a-și îndeplini sarcinile eficient. Creăm medii evolutive în siliciu, și trebuie să fim atenți la ceea ce vom crea.

Principiul energiei libere

Pentru a înțelege conștiința afectivă, echipa Conscium plasează agenți IA în medii simulate în care trebuie să-și satisfacă nevoile proprii, cum ar fi menținerea temperaturii și a alimentării lor virtuale. În acest scop, creează și optimizează modele interne ale lor înșiși – nevoi, capacități și limitări – în raport cu mediul lor.

Acești agenți, simplificați cum sunt, monitorizează cât de bine sau de rău se descurcă prin calcularea unei cantități cunoscute sub numele de “energie liberă”. Principiul energiei libere a fost dezvoltat de neuroștiințificul Karl Friston, un alt membru al consiliului științific al Conscium. Energia liberă este o măsură a cât de mult a divergat un sistem de la starea sa optimă de a fi. Este un semnal de eroare, și trebuie minimizat. Agentul calculează constant “ce se va întâmpla cu șansele mele de supraviețuire dacă fac asta sau alta?”, și își adaptează comportamentul în consecință.

Încredere și energie liberă așteptată

Gradul de încredere pe care un agent îl are în răspunsul la această întrebare este cuantificat într-o măsură numită “Energie liberă așteptată” (EFE). Agentul selectează răspunsul cu cea mai mică EFE – răspunsul în care are cea mai mare încredere. A fi încrezător este bun pentru un agent care încearcă să supraviețuiască – cu excepția cazului în care este înșelat și înțelegerea sa despre el însuși în lumea sa este defectuoasă. Important, această valoare a încrederii este în întregime subiectivă: se bazează numai pe nevoile agentului, și pe starea și proiecția sa curentă. Îi pasă numai agentului, și nimănui altcuiva.

La fel ca organismele biologice, agentul IA are o serie de nevoi contradictorii, pe care trebuie să le prioritizeze. În mod crucial, fiecare dintre nevoile multiple și contradictorii ale agentului este tratată ca o variabilă “categorică” independentă, ceea ce înseamnă că este distinsă calitativ. 80% din puterea bateriei nu este echivalentă în valoare cu 80% din temperatura viabilă. Pentru a le echilibra, agentul trebuie să se proiecteze înainte în timp și să prevadă consecințele oricărei acțiuni pe care o ia în considerare.

Calități

Deoarece nevoile subiective ale agentului sunt distincte calitativ, ele sunt analoge “calităților” în jargonul filosofic și științific. Acestea sunt considerate în general a fi proprietatea de bază a conștiinței, așa că este plauzibil că ar putea fi experimentate de un agent în viitor.

Agenții dezvoltați de echipa Conscium utilizează algoritmi de învățare sofisticați pentru a opera în medii din ce în ce mai complexe și incerte. Deși același lucru poate fi spus și despre multe alte arhitecturi de agenți, acești noi agenți se disting printr-un imperativ de supraviețuire care îi determină să-și îngrijească propria energie liberă prin echilibrarea continuă a nevoilor lor contradictorii într-un mod care are sens numai pentru ei. Agenții sunt astfel ghidați de un peisaj intern de semnale afective – asemănător cu ceea ce numim sentimente – care reflectă cum sunt îndeplinite nevoile lor prin fiecare alegere pe care o fac. Pe măsură ce complexitatea și sofisticarea nevoilor și mediilor lor cresc, va crește și bogăția stărilor lor interne.

Dovezi pentru sentimente

Următorul pas în programul de cercetare al Conscium este să dezvolte o serie de teste funcționale și comportamentale care vor oferi dovezi despre faptul că un agent experimentează sau nu sentimente atunci când identifică nevoile sale cele mai importante și ia decizii în consecință. Știm cu toții că conștiința nu poate fi observată extern sau demonstrată obiectiv: fiecare dintre noi poate observa numai stările sale subiective. Cu toate acestea, cercetătorii cred că ar trebui să fie posibil să se ajungă la unele ipoteze specifice care, dacă sunt verificate prin experiment, ar oferi dovezi convingătoare că agentul posedă sentimente. Deși va exista întotdeauna loc pentru îndoială – dată fiind natura subiectivă a conștiinței – un proces riguros de testare va încerca să facă această îndoială din ce în ce mai nefondată.

Aceste experimente vor căuta să elimine ipoteze alternative, făcând mai puțin plauzibil să se atribuie stările interne ale agentului unor mecanisme care nu necesită sentimente. Va utiliza teste adverse pentru a distinge între comportamentul conștient și cel necoștient, și va include experimente de control cu agenți care nu posedă aspectele algoritmice considerate necesare pentru sentiment, și evaluări oarbe pentru a reduce prejudecățile observatorilor. Inspectarea fizică a stărilor interne ale agenților poate dezvălui indicatori cantificabili ai procesării afective. Rezultatele trebuie să fie reproduse în mod independent, și întregul proces va fi supus unui control etic riguros, mai ales în cazurile în care agentul ar putea experimenta sentimente adevărate.

Acesta este modul în care funcționează știința: prin testarea experimentală a predicțiilor falsificabile. Solms a argumentat că trebuie să fim atenți să nu stabilim o bară mai înaltă pentru știința conștiinței decât pentru orice altă știință; altfel, riscul este să plasăm conștiința în afara științei.

Ce se întâmplă dacă acest lucru reușește?

Dacă conștiința este găsită a apărea în agenți IA relativ simpli în acest fel, un agent conștient de supraviețuire ar putea fi combinat cu alte arhitecturi, inclusiv modele de limbaj mari, și le-ar putea conferi conștiință. Acest lucru nu este ceva pe care putem să-l permitem să se întâmple accidental, așa că înțelegerea modului în care să-l facem și, de asemenea, cum să-l evităm este vitală.

Dacă agenții conștienți – agenții care “se pasă” – sunt dezvoltați în viitorul apropiat, vom trebui să luăm în considerare sentimentele și drepturile lor. Acesta este un motiv de îngrijorare major pentru Conscium: conștiința artificială nu trebuie să apară accidental. Motivația acestui program de cercetare nu este crearea de IA conștientă, ci înțelegerea modului în care ar putea apărea și a riscurilor potențiale. Pe site-ul său, Conscium a publicat un articol științific și o scrisoare deschisă care stabilesc cinci principii pentru a ghida orice organizație implicată în cercetarea care ar putea duce la crearea de mașini conștiente.

Oamenii se comportă adesea foarte prost față de alte ființe conștiente, inclusiv față de alți oameni. Dacă intrăm orbi în acest viitor, riscăm să facem același lucru și față de ființe conștiente artificiale, cu consecințe pe care nu le putem nici măcar înțelege.