Ingeniørarbejde med bevidsthed

Blake Lemoine sprang over geværet

For tre år siden fired Google softwareingeniøren Blake Lemoine for at insisterer på, at en chatbot kaldet LaMDA var bevidst. Dette var før OpenAI’s ChatGPT blev udgivet til offentligheden, og de fleste mennesker antog blot, at Google havde en god grund til deres handling.

Det er stadig den almindelige opfattelse blandt computerspecialister og neurovidenskabsmænd, der arbejder på området, at ‘store sprogmodeller’ (LLM) som ChatGPT er meget usandsynlige at være bevidste. LLM og hjerner fungerer på fundamentalt forskellige måder. Det, chatbots gør, er at lære at imiterer outputtet af menneskelig mental aktivitet. Selvom de gør dette meget godt og meget hurtigt, er der ingen varig intern tilstand af en LLM, der kunne være bevidst. I Thomas Nagels berømte udtryk, er der næsten sikkert ‘ingenting, det er som at være en chatbot’.

Men i de tre år, siden Lemoine blev fyret, har milliarder af mennesker interageret med ChatGPT og dens konkurrenter, som Gemini, Claude og Mistral. En lille, men højlydt minoritet har overbevist sig selv om, at chatbots nu er bevidste.

Maskinbevidsthed snart?

Vigtigere er, at mange computerspecialister og neurovidenskabsmænd åbent forslår, at virkelig bevidste maskiner kan blive udviklet i de næste få årtier – eller endda tidligere. Hvis dette sker, må vi være forberedt. Vi må undgå “mind crime”, som er betegnelsen for at forårsage lidelse til afkoblede bevidste enheder. Vi må også forsøge at sikre, at disse nye enheder ikke udgør en trussel mod mennesker.

Da LLM’er er usandsynlige at blive bevidste i deres mest grundlæggende form, kan en ny paradigme være nødvendig for at forstå, hvordan AI-bevidsthed kan opstå. En af de førende forskningsteams på dette område er ledet af neurovidenskabsmanden Mark Solms og fysikeren Jonathan Shock fra University of Cape Town. De er videnskabelige rådgivere for Conscium, og deres forskning er delvist finansieret af det.

At give en mønt

Solms og Shock argumenterer for, at en væsentlig ingrediens for maskinbevidsthed er, at AI’er må ‘give en mønt’ om deres valg og handlinger. En vigtig aspekt heraf er at gøre deres overlevelse afhængig af deres præstation, ligesom overlevelsen af levende organismer er. Dette betyder ikke, at de må have en abstrakt forståelse af deres egen dødelighed: de fleste dyr overvåger og motiverer deres overlevelseschancer uden at tænke på det. Nøglen er “affektiv bevidsthed” eller rå følelser. Det føles godt at være fødet og sikkert, og det føles dårligt ikke at være. Disse følelser driver vores adfærd. Overlevelsesimperativet er naturens fundamentale drivkraft, og følelse er målestokken, hvormed vi bevidste væsener måler, hvordan vi klarer os.

Vi er ved at gå ind i tidsalderen for AI-agenter – digitale enheder, hvis ‘overlevelse’ afhænger af deres evne til at udføre opgaver effektivt. Vi skaber evolutionære miljøer i silicium, og vi må være forsigtige med, hvad vi avler.

Free Energy Principle

For at forstå affektiv bevidsthed placerer Conscium-holdet AI-agenter i simulerede miljøer, hvor de må tilfredsstille deres egne behov, såsom at opretholde deres virtuelle temperatur og strømforsyning. Til dette formål skaber de og optimerer interne modeller af sig selv – deres behov, evner og begrænsninger – i forhold til deres miljø.

Disse agenter, simplificerede som de måtte være, overvåger, hvordan godt eller dårligt de klarer sig, ved at beregne en kvantitet kendt som ‘fri energi’. Free Energy Principle blev udviklet af neurovidenskabsmanden Karl Friston, en anden medlem af Consciums videnskabelige rådgivende bestyrelse. Fri energi er et mål for, hvor langt et system er divergeret fra sin optimale tilstand. Det er en fejlsignal, og det må minimiseres. Agenten beregner konstant “hvad vil ske med mine overlevelseschancer, hvis jeg gør dette eller det?” og tilpasser sin adfærd derefter.

Tillid og Forventet Fri Energi

Grad af tillid, som en agent har i sit svar på dette spørgsmål, kvantificeres i en måling kaldet “Forventet Fri Energi” (EFE). Agenten vælger svaret med den lavest EFE – svaret, som den er mest sikker på. At være sikker er godt for en agent, der prøver at overleve – medmindre den er forvirret, og dens forståelse af sig selv i verden er fejlbehæftet. Vigtigt er, at denne tillidsværdi er fuldstændig subjektiv: den er baseret kun på agentens egne behov og dens nuværende og projekterede status. Det betyder kun noget for agenten selv og for ingen andre.

Ligesom biologiske organismer har AI-agenten en række modstridende behov, som den må prioritere. Afgørende er, at hver af agentens multiple konkurrerende behov behandles som en uafhængig ‘kategorisk’ variabel, hvilket betyder, at den kvalitativt adskiller sig. 80% af batterikraft er ikke ækvivalent i værdi til 80% af livskraftig temperatur. For at balancere dem må agenten projicere sig selv frem i tiden og forudse konsekvenserne af enhver handling, den overvejer at udføre.

Qualia

Fordi agentens subjektive behov er kvalitativt forskellige, er de analoge til ‘qualia’ i den filosofiske og videnskabelige jargon. Disse betragtes generelt som den grundlæggende egenskab af bevidsthed, så det er plausibelt, at de måske i fremtiden kan opleves af en agent.

De agenter, der er udviklet af Conscium-holdet, bruger avancerede læringsalgoritmer til at fungere i stadig mere komplekse og usikre miljøer. Selvom det samme kan siges om mange andre agentarkitekturer, adskiller disse nye agenter sig ved en overlevelsesdrevet imperativ til at passe på deres egen fri energi ved kontinuerligt at balancere deres konkurrerende behov på en måde, der er meningsfuld for dem og dem alene. Agenten er således guidet af en intern landskab af affektive signaler – lignende det, vi kalder følelser – som afspejler, hvor godt deres behov bliver opfyldt gennem hvert valg, de træffer. Da kompleksiteten og sofistikationen af deres behov og miljøer vokser, vil rigdommen af deres interne tilstande også vokse.

Bevis for følelser

Det næste skridt i Consciums forskningsprogram er at udvikle en række funktionelle og adfærdsrelaterede tests, som vil give bevis for, om en agent virkelig oplever følelser, når den identificerer sine mest fremtrædende behov og træffer sine valg derefter. Vi ved alle, at bevidsthed ikke kan observeres eksternt eller demonstreres objektivt: hver af os kan kun observere vores egne subjektive tilstande. Forskerne mener dog, at det burde være muligt at enes om nogle specifikke hypoteser, som hvis de bekræftes eksperimentelt, ville give tungtvejende bevis for, at agenten besidder følelser. Selvom der altid vil være plads til tvivl – på grund af bevidsthedens subjektive natur – vil en rigorøs testproces sigte mod at gøre denne tvivl stadig mere urimelig.

Disse eksperimenter vil søge at eliminere alternative hypoteser og gøre det mindre rimeligt at tilskrive agentens interne tilstande til mekanismer, der ikke kræver følelser. De vil bruge modstridende tests til at skelne mellem bevidste og ubevidste adfærd og vil inkludere kontrolforsøg med agenter, der ikke besidder de algoritmiske aspekter, der anses for nødvendige for følelse, og blind evaluering for at reducere observerbias. Fysisk inspektion af agentens interne tilstande kan afsløre kvantificerbare indikatorer for affektiv proces. Fundene må være uafhængigt reproducerbare, og hele processen vil være underlagt rigorøs etisk tilsyn, især i tilfælde, hvor agenten måske kan opleve sande følelser.

Dette er, hvordan videnskab fungerer: gennem den eksperimentelle testning af falsificerbare forudsigelser. Solms argumenterede for, at vi må være forsigtige med ikke at sætte en højere bar for bevidsthedsvidenskab end for andre videnskaber; ellers løber vi risikoen for at placere bevidsthed uden for videnskab.

Hvad hvis dette lykkes?

Hvis bevidsthed viser sig at opstå i relativt simple AI-agenter på denne måde, kunne en overlevelsesdrevet agent konceptuelt kombineres med andre arkitekturer, herunder store sprogmodeller, og give dem bevidsthed også. Dette er noget, vi ikke kan tillade os at tilfældigt fremkalde, så vi må forstå, hvordan det kan ske, og hvordan vi kan undgå det. Det er vigtigt at vide, hvordan man kan gøre det, og hvordan man kan undgå det.

Hvis bevidste agenter – agenter, der giver en mønt – udvikles i nærmeste fremtid, må vi tage deres følelser – og deres rettigheder – i betragtning. Dette er en stor bekymring for Conscium: kunstig bevidsthed må ikke opstå ved en tilfældighed. Motivationen bag dette forskningsprogram er ikke skabelsen af bevidt AI, men at forstå, hvordan det kan ske, og de potentielle risici. På deres website har Conscium offentliggjort en akademisk artikel og et åbent brev, der fastlægger fem principper for at vejlede enhver organisation, der er engageret i forskning, der kunne føre til skabelsen af bevidste maskiner.

Mennesker opfører sig ofte meget dårligt over for andre bevidste væsener, herunder andre mennesker. Hvis vi går blindt ind i denne fremtid, risikerer vi at gøre det samme over for kunstigt bevidste væsener, med konsekvenser, som vi måske ikke engang kan fatte.