AI-dommedagshype og AI-vibecaféer: De spørgsmål om styring, vi ikke har råd til at overse

Er vi dødsdømte? Er AI bevidst? Og hvorfor åbner AI-virksomheder caféer?

Disse spørgsmål er slående, foruroligende og – især når det gælder bevidsthed – virkelig vanskelige. De har også det til fælles, at de let trækker os mod de mest spekulative eller følelsesmæssigt fængslende dele af AI-fortællingen. Samtidig er de mindre filmiske spørgsmål allerede med til at forme menneskers liv: Hvem har ansvaret, når et AI-system gør skade? Hvilke data og hvilket arbejde gjorde det muligt? Hvilke beslutninger bør systemet have lov til at påvirke? Og hvem får indflydelse?

Jeg går ikke nødvendigvis ud fra, at folk, der rejser spørgsmål om eksistentielle risici, diskuterer maskinbevidsthed eller åbner en café, gør det for at undvige de spørgsmål. Hvert emne kan være værd at beskæftige sig med for sig. Men vores opmærksomhed er begrænset. Når en dramatisk fortælling kommer i centrum, er det værd at spørge, hvad der ellers er gledet ud af syne.

Det håndgribelige ved AI

AI-branchen er begyndt at give sine stort set uhåndgribelige produkter fysiske adresser. Anthropics “Zero Slop Zone” i New York inviterede besøgende til at sætte tempoet ned med kaffe, bøger, pen og papir; Perplexity åbnede Cafe Curious, en café i Seoul, hvor virksomhedens AI er en del af oplevelsen. Omtalen af Anthropics pop-up-arrangement og Perplexitys café i Seoul beskriver to forskellige forsøg på at bringe en abstrakt teknologi ind i en almindelig, social ramme.

Det giver til en vis grad mening. De fleste kan ikke se en sprogmodel, undersøge infrastrukturen bag den eller nemt forestille sig, hvad der sker mellem en prompt og et svar. En café fungerer som en slags fysisk stedfortræder: et lokale, en kop, en samtale. Den kan gøre det lettere at møde en virksomhed og dens teknologi – og måske også lettere at forstå dem.

Der er også et andet lag. Et fysisk sted gør en virksomhed synlig i et lokalsamfund. Det siger som minimum: “Vi er her, på dette sted, lige nu.” Det kan virke betryggende i en branche, hvor produkter, politikker og forventninger ændrer sig hurtigt. Men synlighed er ikke det samme som ansvarlighed. Et indbydende sted kan få en teknologi til at virke mere velkendt uden at fortælle os, hvordan den er blevet trænet, hvor pålidelig den er, eller hvilke muligheder en person har for at få sagen prøvet, hvis systemet tager alvorligt fejl.

Den forskel afspejler en tanke, jeg er vendt tilbage til i årevis: digitale oplevelser er aldrig kun digitale. De møder mennesker på bestemte steder og indgår i relationer og institutioner. Designspørgsmålet handler ikke blot om, hvordan man får et AI-system til at virke imødekommende. Det handler om, hvorvidt oplevelsen hjælper mennesker med at forstå systemets begrænsninger og bevare reel indflydelse.

Debatten om bevidsthed – og de mennesker, der allerede er berørt

Den samme skelnen er vigtig i debatten om AI-bevidsthed. Der er reel uenighed om, hvorvidt maskinbevidsthed er mulig, hvilke beviser der ville tælle, og hvordan usikkerheden bør forme vores ansvar. Anil Seths argument i Noema fremfører, at intelligens og bevidsthed ikke bør betragtes som det samme; nyere reportage i The Guardian beskriver også, hvorfor spørgsmålet fortsat er uafklaret. Debatten lader sig ikke besvare enkelt.

Usikkerhed om en maskines indre liv gør imidlertid ikke de aktuelle spørgsmål om konsekvenserne for mennesker usikre. Ansvar begynder ikke først, når vi har afgjort, hvad bevidsthed er. Det begynder, når organisationer udvikler, implementerer og tjener penge på systemer, der påvirker mennesker.

Tænk på de spørgsmål, vi kan undersøge allerede nu. Hvilke oplysninger blev brugt til at træne et system, og under hvilke forhold? Hvem udfører arbejdet med at klargøre og kontrollere systemets output? Hvordan fungerer det på tværs af forskellige grupper? Hvad sker der, når et system bruges i sundhedsvæsenet, ved ansættelser, i uddannelsessystemet eller i offentlige tjenester? Kan en person anfægte en automatiseret anbefaling, komme i kontakt med en menneskelig beslutningstager og få en fyldestgørende forklaring?

Det er ikke hypotetiske bekymringer. En gennemgang af bias i medicinsk AI beskriver, hvordan skæve data og designvalg kan bidrage til ulige kliniske beslutninger. Forskningen i AI og beskæftigelse er derimod stadig under udvikling: Anthropics analyse af arbejdsmarkedet giver én metode til at måle, hvem der er eksponeret, mens Hamilton Projects gennemgang gør opmærksom på, at dokumentationen for de brede virkninger på arbejdsmarkedet stadig er ufuldstændig. Kilderne peger i forskellige retninger med hensyn til, hvad vi kan konkludere i dag, men understreger behovet for at måle virkningerne i stedet for at sætte skråsikre fortællinger i stedet for dokumentation.

Der er en beslægtet risiko i måden, vi taler om systemer på. Menneskelignende navne, stemmer og samtalestil kan få AI til at virke mere som en person end et produkt. Det kan påvirke tilliden og få mennesker til at lægge større vægt på systemets svar. Det er rimeligt at spørge, om snak om bevidsthed eller antropomorft design kan flytte opmærksomheden væk fra de organisationer, der fastlægger systemets mål og begrænsninger. En analyse i MIT Technology Review hævder, at fortællinger om bevidsthed kan sløre spørgsmål om virksomheders ansvar. Det er en påstand om virkningen af den måde, emnet fremstilles på – ikke et bevis på, at alle, der rejser spørgsmålet, har en skjult dagsorden.

Dommedag er ikke en plan for ansvarlig styring

Eksistentielle risici fortjener alvorlig opmærksomhed. Katastrofale udfald bliver ikke mindre vigtige, fordi der også findes skader på kortere sigt, og skader på kortere sigt bliver ikke mindre vigtige, fordi en katastrofe er mulig. Vi behøver ikke vælge én tidshorisont og ignorere den anden.

Men når »Er vi dødsdømte?« bliver hele samtalen, skubber de langsigtede risici igen nutidens skadevirkninger i baggrunden. Dommedag kan lyde som en konklusion snarere end en opfordring til handling: Hvis udfaldet er uundgåeligt, hvorfor så gøre sig besværet med det vanskelige arbejde med at ændre det? En artikel i The New Yorker om et kursus i eksistentiel risiko beskriver en studerendes spørgsmål om »at bygge katedraler«: Hvorfor forpligte sig til at bygge noget, der måske overlever én selv, hvis man tror, at verden kan gå under? Svaret er ikke, at risiciene forsvinder. Det er, at usikkerhed ikke ophæver vores evne – eller vores ansvar – til at beslutte, hvad der betyder noget fremover, og være med til at forme det, der sker.

Det er det, jeg mener med min filosofi om »strategisk optimisme«. Det er ikke en sorgløs »det skal nok gå alt sammen« og heller ikke en afvisning af at se på evidensen. Det betyder, at man anerkender reelle risici og arbejder på at mindske dem, og samtidig gør en seriøs indsats for en fremtid, der er værd at stræbe efter. Håb er ikke det modsatte af faglig stringens. Det kan være det, der holder faglig stringens forbundet med handling.

Styringsspørgsmålene bag spektaklet

Uanset om en organisation køber et AI-værktøj, udvikler et eller udarbejder politikker for det, er de praktiske spørgsmål mindre glamourøse end en café eller en påstand om bevidsthed – og mere nyttige:

• Formål: Hvilket problem skal systemet løse, og er AI det rette værktøj til det?
• Evidens: Hvordan er det blevet testet, herunder med forskellige brugere og mindre almindelige tilfælde?
• Afgrænsninger: Hvilke beslutninger skal fortsat træffes af et menneske, og hvad kan systemet ikke gøre?
• Ansvarlighed: Hvem har ansvaret, når systemet svigter, og hvordan kan de berørte klage?
• Gennemsigtighed: Kan folk forstå, hvornår AI indgår, og hvilke oplysninger der har formet systemets output?
• Løbende tilsyn: Hvem overvåger systemets ydeevne, ændringer i data og utilsigtede virkninger efter lanceringen?

Rammer som NIST’s ramme for risikostyring inden for kunstig intelligens giver organisationer en struktureret metode til at identificere og håndtere risici gennem hele et AI-systems levetid. Ingen ramme kan erstatte dømmekraft eller offentlig debat, men styring bliver mere konkret, når ansvar, test og procedurer for klage og afhjælpning er tydeligt beskrevet.

Der er også et fysisk lag, der skal styres. AI afhænger af datacentre, elektricitet, vand, jordarealer og finansiering – ikke kun grænseflader. Omtale af finansieringsstrukturen for et stort datacenterprojekt rejser spørgsmål om, hvordan risiciene ved infrastrukturen bliver oplyst, og hvem der i sidste ende bærer dem. En café kan hjælpe folk med at stifte bekendtskab med AI; den kan ikke i sig selv gøre infrastrukturen bag AI forståelig.

Så nyd caféen. Stil de store spørgsmål om bevidsthed. Tag katastrofale risici alvorligt. Vend derefter tilbage til de beslutninger, vi kan undersøge og påvirke nu: Hvad bliver bygget, hvem får gavn af det, hvem bærer omkostningerne, og hvilke sikkerhedsforanstaltninger er der, når noget går galt?

Fremtiden er ikke en dom, der afsiges i en overskrift. Den består af valg – truffet af virksomheder, institutioner, regeringer og lokalsamfund – som stadig kan drøftes og ændres. Det mest nyttige spørgsmål er ikke kun, om vi er dødsdømte. Det er, hvilke betingelser der skal til, for at AI kan fremme menneskelig trivsel, og hvad vi er villige til at gøre for at skabe de betingelser.