Domedagshajpen kring AI och AI-kaféer med särskild stämning: styrningsfrågorna vi inte har råd att missa

Är vi dömda? Är AI medveten? Och varför öppnar AI-företag kaféer?

De här frågorna är målande, oroande och – särskilt när det gäller medvetande – genuint svåra. De har också en förmåga att dra oss mot de mest spekulativa eller känslomässigt engagerande delarna av AI-berättelsen. Samtidigt påverkar de mindre dramatiska frågorna redan människors liv: Vem bär ansvaret när ett AI-system orsakar skada? Vilka data och vilket arbete gjorde det möjligt? Vilka beslut bör systemet få påverka? Och vem får vara med och bestämma?

Jag utgår inte nödvändigtvis från att alla som lyfter existentiella risker, diskuterar maskinmedvetande eller öppnar ett kafé gör det för att undvika de frågorna. Varje ämne kan vara värt vår uppmärksamhet i sin egen rätt. Men uppmärksamheten är begränsad. När en dramatisk berättelse hamnar i centrum är det värt att fråga sig vad som annars har hamnat utom synhåll.

Det påtagliga med AI

AI-branschen har börjat ge sina till stor del immateriella produkter fysiska adresser. Anthropic bjöd in besökare till New Yorks ”Zero Slop Zone” för att varva ner med kaffe, böcker, penna och papper; Perplexity öppnade Cafe Curious, ett kafé i Seoul där företagets AI är en del av upplevelsen. Rapporteringen om Anthropics pop up och Perplexitys kafé i Seoul beskriver två skilda försök att föra in en abstrakt teknik i en vanlig, social miljö.

Det är begripligt. De flesta kan inte se en språkmodell, granska infrastrukturen bakom den eller lätt föreställa sig vad som händer mellan en prompt och ett svar. Ett kafé erbjuder en sorts fysisk motsvarighet: ett rum, en kopp, ett samtal. Det kan göra ett företag och dess teknik lättare att möta – och kanske lättare att förstå.

Det finns också en annan dimension. En fysisk plats gör ett företag synligt i ett lokalsamhälle. Den säger åtminstone: ”Vi finns här, på den här platsen, just nu.” Det kan kännas betryggande i en bransch där produkter, policyer och förväntningar snabbt förändras. Men synlighet är inte detsamma som ansvarsskyldighet. En välkomnande plats kan få en teknik att kännas mer bekant utan att berätta hur den har tränats, när den är tillförlitlig eller vilka möjligheter en person har till upprättelse när systemet gör ett viktigt misstag.

Den skillnaden påminner om en tanke jag har återkommit till i flera år: digitala upplevelser är aldrig enbart digitala. De möter människor på platser, i relationer och inom institutioner. Frågan om utformningen handlar inte bara om hur man får ett AI-system att kännas lättillgängligt. Den handlar om huruvida upplevelsen hjälper människor att förstå systemets begränsningar och behålla ett meningsfullt handlingsutrymme.

Debatten om medvetande – och människorna som redan påverkas

Samma skillnad är viktig i debatten om AI-medvetande. Det råder verklig oenighet om huruvida maskinmedvetande är möjligt, vilka belägg som skulle räknas och hur osäkerheten bör påverka vårt ansvar. Anil Seths argument i Noema går ut på att intelligens och medvetande inte bör behandlas som utbytbara begrepp; nylig rapportering i The Guardian beskriver också varför frågan fortfarande är olöst. Den här debatten låter sig inte besvaras enkelt.

Men osäkerhet om en maskins inre liv gör inte dagens frågor om konsekvenser för människor osäkra. Ansvaret börjar inte först när vi har slagit fast vad medvetande är. Det börjar när organisationer bygger, använder och tjänar pengar på system som påverkar människor.

Tänk på de frågor vi kan undersöka redan nu. Vilken information användes för att träna ett system, och under vilka förhållanden? Vem utför arbetet med att förbereda och kontrollera dess resultat? Hur presterar det för olika grupper? Vad händer när ett system används inom hälso- och sjukvården, vid rekrytering, i utbildningen eller i offentliga tjänster? Kan en person bestrida en automatiserad rekommendation, nå fram till en mänsklig beslutsfattare och få en meningsfull förklaring?

Det här är inga hypotetiska farhågor. En genomgång av snedvridningar inom medicinsk AI beskriver hur partiska data och designval kan bidra till ojämlika kliniska beslut. Forskningen om AI och sysselsättning utvecklas fortfarande: Anthropics analys av arbetsmarknaden erbjuder ett sätt att mäta exponeringen, medan Hamilton Projects genomgång varnar för att beläggen för bredare effekter på arbetsmarknaden fortfarande är ofullständiga. Källorna pekar åt olika håll när det gäller vilka slutsatser vi kan dra i dag, men båda understryker behovet av att mäta effekterna i stället för att ersätta belägg med tvärsäkra berättelser.

Det finns en närliggande risk i hur vi talar om systemen. Människoliknande namn, röster och samtalsstilar kan få AI att kännas mer som en person än en produkt. Det kan påverka förtroendet och hur mycket människor förlitar sig på dess svar. Det är rimligt att fråga sig om tal om medvetande eller antropomorf utformning kan leda bort uppmärksamheten från de organisationer som sätter systemets mål och begränsningar. En analys i MIT Technology Review hävdar att berättelser om medvetande kan skymma frågor om företagsansvar. Det är ett argument om hur inramningen påverkar oss – inte ett bevis för att alla som tar upp frågan har en dold agenda.

Domedagsscenarier är ingen plan för styrning

Existentiell risk förtjänar att tas på allvar. Katastrofala utfall blir inte mindre viktiga för att det finns skador som ligger närmare i tiden, och skador på kort sikt blir inte mindre viktiga för att en katastrof kan inträffa. Vi behöver inte välja en tidshorisont och bortse från den andra.

Men när ”Är vi dömda?” blir hela samtalet hamnar riskerna på lång sikt återigen i vägen för dagens skadeverkningar. Undergång kan låta som en slutsats snarare än en uppmaning till handling: om utgången är oundviklig, varför då lägga kraft på det svåra arbetet med att förändra den? En artikel i The New Yorker om en kurs i existentiell risk beskriver en students fråga om att ”bygga katedraler”: varför åta sig att bygga något som kanske överlever en själv om man tror att världen kan gå under? Svaret är inte att riskerna försvinner. Det är att osäkerheten inte upphäver vår förmåga – eller vårt ansvar – att avgöra vad som är viktigt härnäst och bidra till att forma det som händer sedan.

Det är vad jag menar med min filosofi om ”strategisk optimism”. Det är inte ett lättvindigt ”allt kommer att ordna sig”, och det handlar inte om att vägra granska beläggen. Det innebär att erkänna verkliga risker, arbeta för att minska dem och samtidigt göra en seriös satsning på en framtid värd att sträva mot. Hopp är inte motsatsen till stringens. Det kan vara det som håller stringensen förankrad i handling.

Styrningsfrågorna bakom spektaklet

Oavsett om en organisation köper ett AI-verktyg, utvecklar ett eller utformar policy för det, är de praktiska frågorna mindre glamorösa än ett kafé eller ett påstående om medvetande – och mer användbara:

• Syfte: Vilket problem är systemet tänkt att lösa, och är AI rätt verktyg för det?
• Belägg: Hur har systemet testats, även med olika användare och mindre vanliga fall?
• Begränsningar: Vilka beslut måste fattas av en människa, och vad kan systemet inte göra?
• Ansvar: Vem bär ansvaret när systemet fallerar, och hur kan de som påverkas överklaga?
• Transparens: Kan människor förstå när AI används och vilken information som har påverkat resultatet?
• Löpande tillsyn: Vem följer upp prestanda, förändringar i data och oavsiktliga effekter efter lanseringen?

Ramverk som NIST:s ramverk för riskhantering av AI ger organisationer ett strukturerat sätt att identifiera och hantera risker under ett AI-systems hela livscykel. Inget ramverk kan ersätta omdöme eller offentlig debatt, men styrningen blir mer konkret när ansvar, tester och möjligheter till prövning anges tydligt.

Det finns också ett fysiskt lager att styra. AI är beroende av datacenter, elektricitet, vatten, mark och finansiering – inte bara gränssnitt. Rapportering om finansieringsstrukturen för ett stort datacenterprojekt väcker frågor om hur infrastrukturrisker redovisas och vem som i slutänden får bära dem. Ett kafé kan hjälpa människor att komma i kontakt med AI, men kan inte på egen hand göra infrastrukturen bakom AI begriplig.

Så njut av kaféet. Ställ de stora frågorna om medvetande. Ta katastrofrisker på allvar. Återgå sedan till de beslut som vi kan granska och påverka nu: vad som byggs, vem som gynnas, vem som får bära kostnaderna och vilka skyddsåtgärder som finns när något går fel.

Framtiden är inte en dom som avkunnas i en rubrik. Den består av val – som görs av företag, institutioner, regeringar och samhällen – och som fortfarande kan ifrågasättas och ändras. Den mest användbara frågan är inte bara om vi är dömda. Den är vilka förutsättningar som krävs för att AI ska bidra till att människor kan blomstra, och vad vi är beredda att göra för att förverkliga dessa förutsättningar.