Var var du när verkligheten dog?

I går kväll kom min fru, som hon ofta gör, för att visa mig olika videor och bilder som hade roat henne på sociala medier efter jobbet. Hennes urval lutar tydligt åt ”gulligt” innehåll med charmiga djur och mjuka figurer.

Snart visade hon något hon hade sparat men ännu inte hunnit titta på: en video med ”gulliga djur” där en koalahona, hennes två sovande nyfödda ungar och en nyfiken katt samspelade.

Genast undrade jag hur en ung tamkatt kunde få tillträde till samma utrymme som dessa vilda djur, även om det var i en djurpark eller liknande miljö. Men jag viftade bort tanken som en irriterande mygga, eftersom den gott och väl ryms under ”livet är märkligt”.

Videon visade en stilla, ganska snäv bild av koalamamman och hennes två sovande ungar, som låg på en tygbit medan mamman lutade sig mot en oansenlig vägg.

En ung, försiktig tigrerad katt kom in i bild, driven av nyfikenhet förbi sin tvekan, och smög fram till de sovande ungarna. Hela tiden höll den ett vaksamt öga på mamman, som kanske inte skulle uppskatta besöket.

Efter ungefär en minut av detta prövande dödläge sträckte koalamamman fram armen och lyfte upp den unga katten. Hon höll den en stund på ett sätt som helt stämde med djurens relativa vikter och kroppsbyggnad och lade sedan inkräktaren bredvid sina ungar, som en ”godtagbar gäst”.*

En ny katt för ett nytt problem

Då, nästan samtidigt, konstaterade min fru och jag att videon sannolikt var AI-genererad. Vi uttryckte vad jag bara kan beskriva som en känsla av ”svävande besvikelse”. För oss var detta bokstavligen en ny sorts Schrödingers katt: äntligen ute ur lådan, men inte nödvändigtvis vid liv.

Jag har inte letat upp videon sedan dess för att se om de som lade ut den har erkänt att den inte är äkta; om den först publicerades före vår tid, innan sådant innehåll kunde framställas för småpengar på otaliga webbplatser och portaler; eller för att se kommentatorerna anklaga materialet för att vara AI-genererat, trots att de kanske inte vet det säkert.

Om just den videon var falsk eller äkta spelar ingen roll. Det som slog mig var att jag till slut hade nått en länge väntad insikt: trots att jag i sju år har bevakat AI-genererade bild- och videosystem ingående och intensivt** — och diskuterat och skapat system för att upptäcka deepfakes — kan inte ens jag längre lita på det jag ser.

Den största kvarvarande flaskhalsen i AI-baserad videosyntes, bristande konsekvens, hindrar inte skapandet av den typ av kort innehåll som mest sannolikt blir viralt. AI kan perfekt fylla våra krympande uppmärksamhetsspann, men för närvarande inte mer än så. Dessa begränsningar, hur svåra de än är, kommer dock uppenbarligen att övervinnas så småningom.

Därför passar denna sena, kanske rentav felaktiga tanke om koalavideon in bland livets ”var jag befann mig”-ögonblick: mamma står på stegen och målar taket när radion säger att Elvis har dött; en stjärnjagare dånar över huvudet vid den offentliga premiären av Star Wars på Leicester Square på julafton 1977; T-Rex bryter sig ut ur sin inhägnad, åter på Leicester Square, i juli 1993; Mara säger på italienska: ”Kom ut i köket, allihop — något händer i New York”; jag tittar på katten i koalavideon och inser att detta är året och, för mig, ögonblicket då verkligheten dog.

(Hörni, även jag befann mig utanför denna värld när Kennedy sköts.)

Reaktionen ”fienden står vid porten”

I slutet av 2025 var vår förmåga att känna igen AI-genererade bilder enligt en forskare inte mycket bättre än slumpen: 54 procent. Gör testet själv. Jag klarade mig inte särskilt bra, och kvaliteten på generativ AI har förbättrats märkbart under de åtta eller nio månader som gått sedan dess:

Klicka för att spela upp — Trots år av studier får jag nästan exakt genomsnittsresultatet från den citerade studiens tester när jag bedömer om bilder är AI-genererade eller verkliga. Källa

Washington Post gjorde en av de tidigaste förutsägelserna om en möjlig värld bortom verkligheten i februari 2018, bara ett par månader efter att deepfakes baserade på autoencoders först hade förbluffat världen. Texten utvecklas snabbt till ett oroat upprop för reglering. Den skulle så småningom komma i form av lagstiftning mot sexuella deepfakes, EU:s nya lag om att ange AI-genererat material samt autentiseringssystemet från Coalition for Content Provenance and Authenticity, C2PA.

Det senare försöker fästa information om ursprung och bearbetning vid bilder under hela deras liv, från kamerans sensordata till publicering och arkivering. Det registrerar förändringar längs vägen och uppdaterar bildens manifest i enlighet med dem.

Denna ansats från vaggan till graven bortser naturligtvis till stor del från de bilder som redan cirkulerar och har bara ett konsumentvärde på det mycket begränsade antal platser där den har införts.

Hur många fingrar håller jag upp?

Poängen är dock att aptiten på reglering av AI-genererat innehåll, som har vuxit enormt sedan de reflexmässiga ledartexterna i början av 2018, ironiskt nog är en begäran om automatisering eller delegering av mänskligt omdöme.

Antingen vill vi inte göra det arbetet och vill att regeringar och institutioner ska göra det åt oss, eller så anser vi inte att vissa andra människor — eller typer av människor — bör få göra dessa bedömningar själva. Det är en ståndpunkt som inte hedrar dem som intar den.

Sade jag inte redan, kanske lite uppgivet, att jag inte tänkte undersöka koala- och kattvideons ursprung? Att inte veta om videon var falsk och inte vilja samla tillräckligt med information för att åtminstone våga sig på en mer välgrundad gissning håller mig kvar i samma elastiska tro som George Orwell beskriver i 1984, där huvudpersonen torteras av en polisstat tills han börjar bli psykologiskt förmögen att hysa två motstridiga övertygelser:

I Michael Radfords filmatisering från 1984 av Orwells klassiska dystopiska science fiction-roman börjar en plågad Winston Smith (John Hurt) åtminstone medge att fyra fingrar faktiskt kan vara tre och att han inte nödvändigtvis kan lita på sina ögon. Bild ur 1984 (1984), © Metro-Goldwyn-Mayer Studios Inc. / Amazon MGM Studios.

I Orwells roman säger antagonisten O’Brien, spelad av Richard Burton i filmatiseringen ovan, uttryckligen till sina offer att syftet med tortyren är att göra deras övertygelser formbara. Då kan de, när det passar verkets totalitära stat, samtidigt hysa två uppfattningar — exempelvis att fyra uppsträckta fingrar också kan vara tre, om staten kräver det.

Denna ”trons elasticitet” uppskattas naturligtvis av alla slags påverkare, eftersom övertygelserna vanligen redan har stelnat när väljare eller konsumenter har mognat till attraktiva mål för påverkan.

Eftersom koala- och kattvideon för mig både är ”AI” och ”inte AI” har jag tagit de första stegen mot att vänja mig vid dubbel tro. Jag blir mottaglig för dem som erbjuder sig att stoppa denna blinkande, binära verklighetsuppfattning och tala om för mig vad som är verkligt.

Därför slår det mig att just denna insikt inte bör hyllas utan motstås. Den inre eftergiften åt ”overkligheten”, som nådde mig genom en video med ”gulliga djur” och kanske har nått eller kommer att nå dig i annan form, är onekligen en fara för den egna förmågan att bedöma och värdera världen.

På en lättare ton

På en lättare ton intog filosofen Joshua Habgood-Coote en mer optimistisk hållning 2024 och avfärdade den ”epistemiska apokalypsen” som alarmism kring förlusten av system som ändå var sköra och, i fotografiets fall, ganska nya.

Men han hävdar också i en senare text att memerna ”fake news” och ”post-truth” har gjorts till politiska vapen. Det är svårt att förneka, åtminstone i det första fallet, även om det handlar om politisk opportunism snarare än någon konspiration.

* Undrar du faktiskt om detta behändiga exempel ens är verkligt, eller om jag har hittat på det — med eller utan AI — som ett retoriskt grepp? Det är verkligt, säger jag. Om det betyder något att jag inte är en ny röst i dessa frågor kanske du tror mig. Eller har jag förändrats på sistone..?

** Detta omfattar hänvisningar i olika publikationer, däribland The Cambridge Handbook of Generative AI and the Law, för Weights in Machine Learning.

Först publicerad fredagen den 4 september 2026. Ändrad några minuter efter första publiceringen för att rätta fel om koalor och något senare samma dag för att lägga till saknade taggar.