Andersons vinkel

At forudsige vold på forhånd med AI

Martin Anderson
Føj Unite.AI til dine foretrukne kilder på Google
A still from Minority Report (2002), a film centered on predicting violent crimes before they occur, alongside an inset from Can We Anticipate Violence? Multimodal Learning from Pre-Incident Behavioral Cues, which investigates the same problem using AI analysis of facial appearance, audio and body motion. Minority Report image © 2002 Twentieth Century Fox and DreamWorks Pictures; reproduced for editorial commentary.
NøglepunkterAt forudsige vold, før den sker, risikerer at genlyde de dystopiske frygte fra Minority…
Vis mere
  • At forudsige vold, før den sker, risikerer at genlyde de dystopiske frygte fra Minority Report.
  • At kombinere ansigtsudseende med lyd- og bevægelsessignaler overgår ethvert enkeltstående signal alene.
  • Https://www.youtube.com/watch?v tDSXPQcpybU En (ikke-reel) test af et voldsdetektionssystem fra IVS.

Den typiske fremgangsmåde ved spørgsmålet »Kan AI automatisere dette?« er at indlæse flere eksempler på noget, hvis egenskaber man vil isolere, og undersøge, om en model trænet på disse data kan genkende egenskaben i lignende data, som ikke blev brugt under træningen:

Diagram over et AI-projekt som et sidste, desperat forsøg: Mærkede eksempler deles i trænings- og testsæt. Modellen lærer af det første og bliver derefter prøvet på hidtil usete eksempler fra det andet. Hvis den virkelig har lært den relevante egenskab frem for at have memoreret træningsdataene, bør den genkende samme mønster i testsættet. Kilde - https://upload.wikimedia.org/wikipedia/commons/0/09/Supervised_machine_learning_in_a_nutshell.svg

Diagram over et AI-projekt som et sidste, desperat forsøg: Mærkede eksempler deles i trænings- og testsæt. Modellen lærer af det første og bliver derefter prøvet på hidtil usete eksempler fra det andet. Hvis den virkelig har lært den relevante egenskab frem for at have memoreret træningsdataene, bør den genkende samme mønster i testsættet. Kilde

Det er lidt af et sats, da sådanne forsøg bygger på, at egenskaben til sidst vil træde frem, hvis AI bliver ved med at undersøge datasættet, og at der faktisk findes en »underliggende tendens« at afdække. Var egenskaben let at genkende, ville vi slet ikke behøve AI-modellen eller kun bruge den til rutinemæssig automatisering.

Sådan er det normalt ikke; de fleste af disse forskningsinitiativer er søgninger på må og få efter latente mønstre, som kun en overmenneskelig gentagelse af opmærksom observation kan lære at genkende.

Ofte viser mønsteret sig svært at finde og måske ikkeeksisterende, fordi visse hændelser og egenskaber faktisk kan være helt tilfældige. Alternativt er dataene utilstrækkelige, dårligt tilrettelagt eller dårligt udnyttet under træningen.

At se fremad

Sommetider er målet så eftertragtet — at helbrede kræft, opnå kernefusion, overvinde termodynamikkens love osv. — og så »politisk attraktivt«, at forskningslitteraturen bliver ved med at vende tilbage til det for at se, om bedre data eller teknikker alligevel kan afdække et karakteristisk mønster.

Et sådant felt er automatiseret videoforståelse i forbindelse med offentlige rum og politiarbejde. I år brugte en ny undersøgelse virkelige videooptagelser af selvmordsforsøg til at identificere tendenser til at opholde sig bestemte steder før et forsøg og udvikle et prædiktivt system, som kunne opdage den karakteristiske måde, personen bevæger sig på en offentlig togperron inden et spring:

Fra artiklen fra 2026 »Vurdering af selvmordsrisiko med AI-baseret videoovervågning: en fortolkelig ramme for forebyggelse på metrostationer«: forudsigelser fra to billeder, hvor det ene viser et reelt selvmordsforsøg på jernbanen og det andet en situation uden hændelse. Varmekort ved hvert billede viser områder med højere og lavere risiko på perronen ud fra personens tendens til at opholde sig ved tunnelåbningen og mønstre observeret ved tidligere forsøg. Kilde - https://arxiv.org/pdf/2605.22904

Fra artiklen fra 2026 »Vurdering af selvmordsrisiko med AI-baseret videoovervågning: en fortolkelig ramme for forebyggelse på metrostationer«: forudsigelser fra to billeder, hvor det ene viser et reelt selvmordsforsøg på jernbanen og det andet en situation uden hændelse. Varmekort ved hvert billede viser områder med højere og lavere risiko på perronen ud fra personens tendens til at opholde sig ved tunnelåbningen og mønstre observeret ved tidligere forsøg. Kilde

Her syntes de »opholdsmønstre« — yderst til venstre og højre på billedet ovenfor — som er typiske for en person, der overvejer at springe foran et tog, at have en særskilt signatur. Den kunne bruges som mønstergenkendelsesbaseret varslingssystem i automatiseret overvågning.

En anden populær forskningsretning er detektion eller genkendelse af vold. Overvågningssystemer uden operatør kunne gøres i stand til at genkende voldshandlinger og hurtigt gøre mennesker opmærksomme på dem, og endda udløse ekstra handlinger såsom at markere optagelser til langtidsopbevaring og sikre, at optagelsen faktisk finder sted, blandt andre tiltag.

En simuleret test af et system til voldsdetektion fra IVS. Kilde

Ifølge ny forskning fra University of Alabama har litteraturen hidtil fokuseret på at genkende vold, når den allerede finder sted. I det nye arbejde trænede forskerne kun modellen på video før en voldelig hændelse — eller uden hændelse af hensyn til statistisk balance — for at undersøge, om der er tilbagevendende, lærbare kendetegn før vold. Her drejer det sig om kropsbevægelser, ansigtsudtryk og lyd, der tilsammen kunne give et prædiktivt signal om vold frem for blot at reagere bagefter.

Eksempler fra undersøgelsen på risikofyldte sekvenser før en hændelse, vist i fire på hinanden følgende billeder. Systemet følger kroppens led og bevægelser over tid og søger ændringer i kropsholdning, hastighed og samspil, som kan adskille eskalerende situationer, før selve volden bliver synlig. Kilde - https://arxiv.org/pdf/2609.40014

Eksempler på risikofyldte sekvenser før en hændelse fra undersøgelsen »Kan vi forudse vold? Multimodal læring fra adfærdssignaler før en hændelse«, vist i fire på hinanden følgende billeder. Systemet følger kroppens led og bevægelser over tid og søger ændringer i kropsholdning, hastighed og samspil, som kan adskille eskalerende situationer, før selve volden bliver synlig. Kilde

Sådant arbejde vil naturligvis kunne vække bekymring, hvis det udvikles eller tages i brug. Som jeg tidligere har bemærket, har fiktive værker som tv-serien Person of Interest og science fiction-actionfilmen Minority Report fra 2002, blandt mange lignende værker, afspejlet befolkningens frygt for prædiktive teknologier i politiets eller tilsynsmyndighedernes hænder.

Foreløbig er det et åbent spørgsmål, om vold kan forudsiges ud fra kropslige, ansigtsrelaterede og auditive signaler frem for faktorer såsom kontekst, tidspunkt, sted eller historiske kriminalitetstal. Ifølge forfatterne er dette en meget ny forskningsretning.

I forsøgene sammenlignede forskerne ansigtsudseende, lyd og kropsbevægelse hver for sig og samlet med tre forskellige visuelle grundmodeller. De bedste resultater kom, når alle tre signaler blev kombineret, hvilket tyder på, at den prædiktive effekt ikke var drevet af en enkelt signaltype:

»Den bedste konfiguration, Deit-Tiny med lyd, ansigtsudseende og bevægelse, opnår 91,21 % nøjagtighed, 88,96 % balanceret nøjagtighed, 93,65 % F1-score og 96,38 % ROC-AUC på det reserverede testsæt.

»Disse resultater tyder på, at supplerende signaler fra udseende, akustik og kinematik giver nyttig information til at genkende forhøjet risiko før en hændelse.«

Fremgangsmåde

Datasættet, som blev tilrettelagt til undersøgelsen, stammer fra samlingen XD-Violence og behandler tre modaliteter sammen: ansigtsudseende, lyd og bevægelse estimeret ud fra positur:

Undersøgelsens behandlingsforløb. Hvert klip mærkes med risiko, reduceret til »ingen risiko« eller »risikofyldt«, og dataene deles i trænings-, validerings- og testsæt. Op til fire sekunders video analyseres gennem tre grene: ansigtsudseende på tværs af billeder, lyd konverteret til et spektrogram og kropsbevægelse udledt fra sporede nøglepunkter, såsom hastighed og acceleration. Ansigts-, lyd- og bevægelsesegenskaberne samles i én repræsentation og sendes til en slutklassifikator, som tildeler klippet en sandsynlighed for ingen risiko eller risiko.

Undersøgelsens behandlingsforløb. Hvert klip mærkes med risiko, reduceret til »ingen risiko« eller »risikofyldt«, og dataene deles i trænings-, validerings- og testsæt. Op til fire sekunders video analyseres gennem tre grene: ansigtsudseende på tværs af billeder, lyd konverteret til et spektrogram og kropsbevægelse udledt fra sporede nøglepunkter, såsom hastighed og acceleration. Ansigts-, lyd- og bevægelsesegenskaberne samles i én repræsentation og sendes til en slutklassifikator, som tildeler klippet en sandsynlighed for ingen risiko eller risiko.

Det færdige datasæt indeholdt 443 klip fra før en hændelse; vi vender tilbage til dette tal sidst i artiklen.

Ifølge artiklen blev videoerne fra XD-Violence valgt, fordi de egnede sig til den menneskefokuserede analyse, projektet ville gennemføre. Mange lignende tidligere tilgange havde derimod fokuseret på hele scenen som prædiktiv kontekst.

Klippene var højst fire sekunder lange og blev samplet med 8 billeder i sekundet. En etlags Transformer med otte opmærksomhedshoveder samlede de resulterende 32 billeder, mens lærte positionsindlejringer bevarede rækkefølgen. Grundmodellen forblev fastfrosset under den multimodale træning for at undgå overtilpasning.

Eksempler på aktiveringskort, inklusive ansigtsbilleder, er vist tidligere for risikofyldte aktiveringer og nedenfor for eksempler uden risiko:

Eksempler uden risiko fra undersøgelsens ansigtsanalysegren, som supplerer de tidligere viste risikofyldte bevægelseseksempler. Det originale ansigtsudsnit vises til venstre, fulgt af aktiveringskort fra stadig dybere lag i synsmodellen DeiT-Tiny. Varmere områder angiver stærkere egenskabsresponser og viser, hvordan modellens opmærksomhed flytter sig og bliver mere abstrakt gennem netværket.

Eksempler uden risiko fra undersøgelsens ansigtsanalysegren, som supplerer de tidligere viste risikofyldte bevægelseseksempler. Det originale ansigtsudsnit vises til venstre, fulgt af aktiveringskort fra stadig dybere lag i synsmodellen DeiT-Tiny. Varmere områder angiver stærkere egenskabsresponser og viser, hvordan modellens opmærksomhed flytter sig og bliver mere abstrakt gennem netværket.

Lyden fra kildeklippene blev resamplet til 16 kHz, normaliseret og justeret efter det tilsvarende visuelle tidsvindue, før den blev omdannet til standardiserede spektrogrammer af logaritmisk magnitude med en korttids-Fourier-transformation på 512 punkter og et Hann-vindue på 400 samples:

Sammenligning af gennemsnitlige lydmønstre i normale og risikofyldte klip før en hændelse. Øverste række viser normale klip og nederste risikofyldte, fra den oprindelige bølgeform og spektrogrammet til egenskaber lært på tre på hinanden følgende netværksdybder. Risikofyldte klip varierer mere over tid, herunder øget akustisk aktivitet mod slutningen af firesekundersvinduet, mens netværket gradvist omsætter forskellene til egenskaber på højere niveau.

Sammenligning af gennemsnitlige lydmønstre i normale og risikofyldte klip før en hændelse. Øverste række viser normale klip og nederste risikofyldte, fra den oprindelige bølgeform og spektrogrammet til egenskaber lært på tre på hinanden følgende netværksdybder. Risikofyldte klip varierer mere over tid, herunder øget akustisk aktivitet mod slutningen af firesekundersvinduet, mens netværket gradvist omsætter forskellene til egenskaber på højere niveau.

For bevægelseskomponenten blev kropsbevægelse reduceret til numeriske beskrivelser afledt af COCO-17-nøglepunkter registreret af en YOLO-positurestimator.

Der blev beregnet tolv mål, blandt andet gennemsnitlig og maksimal hastighed, acceleration og ændring i accelerationen, variation i hastighed, hastigheder ved håndled og ankler samt samlet bevægelsesenergi. Værdierne blev normaliseret efter kropsstørrelse, så større personer ikke automatisk blev registreret som mere bevægelige. Målinger fra flere personer i samme klip blev desuden kombineret.

Efter standardisering i forhold til træningsdata blev bevægelsesegenskaberne udvidet til en 64-dimensional repræsentation og sendt gennem en temporal Transformer. Dermed kunne ændringer gennem klippet behandles som en sekvens frem for isolerede billeder.

De tre strømme blev derefter samlet, med størst vægt på ansigtsudseende, fulgt af lyd og bevægelse. Efter normalisering og tilfældig udeladelse af enheder omdannede en slutklassifikator repræsentationen til sandsynligheder for »normal« og »risikofyldt« med 0,5 som grænse.

Til ansigtsudseende blev der brugt tre grundmodeller forudtrænet på ImageNet: Swin-Tiny, ViT-Tiny og DeiT-Tiny.

Forsøg

Klippene blev manuelt mærket ud fra synlig adfærd, bevægelse og lyd som Ingen risiko, Lav risiko, Middel risiko eller Høj risiko. I den endelige binære opgave blev de tre risikokategorier samlet som »risikofyldt«, mens Ingen risiko blev »normal«. For at reducere datalækage mellem træning og evaluering blev klip fra samme kildevideo holdt i samme del af datasættet.

Selve voldshændelsen blev fjernet fra hvert risikofyldt klip, så modellen kun havde den forudgående adfærd at vurdere:

Testresultater, som viser hvordan præstationen ændres, når ansigtsudseende, lyd og bevægelse bruges hver for sig eller sammen på tværs af de tre visuelle grundmodeller. Ablationsforsøgene isolerer bidraget fra hver inputstrøm. Højere scorer betyder bedre præstation, og værdier i fed angiver det bedste resultat for hvert mål.

Testresultater, som viser hvordan præstationen ændres, når ansigtsudseende, lyd og bevægelse bruges hver for sig eller sammen på tværs af de tre visuelle grundmodeller. Ablationsforsøgene isolerer bidraget fra hver inputstrøm. Højere scorer betyder bedre præstation, og værdier i fed angiver det bedste resultat for hvert mål.

Som nævnt gav DeiT-Tiny med alle tre modaliteter det bedste samlede resultat. Ablationerne tydeliggør bidragene: ansigtsudseende alene var allerede en stærk prædiktor, bevægelse klarede sig moderat, og lyd alene var betydeligt svagere.

De bedste resultater kombinerede ansigts-, lyd- og bevægelsesinformation. Det viser, at de svagere strømme stadig tilførte nyttig, supplerende information til det visuelle signal.

Selvom modellen kun blev trænet til at skelne »normal« fra »risikofyldt«, blev resultaterne også sammenlignet med de fire oprindelige etiketter: Ingen risiko, Lav risiko, Middel risiko og Høj risiko. Som vist nedenfor stiger den forudsagte risiko generelt med kategorierne i trænings-, validerings- og testsættene:

Forudsagte risikoscorer for de fire oprindelige risikokategorier. Selvom modellen kun blev trænet til at skelne normale og risikofyldte klip, stiger scorerne generelt fra Ingen risiko til Høj risiko i trænings-, validerings- og testsættene. Den stiplede linje markerer beslutningsgrænsen på 0,50.

Forudsagte risikoscorer for de fire oprindelige risikokategorier. Selvom modellen kun blev trænet til at skelne normale og risikofyldte klip, stiger scorerne generelt fra Ingen risiko til Høj risiko i trænings-, validerings- og testsættene. Den stiplede linje markerer beslutningsgrænsen på 0,50.

Forfatterne kommenterer:

»Dette resultat er vigtigt, fordi modellen aldrig eksplicit trænes til at skelne mellem lav, middel og høj risiko. Alligevel følger dens forudsigelser progressionen i de oprindelige risikoniveauer.

»Det tyder på, at modellen opfanger meningsfulde ændringer i adfærd før en hændelse frem for blot at lære en simpel grænse mellem normal og risikofyldt. Resultatet viser også, at nyttige adfærdssignaler kan optræde, inden den annoterede hændelse begynder.«

Og de konkluderer:

»Resultaterne tyder på, at nyttig skelnende information kan være til stede før en hændelse. Det understreger potentialet for at udvide voldsanalyse fra detektion, mens hændelsen sker, til tidligere genkendelse af risiko.«

Konklusion

Fandt forskerne virkelig en kombination af egenskaber, der går forud for vold? Med kun 443 klip er overtilpasning en væsentlig risiko, især for multimodale modeller og forudtrænede visuelle grundmodeller. Undersøgelsen begrænser det delvist ved at fastfryse grundmodellen, adskille kildevideoerne mellem træning, validering og test og afprøve flere kombinationer af modaliteter.

Gode resultater på et lille datasæt beviser ikke, at det underliggende mønster er åbenlyst eller overhovedet findes. De kan også afspejle datasætspecifikke signaler, annotationsskævhed, lækage fra kildedata, som opdelingen ikke fanger, eller et usædvanligt let testsæt.

Alligevel er resultatet interessant netop fordi datasættet er så lille, og overtilpasning tilsyneladende er tilstrækkeligt modvirket. Resultaterne skal dog gentages på et større datasæt, før det lærte mønster kan anses for »robust«.

 

Først offentliggjort torsdag den 1. oktober 2026

Forfatter inden for maskinlæring, domænespecialist i menneskelig billedsyntese. Tidligere chef for forskningsindhold hos Metaphysic.ai, indtil den blev opløst i DNEGs Brahma.ai.
Websted: martinanderson.ai
Kontakt: martin@martinanderson.ai