Andersonův úhel
Předvídání násilí s pomocí AI

Klíčové bodyPředpovídání násilí dříve, než k němu dojde, riskuje ozvěnu dystopických obav z…
Zobrazit více
- Předpovídání násilí dříve, než k němu dojde, riskuje ozvěnu dystopických obav z Minority Report.
- Kombinace vzhledu obličeje se zvukovými a pohybovými podněty překonává jakýkoli jednotlivý signál samotný.
- Malá sada klipů činí z přeučení skutečné nebezpečí i přes ochranná opatření studie.
Typický postup při zkoumání otázky „Lze to automatizovat pomocí AI?“ spočívá v tom, že modelu předložíme více příkladů něčeho, jehož vlastnosti chceme izolovat, a sledujeme, zda dokáže na podobných datech rozpoznat danou vlastnost, přestože tato data nebyla použita při trénování:

Schéma projektu AI typu „poslední zoufalý pokus“: označené příklady se rozdělí na trénovací a testovací sadu. Model se učí na první z nich a poté se jeho schopnosti prověří na neznámých příkladech z druhé sady. Pokud se skutečně naučil rozpoznávat hledanou vlastnost, místo aby si zapamatoval trénovací data, měl by stejný vzorec rozpoznat i v testovací sadě. Zdroj
Je to tak trochu „poslední zoufalý pokus“, protože podobné experimenty vycházejí z předpokladu, že pokud bude AI data dál prohledávat, hledaná vlastnost v nich nakonec vystoupí do popředí a že vůbec existuje nějaký „skrytý trend“, který lze odhalit. Kdybychom danou vlastnost dokázali snadno rozpoznat, buď bychom model AI vůbec nepotřebovali, nebo bychom ho využívali jen k běžné automatizaci.
Většinou tomu tak není; většina podobných výzkumných iniciativ jsou „rybářské výpravy“ za skrytými vzorci, které lze rozpoznat jen díky nadlidské schopnosti opakovaně věnovat pozornost detailům.
Dost často se ukáže, že vzorec je nepolapitelný, případně vůbec neexistuje, protože některé události a vlastnosti mohou skutečně podléhat čistě náhodným procesům; další možností je, že jsou data nějakým způsobem nedostatečná, špatně připravená nebo nedostatečně natrénovaná.
Výhled do budoucna
V některých případech je odměna natolik lákavá (vyléčit rakovinu, dosáhnout jaderné fúze, překonat zákony termodynamiky atd.) a natolik „politicky přitažlivá“, že se k danému tématu odborná literatura opakovaně vrací a zkoumá, zda by se charakteristický vzorec nepodařilo odhalit pomocí lepších dat nebo technik.
Jedním z takových oborů je automatizované porozumění videu, zejména v souvislosti s veřejnými prostory a oblastmi, v nichž zasahuje policie. Například letos nová studie využila skutečné videozáznamy pokusů o sebevraždu k identifikaci vzorců „setrvávání“ před pokusem člověka o sebevraždu a k vytvoření prediktivního systému, který by dokázal rozpoznat charakteristický způsob, jakým se člověk pohybuje po nástupišti veřejné železniční stanice před skokem:

Z článku z roku 2026 „Hodnocení rizika sebevraždy pomocí video dohledu s AI: interpretovatelný rámec prevence ve stanicích metra“: předpovědi ze dvou snímků, z nichž jeden zachycuje skutečný pokus o sebevraždu na železniční trati a druhý situaci, při níž k žádné události nedošlo. Teplotní mapy vedle jednotlivých snímků znázorňují oblasti s vyšším a nižším rizikem na nástupišti. Vycházejí z toho, jak dlouho se člověk zdržuje u ústí tunelu, a ze vzorců pozorovaných při předchozích pokusech o sebevraždu. Zdroj
V tomto případě se zdálo, že „vzorce setrvávání“ (zcela vlevo a vpravo na obrázku výše), typické pro člověka, který uvažuje o skoku před vlak, mají charakteristické rysy, jež by bylo možné využít jako upozornění založené na rozpoznávání vzorců v automatizovaných sledovacích systémech.
Dalším oblíbeným směrem výzkumu v této oblasti je detekce a rozpoznávání násilí. Sledovací systémy bez obsluhy by mohly rozpoznat násilné jednání a rychle na něj upozornit člověka, a dokonce spouštět další činnosti, například označit záznam k dlouhodobému uchování a zajistit, aby nahrávání skutečně probíhalo, mimo jiné.
Ukázka (nereálného) testu systému pro detekci násilí od IVS. Zdroj
Podle nového výzkumu University of Alabama se dosavadní odborná literatura zaměřovala na rozpoznávání násilí až ve chvíli, kdy k němu již dochází. V nové studii výzkumníci trénovali model pouze na videozáznamech pořízených před násilnou událostí (nebo v situaci, kdy k žádné události nedošlo, aby byla zachována statistická rovnováha). Zkoumali, zda by se mohly opakovat a daly se model naučit „přednásilné“ charakteristiky – v tomto případě kombinace pohybu těla, výrazu tváře a zvuku, které by společně mohly poskytnout prediktivní signál upozorňující na násilné jednání, místo aby na něj systém pouze reagoval, jakmile k němu dojde.

Příklady sekvencí označených jako „rizikové“ před incidentem ze studie „Lze násilí předvídat? Multimodální učení z behaviorálních signálů před incidentem“, zobrazené ve čtyřech po sobě jdoucích snímcích. Systém sleduje klouby těla a pohyb v čase a hledá změny držení těla, rychlosti a vzorců interakce, které mohou odlišit vyhrocující se situace ještě předtím, než se projeví samotné násilí. Zdroj
Taková práce samozřejmě pravděpodobně vyvolá obavy, pokud bude dále rozvíjena nebo uvedena do praxe. Jak už jsem dříve poznamenal, fiktivní díla, jako jsou televizní seriál Person of Interest a sci-fi akční film z roku 2002 Minority Report, stejně jako mnohá podobná díla, odrážela obavy veřejnosti z prediktivních technologií v rukou policie či regulačních orgánů.
Pokud jde o předvídání násilného jednání na základě tělesných, obličejových a zvukových signálů (a nikoli faktorů , jako je kontext, denní doba, místo nebo historické údaje o kriminalitě), jde zatím o diskutabilní otázku, protože podle autorů nové studie je tato oblast výzkumu velmi nová.
V testech výzkumníci porovnávali vzhled obličeje, zvukové a pohybové signály těla samostatně i v kombinaci a použili přitom tři různé páteřní modely počítačového vidění. Nejlepších výsledků dosáhli při spojení všech tří signálů, což naznačuje, že predikční účinek nebyl založen pouze na jediném typu signálu:
„Nejlepší konfigurace, Deit-Tiny se zvukovými signály, vzhledem obličeje a pohybem, dosahuje na oddělené testovací sadě přesnosti 91,21 %, vyvážené přesnosti 88,96 %, skóre F1 93,65 % a hodnoty ROC-AUC 96,38 %.
„Tyto výsledky naznačují, že doplňující se signály založené na vzhledu, zvuku a kinematice poskytují užitečné důkazy pro rozpoznání zvýšeného rizika před incidentem.“
Přístup
Soubor dat sestavený pro tuto studii vychází z kolekce XD-Violence a současně zpracovává tři modality: vzhled obličeje, zvuk a pohyb odhadovaný z pózy:

Postup zpracování ve studii. Každý klip je podle míry rizika označen jako „bez rizika“ nebo „rizikový“ a poté rozdělen na trénovací, validační a testovací sady. Záznam o délce až čtyř sekund se analyzuje ve třech větvích: vzhled obličeje napříč snímky, zvuk převedený na spektrogram a pohyb těla odvozený ze sledovaných klíčových bodů, například rychlosti a zrychlení. Výsledné rysy obličeje, zvuku a pohybu se spojí do jedné reprezentace a předají závěrečnému klasifikátoru, který klipu přiřadí pravděpodobnost, že je bez rizika, nebo rizikový.
Výsledný upravený soubor obsahoval 443 klipů zachycujících dobu před incidentem (k tomuto číslu se vrátíme na konci článku).
Jak uvádí studie, videa vybraná z kolekce XD-Violence byla považována za vhodná pro typ analýzy zaměřené na člověka, kterou se projekt snažil uskutečnit. Mnohé podobné dřívější přístupy se naopak soustředily na celou scénu jako predikční kontext.
Použité klipy nebyly delší než čtyři sekundy a byly vzorkovány frekvencí 8 snímků za sekundu. Výsledných 32 vzorků snímků spojoval jednovrstvý Transformer s osmi hlavami pozornosti, zatímco naučené poziční embeddingy zachovávaly pořadí snímků. Páteřní model zůstal během multimodálního trénování zmrazený, aby se předešlo přeučení.
Ukázky map aktivací (včetně snímků obličejů) jsou uvedeny výše v článku pro aktivace označené jako „rizikové“ a níže pro vzorky bez rizika:

Příklady bez rizika z větve studie zaměřené na analýzu obličejů, které doplňují výše uvedené příklady rizikového pohybu. Vlevo je původní výřez obličeje, po něm následují mapy aktivací z postupně hlubších vrstev modelu počítačového vidění DeiT-Tiny. Teplejší oblasti označují silnější odezvy příznaků a ukazují, jak se pozornost modelu přesouvá a stává abstraktnější, když obraz prochází sítí.
Zvukové složky odvozené ze zdrojového klipu byly převzorkovány na 16 kHz a normalizovány a časově zarovnány s odpovídajícím vizuálním úsekem. Poté byly převedeny na standardizované logaritmické amplitudové spektrogramy pomocí 512bodové krátkodobé Fourierovy transformace a Hannova okna o 400 vzorcích:

Porovnání průměrných zvukových vzorců v běžných klipech a klipech s rizikovým chováním před incidentem. V horní řadě jsou běžné klipy, ve spodní klipy s rizikovým chováním; postupuje se od původního průběhu signálu a spektrogramu k příznakům naučeným ve třech po sobě následujících hloubkách sítě. Klipy s rizikovým chováním vykazují v čase větší proměnlivost, včetně zvýšené zvukové aktivity ke konci čtyřsekundového okna, zatímco síť tyto rozdíly postupně převádí na příznaky vyšší úrovně.
V pohybové složce byly tělesné pohyby převedeny na soubor číselných popisných příznaků odvozených z klíčových bodů COCO-17, které detekoval odhadovač pózy YOLO.
Bylo vypočteno dvanáct ukazatelů, například průměrná a maximální rychlost, zrychlení a rychlost změny zrychlení, proměnlivost rychlosti, rychlosti zápěstí a kotníků a celková energie pohybu. Tyto hodnoty byly normalizovány s ohledem na velikost těla, aby se u tělesně větších lidí automaticky nezaznamenávalo více pohybu. Kromě toho byla spojena měření více osob v témže klipu.
Po standardizaci podle trénovacích dat byly pohybové příznaky rozšířeny na 64rozměrnou reprezentaci a zpracovány časovým Transformerem. Ten umožnil vyhodnocovat změny pohybu v průběhu klipu jako posloupnost, nikoli jako izolované snímky.
Tyto tři větve byly následně sloučeny do jediné reprezentace, přičemž největší váhu měl vzhled obličeje, za ním následoval zvuk a pohyb. Po normalizaci a aplikaci dropout vrstvy převedl výsledný klasifikátor tuto kombinovanou reprezentaci na pravděpodobnosti tříd „běžné“ a „rizikové“, přičemž hranice byla nastavena na 0,5.
Pro proud vzhledu obličeje byly použity tři páteřní sítě předtrénované na ImageNet: Swin-Tiny, ViT-Tiny a DeiT-Tiny.
Testy
Pro testování byly klipy ručně zařazeny do jedné ze čtyř kategorií podle viditelného chování, pohybu a zvuku: Bez rizika, Nízké riziko, Střední riziko nebo Vysoké riziko. Pro závěrečný binární úkol byly tři rizikové kategorie sloučeny do jedné třídy „rizikové“, zatímco kategorie Bez rizika byla označena jako „běžná“. Aby se omezil únik dat mezi trénováním a vyhodnocováním, byly klipy ze stejného zdrojového videa vždy ponechány ve stejné části datové sady.
Samotný násilný incident byl ze všech rizikových klipů odstraněn, takže model posuzoval pouze chování, které mu předcházelo:

Výsledky na testovací sadě ukazují, jak se mění výkonnost při samostatném nebo kombinovaném použití vzhledu obličeje, zvuku a pohybu napříč třemi vizuálními páteřními sítěmi. Ablační uspořádání umožňuje izolovat přínos každého vstupního proudu. Vyšší skóre znamená lepší výkonnost a tučně jsou vyznačeny nejlepší hodnoty v jednotlivých metrikách.
Jak již bylo uvedeno, nejlepšího celkového výsledku dosáhl model DeiT-Tiny při kombinaci všech tří modalit. Ablační analýzy lépe ukazují přínos jednotlivých proudů: samotný vzhled obličeje byl už tak silným prediktorem, zatímco pohyb dosahoval středních výsledků a samotný zvuk byl výrazně slabší.
Nejlepších výsledků bylo dosaženo kombinací informací o obličeji, zvuku a pohybu, což naznačuje, že i slabší proudy přinášely užitečné doplňující informace k vizuálnímu signálu.
Přestože byl model trénován pouze k rozlišování mezi „běžnými“ a „rizikovými“ klipy, jeho výstupy byly porovnány také s původním čtyřstupňovým označením: Bez rizika, Nízké riziko, Střední riziko a Vysoké riziko. Jak ukazuje následující graf, předpovídané riziko obecně stoupá úměrně těmto kategoriím v trénovací, validační i testovací sadě:

Predikované skóre rizika ve čtyřech původních kategoriích rizika. Ačkoli byl model trénován pouze k rozlišování běžných a rizikových klipů, skóre se v trénovací, validační i testovací sadě obecně zvyšuje od kategorie Bez rizika až po kategorii Vysoké riziko. Přerušovaná čára označuje rozhodovací práh 0,50.
Autoři uvádějí:
„Tento výsledek je důležitý, protože model není nikdy explicitně trénován k rozlišování nízkého, středního a vysokého rizika. Přesto jeho predikce odpovídají postupnému zvyšování původních úrovní rizika.“
„To naznačuje, že model zachycuje významné změny v chování před incidentem, místo aby se pouze učil jednoduchou hranici mezi běžnými a rizikovými situacemi. Výsledek také dokládá, že užitečné behaviorální signály se mohou objevovat ještě před začátkem anotovaného incidentu.“
A uzavírají:
„Tato zjištění naznačují, že v období předcházejícím incidentu mohou být přítomny užitečné rozlišovací informace. Poukazují tak na možnost posunout analýzu násilí od detekce probíhající události k dřívějšímu rozpoznávání rizika.“
Závěr
Objevili výzkumníci skutečně kombinaci rysů, která předchází násilí? Vzhledem k tomu, že experimenty pracovaly pouze se 443 klipy, představuje přeučení značné riziko, k němuž jsou multimodální modely a předtrénované vizuální páteřní sítě obzvlášť náchylné. Studie toto riziko částečně omezuje zmrazením vizuální páteřní sítě, rozdělením zdrojových videí mezi trénovací, validační a testovací sadu a testováním několika kombinací modalit.
Dobré výsledky na malém datovém souboru nedokazují, že je základní vzorec zřejmý, ani že vůbec existuje. Mohou totiž odrážet také signály specifické pro daný datový soubor, zkreslení při anotaci, únik informací ze zdrojů, který rozdělení dat nezachytilo, nebo neobvykle snadnou testovací sadu.
Výsledek je však zatím zajímavý právě protože je datový soubor tak malý a protože se zdá, že bylo riziko přeučení dostatečně omezeno. Než však bude možné naučený vzorec považovat za „robustní“, bude třeba tato zjištění ověřit na větším datovém souboru.
Poprvé publikováno ve čtvrtek 1. října 2026












