Angolo di Anderson

Prevedere la violenza in anticipo con l’IA

Martin Anderson
Aggiungi Unite.AI alle tue fonti preferite su Google
A still from Minority Report (2002), a film centered on predicting violent crimes before they occur, alongside an inset from Can We Anticipate Violence? Multimodal Learning from Pre-Incident Behavioral Cues, which investigates the same problem using AI analysis of facial appearance, audio and body motion. Minority Report image © 2002 Twentieth Century Fox and DreamWorks Pictures; reproduced for editorial commentary.
Punti chiavePrevedere la violenza prima che accada rischia di riecheggiare le paure distopiche di…
Vedi di più
  • Prevedere la violenza prima che accada rischia di riecheggiare le paure distopiche di Minority Report.
  • Combinare l'aspetto facciale con i segnali audio e di movimento supera le prestazioni di qualsiasi singolo segnale preso da solo.
  • Https://www.youtube.com/watch?v tDSXPQcpybU Un test (non reale) per un sistema di rilevamento della violenza di IVS.

Lo schema tipico di un’indagine del tipo «L’IA può automatizzare questo compito?» consiste nel fornire numerosi esempi di qualcosa di cui si vogliono isolare le caratteristiche, per verificare se un modello addestrato su quei dati riesca a riconoscere la stessa caratteristica in dati simili non utilizzati nell’addestramento:

Schema di un progetto di IA tentato come ultima possibilità: gli esempi etichettati vengono suddivisi in insiemi di addestramento e di test. Il modello impara dal primo e viene poi messo alla prova con esempi mai visti del secondo. Se ha realmente appreso la caratteristica cercata, invece di memorizzare i dati di addestramento, dovrebbe riconoscere lo stesso schema nell’insieme di test. Fonte - https://upload.wikimedia.org/wikipedia/commons/0/09/Supervised_machine_learning_in_a_nutshell.svg

Schema di un progetto di IA tentato come ultima possibilità: gli esempi etichettati vengono suddivisi in insiemi di addestramento e di test. Il modello impara dal primo e viene poi messo alla prova con esempi mai visti del secondo. Se ha realmente appreso la caratteristica cercata, invece di memorizzare i dati di addestramento, dovrebbe riconoscere lo stesso schema nell’insieme di test. Fonte

È un po’ un tentativo disperato: questi esperimenti presuppongono che la caratteristica finisca per emergere se l’IA continua a esaminare il dataset e che esista davvero una qualche «tendenza sottostante» da far affiorare. Se la caratteristica fosse facilmente riconoscibile, non avremmo bisogno del modello di IA, oppure lo useremmo soltanto per automatizzare attività ordinarie.

In genere non è così: la maggior parte di queste iniziative di ricerca sono esplorazioni alla cieca alla ricerca di schemi latenti che soltanto una ripetizione sovrumana dell’osservazione potrebbe insegnare a riconoscere.

Spesso lo schema si rivela sfuggente e potrebbe non esistere affatto, perché alcuni eventi e caratteristiche possono davvero dipendere dal puro caso; oppure i dati sono in qualche modo inadeguati, mal curati o l’addestramento è insufficiente.

Guardare avanti

In alcuni casi il traguardo è tanto desiderabile — curare il cancro, ottenere la fusione nucleare, superare le leggi della termodinamica e così via — e tanto «attraente politicamente» che la letteratura continua a tornarvi, per verificare se dati o tecniche migliori possano finalmente far emergere uno schema caratteristico.

Uno di questi ambiti è la comprensione automatizzata dei video applicata agli spazi pubblici e ai contesti che coinvolgono la polizia. Per esempio, quest’anno un nuovo studio ha utilizzato riprese reali di tentativi di suicidio per identificare tendenze di permanenza prima del tentativo e creare un sistema predittivo capace di riconoscere il modo caratteristico in cui una persona si muove su una banchina ferroviaria pubblica prima di saltare:

Dallo studio del 2026 «Valutazione del rischio di suicidio mediante videosorveglianza basata sull’IA: un quadro interpretabile per la prevenzione nelle stazioni della metropolitana»: previsioni su due fotogrammi, uno relativo a un vero tentativo di suicidio ferroviario e l’altro a un caso senza incidente. Le mappe di calore accanto ai fotogrammi indicano aree a rischio maggiore o minore sulla banchina, sulla base della «tendenza a soffermarsi» vicino all’imbocco della galleria e degli schemi osservati nei precedenti tentativi. Fonte - https://arxiv.org/pdf/2605.22904

Dallo studio del 2026 «Valutazione del rischio di suicidio mediante videosorveglianza basata sull’IA: un quadro interpretabile per la prevenzione nelle stazioni della metropolitana»: previsioni su due fotogrammi, uno relativo a un vero tentativo di suicidio ferroviario e l’altro a un caso senza incidente. Le mappe di calore accanto ai fotogrammi indicano aree a rischio maggiore o minore sulla banchina, sulla base della «tendenza a soffermarsi» vicino all’imbocco della galleria e degli schemi osservati nei precedenti tentativi. Fonte

In questo caso gli «schemi di permanenza» — alle estremità sinistra e destra dell’immagine sopra — tipici di chi sta pensando di saltare davanti a un treno sembravano avere una firma distinta, utilizzabile come sistema di allerta basato sul riconoscimento di schemi nei circuiti di sorveglianza automatizzata.

Un altro filone diffuso è il rilevamento o riconoscimento della violenza: sistemi di sorveglianza non presidiati potrebbero riconoscere azioni violente per richiamare rapidamente l’attenzione umana e persino avviare operazioni accessorie, come contrassegnare le riprese per la conservazione a lungo termine e verificare che la registrazione sia effettivamente in corso, tra le altre misure.

Una prova simulata, non un episodio reale, di un sistema di rilevamento della violenza di IVS. Fonte

Secondo una nuova ricerca della University of Alabama, finora la letteratura si è concentrata sul riconoscimento della violenza quando è già in corso. Nel nuovo lavoro i ricercatori hanno addestrato un modello soltanto su riprese precedenti a un evento violento, o a nessun evento per garantire equilibrio statistico. Volevano verificare l’esistenza di caratteristiche ricorrenti e apprendibili «pre-violenza»: in questo caso una combinazione di movimento corporeo, aspetto del volto e audio che insieme potrebbero fornire un segnale predittivo di un’azione violenta, anziché limitarsi a reagire dopo che si è verificata.

Esempi di sequenze «rischiose» prima di un incidente tratte dallo studio, mostrate in quattro fotogrammi consecutivi. Il sistema segue articolazioni e movimenti nel tempo, cercando cambiamenti nella postura, nella velocità e negli schemi di interazione che potrebbero distinguere situazioni in escalation prima che la violenza stessa diventi visibile. Fonte - https://arxiv.org/pdf/2609.40014

Esempi di sequenze «rischiose» prima di un incidente tratti dallo studio «Possiamo anticipare la violenza? Apprendimento multimodale da indizi comportamentali precedenti all’incidente», mostrati in quattro fotogrammi consecutivi. Il sistema segue articolazioni e movimenti nel tempo, cercando cambiamenti nella postura, nella velocità e negli schemi di interazione che potrebbero distinguere situazioni in escalation prima che la violenza stessa diventi visibile. Fonte

Naturalmente, lavori simili probabilmente susciterebbero preoccupazioni se sviluppati o implementati. Come ho già osservato, opere di finzione quali la serie televisiva Person of Interest e il film d’azione fantascientifico del 2002 Minority Report, insieme a molte altre, hanno rispecchiato timori diffusi sulle tecnologie predittive nelle mani della polizia o delle autorità di regolamentazione.

Al momento, per la previsione di azioni violente a partire da indizi corporei, facciali e sonori — invece che da fattori come il contesto, l’ora, il luogo o le statistiche storiche sulla criminalità — la questione resta perlopiù teorica: secondo gli autori, questo filone di ricerca è ancora molto nuovo.

Nei test i ricercatori hanno confrontato indizi facciali, audio e movimento corporeo, separatamente e insieme, usando tre diverse architetture visive di base. I risultati migliori sono emersi combinando tutti e tre i segnali, suggerendo che l’effetto predittivo non dipendesse da un solo tipo di indizio:

«La configurazione migliore, Deit-Tiny con audio, aspetto del volto e movimento, raggiunge il 91,21% di accuratezza, l’88,96% di accuratezza bilanciata, un punteggio F1 del 93,65% e una ROC-AUC del 96,38% sull’insieme di test tenuto da parte.

«Questi risultati suggeriscono che indizi complementari relativi all’aspetto, all’acustica e alla cinematica forniscano elementi utili per riconoscere un rischio elevato prima di un incidente.»

Approccio

Il dataset curato per lo studio deriva dalla raccolta XD-Violence e prevede l’elaborazione congiunta di tre modalità: aspetto del volto, audio e movimento ricavato dalla stima della posa:

La pipeline di elaborazione dello studio. Ogni clip viene etichettata per livello di rischio, poi ricondotto a «nessun rischio» o «rischiosa», e suddivisa tra gli insiemi di addestramento, validazione e test. Fino a quattro secondi di riprese vengono analizzati attraverso tre rami: aspetto del volto nei fotogrammi, audio convertito in spettrogramma e movimento corporeo derivato da punti chiave tracciati, come velocità e accelerazione. Le caratteristiche facciali, sonore e di movimento vengono unite in un’unica rappresentazione e passate a un classificatore finale, che assegna alla clip una probabilità di essere priva di rischio o rischiosa.

La pipeline di elaborazione dello studio. Ogni clip viene etichettata per livello di rischio, poi ricondotto a «nessun rischio» o «rischiosa», e suddivisa tra gli insiemi di addestramento, validazione e test. Fino a quattro secondi di riprese vengono analizzati attraverso tre rami: aspetto del volto nei fotogrammi, audio convertito in spettrogramma e movimento corporeo derivato da punti chiave tracciati, come velocità e accelerazione. Le caratteristiche facciali, sonore e di movimento vengono unite in un’unica rappresentazione e passate a un classificatore finale, che assegna alla clip una probabilità di essere priva di rischio o rischiosa.

Il dataset così curato conteneva 443 clip precedenti agli incidenti. Torneremo su questo numero alla fine dell’articolo.

Secondo lo studio, i video della raccolta XD-Violence sono stati scelti perché adatti al tipo di analisi focalizzata sulle persone che il progetto intendeva realizzare. Molti approcci precedenti simili si erano invece concentrati sull’intera scena come contesto predittivo.

Le clip non superavano i quattro secondi ed erano campionate a 8 fotogrammi al secondo. Un Transformer a singolo strato con otto teste di attenzione aggregava i 32 fotogrammi risultanti, mentre incorporamenti posizionali appresi ne conservavano l’ordine. L’architettura di base restava congelata durante l’addestramento multimodale per evitare il sovradattamento.

Esempi di mappe di attivazione, comprese immagini del volto, sono mostrati prima nell’articolo per le attivazioni «rischiose» e qui sotto per i campioni senza rischio:

Esempi senza rischio dal ramo di analisi facciale dello studio, a integrazione degli esempi di movimento rischioso mostrati prima. A sinistra compare il ritaglio originale del volto, seguito dalle mappe di attivazione di strati progressivamente più profondi del modello visivo DeiT-Tiny. Le aree più calde indicano risposte più forti delle caratteristiche e mostrano come l’attenzione del modello si sposti e diventi più astratta mentre l’immagine attraversa la rete.

Esempi senza rischio dal ramo di analisi facciale dello studio, a integrazione degli esempi di movimento rischioso mostrati prima. A sinistra compare il ritaglio originale del volto, seguito dalle mappe di attivazione di strati progressivamente più profondi del modello visivo DeiT-Tiny. Le aree più calde indicano risposte più forti delle caratteristiche e mostrano come l’attenzione del modello si sposti e diventi più astratta mentre l’immagine attraversa la rete.

Le componenti audio della clip sorgente sono state ricampionate a 16 kHz, normalizzate e allineate alla corrispondente finestra visiva, quindi convertite in spettrogrammi del modulo logaritmico standardizzati mediante una trasformata di Fourier a breve termine da 512 punti e una finestra di Hann da 400 campioni:

Confronto dei profili audio medi di clip normali e rischiose precedenti agli incidenti. La riga superiore mostra clip normali e quella inferiore clip rischiose, passando dalla forma d’onda e dallo spettrogramma originali alle caratteristiche apprese a tre profondità successive della rete. Le clip rischiose mostrano variazioni temporali maggiori, compresa un’attività acustica più intensa verso la fine della finestra di quattro secondi; la rete converte progressivamente queste differenze in caratteristiche di livello superiore.

Confronto dei profili audio medi di clip normali e rischiose precedenti agli incidenti. La riga superiore mostra clip normali e quella inferiore clip rischiose, passando dalla forma d’onda e dallo spettrogramma originali alle caratteristiche apprese a tre profondità successive della rete. Le clip rischiose mostrano variazioni temporali maggiori, compresa un’attività acustica più intensa verso la fine della finestra di quattro secondi; la rete converte progressivamente queste differenze in caratteristiche di livello superiore.

Per la componente di movimento, i movimenti corporei sono stati ridotti a descrittori numerici derivati dai punti chiave COCO-17 rilevati da uno stimatore della posa YOLO.

Sono state calcolate dodici misure, tra cui velocità media e massima, accelerazione e variazione dell’accelerazione nel tempo, variazione della velocità, velocità di polsi e caviglie ed energia complessiva del movimento. I valori sono stati normalizzati rispetto alle dimensioni corporee, affinché le persone più grandi non risultassero automaticamente più attive. Sono state inoltre combinate le misure di più persone nella stessa clip.

Dopo la standardizzazione rispetto ai dati di addestramento, le caratteristiche del movimento sono state espanse in una rappresentazione a 64 dimensioni e passate attraverso un Transformer temporale, così da considerare i cambiamenti di movimento nella clip come una sequenza anziché come fotogrammi isolati.

I tre flussi sono stati poi fusi in un’unica rappresentazione, assegnando la quota maggiore all’aspetto del volto, seguito dall’audio e dal movimento. Dopo normalizzazione e dropout, un classificatore finale ha convertito la rappresentazione congiunta in probabilità per «normale» e «rischiosa», usando 0,5 come soglia.

Per il flusso relativo all’aspetto del volto sono state usate tre architetture di base preaddestrate su ImageNet: Swin-Tiny, ViT-Tiny e DeiT-Tiny.

Test

Per i test le clip sono state assegnate manualmente a una di quattro etichette — Nessun rischio, Rischio basso, Rischio medio e Rischio alto — in base a comportamento visibile, movimento e audio. Per il compito binario finale le tre categorie di rischio sono state raggruppate come «rischiosa», mentre Nessun rischio è diventata «normale». Per ridurre la contaminazione tra addestramento e valutazione, le clip dello stesso video sorgente sono rimaste nella stessa partizione del dataset.

L’incidente violento è stato eliminato da ogni clip rischiosa, lasciando al modello soltanto il comportamento precedente da valutare:

Risultati sull’insieme di test che mostrano come varia la prestazione usando aspetto del volto, audio e movimento separatamente o insieme con le tre architetture visive di base. L’analisi di ablazione isola il contributo di ciascun flusso di ingresso. Punteggi più alti indicano prestazioni migliori; i valori in grassetto segnalano il risultato migliore per ciascuna metrica.

Risultati sull’insieme di test che mostrano come varia la prestazione usando aspetto del volto, audio e movimento separatamente o insieme con le tre architetture visive di base. L’analisi di ablazione isola il contributo di ciascun flusso di ingresso. Punteggi più alti indicano prestazioni migliori; i valori in grassetto segnalano il risultato migliore per ciascuna metrica.

Come già osservato, il risultato complessivo migliore è stato ottenuto da DeiT-Tiny combinando tutte e tre le modalità. Le ablazioni chiariscono il contributo di ogni flusso: l’aspetto del volto era già un forte predittore da solo, mentre il movimento dava risultati moderati e l’audio isolato era notevolmente più debole.

I risultati migliori sono emersi combinando informazioni facciali, audio e movimento: anche i flussi più deboli aggiungevano quindi informazioni complementari utili al segnale visivo.

Benché addestrato soltanto a distinguere «normale» da «rischiosa», il modello è stato confrontato anche con le quattro etichette originali: Nessun rischio, Rischio basso, Rischio medio e Rischio alto. Come mostrato sotto, il rischio previsto aumenta complessivamente in linea con queste categorie negli insiemi di addestramento, validazione e test:

Punteggi di rischio previsti nelle quattro categorie originali. Benché il modello sia stato addestrato soltanto a separare le clip normali da quelle rischiose, i punteggi generalmente aumentano da Nessun rischio a Rischio alto negli insiemi di addestramento, validazione e test. La linea tratteggiata indica la soglia decisionale di 0,50.

Punteggi di rischio previsti nelle quattro categorie originali. Benché il modello sia stato addestrato soltanto a separare le clip normali da quelle rischiose, i punteggi generalmente aumentano da Nessun rischio a Rischio alto negli insiemi di addestramento, validazione e test. La linea tratteggiata indica la soglia decisionale di 0,50.

Gli autori commentano:

«Questo risultato è importante perché il modello non viene mai addestrato esplicitamente a separare rischio basso, medio e alto. Nonostante ciò, le sue previsioni seguono la progressione dei livelli di rischio originali.

«Ciò suggerisce che il modello colga cambiamenti significativi nel comportamento precedente all’incidente, anziché apprendere soltanto un semplice confine tra normale e rischioso. Il risultato fornisce inoltre elementi a sostegno del fatto che indizi comportamentali utili possano comparire prima dell’inizio dell’incidente annotato.»

E concludono:

«Questi risultati suggeriscono che informazioni discriminanti utili possano essere presenti nel periodo precedente a un incidente, evidenziando il potenziale di estendere l’analisi della violenza oltre il rilevamento di eventi già in corso, verso un riconoscimento più precoce del rischio.»

Conclusione

I ricercatori hanno davvero trovato una combinazione di tratti «pre-violenza»? Con soltanto 443 clip negli esperimenti, il sovradattamento è un rischio notevole, al quale modelli multimodali e architetture visive preaddestrate sono particolarmente esposti. Lo studio lo attenua in parte congelando l’architettura visiva, separando i video sorgente tra addestramento, validazione e test e provando più combinazioni di modalità.

Prestazioni elevate su un piccolo dataset non dimostrano che lo schema sottostante sia evidente o persino esistente: possono riflettere indizi specifici del dataset, distorsioni nelle annotazioni, contaminazione delle fonti non intercettata dalla suddivisione o un insieme di test insolitamente facile.

Allo stato attuale, però, il risultato incuriosisce proprio perché il dataset è così piccolo e perché sembra che siano state adottate adeguate protezioni contro il sovradattamento. I risultati dovrebbero comunque essere replicati su un dataset più grande prima di poter considerare «robusto» lo schema appreso.

 

Pubblicato per la prima volta giovedì 1 ottobre 2026

Scrittore di apprendimento automatico, specialista di dominio nella sintesi di immagini umane. Ex responsabile dei contenuti di ricerca presso Metaphysic.ai, fino alla sua fusione nella Brahma.ai di DNEG.
Sito web: martinanderson.ai
Contatto: martin@martinanderson.ai