Unghiul lui Anderson
Predicția violenței înainte ca aceasta să aibă loc cu ajutorul IA

Puncte cheiePrezicerea violenței înainte ca aceasta să se producă riscă să reia temerile distopice…
Vezi mai mult
- Prezicerea violenței înainte ca aceasta să se producă riscă să reia temerile distopice din Minority Report.
- Combinarea aspectului facial cu indicii audio și de mișcare depășește performanța oricărui semnal luat separat.
- Un set foarte mic de clipuri face ca supraadaptarea să fie un pericol real, în ciuda măsurilor de protecție ale studiului.
Modelul tipic al întrebării „Poate IA să automatizeze acest lucru?” presupune să îi furnizezi mai multe exemple ale unui fenomen ale cărui caracteristici vrei să le izolezi și să vezi dacă un model antrenat pe baza acelor date poate identifica acea caracteristică în date similare care nu au fost folosite la antrenare:

Schemă pentru un proiect IA de tip „tentativă disperată”: exemplele etichetate sunt împărțite în seturi de antrenare și de testare, modelul învățând din primul și fiind apoi pus la încercare cu exemple nevăzute din cel de-al doilea. Dacă a învățat cu adevărat caracteristica de interes, în loc să memoreze datele de antrenare, ar trebui să recunoască același tipar în setul de testare. Sursa
Este un fel de „tentativă disperată”, deoarece astfel de experimente pornesc de la presupunerea că, dacă IA analizează în continuare setul de date, caracteristica va ajunge, în cele din urmă, să iasă în evidență și că există, de fapt, un anumit „tipar subiacent” care poate fi identificat. Dacă am putea recunoaște cu ușurință caracteristica respectivă, fie nu am avea nevoie deloc de modelul IA, fie l-am folosi doar pentru automatizarea sarcinilor de rutină.
De regulă, lucrurile nu stau așa; majoritatea inițiativelor de cercetare de acest fel sunt „expediții de pescuit” în căutarea unor tipare latente, pe care doar repetarea atenției la o scară supraomenească le-ar putea identifica.
Adesea, tiparul se dovedește greu de identificat și poate chiar să nu existe, deoarece unele evenimente și trăsături se pot produce cu adevărat pur aleatoriu; în caz contrar, datele pot fi într-un fel inadecvate, organizate necorespunzător sau insuficient pregătite pentru antrenare.
Perspective
În unele cazuri, miza este atât de mare (vindecarea cancerului, fuziunea nucleară, depășirea legilor termodinamicii etc.), iar subiectul este atât de „atractiv din punct de vedere politic”, încât cercetările revin în mod repetat asupra lui, pentru a vedea dacă date mai bune sau tehnici mai eficiente pot identifica totuși un tipar caracteristic.
Un astfel de domeniu este înțelegerea automată a conținutului video, în legătură cu spațiile publice și contexte care implică poliția. De exemplu, anul acesta, un nou studiu a folosit înregistrări video din lumea reală ale unor tentative de suicid pentru a identifica tendințe de staționare înainte de tentativa de suicid a unei persoane și pentru a crea un sistem predictiv capabil să detecteze modul caracteristic în care aceasta se deplasează pe o platformă feroviară publică înainte de a sări:

Din lucrarea din 2026 „Evaluarea riscului de suicid prin supraveghere video bazată pe IA: un cadru interpretabil pentru prevenție în stațiile de metrou”: predicții bazate pe două cadre, unul în care este surprinsă o tentativă reală de suicid pe calea ferată, iar celălalt, un caz în care nu are loc niciun incident. Hărțile termice de lângă fiecare cadru indică zonele cu risc mai ridicat și mai scăzut de pe platformă, pe baza „tendinței de staționare” a unei persoane în apropierea intrării în tunel și a tiparelor observate în tentative de suicid anterioare. Sursa
În acest caz, „tiparele de staționare” (în extremitățile stângă și dreaptă ale imaginii de mai sus), caracteristice unei persoane care se gândește să sară în fața unui tren, păreau să aibă o semnătură distinctă, care putea fi folosită ca sistem de alertă bazat pe recunoașterea tiparelor în sistemele automate de supraveghere.
O altă direcție populară de cercetare în acest domeniu este detectarea/recunoașterea violenței, prin care sistemele de supraveghere fără operator ar putea fi capabile să recunoască acte violente, pentru ca acestea să fie aduse rapid în atenția oamenilor și chiar să declanșeze operațiuni auxiliare, precum marcarea înregistrărilor pentru păstrare pe termen lung și verificarea faptului că înregistrarea chiar are loc, printre alte măsuri.
Un test (fictiv) pentru un sistem de detectare a violenței, realizat de IVS. Sursa
Potrivit unor cercetări noi de la University of Alabama, până în prezent, literatura de specialitate s-a concentrat pe recunoașterea violenței în momentul în care aceasta are deja loc. Pentru noua lucrare, cercetătorii au antrenat un model numai cu înregistrări video realizate înainte de un eveniment violent (sau în care nu are loc niciun eveniment, pentru echilibru statistic), pentru a vedea dacă ar putea exista caracteristici „previolente” recurente și care pot fi învățate — în acest caz, o combinație de mișcări ale corpului, expresii faciale și sunet, care, împreună, ar putea furniza un semnal predictiv al unui act violent, în loc ca sistemul doar să reacționeze după ce acesta s-a produs.

Exemple de secvențe „cu risc” anterioare incidentului din studiul „Putem anticipa violența? Învățare multimodală din indicii comportamentale premergătoare incidentului”, prezentate în patru cadre succesive. Sistemul urmărește articulațiile corpului și mișcările în timp, căutând schimbări de postură, viteză și tipare de interacțiune care ar putea indica situații în escaladare înainte ca violența propriu-zisă să devină vizibilă. Sursă
Desigur, o astfel de muncă ar putea stârni îngrijorare dacă ar fi dezvoltată sau implementată. Așa cum am menționat anterior, producții de ficțiune precum serialul TV Person of Interest și filmul SF de acțiune din 2002 Minority Report au reflectat, alături de numeroase alte producții similare, temerile publicului legate de tehnologiile predictive aflate în mâinile poliției sau ale autorităților de reglementare.
În stadiul actual, predicția acțiunilor violente pe baza indiciilor corporale, faciale și audio (și nu a unor factori precum contextul, ora din zi, locația sau statisticile istorice privind criminalitatea) este o chestiune discutabilă, deoarece, potrivit autorilor noului studiu, aceasta este o direcție de cercetare foarte recentă.
În cadrul testelor, cercetătorii au comparat separat și în combinație indiciile privind aspectul facial, sunetul și mișcarea corpului, folosind trei arhitecturi de bază diferite pentru viziune computerizată. Cele mai bune rezultate au fost obținute prin combinarea tuturor celor trei semnale, ceea ce sugerează că efectul predictiv nu era determinat de un singur tip de indiciu:
„Cea mai bună configurație, Deit-Tiny cu sunet, aspect facial și mișcare, obține o acuratețe de 91,21%, o acuratețe echilibrată de 88,96%, un scor F1 de 93,65% și un ROC-AUC de 96,38% pe setul de testare separat.
„Aceste rezultate sugerează că indiciile complementare privind aspectul, sunetul și mișcarea cinematică oferă informații utile pentru identificarea unui risc crescut înaintea unui incident.”
Abordare
Setul de date selectat pentru studiu provine din colecția XD-Violence și analizează simultan trei modalități: aspectul facial, sunetul și mișcarea estimată pe baza posturii:

Fluxul de procesare al studiului. Fiecare clip este etichetat în funcție de nivelul de risc, fiind încadrat fie la „fără risc”, fie la „cu risc”, apoi împărțit în seturi de antrenare, validare și testare. Sunt analizate până la patru secunde de înregistrare, prin trei ramuri: aspectul facial în cadre succesive, sunetul transformat într-o spectrogramă și mișcarea corpului dedusă din puncte-cheie urmărite, precum viteza și accelerația. Caracteristicile faciale, audio și de mișcare rezultate sunt combinate într-o singură reprezentare și transmise unui clasificator final, care atribuie clipului o probabilitate de a fi fără risc sau cu risc.
Setul selectat astfel a cuprins 443 de clipuri anterioare incidentului (vom discuta acest număr la finalul articolului).
Potrivit articolului, videoclipurile selectate din colecția XD-Violence au fost considerate subiecte potrivite pentru tipul de analiză centrată pe oameni pe care proiectul urmărea să o implementeze. În schimb, multe abordări similare anterioare se concentraseră pe întreaga scenă ca context predictiv.
Clipurile folosite nu depășeau patru secunde și erau eșantionate la 8 cadre pe secundă. Pentru a agrega cele 32 de cadre eșantionate rezultate, a fost folosit un model Transformer cu un singur strat și opt capete de atenție, iar încorporările poziționale învățate au păstrat ordinea cadrelor. Arhitectura de bază a rămas înghețată în timpul antrenării multimodale, pentru a evita supraînvățarea.
Exemple de hărți de activare (inclusiv imagini faciale) sunt prezentate mai devreme în articol pentru activările „cu risc”, iar mai jos, pentru mostrele fără risc:

Exemple fără risc din ramura de analiză facială a studiului, care completează exemplele de mișcare cu risc prezentate mai devreme. Decupajul facial original apare în stânga, urmat de hărți de activare obținute din straturi progresiv mai profunde ale modelului de viziune DeiT-Tiny. Zonele mai calde indică răspunsuri mai puternice ale caracteristicilor și arată cum atenția modelului se deplasează și devine mai abstractă pe măsură ce imaginea trece prin rețea.
Componentele audio extrase din clipul sursă au fost reeșantionate la 16 kHz și ajustate prin normalizare și aliniere cu fereastra vizuală corespunzătoare, înainte de a fi transformate în spectrograme standardizate ale logaritmului magnitudinii, folosind o transformare Fourier de timp scurt cu 512 de puncte și o fereastră Hann de 400 de eșantioane:

Comparație între tiparele audio medii din clipurile normale și cele cu risc, înregistrate înaintea incidentului. Rândul de sus prezintă clipurile normale, iar cel de jos, clipurile cu risc, parcurgând forma de undă și spectrograma originale, apoi caracteristicile învățate la trei niveluri succesive ale rețelei. Clipurile cu risc prezintă variații mai mari în timp, inclusiv o activitate acustică sporită spre sfârșitul intervalului de patru secunde, în timp ce rețeaua transformă progresiv aceste diferențe în caracteristici de nivel superior.
Pentru componenta de mișcare, mișcările corpului au fost reduse la un set de descriptori numerici derivați din punctele-cheie COCO-17, detectate de un estimator de postură YOLO.
Au fost calculate douăsprezece măsuri, inclusiv viteza medie și viteza maximă, accelerația și rata de variație a accelerației, variația vitezei, vitezele încheieturilor și gleznelor și energia generală a mișcării. Valorile au fost normalizate în funcție de dimensiunile corpului, astfel încât persoanele cu dimensiuni corporale mai mari să nu fie considerate automat ca mișcându-se mai mult. În plus, măsurătorile pentru mai multe persoane din același clip au fost combinate.
După standardizarea în raport cu datele de antrenare, caracteristicile mișcării au fost extinse într-o reprezentare cu 64 de dimensiuni și trecute printr-un Transformer temporal, care permite analizarea schimbărilor de mișcare din clip ca secvență, nu ca cadre izolate.
Cele trei fluxuri au fost apoi îmbinate într-o singură reprezentare, ponderea cea mai mare fiind acordată aspectului facial, urmat de audio și mișcare. După normalizare și abandonare aleatorie, un clasificator final a transformat reprezentarea combinată în probabilități pentru categoriile „normal” și „cu risc”, folosind pragul de 0,5.
Pentru fluxul de analiză a aspectului facial au fost folosite trei arhitecturi de bază preantrenate pe ImageNet: Swin-Tiny, ViT-Tiny și DeiT-Tiny.
Teste
Pentru testare, clipurile au fost etichetate manual în una dintre cele patru categorii: Fără risc, Risc scăzut, Risc mediu sau Risc ridicat, pe baza comportamentului vizibil, a mișcării și a sunetului. Pentru sarcina binară finală, cele trei categorii de risc au fost grupate în categoria „cu risc”, iar Fără risc a devenit „normal”. Pentru a reduce scurgerea de date între antrenare și evaluare, clipurile provenite din același videoclip sursă au fost păstrate în aceeași partiție a setului de date.
Incidentul violent propriu-zis a fost eliminat din fiecare clip cu risc, lăsând doar comportamentul anterior, pe care modelul trebuia să-l evalueze:

Rezultatele pe setul de testare arată cum se modifică performanța atunci când aspectul facial, sunetul și mișcarea sunt folosite separat sau împreună, cu cele trei arhitecturi vizuale, iar configurația de ablație izolează contribuția fiecărui flux de intrare. Scorurile mai mari indică o performanță mai bună, iar valorile cu caractere aldine reprezintă cel mai bun rezultat pentru fiecare măsură.
Așa cum am menționat deja, cel mai bun rezultat general a fost obținut cu DeiT-Tiny, combinând toate cele trei modalități. Studiile de ablație clarifică mai bine contribuția fiecărui flux: aspectul facial a fost deja un predictor puternic de unul singur, în timp ce mișcarea a avut o performanță moderată, iar sunetul a fost considerabil mai slab când a fost folosit izolat.
Cele mai bune rezultate au fost obținute prin combinarea informațiilor faciale, audio și de mișcare, ceea ce indică faptul că fluxurile mai slabe au adăugat totuși informații complementare utile semnalului vizual.
Deși modelul a fost antrenat doar să distingă între clipurile „normale” și cele „cu risc”, rezultatele sale au fost comparate și cu etichetele inițiale, pe patru niveluri: Fără risc, Risc scăzut, Risc mediu și Risc ridicat. După cum se arată mai jos, scorul de risc prezis crește, în general, odată cu aceste categorii, în seturile de antrenare, validare și testare:

Scorurile de risc estimate pentru cele patru categorii inițiale de risc. Deși modelul a fost antrenat doar să distingă clipurile normale de cele riscante, scorurile cresc, în general, de la „Fără risc” la „Risc ridicat” în seturile de antrenare, validare și testare. Linia punctată marchează pragul de decizie de 0,50.
Autorii comentează:
„Acest rezultat este important deoarece modelul nu este antrenat niciodată în mod explicit să distingă între risc scăzut, mediu și ridicat. Chiar și așa, predicțiile sale urmează progresia nivelurilor inițiale de risc.
„Acest lucru sugerează că modelul surprinde schimbări semnificative în comportamentul premergător incidentelor, în loc să învețe doar o delimitare simplă între normal și riscant. Rezultatul oferă, de asemenea, dovezi că indicii comportamentale utile pot apărea înainte de începerea incidentului adnotat.”
Iar concluzia lor este:
„Aceste constatări sugerează că informații utile pentru diferențiere pot fi prezente în perioada premergătoare unui incident, evidențiind posibilitatea de a extinde analiza violenței dincolo de detectarea evenimentelor în desfășurare, către identificarea mai timpurie a riscurilor.”
Concluzie
Au descoperit oare cercetătorii o combinație de trăsături care precedă violența? Ei bine, experimentele s-au bazat pe doar 443 de clipuri, așa că supraînvățarea reprezintă un risc semnificativ, la care modelele multimodale și modelele vizuale preantrenate sunt deosebit de predispuse. Studiul atenuează parțial acest risc prin înghețarea rețelei vizuale de bază, repartizarea videoclipurilor-sursă în seturile de antrenare/validare/testare și testarea mai multor combinații de modalități.
Performanța ridicată pe un set de date mic nu dovedește că tiparul subiacent este evident sau chiar existent, deoarece poate reflecta, de asemenea, indicii specifice setului de date, părtinire în adnotare, scurgeri de date din surse care nu sunt surprinse de împărțirea setului sau un set de testare neobișnuit de ușor.
Dar, în forma actuală, rezultatul este intrigant tocmai pentru că setul de date este atât de mic și pentru că pare să se fi prevenit în mod adecvat supraînvățarea. Totuși, constatările ar trebui reproduse pe un set de date mai mare înainte ca tiparul învățat să poată fi considerat „robust”.
Publicat inițial joi, 1 octombrie 2026












