Mūsu zemapziņas dziļās viltojumu noteikšanas prasmes varētu dot spēku nākotnes automatizētajām sistēmām

Jauni Austrālijas pētījumi liecina, ka mūsu smadzenes spēj atpazīt izsmalcinātus viltojumus, pat ja mēs apzināti ticam, ka redzamie attēli ir īsti.

Atklājums turklāt nozīmē iespēju izmantot cilvēku neironu reakcijas uz dziļi viltotām sejām (nevis viņu izteikto viedokli), lai apmācītu automatizētas viltotu viltojumu noteikšanas sistēmas. Šādas sistēmas tiktu apmācītas par attēlu dziļajām viltus īpašībām, nevis no neskaidriem ticamības aprēķiniem, bet gan no mūsu instinktīvajiem uztveres mehānismiem sejas identitātes atpazīšanai.

"Lai gan smadzenes var "atpazīt" atšķirību starp īstām un reālistiskām sejām, novērotāji nevar tās apzināti atšķirt. Mūsu atklājumi par smadzeņu reakcijas un uzvedības disociāciju ietekmē to, kā mēs pētām viltotu seju uztveri, jautājumus, ko uzdodam, jautājot par viltus attēlu identifikāciju, un iespējamos veidus, kā mēs varam noteikt aizsardzības standartus pret viltus attēlu ļaunprātīgu izmantošanu.

Rezultāti tika iegūti pārbaužu kārtās, lai novērtētu veidu, kā cilvēki reaģē uz nepatiesiem attēliem, tostarp attēliem ar acīmredzami viltotām sejām, automašīnām, salona telpām un apgrieztām (ti, apgrieztām) sejām.

Dažādas iterācijas un pieejas eksperimentiem, kas ietvēra divas testa subjektu grupas, kurām īsi parādīts attēls bija jāklasificē kā “viltots” vai “īsts”. Pirmā kārta notika Amazon Mechanical Turk, kurā piedalījās 200 brīvprātīgo, savukārt otrajā kārtā bija mazāks skaits brīvprātīgo, kas atbildēja uz testiem, vienlaikus pieslēdzoties EEG aparātiem. Avots: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf

Papīrs apgalvo:

"Mūsu rezultāti parāda, ka, tikai īsi ieskatoties, novērotāji var pamanīt viltotas sejas. Tomēr viņiem ir grūtāk atšķirt īstās sejas no viltotām sejām, un dažos gadījumos viņi uzskata, ka viltotas sejas ir īstākas nekā īstas.

"Tomēr, izmantojot laika izšķirtspējas EEG un daudzfaktoru modeļu klasifikācijas metodes, mēs atklājām, ka, izmantojot smadzeņu darbību, ir iespējams atšifrēt gan nereālas, gan reālas sejas no reālām sejām.

"Šī disociācija starp uzvedību un neironu reakcijām reālistiskām sejām rada svarīgus jaunus pierādījumus par viltotu seju uztveri, kā arī ietekmi, kas ietver arvien reālistiskāku GAN radīto seju klasi."

Rakstā norādīts, ka jaunajam darbam ir “vairākas ietekmes” uz lietišķo kiberdrošību un ka dziļi viltotu mācību klasifikatoru izstrāde, iespējams, būtu jāvada zemapziņas reakcijai, ko mēra EEG rādījumos, reaģējot uz viltotiem attēliem, nevis skatītāja apzinātiem novērtējumiem. attēla patiesumu.

Autoru komentārs*:

"Tas atgādina konstatējumus, ka indivīdi ar prozopagnosiju, kuri nevar uzvedībā klasificēt vai atpazīt sejas kā pazīstamas vai nepazīstamas, tomēr izrāda spēcīgāku autonomu reakciju uz pazīstamām sejām nekā nepazīstamas sejas.

"Līdzīgi šajā pētījumā mēs esam parādījuši, ka, lai gan mēs varējām precīzi atšifrēt atšķirību starp reālajām un reālajām sejām no nervu darbības, šī atšķirība netika novērota uzvedībā. Tā vietā novērotāji nepareizi identificēja 69% īsto seju kā viltotas.

Jūsu darbs IR Klientu apkalpošana jauns darbs tiek nosaukts Vai tu esi pa īstam? Reālistisku mākslīgā intelekta radītu seju atšifrēšana no neironu darbības, un nāk no četriem pētniekiem no Sidnejas Universitātes, Macquarie universitātes, Rietumsidnejas universitātes un Kvīnslendas universitātes.

Datums

Rezultāti tika iegūti, veicot plašāku pārbaudi par cilvēka spēju atšķirt acīmredzami nepatiesus, hiperreālistiskus (bet tomēr nepatiesus) un reālus attēlus, kas tika veikti divās pārbaudes kārtās.

Pētnieki izmantoja attēlus, ko radīja ģeneratīvie pretrunīgie tīkli (GAN), dalīta ar NVIDIA.

GAN ģenerēti cilvēka sejas attēli, kas pieejami NVIDIA. Source: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam

Dati ietvēra 25 sejas, automašīnas un guļamistabas renderēšanas līmeņos no “nereāla” līdz “reālistiskam”. Seju salīdzināšanai (ti, piemērotam materiālam, kas nav viltots), autori izmantoja atlasi no NVIDIA avota Flickr-Faces-HQ (FFHQ) avota datiem. datu kopa. Lai salīdzinātu citus scenārijus, viņi izmantoja materiālus no LSUN datu kopa.

Galu galā attēli testa subjektam tiks parādīti vai nu pareizi uz augšu, vai apgriezti, un dažādās frekvenču diapazonā, visu attēlu izmēriem mainot uz 256 × 256 pikseļiem.

Pēc visa materiāla apkopošanas testiem tika atlasīti 450 stimulu attēli.

Pārbaudes datu reprezentatīvi piemēri.

Testi

Paši testi sākotnēji tika veikti tiešsaistē, izmantojot jsPsych vietnē pavlovia.org, kurā 200 dalībnieki vērtēja dažādas kopējo apkopoto testēšanas datu apakškopas. Attēli tika rādīti 200 ms, kam sekoja tukšs ekrāns, kas saglabājās, līdz skatītājs pieņems lēmumu par to, vai mirgojošais attēls ir īsts vai viltots. Katrs attēls tika parādīts tikai vienu reizi, un visa testa aizpildīšana aizņēma 3–5 minūtes.

Otrajā un atklājošākajā kārtā tika izmantoti klātienes subjekti, kas tika komplektēti ar EEG monitoriem, un tas tika prezentēts Psihopija 2 platforma. Katrā no divdesmit sekvencēm bija 40 attēli ar 18,000 XNUMX attēliem visā testa datu daļā.

Iegūtie EEG dati tika atšifrēti, izmantojot MATLAB ar CoSMoMVPA rīklodziņu, izmantojot a atstājiet vienu-out savstarpēju apstiprinājumu shēma saskaņā ar lineāro diskriminantu analīzi (LTD).

LDA klasifikators bija komponents, kas spēja atšķirt smadzeņu reakciju uz viltus stimuliem un paša subjekta viedokli par to, vai attēls ir viltots.

rezultāti

Vēloties uzzināt, vai EEG testa subjekti var atšķirt viltotās un īstās sejas, pētnieki apkopoja un apstrādāja rezultātus, atklājot, ka dalībnieki var viegli atšķirt īstās sejas no nereālām, taču acīmredzot viņiem bija grūti identificēt reālistiskas, GAN ģenerētas viltus sejas. Neatkarīgi no tā, vai attēls bija apgriezts otrādi, nebija lielas atšķirības.

Reālu un sintētiski ģenerētu seju uzvedības diskriminācija, otrajā kārtā.

Tomēr EEG dati stāstīja citu stāstu.

Darbā teikts:

“Lai gan novērotājiem bija grūtības atšķirt īstas sejas no viltus, un viņiem bija tendence pārmērīgi klasificēt viltotas sejas, EEG datos bija signāla informācija, kas attiecas uz šo atšķirību, kas būtiski atšķīrās starp reālistisku un nereālu, un šis signāls, šķiet, bija ierobežots ar salīdzinoši īsu apstrādes posmu. '

Šeit atšķirības starp EEG precizitāti un ziņoto subjektu viedokli (ti, vai sejas attēli bija viltoti) nav identiski, jo EEG tveršana kļūst tuvāk patiesībai nekā iesaistīto cilvēku acīmredzamā uztvere.

Pētnieki secina, ka, lai gan novērotājiem var rasties grūtības klusējot identificēt viltotas sejas, šīm sejām ir "cilvēka vizuālajā sistēmā atšķirīgi attēlojumi".

Atklātā atšķirība ir likusi pētniekiem spekulēt par viņu atklājumu iespējamo pielietojamību nākotnes drošības mehānismiem:

“Lietotos apstākļos, piemēram, kiberdrošībā vai Deepfakes, reālistisku seju noteikšanas spējas pārbaudi vislabāk var veikt, izmantojot mašīnmācīšanās klasifikatorus, ko izmanto neiroattēlu datiem, nevis mērķējot uz uzvedības veiktspēju.

Viņi secina:

"Izpratne par disociāciju starp smadzenēm un uzvedību viltotu seju atklāšanā praktiski ietekmēs veidu, kā mēs risināsim mākslīgi radītas informācijas potenciāli kaitīgo un universālo izplatību."

* Mana iekļauto citātu pārvēršana par hipersaitēm.

Pirmo reizi publicēts 11. gada 2022. jūlijā.