Meie alateadlikud süvavõltsingute tuvastamise oskused võivad tulevasi automatiseeritud süsteeme toita

Uued Austraalia uuringud näitavad, et meie aju tunneb osavalt ära keerukaid süvavõltsinguid, isegi kui me usume teadlikult, et pildid, mida näeme, on tõelised.

See leid viitab ka võimalusele kasutada inimeste närvireaktsioone sügavale võltsitud nägudele (mitte nende avaldatud arvamustele), et koolitada automatiseeritud süvavõltsingute tuvastamise süsteeme. Selliseid süsteeme õpetataks piltide sügavate võltsimisomaduste järgi mitte segaste usutavuse hinnangute, vaid meie näo identiteedi tuvastamise instinktiivsete tajumehhanismide põhjal.

"Kuigi aju suudab "ära tunda" erinevust tõeliste ja realistlike nägude vahel, ei suuda vaatlejad neid teadlikult eristada. Meie järeldused aju reaktsiooni ja käitumise vahelisest dissotsiatsioonist mõjutavad seda, kuidas uurime võltsnäo tajumist, küsimusi, mida esitame, kui küsime võltspildi tuvastamise kohta, ja võimalikke viise, kuidas kehtestada kaitsestandardid võltspiltide väärkasutuse vastu.

Tulemused selgusid testimisvoorudes, mille eesmärk oli hinnata, kuidas inimesed reageerivad valepiltidele, sealhulgas ilmselgelt võltsnägudele, autodele, siseruumidele ja ümberpööratud (st tagurpidi) nägudele.

Erinevad iteratsioonid ja katsete lähenemisviisid, mis hõlmasid kahte katsealuste rühma, kes pidid lühidalt näidatud kujutise liigitama "võltsiks" või "päris". Esimene voor toimus Amazon Mechanical Turkis, kus osales 200 vabatahtlikku, samas kui teises voorus osales väiksem arv vabatahtlikke, kes vastasid testidele, olles ühendatud EEG-masinatega. Allikas: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf

Leht kinnitab:

"Meie tulemused näitavad, et vaatlejatel võib vaid põgusa pilguga näha võltsnägusid. Neil on aga raskem eristada tõelisi nägusid võltsnägudest ja mõnel juhul uskusid nad, et võltsnäod on tõelisemad kui pärisnäod.

"Kuid kasutades ajalahutusega EEG ja mitme muutujaga mustrite klassifitseerimise meetodeid, leidsime, et ajutegevuse abil oli võimalik dekodeerida nii ebareaalseid kui ka realistlikke nägusid päris nägudest.

"See dissotsiatsioon käitumise ja neuraalsete reaktsioonide vahel realistlike nägude puhul annab olulisi uusi tõendeid võltsnäo tajumise kohta, samuti tagajärgi, mis hõlmavad üha realistlikumat GAN-i loodud nägude klassi."

Dokumendis leitakse, et uuel tööl on rakendatud küberjulgeolekule „mitu mõju” ja et süvavõltsõppe klassifikaatorite väljatöötamist peaks võib-olla juhtima alateadlik reaktsioon, mida mõõdetakse EEG-näitude põhjal vastusena võltspiltidele, mitte vaataja teadlikust hinnangust. pildi õigsusest.

Autorid kommenteerivad*:

"See tuletab meelde järeldusi, et prosopagnosiaga isikud, kes ei suuda käitumuslikult klassifitseerida ega tunnustada nägusid tuttavateks või võõrasteks, näitavad siiski tugevamat autonoomset reaktsiooni tuttavatele nägudele kui võõrad näod.

"Samamoodi oleme selles uuringus näidanud, et kuigi me suutsime täpselt dekodeerida erinevusi reaalsete ja realistlike nägude vahel närvitegevusest, ei ilmnenud seda erinevust käitumises. Selle asemel tuvastasid vaatlejad valesti, et 69% tegelikest nägudest on võlts.

. uus töö on pealkirjaga Kas sa oled tõsi? Realistlike AI-ga loodud nägude dekodeerimine närvitegevusestja pärineb neljalt Sydney ülikooli, Macquarie ülikooli, Lääne-Sydney ülikooli ja Queenslandi ülikooli teadlaselt.

kuupäev

Tulemused selgusid kahe testivooru jooksul läbi viidud laiemast uuringust inimese võime kohta eristada ilmselgelt valesid, hüperrealistlikke (kuid siiski valesid) ja tõelisi pilte.

Teadlased kasutasid Generative Adversarial Networks (GAN) loodud pilte, jagatud NVIDIA poolt.

NVIDIA poolt kättesaadavaks tehtud GAN-i loodud inimnäopildid. Source: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam

Andmed hõlmasid 25 nägu, autot ja magamistuba renderdustasemetel, mis ulatusid ebareaalsest kuni realistlikuni. Nägude võrdlemiseks (st sobiva mittevõltsmaterjali jaoks) kasutasid autorid valikuid NVIDIA allika Flickr-Faces-HQ (FFHQ) lähteandmetest. andmestik. Teiste stsenaariumide võrdlemiseks kasutasid nad materjale LSUN andmestik.

Pilte esitatakse katsealusele lõpuks kas õiges suunas ülespoole või ümberpööratult ja erinevatel sagedustel, kusjuures kõigi piltide suurus muudetakse 256 × 256 pikslile.

Pärast kogu materjali kokkupanemist kureeriti testide jaoks 450 stiimulipilti.

Katseandmete esinduslikud näited.

Testid

Testid ise viidi esialgu läbi veebis, läbi jsPsych saidil pavlovia.org, kus 200 osalejat hindasid kogutud testimisandmete erinevaid alarühmi. Pilte esitati 200 ms, millele järgnes tühi ekraan, mis püsis seni, kuni vaataja otsustas, kas vilkuv pilt on tõeline või võlts. Iga pilti esitati ainult üks kord ja kogu testi täitmiseks kulus 3–5 minutit.

Teises ja paljastavamas voorus kasutati EEG-monitoridega varustatud isikuid ja seda esitleti Psühhoopia 2 platvorm. Kõik kahekümnest jadast sisaldasid 40 pilti, millest 18,000 XNUMX pilti esitati kogu katseandmete osa kohta.

Kogutud EEG-andmed dekodeeriti MATLAB-i kaudu CoSMoMVPA tööriistakastiga, kasutades a jäta-üks-välja ristvalideerimine Lineaarse diskrimineeriva analüüsi skeem (LDA).

LDA klassifikaator oli komponent, mis suutis eristada aju reaktsiooni võltsitud stiimulitele ja katsealuse enda arvamust selle kohta, kas pilt oli võlts.

Tulemused

Soovides näha, kas EEG katsealused suudavad vahet teha võlts- ja tõeliste nägude vahel, koondasid ja töötlesid teadlased tulemused, leides, et osalejad suudavad kergesti eristada tõelisi nägusid ebareaalsetest nägudest, kuid ilmselt oli neil raske tuvastada realistlikke GAN-i loodud võltsnägusid. Sellel, kas pilt oli tagurpidi või mitte, näis olevat vähe vahet.

Tegelike ja sünteetiliselt loodud nägude käitumuslik diskrimineerimine, teises voorus.

EEG andmed rääkisid aga hoopis teist juttu.

Dokumendis öeldakse:

„Kuigi vaatlejatel oli raskusi tõeliste nägude eristamisega võltsnägudest ja nad kaldusid võltsnägusid üle klassifitseerima, sisaldasid EEG-andmed selle eristuse jaoks asjakohast signaaliteavet, mis sisuliselt erines realistliku ja ebareaalse vahel, ning see signaal näis olevat piiratud suhteliselt lühikese töötlemisetapiga. '

Siin ei ole erinevused EEG täpsuse ja katsealuste arvamuse vahel (st selle kohta, kas näokujutised olid võltsitud või mitte) identsed, kuna EEG-võtted jõuavad tõele lähemale kui asjassepuutuvate inimeste ilmne taju.

Uurijad järeldavad, et kuigi vaatlejatel võib olla raskusi võltsnägude vaikiva tuvastamisega, on neil nägudel "inimese visuaalses süsteemis selged kujutised".

Leitud erinevus on pannud teadlased spekuleerima nende leidude võimaliku kohaldatavuse üle tulevaste turvamehhanismide jaoks:

„Rakenduskeskkonnas, nagu küberturvalisus või sügavad võltsingud, võib realistlike nägude tuvastamise võimet paremini uurida masinõppe klassifikaatorite abil, mida rakendatakse neuropiltide andmetele, selle asemel, et sihtida käitumuslikku jõudlust.”

Nad järeldavad:

"Aju ja käitumise vahelise lahknevuse mõistmine võltsnäotuvastuse jaoks avaldab praktilist mõju sellele, kuidas me võitleme kunstlikult loodud teabe potentsiaalselt kahjuliku ja universaalse leviku vastu."

* Muudan tekstisisesed tsitaadid hüperlinkideks.

Esmakordselt avaldatud 11. juulil 2022.