AI vafraverkfæri miða að því að þekkja djúpfalsa og aðra falsa miðla

Tilraunir tæknifyrirtækja til að takast á við rangar upplýsingar og falsað efni eru að fara í háan gír á seinni tímum þar sem háþróuð tækni til að búa til falsefni eins og DeepFakes verða auðveldari í notkun og fáguð. Ein væntanleg tilraun til að hjálpa fólki að uppgötva og berjast gegn djúpfalsunum er RealityDefender, framleitt af AI Foundation, sem hefur skuldbundið sig til að þróa siðferðilega gervigreindarmenn og aðstoðarmenn sem notendur geta þjálfað til að ljúka ýmsum verkefnum.

Athyglisverðasta verkefni AI Foundation er vettvangur sem gerir fólki kleift að búa til sínar eigin stafrænu persónur sem líta út eins og þær og tákna þær í sýndarafdrepum. Alþjóðlega gervigreindarráðið hefur umsjón með gervigreindarstofnuninni og sem hluti af umboði þeirra verða þeir að sjá fyrir hugsanleg neikvæð áhrif gervigreindarkerfa og reyna síðan að komast á undan þessum vandamálum. Eins og tilkynnt var af VentureBeat, Eitt af verkfærunum sem AI Foundation hefur búið til til að aðstoða við að greina djúpfalsa er kallað Reality Defender. Reality Defender er tól sem einstaklingur getur notað í vafranum sínum (athugaðu það), sem mun greina myndbönd, myndir og aðrar tegundir miðla til að greina merki um að fjölmiðlar hafi verið falsaðir eða breytt á einhvern hátt. Vonast er til að tólið muni hjálpa til við að vinna gegn auknu flæði djúpfalsa á internetinu, sem samkvæmt sumum áætlunum hefur um það bil tvöfaldast á undanförnum sex mánuðum.

Raunveruleikavörður starfar með því að nota margs konar reiknirit sem byggir á gervigreindum sem geta greint vísbendingar sem benda til þess að mynd eða myndband gæti hafa verið falsað. Gervigreindarlíkönin greina lúmsk merki um brögð og meðhöndlun og rangar jákvæðar upplýsingar sem líkanið finnur eru merktar sem rangar af notendum tólsins. Gögnin eru síðan notuð til að endurþjálfa líkanið. Gervigreindarfyrirtæki sem búa til djúpfalsa sem ekki eru villandi eru með innihald þeirra merkt með „heiðarlegu gervigreindarmerki“ eða vatnsmerki sem gerir fólki kleift að bera kennsl á gervigreindarfalsana.

Reality Defender er bara eitt af verkfærum og heilum AI ábyrgðarvettvangi sem AI Foundation er að reyna að búa til. AI Foundation er að leitast við að búa til Guardian AI, ábyrgðarvettvang byggt á þeirri forsendu að einstaklingar ættu að hafa aðgang að persónulegum AI umboðsmönnum sem vinna fyrir þá og sem geta hjálpað til við að verjast misnotkun þeirra af slæmum leikendum. Í meginatriðum stefnir AI Foundation að því að auka umfang gervigreindar í samfélaginu, koma því til fleiri fólks, en jafnframt að verjast áhættunni af gervigreind.

Reality Defender er ekki eina nýja AI-drifna varan sem miðar að því að draga úr röngum upplýsingum um Bandaríkin. Svipuð vara er kölluð SurfSafe, sem var búin til af tveimur grunnnámi frá UC Berkeley, Rohan Phadte og Ash Bhat. Samkvæmt The Verge, SurfSafe starfar með því að leyfa notendum sínum að smella á miðil sem þeir eru forvitnir um og forritið mun framkvæma öfuga myndaleit og reyna að finna svipað efni frá ýmsum traustum aðilum á netinu, flagga myndir sem vitað er að eru læknir.

Það er óljóst hversu árangursríkar þessar lausnir verða til lengri tíma litið. Dartmouth College prófessor og réttar sérfræðingur The Verge vitnaði í Hany Farid eins og að segja að hann sé "mjög efins" um að áætlanir kerfi eins og Reality Defender muni virka í þýðingarmikilli getu. Farid útskýrði að ein af helstu áskorunum við að greina falsað efni sé að fjölmiðlar séu ekki eingöngu falsaðir eða raunverulegir. Farid útskýrði:

„Það er samfella; ótrúlega flókið úrval mála sem þarf að takast á við. Sumar breytingar eru tilgangslausar og sumar breyta eðli myndar í grundvallaratriðum. Að láta eins og við getum þjálfað gervigreind til að koma auga á muninn er ótrúlega barnalegt. Og að láta eins og við getum hópaðboð er það enn meira."

Ennfremur er erfitt að fela í sér hópútgáfuþætti, eins og að merkja rangar jákvæðar upplýsingar, vegna þess að menn eru yfirleitt frekar lélegir í að bera kennsl á falsmyndir. Menn gera oft mistök og missa af fíngerðum smáatriðum sem merkja mynd sem falsa. Það er líka óljóst hvernig á að takast á við leikara í illum trúum sem trolla þegar þeir flagga efni.

Það virðist líklegt að til að vera sem mest áhrifarík þurfi að sameina verkfæri til að finna falsa með stafrænu læsi sem kennir fólki hvernig á að rökræða um efni sem það hefur samskipti við á netinu.