AI-eksperter rangerer Deepfakes og 19 andre AI-baserte kriminalitet etter fare niveau

En ny rapport publisert av University College London hadde som mål å identifisere de mange forskjellige måtene AI kunne potensielt assistere kriminelle over de neste 15 årene. Rapporten hadde 31 forskjellige AI-eksperter som tok 20 forskjellige metoder for å bruke AI til å begå kriminalitet og rangerte disse metodene basert på forskjellige faktorer. AI-ekspertene rangerte kriminaliteten etter variabler som hvor enkelt kriminaliteten ville være å begå, det potensielle samfunns-skaden kriminaliteten kunne gjøre, hvor mye penger en kriminell kunne tjene, og hvor vanskelig kriminaliteten ville være å stoppe. Ifølge rapportens resultater utgjorde Deepfakes den største trusselen mot lovens fulde borgere og samfunnet generelt, ettersom deres potensiale for utnyttelse av kriminelle og terrorister er høyt.

AI-ekspertene rangerte deepfakes på toppen av listen over potensielle AI-trusler fordi deepfakes er vanskelige å identifisere og motvirke. Deepfakes blir stadig bedre til å narre selv øynene til deepfake-eksperter, og selv andre AI-baserte metoder for å oppdage deepfakes er ofte upålitelige. Når det gjelder deres evne til skade, kan deepfakes lett brukes av dårlige aktører til å diskreditere troverdige, ekspert-figurer eller til å forsøke å svindle mennesker ved å utgi seg for å være kjære eller andre troverdige personer. Hvis deepfakes er rikelig, kan mennesker begynne å miste tillit til alle lyd- eller video-medier, noe som kan gjøre dem til å miste troen på gyldigheten av virkelige hendelser og fakta.

Dr. Matthew Caldwell, fra UCL Computer Science, var den første forfatteren på papiret. Caldwell understreker den økende faren av deepfakes ettersom stadig mer av vår aktivitet flyttes online. Som Caldwell ble sitert av UCL News:

“I motsetning til mange tradisjonelle kriminalitet, kan kriminalitet i det digitale området lett deles, gjentas og selv selges, noe som tillater kriminelle teknikker å markedsføres og for kriminalitet å bli levert som en tjeneste. Dette betyr at kriminelle kan være i stand til å outsourcere de mer utfordrende aspektene av deres AI-baserte kriminalitet.”

Laget av eksperter rangerte fem andre nye AI-teknologier som høyt bekymringsverdige potensielle katalysatorer for nye typer kriminalitet: sjåførløse kjøretøy som brukes som våpen, hack-angrep på AI-kontrollerte systemer og enheter, online datainnsamling for formål av utpressing, AI-basert phishing med tilpassede meldinger og feilaktig nyheter/misinformasjon generelt.

Ifølge Shane Johnson, direktøren for Dawes Centre for Future Crimes ved UCL, var målet med studien å identifisere mulige trusler forbundet med nytt fremvoksende teknologi og hypotesere måter å komme foran disse truslene på. Johnson sier at ettersom hastigheten på teknologisk endring øker, er det avgjørende at “vi forutser fremtidige kriminalitets-trusler så at beslutningstakere og andre interessenter med kompetansen til å handle kan gjøre det før nye ‘kriminalitet-høster’ skjer”.

Med hensyn til de fjorten andre mulige kriminalitetene på listen, ble de delt inn i to kategorier: moderat bekymring og lav bekymring.

AI-kriminalitet av moderat bekymring inkluderer misbruk av militær-roboter, dataforgiftning, automatiserte angreps-droner, lærings-basert cyberangrep, nektelse av tjeneste-angrep for online-aktiviteter, manipulering av finansielle/aksje-markeder, slange-olje (salg av svindel-tjenester forkledt i AI/ML-terminologi) og å narre ansiktsgjenkjenning.

Lav bekymring AI-basert kriminalitet inkluderer forfalskning av kunst eller musikk, AI-assistert forfølgelse, feilaktige anmeldelser skrevet av AI, unngåelse av AI-oppdaging-metoder og “innskjennings-roboter” (roboter som bryter inn i menneskers hjem for å stjele ting).

Selvfølgelig kan AI-modeller selv brukes til å hjelpe med å bekjempe noen av disse kriminalitetene. Nylig har AI-modeller blitt deployert for å assistere i oppdaging av pengevaskings-scheme, oppdaging av mistenkelige finansielle transaksjoner. Resultatene analyseres av menneskelige operatører som deretter godkjenner eller avviser advarselen, og tilbakemeldingen brukes til å bedre trene modellen. Det ser ut til å være sannsynlig at fremtiden vil innebære at AI-er blir satt opp mot hverandre, med kriminelle som prøver å designe sine beste AI-assisterte verktøy og sikkerhet, lovhåndheving og andre etiske AI-designere som prøver å designe sine beste AI-systemer.