Eksperter i kunstig intelligens rangerer Deepfakes og 19 andre AI-baserede forbrydelser efter fare niveau

En ny rapport offentliggjort af University College London havde til formål at identificere de mange forskellige måder, hvorpå AI potentielt kan assistere kriminelle i de næste 15 år. Rapporten havde 31 forskellige AI-eksperter, der vurderede 20 forskellige metoder til at begå forbrydelser med AI, og rangerede disse metoder efter forskellige faktorer. AI-ekspertene rangerede forbrydelserne efter variabler som, hvor let forbrydelsen ville være at begå, den potentielle samfundsskade forbrydelsen kunne forvolde, det beløb en kriminel kunne tjene, og hvor svært forbrydelsen ville være at stoppe. Ifølge rapportens resultater udgjorde Deepfakes den største trussel mod lovens fuldbyrdere og samfundet generelt, da deres potentiale for udnyttelse af kriminelle og terrorister er højt.

AI-ekspertene rangerede deepfakes øverst på listen over potentielle AI-trusler, fordi deepfakes er svære at identificere og modvirke. Deepfakes bliver konstant bedre til at narre selv øjnene på deepfake-eksperter, og selv andre AI-baserede metoder til at opdage deepfakes er ofte upålidelige. I forhold til deres kapacitet for skade, kan deepfakes let bruges af dårlige aktører til at diskreditere troværdige, eksperter eller forsøge at snyde mennesker ved at udgive sig for elskede eller andre troværdige personer. Hvis deepfakes er almindelige, kan mennesker begynde at mistro enhver lyd- eller video-medie, hvilket kan føre til, at de mister troen på den faktiske gyldighed af virkelige begivenheder og fakta.

Doktor Matthew Caldwell fra UCL Computer Science var den første forfatter på artiklen. Caldwell understreger den voksende fare for deepfakes, da mere og mere af vores aktivitet flytter online. Som Caldwell citeres af UCL News:

“I modsætning til mange traditionelle forbrydelser, kan forbrydelser i den digitale verden let deles, gentages og endda sælges, hvilket tillader, at kriminelle teknikker kan markedsføres, og at forbrydelser kan tilbydes som en tjeneste. Dette betyder, at kriminelle måske kan outsourcere de mere udfordrende aspekter af deres AI-baserede forbrydelse.”

Ekspertteamet rangerede fem andre opkomne AI-teknologier som højt bekymrende potentielle katalysatorer for nye former for forbrydelser: selvstyrende køretøjer, der bruges som våben, hack-angreb på AI-styrede systemer og enheder, online-dataindsamling til formål af afpresning, AI-baseret phishing med tilpassede meddelelser og falske nyheder/misinformation generelt.

Ifølge Shane Johnson, direktøren for Dawes Centre for Future Crimes ved UCL, var formålet med studiet at identificere mulige trusler forbundet med nyopståede teknologier og at hypotesere måder at komme foran disse trusler på. Johnson siger, at da hastigheden af teknologisk forandring øges, er det afgørende, at “vi forudser fremtidige forbrydelses-trusler, således at beslutningstagerne og andre interessenter med kompetence til at handle kan gøre det, før nye ‘forbrydelseshøsten’ finder sted”.

Med hensyn til de 14 andre mulige forbrydelser på listen, blev de inddelt i to kategorier: moderat bekymring og lav bekymring.

AI-forbrydelser af moderat bekymring omfatter misbrug af militær-robotter, data-forgiftning, automatiserede angrebs-droner, læring-baserede cyberangreb, afvisning af service-angreb for online-aktiviteter, manipulation af finansielle/aktiemarkeder, slange-olie (salg af falske tjenester forkledt i AI/ML-terminologi) og narre ansigts-genkendelse.

Lav bekymring AI-baserede forbrydelser omfatter forfalskning af kunst eller musik, AI-assisteret forfølgelse, falske anmeldelser skrevet af AI, undgåelse af AI-detection-metoder og “indbrud-robotter” (robotter, der bryder ind i menneskers hjem for at stjæle ting).

Det er naturligvis muligt, at AI-modeller selv kan bruges til at bekæmpe nogle af disse forbrydelser. For nylig er AI-modeller blevet anvendt til at assistere i opdagination af pengevask-sammenlutninger, hvor AI-modellerne analyserer resultaterne, og menneskelige operatører derefter godkender eller afviser advarslen, og feedback’en bruges til at træne modellen bedre. Det ser ud til, at fremtiden vil indebære, at AI-systemer bliver sat op imod hinanden, hvor kriminelle forsøger at designe deres bedste AI-assisterede værktøjer, og sikkerhed, lovens fuldbyrdere og andre etiske AI-designere forsøger at designe deres bedste AI-systemer.