AI-experter rankar Deepfakes och 19 andra AI-baserade brott efter faronivå

En ny rapport publicerad av University College London syftade till att identifiera de många olika sätt som AI kan potentiellt assistera brottslingar under de kommande 15 åren. Rapporten hade 31 olika AI-experter som tog 20 olika metoder för att använda AI för att begå brott och rankade dessa metoder baserat på olika faktorer. AI-experterna rankade brotten enligt variabler som hur lätt brottet skulle vara att begå, den potentiella samhällsskadan brottet kunde göra, den mängd pengar en brottsling kunde tjäna och hur svårt brottet skulle vara att stoppa. Enligt rapportens resultat utgjorde Deepfakes den största hotet mot laglydiga medborgare och samhället i allmänhet, eftersom deras potential för exploatering av brottslingar och terrorister är hög.

AI-experterna rankade deepfakes överst på listan över potentiella AI-hot eftersom deepfakes är svåra att identifiera och motverka. Deepfakes blir ständigt bättre på att lura även experter på deepfakes och även andra AI-baserade metoder för att upptäcka deepfakes är ofta opålitliga. När det gäller deras förmåga att skada kan deepfakes lätt användas av illvilliga aktörer för att diskreditera trovärdiga, experter eller försöka lura människor genom att utge sig för att vara älskade eller andra trovärdiga personer. Om deepfakes är vanliga kan människor börja förlora förtroendet för alla ljud- eller videomedier, vilket kan göra att de förlorar förtroendet för verkliga händelser och fakta.

Dr. Matthew Caldwell, från UCL Computer Science, var den första författaren till artikeln. Caldwell understryker den växande faran med deepfakes allteftersom mer och mer av vår aktivitet flyttar online. Som Caldwell citerades av UCL News:

“Till skillnad från många traditionella brott kan brott i den digitala världen lätt delas, upprepas och till och med säljas, vilket gör det möjligt för brottslingar att marknadsföra och erbjuda brott som en tjänst. Detta innebär att brottslingar kan outsourca de mer utmanande aspekterna av sitt AI-baserade brott.”

Laget av experter rankade fem andra framväxande AI-teknologier som högt oroande potentiella katalysatorer för nya typer av brott: självkörande fordon som används som vapen, hackattacker mot AI-styrda system och enheter, online-datainsamling för utpressningssyften, AI-baserad phishing med anpassade meddelanden och falska nyheter/misinformation i allmänhet.

Enligt Shane Johnson, chef för Dawes Centre for Future Crimes vid UCL, var målet med studien att identifiera möjliga hot som är förknippade med nyutvecklade teknologier och hypotetiskt föreslå sätt att komma före dessa hot. Johnson säger att allteftersom teknologiförändringens hastighet ökar är det viktigt att “vi förutser framtida brottsliga hot så att beslutsfattare och andra intressenter med kompetens att agera kan göra det innan nya ‘brotts-skördar’ inträffar”.

När det gäller de fjorton andra möjliga brotten på listan delades de in i två kategorier: måttlig oro och låg oro.

AI-brott av måttlig oro inkluderar missbruk av militära robotar, dataförgiftning, automatiserade attackdrönare, inlärningsbaserade cyberattacker, avvisningsattacker för online-aktiviteter, manipulation av finansiella/aktiemarknader, orm olja (försäljning av bedrägliga tjänster i AI/ML-terminologi) och lurande ansiktsigenkänning.

Låg oro AI-baserade brott inkluderar förfalskning av konst eller musik, AI-assisterad stalkning, falska recensioner skrivna av AI, undvikande av AI-upptäcktsmetoder och “inbrottrobotar” (robotar som bryter sig in i människors hem för att stjäla saker).

Självfallet kan AI-modeller själva användas för att hjälpa till att bekämpa vissa av dessa brott. Nyligen har AI-modeller använts för att hjälpa till att upptäcka penningtvättsystem, upptäcka misstänkta finansiella transaktioner. Resultaten analyseras av mänskliga operatörer som sedan godkänner eller avvisar larmet, och feedbacken används för att ytterligare utbilda modellen. Det verkar troligt att framtiden kommer att innebära att AI-system ställs mot varandra, med brottslingar som försöker utforma sina bästa AI-assisterade verktyg och säkerhet, lagstiftning, brottsbekämpning och andra etiska AI-utvecklare som försöker utforma sina egna bästa AI-system.