AI-experter rankar Deepfakes och 19 andra AI-baserade brott efter faronivå

En ny rapport publicerad av University College London syftade till att identifiera de många olika sätt som AI potentiellt kan hjälpa brottslingar under de kommande 15 åren. Rapporten hade 31 olika AI-experter som tog 20 olika metoder för att använda AI för att begå brott och rankade dessa metoder baserat på olika faktorer. AI-experterna rankade brotten enligt variabler som hur lätt brottet skulle vara att begå, den potentiella samhällsskada brottet kunde göra, den mängd pengar en brottsling kunde tjäna och hur svårt brottet skulle vara att stoppa. Enligt rapportens resultat utgjorde Deepfakes den största hotet mot laglydiga medborgare och samhället i allmänhet, eftersom deras potential för exploatering av brottslingar och terrorister är hög.

AI-experterna rankade deepfakes högst på listan över potentiella AI-hot eftersom deepfakes är svåra att identifiera och motverka. Deepfakes blir ständigt bättre på att lura även experter på deepfakes och även andra AI-baserade metoder för att upptäcka deepfakes är ofta opålitliga. När det gäller deras förmåga att skada kan deepfakes lätt användas av illasinnade aktörer för att diskreditera trovärdiga, experter eller för att försöka lura människor genom att utge sig för att vara älskade eller andra trovärdiga personer. Om deepfakes är rikliga kan människor börja förlora förtroendet för alla ljud- eller videomedier, vilket kan göra att de förlorar tron på den faktiska händelsens och faktans giltighet.

Dr. Matthew Caldwell, från UCL Computer Science, var den första författaren till artikeln. Caldwell understryker den växande faran med deepfakes allteftersom allt mer av vår aktivitet flyttar online. Som Caldwell citerades av UCL News:

“Till skillnad från många traditionella brott kan brott i den digitala världen lätt delas, upprepas och till och med säljas, vilket gör att brottsliga tekniker kan marknadsföras och att brott kan tillhandahållas som en tjänst. Detta innebär att brottslingar kan outsourca de mer utmanande aspekterna av deras AI-baserade brott.”

Experterna rankade fem andra nyutvecklade AI-teknologier som högt oroande potentiella katalysatorer för nya typer av brott: självkörande fordon som används som vapen, hackattacker mot AI-kontrollerade system och enheter, onlineinsamling av data för utpressningssyften, AI-baserad phishing med anpassade meddelanden och falska nyheter/misinformation i allmänhet.

Enligt Shane Johnson, chef för Dawes Centre for Future Crimes vid UCL, var målet med studien att identifiera möjliga hot som är förknippade med nyutvecklade teknologier och hypotetiskt visa hur man kan komma före dessa hot. Johnson säger att allteftersom teknologiförändringens hastighet ökar är det viktigt att “vi förutser framtida brottsliga hot så att beslutsfattare och andra intressenter med kompetens att agera kan göra det innan nya ‘brottskalender’ inträffar”.

När det gäller de fjorton andra möjliga brotten på listan delades de in i två kategorier: måttlig oro och låg oro.

AI-brott av måttlig oro inkluderar missbruk av militära robotar, dataförgiftning, automatiserade attackdrönare, inlärningsbaserade cyberattacker, nekade tjänster för onlineaktiviteter, manipulation av finansiella/aktiemarknader, orm olja (försäljning av bedrägliga tjänster i AI/ML-terminologi) och lurande av ansiktsigenkänning.

Låg oro AI-baserade brott inkluderar förfalskning av konst eller musik, AI-assisterad stalkning, falska recensioner skrivna av AI, undvikande av AI-upptäcktsmetoder och “inbrottrobotar” (robotar som bryter sig in i människors hem för att stjäla saker).

Naturligtvis kan AI-modeller själva användas för att bekämpa vissa av dessa brott. Nyligen har AI-modeller använts för att hjälpa till att upptäcka penningtvättsystem, upptäcka misstänkta finansiella transaktioner. Resultaten analyseras av mänskliga operatörer som sedan godkänner eller avvisar larmet, och feedbacken används för att ytterligare utbilda modellen. Det verkar troligt att framtiden kommer att innebära att AI:s sätts mot varandra, med brottslingar som försöker utveckla sina bästa AI-assisterade verktyg och säkerhet, brottsbekämpning och andra etiska AI-utvecklare som försöker utveckla sina bästa AI-system.