AI-experts rangschikken Deepfakes en 19 andere AI-gebaseerde misdrijven op basis van gevaarniveau

Een nieuw rapport dat is gepubliceerd door University College London, had als doel om de vele verschillende manieren te identificeren waarop AI mogelijk criminele activiteiten kan ondersteunen in de komende 15 jaar. Het rapport had 31 verschillende AI-experts die 20 verschillende methoden van het gebruik van AI om misdrijven te plegen, hebben gerangschikt op basis van verschillende factoren. De AI-experts rangschikten de misdrijven volgens variabelen zoals hoe gemakkelijk het misdrijf te plegen zou zijn, het potentieel voor maatschappelijke schade dat het misdrijf zou kunnen veroorzaken, het bedrag aan geld dat een crimineel zou kunnen verdienen en hoe moeilijk het misdrijf zou zijn om te stoppen. Volgens de resultaten van het rapport vormen Deepfakes de grootste bedreiging voor de wetsovertredende burgers en de samenleving in het algemeen, omdat hun potentieel voor exploitatie door criminelen en terroristen hoog is.

De AI-experts rangschikten deepfakes bovenaan de lijst van potentiële AI-bedreigingen omdat deepfakes moeilijk te identificeren en tegen te werken zijn. Deepfakes worden steeds beter in het misleiden van zelfs de ogen van deepfake-experts en zelfs andere AI-gebaseerde methoden voor het detecteren van deepfakes zijn vaak onbetrouwbaar. Wat betreft hun capaciteit voor schade, kunnen deepfakes gemakkelijk worden gebruikt door slechte actoren om vertrouwde, deskundige figuren te diskwalificeren of om te proberen mensen te bedriegen door zich voor te doen als geliefden of andere vertrouwde personen. Als deepfakes overvloedig zijn, kunnen mensen beginnen te twijfelen aan elke audio- of videomedia, wat kan leiden tot een verlies van vertrouwen in de geldigheid van echte gebeurtenissen en feiten.

Dokter Matthew Caldwell, van de afdeling Computer Science van UCL, was de eerste auteur van het artikel. Caldwell benadrukt de groeiende gevaar van deepfakes naarmate meer en meer van onze activiteiten online plaatsvinden. Volgens Caldwell, zoals geciteerd door UCL News:

“In tegenstelling tot veel traditionele misdrijven, kunnen misdrijven in de digitale wereld gemakkelijk worden gedeeld, herhaald en zelfs verkocht, waardoor criminelen hun technieken kunnen verkopen en misdrijven als een dienst kunnen aanbieden. Dit betekent dat criminelen mogelijk in staat zijn om de moeilijkere aspecten van hun AI-gebaseerde misdrijf uit te besteden.”

Het team van experts rangschikte vijf andere opkomende AI-technologieën als zeer zorgwekkende potentiële katalysatoren voor nieuwe soorten misdrijven: autonome voertuigen die als wapens worden gebruikt, hack-aanvallen op AI-gecontroleerde systemen en apparaten, online gegevensverzameling voor chantage, AI-gebaseerde phishing met aangepaste berichten en nepnieuws/misleidende informatie in het algemeen.

Volgens Shane Johnson, de directeur van het Dawes Centre for Future Crimes van UCL, was het doel van de studie om mogelijke bedreigingen in verband met nieuw opkomende technologieën te identificeren en manieren te hypotheseren om deze bedreigingen voor te zijn. Johnson zegt dat naarmate de snelheid van technologische veranderingen toeneemt, het essentieel is dat “we toekomstige bedreigingen anticiperen, zodat beleidsmakers en andere stakeholders met de competentie om te handelen, kunnen doen voordat nieuwe ‘oogsten van misdrijven’ plaatsvinden”.

Wat betreft de veertien andere mogelijke misdrijven op de lijst, werden deze ingedeeld in twee categorieën: matige zorg en lage zorg.

AI-misdrijven van matige zorg omvatten het misbruik van militaire robots, gegevensvergiftiging, geautomatiseerde aanvalsdrones, leer-gebaseerde cyberaanvallen, denial of service-aanvallen voor online activiteiten, manipulatie van financiële/aandelenmarkten, slangolie (verkoop van frauduleuze diensten verhuld in AI/ML-terminologie) en het misleiden van gezichtsherkenning.

Lage zorg AI-gebaseerde misdrijven omvatten de vervalsing van kunst of muziek, AI-ondersteund stalken, valse recensies geschreven door AI, het ontwijken van AI-detectiemethoden en “inbrekersbots” (bots die inbreken in mensenhuizen om dingen te stelen).

Natuurlijk kunnen AI-modellen zelf worden gebruikt om sommige van deze misdrijven te helpen bestrijden. Onlangs zijn AI-modellen ingezet om te helpen bij het detecteren van geldwitschermingschema’s, het detecteren van verdachte financiële transacties. De resultaten worden geanalyseerd door menselijke operators die vervolgens de waarschuwing goedkeuren of afwijzen, en de feedback wordt gebruikt om het model verder te trainen. Het lijkt waarschijnlijk dat de toekomst zal bestaan uit AIs die tegen elkaar worden uitgespeeld, met criminelen die proberen hun beste AI-ondersteunde tools te ontwerpen en beveiliging, rechtshandhaving en andere ethische AI-ontwerpers die proberen hun eigen beste AI-systemen te ontwerpen. Het lijkt waarschijnlijk dat de toekomst zal bestaan uit AIs die tegen elkaar worden uitgespeeld, met criminelen die proberen hun beste AI-ondersteunde tools te ontwerpen en beveiliging, rechtshandhaving en andere ethische AI-ontwerpers die proberen hun eigen beste AI-systemen te ontwerpen, of de waarschuwing afwijzen, en de feedback wordt gebruikt om het model verder te trainen. Het lijkt waarschijnlijk dat de toekomst zal bestaan uit AIs die tegen elkaar worden uitgespeeld, met criminelen die proberen hun beste AI-ondersteunde tools te ontwerpen en beveiliging, rechtshandhaving en andere ethische AI-ontwerpers die proberen hun eigen beste AI-systemen te ontwerpen, of de waarschuwing afwijzen, en de feedback wordt gebruikt om het model verder te trainen. Het lijkt waarschijnlijk dat de toekomst zal bestaan uit AIs die tegen elkaar worden uitgespeeld, met criminelen die proberen hun beste AI-ondersteunde tools te ontwerpen en beveiliging, rechtshandhaving en andere ethische AI-ontwerpers die proberen hun eigen beste AI-systemen te ontwerpen, of de waarschuwing afwijzen, en de feedback wordt gebruikt om het model verder te trainen. Het lijkt waarschijnlijk dat de toekomst zal bestaan uit AIs die tegen elkaar worden uitgespeeld, met criminelen die proberen hun beste AI-ondersteunde tools te ontwerpen en beveiliging, rechtshandhaving en andere ethische AI-ontwerpers die proberen hun eigen beste AI-systemen te ontwerpen, of de waarschuwing afwijzen, en de feedback wordt gebruikt om het model verder te trainen. Het lijkt waarschijnlijk dat de toekomst zal bestaan uit AIs die tegen elkaar worden uitgespeeld, met criminelen die proberen hun beste AI-ondersteunde tools te ontwerpen en beveiliging, rechtshandhaving en andere ethische AI-ontwerpers die proberen hun eigen beste AI-systemen te ontwerpen, of de waarschuwing afwijzen, en de feedback wordt gebruikt om het model verder te trainen. Het lijkt waarschijnlijk dat de toekomst zal bestaan uit AIs die tegen elkaar worden uitgespeeld, met criminelen die proberen hun beste AI-ondersteunde tools te ontwerpen en beveiliging, rechtshandhaving en andere ethische AI-ontwerpers die proberen hun eigen beste AI-systemen te ontwerpen, of de waarschuwing afwijzen, en de feedback wordt gebruikt om het model verder te trainen. Het lijkt waarschijnlijk dat de toekomst zal bestaan uit AIs die tegen elkaar worden uitgespeeld, met criminelen die proberen hun beste AI-ondersteunde tools te ontwerpen en beveiliging, rechtshandhaving en andere ethische AI-ontwerpers die proberen hun eigen beste AI-systemen te ontwerpen, of de waarschuwing afwijzen, en de feedback wordt gebruikt om het model verder te trainen.