AI Browser Tools Gericht op het Recogneren van Deepfakes en Andere Valse Media

De inspanningen van technologiebedrijven om desinformatie en valse inhoud aan te pakken, zijn de afgelopen tijd in een hogere versnelling gegaan, aangezien geavanceerde technologieën voor het genereren van valse inhoud, zoals DeepFakes, gemakkelijker te gebruiken en verfijnder worden. Een van de komende pogingen om mensen te helpen bij het detecteren en bestrijden van deepfakes is RealityDefender, geproduceerd door de AI Foundation, die zich heeft verbonden aan de ontwikkeling van ethische AI-agents en -assistenten die gebruikers kunnen trainen om verschillende taken uit te voeren.

Het meest opvallende project van de AI Foundation is een platform dat mensen in staat stelt om hun eigen digitale persona’s te creëren die op hen lijken en hen vertegenwoordigen in virtuele ontmoetingsruimtes. De AI Foundation wordt beheerd door de Global AI Council en als onderdeel van hun mandaat moeten ze de mogelijke negatieve gevolgen van AI-platforms anticiperen en proberen deze problemen voor te zijn. Volgens VentureBeat is een van de tools die de AI Foundation heeft gecreëerd om te helpen bij het detecteren van deepfakes, Reality Defender genaamd. Reality Defender is een tool die een persoon in zijn webbrowser kan gebruiken (controleer dit), die video’s, afbeeldingen en andere soorten media zal analyseren om tekenen te detecteren die erop wijzen dat de media is vervalst of op de een of andere manier is gewijzigd. Het is de bedoeling dat de tool zal helpen om het groeiende aantal deepfakes op internet tegen te gaan, dat volgens sommige schattingen in de afgelopen zes maanden ongeveer is verdubbeld.

Reality Defender werkt door gebruik te maken van een reeks AI-gebaseerde algoritmen die aanwijzingen kunnen detecteren die erop wijzen dat een afbeelding of video is vervalst. De AI-modellen detecteren subtiele tekenen van bedrog en manipulatie, en de valse positieven die het model detecteert, worden door de gebruikers van de tool gemarkeerd als onjuist. De gegevens worden vervolgens gebruikt om het model opnieuw te trainen. AI-bedrijven die niet-misleidende deepfakes creëren, hebben hun inhoud voorzien van een “eerlijke AI”-tag of watermerk dat mensen in staat stelt om de AI-gegenereerde valse inhoud gemakkelijk te identificeren.

Reality Defender is slechts een van een reeks tools en een hele AI-verantwoordelijkheidsplatform dat de AI Foundation probeert te creëren. De AI Foundation streeft ernaar om Guardian AI te creëren, een verantwoordelijkheidsplatform dat is gebaseerd op het principe dat individuen toegang moeten hebben tot persoonlijke AI-agents die voor hen werken en die kunnen helpen om hun exploitatie door slechte actoren te beschermen. In wezen probeert de AI Foundation om zowel het bereik van AI in de samenleving uit te breiden en het toegankelijker te maken voor meer mensen, als om de risico’s van AI te beschermen.

Reality Defender is niet het enige nieuwe AI-gedreven product dat erop gericht is om desinformatie in de Verenigde Staten te verminderen. Een soortgelijk product is SurfSafe, dat is gecreëerd door twee undergraduate studenten van de UC Berkeley, Rohan Phadte en Ash Bhat. Volgens The Verge werkt SurfSafe door zijn gebruikers in staat te stellen om op een stuk media te klikken waarin ze geïnteresseerd zijn, en het programma zal een omgekeerde afbeeldingszoekopdracht uitvoeren en proberen om soortgelijke inhoud van verschillende vertrouwde bronnen op internet te vinden, waarbij afbeeldingen die bekend staan als vervalst, worden gemarkeerd.

Het is onduidelijk hoe effectief deze oplossingen op lange termijn zullen zijn. Hany Farid, professor aan het Dartmouth College en forensisch expert, werd door The Verge geciteerd als zeggende dat hij “extreem sceptisch” is over het feit dat systemen zoals Reality Defender op een betekenisvolle manier zullen werken. Farid legde uit dat een van de belangrijkste uitdagingen bij het detecteren van valse inhoud is dat media niet puur vals of echt is. Farid legde uit:

“Er is een continuüm; een ongelooflijk complexe reeks problemen om mee om te gaan. Sommige veranderingen zijn betekenisloos, en sommige veranderen fundamenteel de aard van een afbeelding. Het is ongelofelijk naïef om te denken dat we een AI kunnen trainen om het verschil te zien. En het is nog naïever om te denken dat we het kunnen crowdsourcen.”

Verder is het moeilijk om crowdsourcings-elementen op te nemen, zoals het markeren van valse positieven, omdat mensen over het algemeen niet goed zijn in het identificeren van valse afbeeldingen. Mensen maken vaak fouten en missen subtiele details die een afbeelding als vals markeren. Het is ook onduidelijk hoe om te gaan met slechte actoren die trolen wanneer ze inhoud markeren.

Het lijkt waarschijnlijk dat, om maximaal effectief te zijn, fake-detectietools moeten worden gecombineerd met digitale geletterdheidsinspanningen die mensen leren hoe ze over de inhoud die ze online tegenkomen, moeten nadenken.