AI-systeem transformeert zichzelf automatisch om censuurpogingen te ontwijken

Onderzoek dat is uitgevoerd door wetenschappers aan de University of Maryland (UMD) heeft een AI-gebaseerd programma gecreëerd dat zichzelf kan transformeren om censuurpogingen op internet te ontwijken. Volgens TechXplore zijn autoritaire regeringen die internet censureren en ingenieurs die proberen censuurpogingen te weerstaan, verwikkeld in een wapenwedloop, waarbij elke partij probeert de andere te overtroeven. Het leren om censuurtechnieken te omzeilen, duurt meestal langer dan het ontwikkelen van censuurtechnieken, maar een nieuw systeem dat is ontwikkeld door het team van de University of Maryland, kan het gemakkelijker en sneller maken om censuurpogingen te ontwijken.

Het door het onderzoeksteam uitgevonden instrument heet Geneva, wat staat voor Genetic Evasion. Het instrument kan censuurpogingen ontwijken door bugs en fouten in de logica van censors te exploiteren, die moeilijk te vinden zijn voor mensen.

Informatie op internet wordt vervoerd in de vorm van pakketten. Kleine stukjes gegevens beginnen bij de computer van de afzender, waar ze worden ontmanteld en naar de computer van de ontvanger worden gestuurd. Wanneer ze aankomen bij de computer van de ontvanger, wordt de informatie opnieuw samengesteld. Een veelvoorkomende methode om internet te censureren is het monitoren van pakketgegevens die worden gegenereerd wanneer er een zoekopdracht wordt uitgevoerd op internet. Nadat deze pakketgegevens zijn gemonitord, kan de censor resultaten voor bepaalde verboden trefwoorden of domeinnamen blokkeren.

Geneva werkt door de manier te wijzigen waarop de pakketgegevens daadwerkelijk worden opgesplitst en overgedragen. Dit betekent dat de censuuralgoritmen de zoekopdrachten of resultaten niet classificeren als verboden inhoud, of anderszins niet in staat zijn de verbinding te blokkeren.

Geneva maakt gebruik van een genetisch algoritme, een soort algoritme dat is geïnspireerd op biologische processen. Geneva gebruikt kleine stukjes code als bouwstenen in plaats van DNA-strengen. De stukjes code, of bouwstenen, kunnen opnieuw worden gerangschikt in specifieke combinaties die censuurpogingen kunnen ontwijken. De stukjes code van Geneva worden over meerdere generaties heen opnieuw gerangschikt, met behulp van een strategie die de instructies combineert die het beste censuur hebben ontweken in de vorige generatie, om een nieuwe set instructies/strategieën te creëren. Dit evolutionaire proces maakt het mogelijk om geavanceerde ontwijkingstechnieken relatief snel te creëren. Geneva kan werken terwijl een gebruiker het web doorbladert, in de achtergrond van de browser.

Dave Levin, een assistent-professor in de informatica aan de UMD, legde uit dat Geneva de anti-censors voor het eerst in het voordeel zet. Levin legde ook uit dat de methode die de onderzoekers gebruikten om hun instrument te creëren, de traditionele strategieën voor het ontwijken van censuur op hun kop zet. Traditionele methoden voor het verslaan van censuurstrategieën houden in dat men eerst begrijpt hoe een censuurstrategie werkt en vervolgens methoden ontwikkelt om deze te verslaan. In het geval van Geneva, echter, figureert het programma uit hoe het censuur kan ontwijken en vervolgens analyseren de onderzoekers welke censuurstrategieën worden gebruikt.

Om de prestaties van hun instrument te testen, hebben de onderzoekers Geneva getest op een computer in China met een ongewijzigde Google Chrome-browser. Toen het onderzoeksteam de strategieën gebruikte die Geneva had geïdentificeerd, konden ze zoeken naar trefwoordresultaten zonder censuur. Het instrument bleek ook nuttig in India en Kazachstan, die bepaalde URLs blokkeren.

Het onderzoeksteam hoopt de code en gegevens die zijn gebruikt om het model te creëren, binnenkort vrij te geven, in de hoop dat dit mensen in autoritaire landen betere, meer open toegang tot informatie zal geven. Het onderzoeksteam experimenteert ook met een methode om het instrument op de server te deployen die de geblokkeerde inhoud dient, in plaats van op de computer van de client (de computer die de zoekopdracht uitvoert). Als dit succesvol is, zou dit betekenen dat mensen toegang kunnen krijgen tot geblokkeerde inhoud zonder het instrument op hun computers te hoeven installeren.

“Als Geneva kan worden geïmplementeerd op de server en even goed werkt als op de client, dan kan het potentieel communicatie openen voor miljoenen mensen,” zei Levin. “Dat is een geweldige mogelijkheid, en het is een richting die we nastreven.”