Onderzoekers geloven dat AI gebruikt kan worden om mensen’s privacy te beschermen

Twee professoren in de informatie wetenschap hebben onlangs een artikel in The Conversation gepubliceerd, waarin zij betogen dat AI gebruikt kan worden om mensen’s privacy te beschermen en enkele van de problemen die het heeft veroorzaakt op te lossen.

Zhiyuan Chen en Aryya Gangopadhyay betogen dat algoritmes voor kunstmatige intelligentie gebruikt kunnen worden om mensen’s privacy te verdedigen en enkele van de vele privacyproblemen die andere toepassingen van AI hebben veroorzaakt te counteren. Chen en Gangopadhyay erkennen dat veel van de AI-gestuurde producten die wij voor gemak gebruiken niet zouden werken zonder toegang tot grote hoeveelheden gegevens, wat op het eerste gezicht in strijd lijkt met pogingen om de privacy te beschermen. Bovendien zullen er, naarmate AI zich uitbreidt naar steeds meer industrieën en toepassingen, meer gegevens worden verzameld en opgeslagen in databases, waardoor inbreuken op die databases aantrekkelijker worden. Chen en Gangopadhyay geloven echter dat AI, wanneer het correct wordt gebruikt, kan helpen om deze problemen te mitigeren.

Chen en Gangopadhyay leggen in hun artikel uit dat de privacyrisico’s die verband houden met AI uit ten minste twee verschillende bronnen komen. De eerste bron is de grote datasets die worden verzameld om neurale netwerkmodellen te trainen, terwijl de tweede privacybedreiging de modellen zelf zijn. Gegevens kunnen mogelijk “leken” uit deze modellen, waarbij het gedrag van de modellen details over de gegevens die worden gebruikt om ze te trainen prijsgeeft.

Diepe neurale netwerken bestaan uit meerdere lagen neuronen, waarbij elke laag verbonden is met de lagen eromheen. De individuele neuronen, evenals de verbindingen tussen neuronen, coderen voor verschillende bits van de trainingsgegevens. Het model kan te goed zijn in het onthouden van patronen in de trainingsgegevens, zelfs als het model niet overfit. Sporen van de trainingsgegevens bestaan binnen het netwerk en kwaadwillige actoren kunnen mogelijk aspecten van de trainingsgegevens achterhalen, zoals onderzoekers van Cornell University tijdens een van hun studies hebben ontdekt. Onderzoekers van Cornell ontdekten dat gezichtsherkenning algoritmes door aanvallers konden worden uitgebuit om te onthullen welke afbeeldingen, en dus welke mensen, werden gebruikt om het gezichtsherkenning model te trainen. De onderzoekers van Cornell ontdekten dat zelfs als een aanvaller geen toegang heeft tot het oorspronkelijke model dat werd gebruikt om de toepassing te trainen, de aanvaller mogelijk nog steeds in staat kan zijn om het netwerk te onderzoeken en te bepalen of een specifiek persoon was opgenomen in de trainingsgegevens, simpelweg door modellen te gebruiken die waren getraind op zeer vergelijkbare gegevens.

Sommige AI-modellen worden momenteel gebruikt om te beschermen tegen gegevensinbreuken en proberen mensen’s privacy te waarborgen. AI-modellen worden vaak gebruikt om hackingpogingen te detecteren door het herkennen van de patronen van gedrag die hackers gebruiken om beveiligingsmethoden te penetreren. Hackers veranderen echter vaak hun gedrag om proberen pattern-herkennende AI te misleiden.

Nieuwe methoden van AI-training en -ontwikkeling zijn gericht op het maken van AI-modellen en -toepassingen minder kwetsbaar voor hackingmethoden en beveiligingsevazietactieken. Adversarial learning probeert AI-modellen te trainen op simulaties van kwaadwillige of schadelijke invoer en maakt daarmee het model robuuster tegen exploitatie, vandaar de “adversarial” in de naam. Volgens Chen en Gangopadhyay heeft hun onderzoek methoden ontdekt om malware te bestrijden die is ontworpen om mensen’s privé-informatie te stelen. De twee onderzoekers legden uit dat een van de methoden die zij het meest effectief vonden om malware te weerstaan de introductie van onzekerheid in het model was. Het doel is om het voor kwaadwillige actoren moeilijker te maken om te voorspellen hoe het model zal reageren op elke gegeven invoer.

Andere methoden om AI te gebruiken om de privacy te beschermen zijn het minimaliseren van gegevensblootstelling wanneer het model wordt gemaakt en getraind, evenals het onderzoeken om de kwetsbaarheden van het netwerk te ontdekken. Wanneer het gaat om het behouden van gegevensprivacy, kan federated learning helpen om de privacy van gevoelige gegevens te beschermen, omdat het een model toelaat om te worden getraind zonder dat de trainingsgegevens ooit het lokale apparaat verlaten dat de gegevens bevat, waardoor de gegevens en veel van de parameters van het model worden geïsoleerd van spionage. Uiteindelijk, Chen en Gangopadhyay betogen dat, hoewel de verspreiding van AI nieuwe bedreigingen voor mensen’s privacy heeft gecreëerd, AI ook kan helpen om de privacy te beschermen wanneer het met zorg en overweging wordt ontworpen.