Onderzoekers geloven dat AI gebruikt kan worden om mensen te helpen bij het beschermen van hun privacy

Twee professoren in de informatie wetenschap hebben onlangs een artikel in The Conversation gepubliceerd, waarin zij betogen dat AI kan helpen bij het behouden van de privacy van mensen, en enkele van de problemen die het heeft veroorzaakt, kan rechtzetten.

Zhiyuan Chen en Aryya Gangopadhyay betogen dat algoritmes voor kunstmatige intelligentie kunnen worden gebruikt om de privacy van mensen te verdedigen, en enkele van de vele privacy-problemen die andere toepassingen van AI hebben veroorzaakt, kunnen tegen gaan. Chen en Gangopadhyay geven toe dat veel van de AI-gestuurde producten die wij voor gemak gebruiken, niet zouden werken zonder toegang tot grote hoeveelheden gegevens, wat op het eerste gezicht in strijd lijkt met pogingen om de privacy te behouden. Bovendien, naarmate AI zich uitbreidt naar steeds meer industrieën en toepassingen, zal meer gegevens worden verzameld en opgeslagen in databases, waardoor inbreuken op deze databases aantrekkelijker worden. Echter, Chen en Gangopadhyay geloven dat AI, wanneer het correct wordt gebruikt, kan helpen bij het mitigeren van deze problemen.

Chen en Gangopadhyay leggen in hun artikel uit dat de privacy-risico’s die samenhangen met AI, afkomstig zijn uit ten minste twee verschillende bronnen. De eerste bron is de grote datasets die worden verzameld om neurale netwerkmodellen te trainen, terwijl de tweede privacy-bedreiging de modellen zelf zijn. Gegevens kunnen mogelijk “leken” uit deze modellen, waarbij het gedrag van de modellen details over de gegevens die werden gebruikt om ze te trainen, prijsgeeft.

Diepe neurale netwerken bestaan uit meerdere lagen neuronen, waarbij elke laag is verbonden met de lagen eromheen. De individuele neuronen, evenals de verbindingen tussen neuronen, coderen voor verschillende bits van de trainingsgegevens. Het model kan te goed zijn in het onthouden van patronen in de trainingsgegevens, zelfs als het model niet overfit. Sporen van de trainingsgegevens bestaan binnen het netwerk en kwaadwillige actoren kunnen mogelijk aspecten van de trainingsgegevens achterhalen, zoals onderzoekers van Cornell University hebben ontdekt. Onderzoekers van Cornell ontdekten dat gezichtsherkenning-algoritmes konden worden uitgebuit door aanvallers om te onthullen welke afbeeldingen, en dus welke mensen, werden gebruikt om het gezichtsherkenning-model te trainen. De onderzoekers van Cornell ontdekten dat zelfs als een aanvaller geen toegang heeft tot het oorspronkelijke model dat werd gebruikt om de toepassing te trainen, de aanvaller mogelijk nog steeds in staat kan zijn om het netwerk te onderzoeken en te bepalen of een specifiek persoon was opgenomen in de trainingsgegevens, simpelweg door modellen te gebruiken die waren getraind op zeer vergelijkbare gegevens.

Sommige AI-modellen worden momenteel gebruikt om te beschermen tegen gegevensinbraken en proberen de privacy van mensen te waarborgen. AI-modellen worden vaak gebruikt om hackpogingen te detecteren door het herkennen van de patronen van gedrag die hackers gebruiken om beveiligingsmethoden te penetreren. Echter, hackers veranderen vaak hun gedrag om proberen de patroon-herkennende AI te misleiden.

Nieuwe methoden van AI-training en -ontwikkeling hebben tot doel om AI-modellen en -toepassingen minder kwetsbaar te maken voor hackmethoden en beveiligingsevitatie-tactieken. Adversarial learning probeert AI-modellen te trainen op simulaties van kwaadwillige of schadelijke invoer, en maakt het model zo meer robuust tegen uitbuiting, vandaar de “adversarial” in de naam. Volgens Chen en Gangopadhyay heeft hun onderzoek methoden ontdekt om malware te bestrijden die is ontworpen om mensen’s privé-informatie te stelen. De twee onderzoekers legden uit dat een van de methoden die zij het meest effectief vonden om malware te weerstaan, was het introduceren van onzekerheid in het model. Het doel is om het moeilijker te maken voor slechte actoren om te voorspellen hoe het model zal reageren op een bepaalde invoer.

Andere methoden voor het gebruik van AI om de privacy te beschermen, zijn het minimaliseren van gegevensblootstelling wanneer het model wordt gemaakt en getraind, evenals het onderzoeken van het netwerk om kwetsbaarheden te ontdekken. Wanneer het gaat om het behouden van gegevensprivacy, kan federated learning helpen bij het beschermen van de privacy van gevoelige gegevens, omdat het een model mogelijk maakt om te worden getraind zonder dat de trainingsgegevens ooit het lokale apparaat verlaten dat de gegevens bevat, waardoor de gegevens en veel van de parameters van het model worden geïsoleerd van spionnen.

Uiteindelijk betogen Chen en Gangopadhyay dat, hoewel de verspreiding van AI nieuwe bedreigingen voor de privacy van mensen heeft gecreëerd, AI ook kan helpen bij het beschermen van de privacy wanneer het met zorg en aandacht wordt ontworpen.