Forskere tror at AI kan brukes til å beskytte folks personvern

To professorer i informasjonsvitenskap har nylig publisert en artikkel i The Conversation, hvor de argumenterer for at AI kan brukes til å bevare folks personvern, og rette opp noen av problemene det har skapt.

Zhiyuan Chen og Aryya Gangopadhyay argumenterer for at kunstig intelligens-algoritmer kan brukes til å forsvare folks personvern, og motvirke noen av de mange personvernsproblemer andre bruksområder for AI har skapt. Chen og Gangopadhyay innrømmer at mange av de AI-drevne produktene vi bruker for å få det til å fungere, ikke ville fungert uten å få tilgang til store mengder data, noe som på overflaten kan se ut til å være i strid med forsøk på å bevare personvern. Videre, ettersom AI sprenger seg ut i flere og flere bransjer og anvendelser, vil mer data bli samlet inn og lagret i databaser, noe som gjør det mer fristende å bryte inn i disse databaseene. Likevel tror Chen og Gangopadhyay at når AI brukes riktig, kan det hjelpe til å mildne disse problemene.

Chen og Gangopadhyay forklarer i sin artikkel at personvernsrisikoen forbundet med AI kommer fra minst to forskjellige kilder. Den første kilden er de store datamengdene som samles inn for å trene neurale nettverksmodeller, mens den andre personverns-trusselen er modellene selv. Data kan potensielt “lekke” ut fra disse modellene, og modellenes atferd kan avsløre detaljer om dataene som ble brukt til å trene dem.

Dype neurale nettverk består av flere lag med neuroner, hvor hvert lag er koblet til lagene rundt dem. De enkelte neuronene, samt koblingene mellom neuronene, kodar for forskjellige deler av treningsdataene. Modellen kan vise seg å være for god til å huske mønster fra treningsdataene, selv om modellen ikke overfitter. Spor av treningsdataene finnes i nettverket, og skurke kan potensielt finne ut aspekter ved treningsdataene, som Cornell University fant under en av deres studier. Cornell-forskerne fant at ansiktsgjenkjenning-algoritmer kunne utnyttes av angripere for å avsløre hvilke bilder, og dermed hvilke personer, som ble brukt til å trene ansiktsgjenkjenningmodellen. Cornell-forskerne oppdaget at selv om en angriper ikke har tilgang til den opprinnelige modellen som ble brukt til å trene applikasjonen, kan angriperen likevel prøve å finne ut om en bestemt person var inkludert i treningsdataene ved å bruke modeller som ble trenet på svært lik data.

Noen AI-modeller brukes allerede til å beskytte mot dataangrep og forsøke å sikre folks personvern. AI-modeller brukes ofte til å oppdage hackingforsøk ved å gjenkjenne mønster av atferd som hackere bruker for å penetrere sikkerhetsmetoder. Likevel endrer hackere ofte atferden sin for å prøve å lure mønster-gjenkjenning-AI.

Nye metoder for AI-trening og -utvikling har som mål å gjøre AI-modellene og -applikasjonene mindre sårbare for hacking-metoder og sikkerhetsevasonerings-taktikker. Adversarial learning går ut på å trene AI-modeller på simuleringsdata for skadelig eller skadebringende innputt, og gjøre modellen mer robust mot utnyttelse, derav “adversarial” i navnet. Ifølge Chen og Gangopadhyay har deres forskning funnet metoder for å bekjempe malware som er designet for å stjele folks private opplysninger. De to forskerne forklarte at en av metodene de fant å være mest effektive for å motstå malware, var å introdusere usikkerhet i modellen. Målet er å gjøre det vanskeligere for skurker å forutsi hvordan modellen vil reagere på en given innputt.

Andre metoder for å bruke AI til å beskytte personvern inkluderer å minimere dataeksponering når modellen opprettes og trenes, samt å prøve å oppdage nettverkets sårbarheter. Når det gjelder å bevare datapersonvern, kan distribuert læring hjelpe til å beskytte personvern for sensitive data, ettersom det tillater en modell å bli trenet uten at treningsdataene noen gang forlater de lokale enhetene som inneholder dataene, isolerer dataene og mye av modellens parametre fra spionasje.

Til slutt argumenterer Chen og Gangopadhyay for at selv om AI har skapt nye trusler mot folks personvern, kan AI også hjelpe til å beskytte personvern når det er designet med omsorg og overveielse.