Forskere mener, at AI kan bruges til at beskytte folks privatliv

To professorer i informationsvidenskab har nylig offentliggjort en artikel i The Conversation, hvor de argumenterer for, at AI kan hjælpe med at beskytte folks privatliv og rette op på nogle af de problemer, det har skabt.

Zhiyuan Chen og Aryya Gangopadhyay argumenterer for, at kunstig intelligens-algoritmer kan bruges til at forsvare folks privatliv og modvirke nogle af de mange privatlivsproblemer, andre anvendelser af AI har skabt. Chen og Gangopadhyay erkender, at mange af de AI-drevne produkter, vi bruger til vores bekvemmelighed, ikke ville fungere uden adgang til store mængder data, hvilket på overfladen set kan synes at være i modstrid med forsøg på at beskytte privatlivet. Desuden vil der, da AI spreder sig ud i flere og flere brancher og anvendelser, blive indsamlet og gemt mere data i databaser, hvilket gør det mere fristende at bryde ind i disse databaser. Chen og Gangopadhyay mener dog, at når AI anvendes korrekt, kan det hjælpe med at afhjælpe disse problemer.

Chen og Gangopadhyay forklarer i deres artikel, at privatlivsrisikoen i forbindelse med AI kommer fra mindst to forskellige kilder. Den første kilde er de store datamængder, der indsamles til at træne neurale netværksmodeller, mens den anden privatlivstrussel er modellerne selv. Data kan potentielt “lække” fra disse modeller, og modellernes adfærd kan afsløre detaljer om den data, der er brugt til at træne dem.

Deep neurale netværk består af multiple lag af neuroner, hvor hvert lag er forbundet til lagene omkring dem. De enkelte neuroner samt forbindelserne mellem neuronerne kodificerer for forskellige dele af træningsdataen. Modellen kan vise sig at være for god til at huske mønstre i træningsdataen, selv hvis modellen ikke overfittes. Træningsdataen findes i netværket, og ondsindede aktører kan muligvis opdage aspekter af træningsdataen, som Cornell University fandt under en af deres studier. Cornell-forskerne fandt, at ansigtsgenkendelsesalgoritmer kunne udnyttes af angribere til at afsløre, hvilke billeder og dermed hvilke personer der var brugt til at træne ansigtsgenkendelsesmodellen. Cornell-forskerne opdagede, at selv hvis en angriber ikke har adgang til den originale model, der blev brugt til at træne applikationen, kan angriberen muligvis stadig kunne afprøve netværket og bestemme, om en bestemt person var inkluderet i træningsdataen ved blot at bruge modeller, der var trænet på meget lignende data.

Nogle AI-modeller bruges i øjeblikket til at beskytte imod datakrænkelser og forsøge at sikre folks privatliv. AI-modeller bruges ofte til at opdage hackingforsøg ved at genkende de mønstre af adfærd, hackere bruger til at penetrere sikkerhedsforanstaltninger. Hackere skifter dog ofte deres adfærd for at narre mønster-genkennende AI.

Nye metoder til AI-træning og -udvikling sigter mod at gøre AI-modeller og -applikationer mindre sårbare over for hackingmetoder og sikkerhedsevationsstrategier. Adversarial learning søger at træne AI-modeller på simulationer af ondsindede eller skadelige input og gøre modellen mere robust over for udnyttelse, hvilket er årsagen til, at det kaldes “adversarial”. Ifølge Chen og Gangopadhyay har deres forskning fundet metoder til at bekæmpe malware, der er designet til at stjæle folks private oplysninger. De to forskere forklarede, at en af de metoder, de fandt at være mest effektive til at modstå malware, var introduktionen af usikkerhed i modellen. Målet er at gøre det sværere for ondsindede aktører at forudsige, hvordan modellen vil reagere på en given input.

Andre metoder til at anvende AI til at beskytte privatlivet inkluderer minimisering af dataeksponering, når modellen oprettes og trænes, samt afprøvning for at opdage netværkets sårbarheder. Når det kommer til at bevare dataprivatliv, kan federeret læring hjælpe med at beskytte privatlivet for følsomme data, da det tillader en model at blive trænet uden at træningsdataen nogensinde forlader de lokale enheder, der indeholder dataen, og isolerer dataen og en stor del af modellens parametre fra spioneri.

Til sidst argumenterer Chen og Gangopadhyay for, at selv om AI-spredningen har skabt nye trusler mod folks privatliv, kan AI også hjælpe med at beskytte privatliv, når det er designet med omhu og overvejelse.