Forskare tror att AI kan användas för att hjälpa skydda människors privatliv

Två professorer i informationsvetenskap har nyligen publicerat en artikel i The Conversation, där de hävdar att AI kan hjälpa till att bevara människors privatliv och åtgärda några av de problem som det har skapat.

Zhiyuan Chen och Aryya Gangopadhyay hävdar att artificiell intelligensalgoritmer kan användas för att försvara människors privatliv och motverka några av de många privata problem som andra användningar av AI har skapat. Chen och Gangopadhyay medger att många av de AI-drivna produkterna vi använder för bekvämlighet inte skulle fungera utan tillgång till stora mängder data, vilket vid första anblicken verkar vara i strid med försöken att bevara privatlivet. Dessutom, när AI sprids ut i allt fler branscher och tillämpningar, kommer mer data att samlas in och lagras i databaser, vilket gör det lockande att göra intrång i dessa databaser. Men Chen och Gangopadhyay tror att när AI används på rätt sätt, kan det hjälpa till att mildra dessa problem.

Chen och Gangopadhyay förklarar i sin artikel att de privata riskerna som är förknippade med AI kommer från minst två olika källor. Den första källan är de stora datamängder som samlas in för att träna neuronnätverksmodeller, medan den andra privata hotet är modellerna själva. Data kan potentiellt “läcka” från dessa modeller, och modellernas beteende kan avslöja detaljer om de data som användes för att träna dem.

Djupa neuronnätverk består av flera lager av neuroner, där varje lager är anslutet till de lager som omger dem. De enskilda neuronerna, liksom länkarna mellan neuronerna, kodar för olika delar av träningsdata. Modellen kan visa sig vara för bra på att komma ihåg mönster i träningsdata, även om modellen inte är överanpassad. Spår av träningsdata finns inom nätverket, och illvilliga aktörer kan kunna fastställa aspekter av träningsdata, som Cornell University fann under en av sina studier. Cornell-forskarna fann att ansiktsigenkänningsalgoritmer kunde utnyttjas av angripare för att avslöja vilka bilder, och därmed vilka människor, som användes för att träna ansiktsigenkänningsmodellen. Cornell-forskarna upptäckte att även om en angripare inte har tillgång till den ursprungliga modellen som användes för att träna applikationen, kan angriparen fortfarande kunna undersöka nätverket och fastställa om en specifik person var med i träningsdata, genom att använda modeller som tränats på högt liknande data.

Vissa AI-modeller används för närvarande för att skydda mot dataintrång och försöka säkerställa människors privatliv. AI-modeller används ofta för att upptäcka hackningsförsök genom att känna igen beteendemönster som hackare använder för att penetrera säkerhetsmetoder. Men hackare ändrar ofta sitt beteende för att försöka lura mönsterdetekterande AI.

Nya metoder för AI-träning och -utveckling syftar till att göra AI-modeller och -applikationer mindre sårbara för hackningsmetoder och säkerhetseffekter. Adversarial learning syftar till att träna AI-modeller på simuleringar av skadliga eller farliga indata, och på så sätt göra modellen mer robust mot utnyttjande, därav “adversarial” i namnet. Enligt Chen och Gangopadhyay har deras forskning funnit metoder för att bekämpa skadlig kod som är utformad för att stjäla människors privata information. De två forskarna förklarade att en av de metoder de fann vara mest effektiv för att motstå skadlig kod var införandet av osäkerhet i modellen. Målet är att göra det svårare för illvilliga aktörer att förutsäga hur modellen kommer att reagera på en given inmatning.

Andra metoder för att använda AI för att skydda privatlivet inkluderar att minimera dataexponering när modellen skapas och tränas, samt att undersöka för att upptäcka nätverkets sårbarheter. När det gäller att bevara datasekretess kan federerad inlärning hjälpa till att skydda känslig data, eftersom den tillåter en modell att tränas utan att träningsdata någonsin lämnar de lokala enheter som innehåller data, vilket isolerar data och många av modellens parametrar från avlyssning.

Till slut hävdar Chen och Gangopadhyay att medan spridningen av AI har skapat nya hot mot människors privatliv, kan AI också hjälpa till att skydda privatlivet när det utformas med omsorg och hänsyn.