Forskare tror att AI kan användas för att hjälpa skydda människors privatliv

Två professorer i informationsvetenskap har nyligen publicerat en artikel i The Conversation, där de hävdar att AI kan hjälpa till att bevara människors privatliv och åtgärda vissa av de problem som det har skapat.

Zhiyuan Chen och Aryya Gangopadhyay hävdar att artificiell intelligensalgoritmer kan användas för att försvara människors privatliv och motverka vissa av de många integritetsproblem som andra användningar av AI har skapat. Chen och Gangopadhyay medger att många av de AI-drivna produkterna som vi använder för bekvämlighet inte skulle fungera utan tillgång till stora mängder data, vilket vid första anblicken verkar vara oförenligt med försöken att bevara privatlivet. Dessutom, när AI sprids ut i allt fler branscher och tillämpningar, kommer mer data att samlas in och lagras i databaser, vilket gör det lockande att göra intrång i dessa databaser. Men Chen och Gangopadhyay tror att när AI används på rätt sätt, kan det hjälpa till att mildra dessa problem.

Chen och Gangopadhyay förklarar i sin artikel att de integritetsrisker som är förknippade med AI kommer från minst två olika källor. Den första källan är de stora datamängder som samlas in för att träna neuronnätverksmodeller, medan den andra integritetsrisken är modellerna själva. Data kan potentiellt “läcka” från dessa modeller, och modellernas beteende kan avslöja detaljer om de data som användes för att träna dem.

Djupa neuronnätverk består av flera lager av neuroner, där varje lager är anslutet till de omgivande lagren. De enskilda neuronerna, liksom länkarna mellan neuronerna, kodar för olika delar av träningsdatat. Modellen kan visa sig vara för bra på att komma ihåg mönster i träningsdatat, även om modellen inte överanpassas. Spår av träningsdatat finns kvar i nätverket, och illvilliga aktörer kan komma att upptäcka aspekter av träningsdatat, som Cornell University fann under en av sina studier. Cornell-forskarna fann att ansiktsigenkänningsalgoritmer kunde utnyttjas av angripare för att avslöja vilka bilder, och därmed vilka människor, som användes för att träna ansiktsigenkänningsmodellen. Cornell-forskarna upptäckte att även om en angripare inte har tillgång till den ursprungliga modellen som användes för att träna applikationen, kan angriparen fortfarande kunna undersöka nätverket och avgöra om en specifik person ingick i träningsdatat, genom att använda modeller som tränades på högt liknande data.

Vissa AI-modeller används för närvarande för att skydda mot dataintrång och försöka säkerställa människors privatliv. AI-modeller används ofta för att upptäcka hackningsförsök genom att känna igen de beteendemönster som hackare använder för att penetrera säkerhetsmetoder. Men hackare ändrar ofta sitt beteende för att försöka lura mönsterigenkännande AI.

Nya metoder för AI-utveckling och -träning syftar till att göra AI-modeller och applikationer mindre sårbara för hackningsmetoder och säkerhetseffekter. Adversarial learning syftar till att träna AI-modeller på simuleringar av skadliga eller farliga indata, och på så sätt göra modellen mer robust mot utnyttjande, vilket är “adversarial” i namnet. Enligt Chen och Gangopadhyay har deras forskning funnit metoder för att bekämpa skadlig kod som är utformad för att stjäla människors privata information. De två forskarna förklarade att en av de metoder de fann vara mest effektiv för att motstå skadlig kod var införandet av osäkerhet i modellen. Målet är att göra det svårare för illvilliga aktörer att förutse hur modellen kommer att reagera på en given indata.

Andra metoder för att använda AI för att skydda privatlivet inkluderar att minimera dataexponering när modellen skapas och tränas, samt att undersöka för att upptäcka nätverkets sårbarheter. När det gäller att bevara dataintegritet kan federerad inlärning hjälpa till att skydda känsliga data, eftersom den tillåter en modell att tränas utan att träningsdatat någonsin lämnar de lokala enheterna som innehåller datat, vilket isolerar datat och mycket av modellens parametrar från avlyssning.

Till slut hävdar Chen och Gangopadhyay att medan AI:s spridning har skapat nya hot mot människors privatliv, kan AI också hjälpa till att skydda privatlivet när det utformas med omsorg och hänsyn.