Naukowcy wierzą, że AI może być używany do pomocy w ochronie prywatności ludzi

Dwóch profesorów nauk o informacji opublikowało niedawno artykuł w The Conversation, argumentując, że AI może pomóc w zachowaniu prywatności ludzi, naprawiając niektóre z problemów, które spowodował. Zhiyuan Chen i Aryya Gangopadhyay twierdzą, że algorytmy sztucznej inteligencji mogą być używane do obrony prywatności ludzi, przeciwdziałając niektórym z wielu problemów związanych z prywatnością, które powstały w wyniku innych zastosowań AI. Chen i Gangopadhyay przyznają, że wiele produktów napędzanych przez AI, których używamy dla wygody, nie działałoby bez dostępu do dużych ilości danych, co na pierwszy rzut oka wydaje się sprzeczne z próbami zachowania prywatności. Ponadto, gdy AI rozprzestrzenia się na coraz więcej branż i aplikacji, więcej danych będzie zbieranych i przechowywanych w bazach danych, co sprawia, że naruszenia tych baz danych stają się bardziej atrakcyjne. Jednak Chen i Gangopadhyay wierzą, że gdy używane są prawidłowo, AI może pomóc złagodzić te problemy.

Chen i Gangopadhyay wyjaśniają w swoim artykule, że ryzyka związane z prywatnością w AI pochodzą z co najmniej dwóch różnych źródeł. Pierwszym źródłem są duże zestawy danych zebrane do szkolenia modeli sieci neuronowych, a drugim zagrożeniem dla prywatności są same modele. Dane mogą potencjalnie “wyciekać” z tych modeli, a zachowanie modeli może zdradzać szczegóły na temat danych użytych do ich szkolenia.

Głębokie sieci neuronowe składają się z wielu warstw neuronów, z których każda warstwa jest połączona z warstwami wokół nich. Poszczególne neurony, a także połączenia między neuronami, kodują różne fragmenty danych szkoleniowych. Model może okazać się zbyt dobry w zapamiętywaniu wzorców danych szkoleniowych, nawet jeśli model nie jest przeszkolony. Ślady danych szkoleniowych istnieją w sieci, a złe podmioty mogą być w stanie ustalić aspekty danych szkoleniowych, jak to udowodniono w jednym z badań przeprowadzonych przez Uniwersytet Cornell. Naukowcy z Cornell odkryli, że algorytmy rozpoznawania twarzy mogą być wykorzystywane przez atakujących do ujawnienia, które obrazy, a więc które osoby, zostały użyte do szkolenia modelu rozpoznawania twarzy. Naukowcy z Cornell odkryli, że nawet jeśli atakujący nie mają dostępu do oryginalnego modelu użytego do szkolenia aplikacji, atakujący mogą nadal być w stanie sprawdzić sieć i określić, czy konkretna osoba była uwzględniona w danych szkoleniowych, po prostu używając modeli, które zostały przeszkolone na danych bardzo podobnych.

Niektóre modele AI są obecnie używane do ochrony przed naruszeniami danych i próbują zapewnić prywatność ludzi. Modele AI są często używane do wykrywania prób hakowania, rozpoznając wzorce zachowania, których używają hakerzy, aby przeniknąć metody bezpieczeństwa. Jednak hakerzy często zmieniają swoje zachowanie, aby oszukać AI, które wykrywa wzorce.

Nowe metody szkolenia i rozwoju AI mają na celu uczynienie modeli AI i aplikacji mniej podatnymi na metody hakowania i taktyki unikania bezpieczeństwa. Nauka przeciwna próbuje szkolić modele AI na symulacjach danych wejściowych o charakterze szkodliwym lub niepożądanym, co sprawia, że model staje się bardziej odporny na wykorzystanie, stąd “przeciwny” w nazwie. Według Chen i Gangopadhyay, ich badania odkryły metody walki z złośliwym oprogramowaniem zaprojektowanym do kradzieży prywatnych informacji. Dwóch badaczy wyjaśniło, że jedną z najskuteczniejszych metod, które znaleźli, było wprowadzenie niepewności do modelu. Celem jest utrudnienie złym podmiotom przewidzenia, jak model zareaguje na dany wprowadzany sygnał.

Inne metody wykorzystania AI do ochrony prywatności obejmują minimalizację narażenia danych podczas tworzenia i szkolenia modelu, a także sprawdzanie, aby odkryć słabości sieci. Jeśli chodzi o zachowanie prywatności danych, federacyjne uczenie się może pomóc chronić prywatność wrażliwych danych, ponieważ pozwala modelowi być szkolony bez opuszczania danych szkoleniowych z urządzeń lokalnych, które zawierają dane, izolując dane i wiele parametrów modelu od szpiegowania.

Ostatecznie Chen i Gangopadhyay twierdzą, że chociaż rozpowszechnienie AI stworzyło nowe zagrożenia dla prywatności ludzi, AI może również pomóc chronić prywatność, gdy jest zaprojektowane z dbałością o szczegóły i uwzględnieniem.