Naukowcy wierzą, że sztuczna inteligencja może być wykorzystana do ochrony prywatności ludzi

Dwóch profesorów nauk o informacji opublikowało niedawno artykuł w The Conversation, argumentując, że sztuczna inteligencja może pomóc zachować prywatność ludzi, naprawiając niektóre z problemów, które spowodowała.

Zhiyuan Chen i Aryya Gangopadhyay twierdzą, że algorytmy sztucznej inteligencji mogą być wykorzystane do obrony prywatności ludzi, przeciwdziałając niektórym z wielu problemów związanych z prywatnością, które powodują inne zastosowania sztucznej inteligencji. Chen i Gangopadhyay przyznają, że wiele produktów opartych na sztucznej inteligencji, które używamy dla wygody, nie działałoby bez dostępu do dużych ilości danych, co na pierwszy rzut oka wydaje się sprzeczne z próbami zachowania prywatności. Ponadto, gdy sztuczna inteligencja rozprzestrzenia się na coraz więcej branż i aplikacji, więcej danych będzie zbieranych i przechowywanych w bazach danych, co sprawia, że łatwiej będzie je naruszyć. Jednak Chen i Gangopadhyay wierzą, że gdy sztuczna inteligencja jest używana prawidłowo, może pomóc złagodzić te problemy.

Chen i Gangopadhyay wyjaśniają w swoim artykule, że ryzyko związane z prywatnością sztucznej inteligencji pochodzi z co najmniej dwóch różnych źródeł. Pierwszym źródłem są duże zestawy danych zebrane do szkolenia modeli sieci neuronowych, a drugim zagrożeniem dla prywatności są same modele. Dane mogą potencjalnie “wycieknąć” z tych modeli, a zachowanie modeli może ujawnić szczegóły dotyczące danych użytych do ich szkolenia.

Głębokie sieci neuronowe składają się z wielu warstw neuronów, z których każda jest połączona z warstwami wokół nich. Poszczególne neurony, a także połączenia między neuronami, kodują różne części danych szkoleniowych. Model może okazać się zbyt dobry w zapamiętywaniu wzorców danych szkoleniowych, nawet jeśli model nie jest przeszkolony. Ślady danych szkoleniowych istnieją w sieci, a złe podmioty mogą być w stanie ustalić niektóre aspekty danych szkoleniowych, jak to udowodniono w badaniach przeprowadzonych przez Uniwersytet Cornella. Naukowcy z Uniwersytetu Cornella odkryli, że algorytmy rozpoznawania twarzy mogą być wykorzystane przez atakujących do ujawnienia, które obrazy, a tym samym które osoby, były używane do szkolenia modelu rozpoznawania twarzy. Naukowcy odkryli, że nawet jeśli atakujący nie mają dostępu do oryginalnego modelu użytego do szkolenia aplikacji, atakujący mogą nadal być w stanie sprawdzić sieć i ustalić, czy konkretna osoba była uwzględniona w danych szkoleniowych, po prostu używając modeli, które były szkolone na danych bardzo podobnych.

Niektóre modele sztucznej inteligencji są obecnie wykorzystywane do ochrony przed naruszeniami danych i próbują zapewnić prywatność ludzi. Modele sztucznej inteligencji są często wykorzystywane do wykrywania prób włamania, rozpoznając wzorce zachowania, które hakerzy używają do przeniknięcia metod bezpieczeństwa. Hakerzy często zmieniają swoje zachowanie, aby oszukać wykrywające wzorce sztuczną inteligencję.

Nowe metody szkolenia i rozwoju sztucznej inteligencji mają na celu uczynienie modeli i aplikacji sztucznej inteligencji mniej podatnymi na metody hakowania i taktyki unikania zabezpieczeń. Nauka przeciwna dąży do szkolenia modeli sztucznej inteligencji na symulacjach niebezpiecznych lub szkodliwych danych wejściowych, co sprawia, że model staje się bardziej odporny na wykorzystywanie, stąd “przeciwna” w nazwie. Zgodnie z Chenem i Gangopadhyayem, ich badania odkryły metody walki z złośliwym oprogramowaniem, które ma na celu kradzież prywatnych informacji ludzi. Dwoje naukowców wyjaśniło, że jedną z najskuteczniejszych metod, które znaleźli, było wprowadzenie niepewności do modelu. Celem jest uczynienie go trudniejszym dla złych podmiotów, aby przewidzieć, jak model zareaguje na dowolne dane wejściowe.

Inne metody wykorzystania sztucznej inteligencji do ochrony prywatności obejmują minimalizację ekspozycji danych podczas tworzenia i szkolenia modelu, a także sprawdzanie w celu odkrycia słabości sieci. Jeśli chodzi o zachowanie prywatności danych, federacyjne uczenie się może pomóc chronić prywatność wrażliwych danych, ponieważ pozwala na szkolenie modelu bez opuszczania urządzeń lokalnych, które zawierają dane, izolując dane i wiele parametrów modelu przed szpiegostwem.

Ostatecznie Chen i Gangopadhyay twierdzą, że chociaż rozprzestrzenianie się sztucznej inteligencji stworzyło nowe zagrożenia dla prywatności ludzi, sztuczna inteligencja może również pomóc chronić prywatność, gdy jest zaprojektowana z dbałością i uwzględnieniem.