Bailey Kacsmar, kandydat na stopień doktora na Uniwersytecie w Waterloo – seria wywiadów

Bailey Kacsmar jest kandydatem na stopień doktora w Szkole Informatyki na Uniwersytecie w Waterloo oraz nadchodzącym członkiem kadry nauczycielskiej na Uniwersytecie Alberty. Jej zainteresowania badawcze dotyczą rozwoju technologii zwiększających prywatność, poprzez równoległe studium podejść technicznych do obliczeń prywatnych oraz odpowiadających im postrzeżeń, obaw i zrozumienia tych technologii przez użytkowników. Praca jej ma na celu identyfikację potencjału i ograniczeń prywatności w aplikacjach uczenia maszynowego.

Twoje zainteresowania badawcze dotyczą rozwoju technologii zwiększających prywatność, dlaczego prywatność w AI jest tak ważna?

Prywatność w AI jest tak ważna, ponieważ AI w naszym świecie nie istnieje bez danych. Dane, chociaż są użyteczną abstrakcją, opisują w końcu ludzi i ich zachowania. Rzadko pracujemy z danymi dotyczącymi populacji drzew i poziomów wody; więc, każdy raz, gdy pracujemy z czymś, co może wpłynąć na prawdziwych ludzi, musimy być świadomi tego i zrozumieć, jak nasz system może działać dobrze lub źle. Jest to szczególnie prawdziwe w przypadku AI, gdzie wiele systemów korzysta z ogromnych ilości danych lub próbuje wykorzystać bardzo wrażliwe dane (takie jak dane zdrowotne), aby próbować zrozumieć nasz świat.

Jakie są niektóre sposoby, w jakie zobaczyła Pani, że uczenie maszynowe zdradziło prywatność użytkowników?

Zdradziło jest silnym słowem. Jednak każdy raz, gdy system wykorzystuje informacje o ludziach bez ich zgody, bez poinformowania ich i bez rozważenia potencjalnych szkód, naraża się na ryzyko zdrady indywidualnej lub społecznej prywatności. Podstawowo, wynika to w zdradzie przez tysiąc małych cięć. Takie praktyki mogą polegać na szkoleniu modelu na skrzynkach pocztowych użytkowników, szkoleniu na wiadomościach tekstowych użytkowników lub na danych zdrowotnych; wszystko to bez poinformowania podmiotów danych.

Czy mogłaby Pani zdefiniować, co to jest różnicowa prywatność, i jakie są Pani poglądy na ten temat?

Różnicowa prywatność to definicja lub technika, która zyskała na znaczeniu w zakresie osiągania technicznej prywatności. Techniczne definicje prywatności ogólnie obejmują dwa kluczowe aspekty; co jest chronione i przed kim. W ramach technicznej prywatności, gwarancje prywatności są ochronami, które są osiągane, gdy spełniony jest szereg założeń. Te założenia mogą dotyczyć potencjalnych przeciwników, złożoności systemu lub statystyki. Jest to niezwykle użyteczna technika, która ma szeroki zakres zastosowań. Jednak ważne jest, aby pamiętać, że różnicowa prywatność nie jest równoznaczna z prywatnością.

Prywatność nie jest ograniczona do jednej definicji lub pojęcia i ważne jest, aby być świadomym pojęć poza tym. Na przykład integralność kontekstowa, która jest pojęciem prywatności, uwzględniającym takie rzeczy, jak jak różne aplikacje lub różne organizacje zmieniają postrzeganie prywatności jednostki w odniesieniu do sytuacji. Są również prawne pojęcia prywatności, takie jak te objęte przez kanadyjską ustawę PIPEDA, europejską ustawę GDPR i kalifornijską ustawę o ochronie konsumentów (CCPA). Wszystko to mówi nam, że nie możemy traktować systemów technicznych tak, jakby istniały w próżni, pozbawione innych czynników prywatności, nawet jeśli różnicowa prywatność jest stosowana.

Inny rodzaj zwiększającej prywatność maszyny to federacyjne uczenie, jakby Pani zdefiniowała to, i jakie są Pani poglądy na ten temat?

Federacyjne uczenie to sposób wykonywania uczenia maszynowego, gdy model ma być szkolony na kolekcji zbiorów danych, które są rozproszone wśród kilku właścicieli lub lokalizacji. Nie jest ono wewnętrznie rodzajem zwiększającej prywatność maszyny. Rodzaj zwiększającej prywatność maszyny wymaga formalnej definicji tego, co jest chronione, kto jest chroniony przed kim i warunków, które muszą być spełnione, aby te ochrony były zachowane. Na przykład, gdy myślimy o prostym obliczeniu różnicowo prywatnym, gwarantuje ono, że osoba widząca wynik nie będzie mogła określić, czy określony punkt danych został przyczyniony czy nie.

Dalej, różnicowa prywatność nie daje tej gwarancji, jeśli na przykład istnieje korelacja między punktami danych. Federacyjne uczenie nie ma tej cechy; po prostu trenuje model na kolekcji danych bez wymagania od posiadaczy tych danych, aby bezpośrednio udostępniali swoje zbiory danych innym lub stronie trzeciej. Chociaż to brzmi jak cecha prywatności, potrzebna jest formalna gwarancja, że nie można nauczyć się chronionej informacji na podstawie pośredników i wyników, które strony niezaufane będą obserwować. Ta formalność jest szczególnie ważna w federacyjnym ustawieniu, gdzie strony niezaufane obejmują wszystkich, którzy dostarczają dane do szkolenia zbiorczego modelu.

Jakie są obecne ograniczenia tych podejść?

Obecne ograniczenia można najlepiej opisać jako natura handlu prywatnością i użytecznością. Nawet jeśli zrobimy wszystko inne, poinformujemy o implikacjach prywatności tych, którzy są dotknięci, ocenimy system pod kątem tego, co próbujemy osiągnąć, itd., wciąż dochodzi do tego, że osiągnięcie idealnej prywatności oznacza, że nie tworzymy systemu, osiągnięcie idealnej użyteczności geralnie nie ma żadnych ochron prywatności, więc pytanie brzmi, jak określimy “idealny” handel. Jak znajdziemy odpowiedni punkt równowagi i zbudujemy w kierunku niego, aby nadal osiągać pożądaną funkcjonalność, jednocześnie zapewniając potrzebne ochrony prywatności.

Obecnie Pani celem jest rozwój technologii zwiększającej prywatność poprzez równoległe studium rozwiązań technicznych dla obliczeń prywatnych. Czy mogłaby Pani opowiedzieć o niektórych z tych rozwiązań?

Co mam na myśli przez te rozwiązania, to to, że możemy, luźno mówiąc, rozwijać dowolną liczbę technicznych systemów prywatności. Jednak podczas robienia tego ważne jest, aby określić, czy gwarancje prywatności docierają do tych, którzy są dotknięci. Może to oznaczać rozwinięcie systemu po odkryciu, jakie rodzaje ochron są cenne dla populacji. Może to oznaczać zaktualizowanie systemu po odkryciu, jak ludzie naprawdę używają systemu, biorąc pod uwagę ich prawdziwe zagrożenia i rozważania ryzyka. Rozwiązanie techniczne może być poprawnym systemem, który spełnia definicję, o której wspomniałam wcześniej. Rozwiązanie świadome użytkownika byłoby projektowało swój system na podstawie danych wejściowych od użytkowników i innych osób dotkniętych w zamierzonym obszarze zastosowania.

Pani obecnie poszukuje zainteresowanych studentów magisterskich, którzy zaczną w wrześniu 2024 roku, dlaczego Pani myśli, że studenci powinni być zainteresowani prywatnością AI?

Myślę, że studenci powinni być zainteresowani, ponieważ jest to coś, co będzie rosło w swojej wszechobecności w naszym społeczeństwie. Aby mieć pojęcie, jak szybko te systemy rozwijają się, nie szukaj dalej niż niedawne wzmocnienie Chat-GPT poprzez artykuły, media społeczne i debaty na temat jego implikacji. Istniejemy w społeczeństwie, w którym zbieranie i wykorzystywanie danych jest tak wbudowane w nasze codzienne życie, że prawie stale dostarczamy informacje o sobie różnym firmom i organizacjom. Te firmy chcą wykorzystywać te dane, w niektórych przypadkach, aby poprawić swoje usługi, w innych dla zysku. Na tym etapie wydaje się nierzeczywiste myśleć, że te praktyki korporacyjnego wykorzystywania danych zmienią się. Jednak istnienie systemów zwiększających prywatność, które chronią użytkowników, jednocześnie pozwalając na pewne analizy pożądane przez firmy, może pomóc w bilansowaniu handlu ryzykiem i nagrodą, który stał się tak niejawną częścią naszego społeczeństwa.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić stronę Github Bailey Kacsmar.