Patricia Thaine, CEO w Private AI – Seria wywiadów

Patricia Thaine jest współzałożycielem i CEO Private AI, kandydatką na stopień doktora nauk komputerowych na Uniwersytecie w Toronto oraz stypendystką w Instytucie Vector, gdzie prowadzi badania nad zachowaniem prywatności w przetwarzaniu języka naturalnego, ze szczególnym uwzględnieniem kryptografii stosowanej. Prowadzi również badania nad metodami obliczeniowymi do odszyfrowania zagubionych języków.

Patricia jest laureatką stypendium NSERC dla absolwentów, stypendium RBC dla absolwentów, stypendium Beatrice “Trixie” Worsley dla absolwentów studiów komputerowych oraz stypendium rządu Ontario. Ma osiem lat doświadczenia w badaniach i rozwoju oprogramowania, w tym w McGill Language Development Lab, Computational Linguistics Lab na Uniwersytecie w Toronto, Wydziale Lingwistyki na Uniwersytecie w Toronto oraz w Public Health Agency of Canada.

Czym pierwotnie zainteresowała się panie naukami komputerowymi?

Możliwością rozwiązywania problemów i bycia kreatywną jednocześnie. To jest jak rzemiosło. Widzi się, jak pomysły na produkty przyjmują życie, podobnie jak stolarz buduje meble. Jak ktoś powiedział: programowanie jest największym narzędziem twórczym. Fakt, że produkty, które budujemy, mogą być skalowane i używane przez ludzi na całym świecie, jest takim dodatkowym bonusem.

Czy mogłaby pan opowiedzieć o historii Private AI i jak powstała z pańskiego spostrzeżenia, że brakuje narzędzi łatwych do zintegrowania w celu ochrony prywatności?

Przez mowę i pisanie, produkujemy i przekazujemy niektóre z naszych najbardziej wrażliwych informacji firmom, których usługi wykorzystujemy. Gdy rozważaliśmy, które produkty NLP budować, było warstwą prywatności, którą musielibyśmy zintegrować, a która po prostu nie istniała na rynku. Aby wykorzystać rozwiązania prywatności, firmy musiały przenieść dane swoich użytkowników do podmiotu trzeciego, używać słabych, otwartoźródłowych rozwiązań, które nie są w stanie właściwie chronić prywatności użytkowników, lub budować rozwiązanie we własnym zakresie z bardzo małym doświadczeniem w dziedzinie prywatności. Postanowiliśmy więc skoncentrować się na tworzeniu najlepszych produktów dla deweloperów i zespołów AI, które muszą mieć dane wyjściowe technologii poprawiających prywatność, które łatwo mogą być wykorzystywane do ich potrzeb.

Dlaczego AI chroniąca prywatność jest ważna?

Około 80 procent informacji, które produkujemy, jest nieustrukturyzowanych, a AI jest jedynym sposobem, aby nadać im sens. Może być używana w dobrych celach, takich jak pomoc w wykrywaniu upadków wśród starszych ludzi, lub w złych celach, takich jak profilowanie i śledzenie osób z grup mniejszościowych. Zapewnienie, że prywatność jest wbudowana w oprogramowanie, które tworzymy, sprawia, że znacznie trudniej jest używać AI w sposób szkodliwy.

Jak prywatność jest przewagą konkurencyjną?

Istnieje wiele powodów, ale oto kilka:

1. Coraz więcej użytkowników dba o prywatność, a gdy konsumenci stają się bardziej wykształceni, ta troska rośnie: 70 procent konsumentów martwi się o prywatność swoich danych.
2. Łatwiej jest prowadzić interesy z innymi firmami, jeśli ma się właściwe protokoły i technologie ochrony danych i prywatności.
3. Gdy zbuduje się produkty w sposób zachowujący prywatność, lepiej śledzi się punkty podatności w swojej usłudze, a poprzez minimalizację danych, pozbywa się danych, których nie potrzebuje i które mogą powodować problemy w przypadku ataku cybernetycznego.

Czy mogłaby pan opowiedzieć o znaczeniu prywatności danych szkoleniowych i dlaczego są one podatne na odwrotną inżynierię?

To jest bardzo dobre pytanie i powinno być o tym więcej edukacji. W uproszczeniu, modele machine learning zapamiętują informacje. Im większe modele, tym więcej zapamiętują przypadków brzegowych. Oznacza to, że informacje, które te modele zostały przeszkolone, mogą być wyświetlane w produkcji. To zostało udowodnione w kilku pracach badawczych, w tym The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks i Extracting Training Data from Large Language Models.

Udowodniono również, że informacje osobiste mogą być wyodrębnione z word embeddings i, dla tych, którzy mają wątpliwości, czy to jest prawdziwy problem, był również skandal w tym roku, kiedy koreański bot miłosny pisał dane użytkowników w rozmowach z innymi użytkownikami.

Jakie są pani poglądy na federacyjne uczenie i prywatność użytkowników?

Federacyjne uczenie jest dobrym krokiem, gdy pozwala na to przypadku użycia. Niemniej jednak nadal jest możliwe wyodrębnienie informacji o danych wejściowych użytkownika z aktualizacji wag wysyłanych do chmury z urządzenia użytkownika, dlatego ważne jest połączenie federacyjnego uczenia z innymi technologiami poprawiającymi prywatność (różnicowa prywatność i homomorficzne szyfrowanie / bezpieczne obliczenia wielopartyjne). Każda technologia poprawiająca prywatność musi być wybrana zgodnie z przypadkiem użycia – żadna z nich nie może być używana jako młotek do rozwiązania wszystkich problemów. Omawiamy drzewo decyzyjne tutaj. Jednym z dużych zysków jest to, że nigdy nie wysyła się surowych danych poza urządzenie. Jednym z dużych minusów jest to, że jeśli potrzebne są dane do debugowania systemu lub sprawdzenia, czy jest on właściwie szkolony, staje się to znacznie trudniejsze. Federacyjne uczenie to dobry początek z wieloma nierozwiązanymi problemami, nad którymi pracują zarówno badania, jak i przemysł.

Jak Private AI umożliwia deweloperom integrowanie analizy prywatności z kilkoma liniami kodu, aby zapewnić prywatność?

Nasza technologia działa jako REST API, do którego nasi użytkownicy wysyłają żądania POST z tekstem, który chcą usunąć, zanonimizować lub pseudonimizować / wzbogacić realistycznymi danymi. Niektórzy z naszych klientów wysyłają transkrypcje połączeń, które muszą być usunięte, aby spełnić wymagania PCI, podczas gdy inni wysyłają całe rozmowy, aby później wykorzystać te informacje do szkolenia chatbotów, analizatorów nastrojów lub innych modeli NLP. Nasi użytkownicy mogą również wybrać, które jednostki chcą zachować lub nawet użyć jako metadanych do śledzenia, gdzie przechowywane są dane osobowe. Zabieramy ból musząc szkolić dokładny system do wykrywania i zastępowania informacji osobistych w bardzo zabrudzonych danych.

Dlaczego prywatność urządzeń IoT jest obecnie problemem i jakie są pani poglądy na jego rozwiązanie?

Ostatecznie, najlepszym sposobem rozwiązania problemu prywatności jest rozwiązanie zależne od przypadku użycia, a urządzenia IoT nie są wyjątkiem. Podczas gdy niektóre przypadki użycia mogą polegać na wdrożeniu na krawędzi, inferencji na krawędzi i federacyjnym uczeniu się zachowującym prywatność (np. crowd sensing w inteligentnych miastach), inne przypadki użycia mogą wymagać agregacji danych i anonimizacji (np. informacje o zużyciu energii). Mówiąc to, urządzenia IoT są klasycznym przykładem tego, jak prywatność i bezpieczeństwo muszą iść w parze. Urządzenia te są niezwykle narażone na ataki cybernetyczne, więc jest tylko tyle, co technologie poprawiające prywatność mogą zrobić bez naprawienia podstawowych luk w zabezpieczeniach urządzeń. Z drugiej strony, bez myślenia o sposobach poprawy prywatności użytkowników, informacje zebrane z naszych domów mogą być udostępnione, niekontrolowane, nieznanym stronom, co sprawia, że jest niezwykle trudno zagwarantować bezpieczeństwo tych informacji. Mamy tutaj dwie fronty do poprawy i projekt ustawy o bezpieczeństwie urządzeń IoT opracowany przez Komisję Europejską może okazać się tym, co wstrząśnie producentami urządzeń i sprawi, że zaczną oni traktować swoją odpowiedzialność wobec bezpieczeństwa i prywatności konsumentów poważnie.

Czy jest coś jeszcze, co chciałaby pan podzielić się na temat Private AI?

Jesteśmy grupą ekspertów w dziedzinie prywatności, języka naturalnego, mowy, przetwarzania obrazu, wdrożenia modeli uczenia maszynowego w środowiskach o niskich zasobach, wspieraną przez M12, fundusz venture Microsoftu.

Upewniamy się, że produkty, które tworzymy, oprócz tego, że są bardzo dokładne, są również obliczeniowo wydajne, dzięki czemu nie ma się ogromnej faktury za chmurę na koniec miesiąca. Ponadto dane naszych klientów nigdy nie są przenoszone do nas – wszystko jest przetwarzane w ich własnym środowisku.

Dziękujemy za wspaniały wywiad, aby dowiedzieć się więcej, odwiedź Private AI.