Czy istnieje klarowne rozwiązanie problemu ryzyk związanych z ochroną prywatności generowanymi przez sztuczną inteligencję?

Ryzyka związane z ochroną prywatności generowanymi przez sztuczną inteligencję są bardzo realne. Od zwiększonej inwigilacji i ekspozycji na bardziej skuteczne kampanie phishingowe i vishing niż kiedykolwiek wcześniej, sztuczna inteligencja generatywna niszczy prywatność masowo, bez rozróżnienia, jednocześnie dostarczając złym aktorom, niezależnie od tego, czy są to aktorzy przestępczy, sponsorowani przez państwo czy rządowe, narzędzia niezbędne do celowania w osoby i grupy.

Najbardziej klarowne rozwiązanie tego problemu polega na tym, że konsumenci i użytkownicy zbiorowo odrzucają hype wokół sztucznej inteligencji, domagają się przejrzystości od tych, którzy rozwijają lub wdrażają tak zwane funkcje sztucznej inteligencji, oraz skutecznej regulacji ze strony rządowych organów nadzorujących ich działania. Chociaż warto dążyć do tego, nie jest to prawdopodobne, że się to wydarzy w najbliższym czasie.

Co pozostaje, to rozsądne, choć koniecznie niekompletne, podejścia do łagodzenia ryzyk związanych z ochroną prywatności sztucznej inteligencji generatywnej. Długoterminowa, pewna, choć nudna prognoza jest taka, że im bardziej społeczeństwo staje się świadome kwestii ochrony danych, tym mniejsze są ryzyka związane z powszechnym stosowaniem sztucznej inteligencji generatywnej.

Czy wszyscy dobrze rozumiemy pojęcie sztucznej inteligencji generatywnej?

Hype wokół sztucznej inteligencji jest tak wszechobecny, że badanie tego, co ludzie rozumieją przez sztuczną inteligencję generatywną, jest prawie niepotrzebne. Oczywiście, żadna z tych „funkcji sztucznej inteligencji”, funkcjonalności i produktów nie reprezentuje prawdziwej sztucznej inteligencji, niezależnie od tego, co by to miało znaczyć. Są to raczej przykłady uczenia maszynowego (ML), głębokiego uczenia się (DL) i dużych modeli językowych (LLM).

Sztuczna inteligencja generatywna, jak sama nazwa wskazuje, może generować nową treść – niezależnie od tego, czy jest to tekst (w tym języki programowania), dźwięk (w tym muzyka i głosy podobne do ludzkich) czy filmy (z dźwiękiem, dialogami, cięciami i zmianami kamery). Wszystko to jest osiągane poprzez szkolenie LLM w celu identyfikacji, dopasowania i odtworzenia wzorców w treści generowanej przez ludzi.

Weźmy jako przykład ChatGPT. Jak wiele LLM, jest szkolony w trzech szerokich etapach:

• Przeszkolenie: W tej fazie LLM jest „karmiony” materiałem tekstowym z Internetu, książek, czasopism akademickich i wszystkiego, co zawiera potencjalnie istotny lub przydatny tekst.
• Doskonalenie instrukcji nadzorowanego: Modele są szkolone, aby odpowiadać bardziej spójnie na instrukcje, używając par instrukcji i odpowiedzi o wysokiej jakości, zwykle pochodzących od ludzi.
• Nauczanie wzmocnienia z ludzkiej opinii (RLHF): LLM, takie jak ChatGPT, często przechodzą ten dodatkowy etap szkolenia, podczas którego interakcje z użytkownikami są wykorzystywane do udoskonalenia wyrównania modelu z typowymi przypadkami użycia.

Wszystkie trzy etapy procesu szkolenia obejmują dane, czy to ogromne ilości wcześniej zebranych danych (jak te używane w przeszkoleniu) czy dane zebrane i przetworzone niemal w czasie rzeczywistym (jak te używane w RLHF). To właśnie te dane niosą największe ryzyko związane z prywatnością wynikające ze sztucznej inteligencji generatywnej.

Jakie są ryzyka związane z ochroną prywatności sztucznej inteligencji generatywnej?

Prywatność jest zagrożona, gdy informacje osobiste dotyczące osoby (podmiotu danych) są udostępniane innym osobom lub podmiotom bez zgody podmiotu danych. LLM są przeszkolone i doskonalone na bardzo szerokim zakresie danych, które mogą i często zawierają dane osobiste. Te dane są zwykle pobierane z publicznie dostępnych źródeł, ale nie zawsze.

Nawet gdy dane te są pobierane z publicznie dostępnych źródeł, ich agregacja i przetwarzanie przez LLM, a następnie udostępnianie ich przez interfejs LLM, mogą być uważane za dalsze naruszenie prywatności.

Etap nauczania wzmocnienia z ludzkiej opinii (RLHF) komplikuje sprawę. Na tym etapie szkolenia rzeczywiste interakcje z użytkownikami są wykorzystywane do iteracyjnego korygowania i udoskonalania odpowiedzi LLM. Oznacza to, że interakcje użytkownika z LLM mogą być wyświetlane, udostępniane i rozpowszechniane przez każdego, kto ma dostęp do danych szkoleniowych.

W większości przypadków nie jest to naruszenie prywatności, ponieważ większość deweloperów LLM zawiera polityki prywatności i warunki korzystania z usługi, które wymagają od użytkowników wyrażenia zgody przed interakcją z LLM. Ryzyko prywatności polega raczej na tym, że wiele użytkowników nie jest świadomych, że wyrazili zgodę na takie gromadzenie i wykorzystanie danych. Tacy użytkownicy prawdopodobnie ujawnią prywatne i wrażliwe informacje podczas interakcji z tymi systemami, nie zdając sobie sprawy, że te interakcje nie są ani poufne, ani prywatne.

W ten sposób dochodzimy do trzech głównych sposobów, w jakie sztuczna inteligencja generatywna naraża na ryzyko prywatności:

• Duże ilości danych przeszkoleniowych, które mogą zawierać informacje osobiste, są narażone na naruszenie i wykradzenie.
• Informacje osobiste zawarte w danych przeszkoleniowych mogą być ujawnione innym użytkownikom tego samego LLM za pośrednictwem odpowiedzi na zapytania i instrukcje.
• Informacje osobiste i poufne podane podczas interakcji z LLM trafiają do pracowników LLM i możliwie również do podwykonawców, skąd mogą być wyświetlane lub ujawnione.

To wszystko są ryzyka dla prywatności użytkowników, ale szanse na to, że informacje osobiste trafią w niewłaściwe ręce, wydają się stosunkowo niskie. To jest przynajmniej tak długo, dopóki pośrednicy danych nie wejdą do gry. Te firmy specjalizują się w wyszukiwaniu informacji osobistych i gromadzeniu, agregowaniu oraz rozpowszechnianiu, jeśli nie wręcz nadawaniu ich.

Z informacjami osobistymi, które stały się rodzajem towaru, a przemysłem pośredników danych, który powstał, aby z tego skorzystać, każde dane osobiste, które „wypłyną”, są bardzo prawdopodobne, że zostaną pobrane przez pośredników danych i szeroko rozpowszechnione.

Ryzyka związane z ochroną prywatności sztucznej inteligencji generatywnej w kontekście

Zanim przyjrzymy się ryzykom, jakie sztuczna inteligencja generatywna naraża na prywatność użytkowników w kontekście konkretnych produktów, usług i partnerstw korporacyjnych, cofnijmy się i przyjrzyjmy się bardziej ustrukturyzowanemu spojrzeniu na pełny zakres ryzyk związanych ze sztuczną inteligencją generatywną. Piszając dla IAPP, Moraes i Previtali podjęli podejście oparte na danych w celu udoskonalenia taksonomii prywatności Solove’a z 2006 roku, redukując 16 ryzyk związanych z prywatnością do 12 ryzyk związanych z prywatnością sztucznej inteligencji.

Oto 12 ryzyk związanych z prywatnością zawartych w zrewidowanej taksonomii Moraesa i Previtali:

• Inwigilacja: Sztuczna inteligencja zwiększa ryzyko inwigilacji, zwiększając skalę i powszechność gromadzenia danych osobowych.
• Identyczność: Technologie sztucznej inteligencji umożliwiają automatyczne łączenie tożsamości w różnych źródłach danych, zwiększając ryzyko związane z ekspozycją tożsamości osobistej.
• Agregacja: Sztuczna inteligencja łączy różne fragmenty danych o osobie, aby wyciągać wnioski, tworząc ryzyko inwazji na prywatność.
• Frenologia i fizjonomia: Sztuczna inteligencja wnioskuje o osobowości lub atrybutach społecznych na podstawie cech fizycznych, nowa kategoria ryzyka, która nie jest w taksonomii Solove’a.
• Użycie wtórne: Sztuczna inteligencja zwiększa użycie danych osobowych w celach innych niż pierwotnie zamierzone, poprzez przekierowanie danych.
• Wykluczenie: Sztuczna inteligencja pogarsza brak informowania lub kontroli nad tym, jak dane są wykorzystywane, poprzez nieprzejrzyste praktyki danych.
• Niebezpieczeństwo: Wymagania danych i praktyki przechowywania sztucznej inteligencji narażają na ryzyko wycieku danych i nieuprawnionego dostępu.
• Ekspozycja: Sztuczna inteligencja może ujawniać wrażliwe informacje, takie jak za pomocą technik sztucznej inteligencji generatywnej.
• Zniekształcenie: Możliwość sztucznej inteligencji generowania realistycznych, ale fałszywych treści, zwiększa rozpowszechnianie fałszywych lub mylących informacji.
• Ujawnienie: Sztuczna inteligencja może powodować nieodpowiednie udostępnianie danych, gdy wnioskuje dodatkowe wrażliwe informacje z surowych danych.
• Zwiększona dostępność: Sztuczna inteligencja sprawia, że wrażliwe informacje stają się bardziej dostępne dla szerszego grona odbiorców niż zamierzono.
• Inwazja: Technologie sztucznej inteligencji naruszają prywatność lub samotność, często poprzez środki inwigilacji.

To jest dość niepokojąca lektura. Ważne jest, aby zauważyć, że ta taksonomia, na swoją korzyść, bierze pod uwagę tendencję sztucznej inteligencji generatywnej do halucynacji – generowania i przedstawiania z pewnością nieprawdziwych informacji. To zjawisko, chociaż rzadko ujawnia prawdziwe informacje, jest również ryzykiem związanym z prywatnością. Rozpowszechnianie fałszywych i mylących informacji wpływa na prywatność podmiotu w sposób bardziej subtelny niż w przypadku prawdziwych informacji, ale jednak ją wpływa.

Przejdźmy do konkretnych przykładów, jak te ryzyka związane z prywatnością występują w kontekście rzeczywistych produktów sztucznej inteligencji.

Bezpośrednie interakcje z systemami sztucznej inteligencji generatywnej opartymi na tekście

Najprostszy przypadek to ten, w którym użytkownik wchodzi w interakcje bezpośrednio z systemem sztucznej inteligencji generatywnej, takim jak ChatGPT, Midjourney lub Gemini. Interakcje użytkownika z wieloma z tych produktów są rejestrowane, przechowywane i wykorzystywane do RLHF (nauczania wzmocnienia z ludzkiej opinii), nadzorowanego doskonalenia instrukcji i nawet przeszkolenia innych LLM.

Analiza polityk prywatności wielu usług tego rodzaju ujawnia również inne działania związane z udostępnianiem danych, podparte różnymi celami, takimi jak marketing i pośrednictwo danych. To jest inny rodzaj ryzyka związanego z prywatnością sztucznej inteligencji generatywnej: te systemy mogą być scharakteryzowane jako ogromne lejki danych, gromadzące dane dostarczane przez użytkowników, a także te, które są generowane poprzez ich interakcje z podstawowym LLM.

Interakcje z wbudowanymi systemami sztucznej inteligencji generatywnej

Niektórzy użytkownicy mogą wchodzić w interakcje z interfejsami sztucznej inteligencji generatywnej, które są wbudowane w produkt, który używają. Użytkownik może wiedzieć, że używa „funkcji sztucznej inteligencji”, ale mniej prawdopodobne jest, że wie, co to oznacza w kwestii ryzyk związanych z ochroną danych. To, co jest najbardziej widoczne w systemach wbudowanych, to brak zrozumienia faktu, że dane osobowe udostępnione LLM mogą trafić w ręce deweloperów i pośredników danych.

Istnieją dwa stopnie braku świadomości: niektórzy użytkownicy zdają sobie sprawę, że wchodzą w interakcje z produktem sztucznej inteligencji generatywnej; a niektórzy uważają, że używają produktu, do którego sztuczna inteligencja generatywna jest wbudowana lub dostępna. W każdym przypadku użytkownik może (i prawdopodobnie) wyraził zgodę na warunki i postanowienia związane z interakcją z systemem wbudowanym.

Inne partnerstwa, które narażają użytkowników na systemy sztucznej inteligencji generatywnej

Niektóre firmy wbudowują lub w inny sposób włączają interfejsy sztucznej inteligencji generatywnej do swoich oprogramowań w sposób mniej oczywisty, pozwalając użytkownikom wchodzić w interakcje – i udostępniać informacje – z podmiotami trzecimi bez świadomości. Na szczęście „sztuczna inteligencja” stała się tak skutecznym punktem sprzedaży, że nie jest prawdopodobne, aby firma ukrywała takie wdrożenia.

Innym zjawiskiem w tym kontekście jest rosnący sprzeciw, z którym spotkały się takie firmy po próbach udostępnienia danych użytkowników firmom sztucznej inteligencji generatywnej, takim jak OpenAI. Firma zajmująca się usunięciem danych Optery, na przykład, niedawno odwróciła decyzję o udostępnieniu danych użytkowników OpenAI na zasadzie opt-out, co oznacza, że użytkownicy byli zapisani do programu domyślnie.

Nie tylko klienci szybko wyrazili swoje rozczarowanie, ale usługa usuwania danych firmy została również usunięta z listy zalecanych usług usuwania danych przez Privacy Guides. Na plus Optery, szybko i w sposób transparentny odwróciła swoją decyzję, ale to ogólny sprzeciw, który jest tutaj istotny: ludzie zaczynają doceniać ryzyka związane z udostępnieniem danych firmom „sztucznej inteligencji”.

Przypadek Optery jest dobrym przykładem, ponieważ jej użytkownicy są w pewnym sensie na czele rosnącej sceptyczności wokół wdrożeń sztucznej inteligencji. Ludzie, którzy decydują się na usługę usuwania danych, są również tymi, którzy zwracają uwagę na zmiany w warunkach korzystania z usługi i politykach prywatności.

Dowody rosnącej reakcji przeciwko wykorzystaniu danych sztucznej inteligencji generatywnej

Konsumenci świadomi prywatności nie byli jedynymi, którzy podnieśli alarm w sprawie systemów sztucznej inteligencji generatywnej i związanych z nimi ryzyk związanych z ochroną danych. Na poziomie ustawodawczym unijna Ustawa o sztucznej inteligencji klasyfikuje ryzyka według ich ciężkości, z ochroną danych jako jawnie lub dorozumianie określoną jako kryterium przyznawania ciężkości w większości przypadków. Ustawa zajmuje się również kwestiami świadomej zgody, o których wcześniej dyskutowaliśmy.

Stany Zjednoczone, słynące z powolnego wprowadzania kompleksowych, federalnych przepisów o ochronie danych, mają przynajmniej pewne zabezpieczenia dzięki Rozporządzeniu Wykonawczemu 14110. Ponownie, obawy związane z ochroną danych są na pierwszym planie wśród celów wymienionych w Rozporządzeniu: „niewłaściwe wykorzystanie [technologii sztucznej inteligencji] mogłoby nasilić szkody społeczne, takie jak oszustwa, dyskryminacja, uprzedzenia i dezinformacja” – wszystkie związane z dostępnością i rozpowszechnianiem danych osobowych.

Wracając do poziomu konsumenta, nie tylko konsumenci szczególnie świadomi prywatności zareagowali na inwazyjne wdrożenia sztucznej inteligencji generatywnej. Funkcja „wzmocniona sztuczną inteligencją” Microsoftu, przeznaczona dla systemu operacyjnego Windows 11, jest przykładem pierwszoplanowym. Gdy tylko ujawniono zakres ryzyk związanych z prywatnością i bezpieczeństwem, reakcja była wystarczająco silna, aby skłonić giganta technologicznego do wycofania się. Niestety, Microsoft wydaje się nie zrezygnował z pomysłu, ale początkowa reakcja publiczna jest jednak zachęcająca.

Zostając przy Microsoft, jego program Copilot został szeroko skrytykowany za zarówno problemy z ochroną danych, jak i bezpieczeństwem. Ponieważ Copilot został przeszkolony na danych z GitHub (głównie kodzie źródłowym), kontrowersje wynikły również z domniemanych naruszeń umów licencyjnych programistów i deweloperów. To przypadki, w których granice między ochroną danych a prawami własności intelektualnej zaczynają się zacierać, nadając pierwszej wartość pieniężną – co nie jest łatwe do osiągnięcia.

Być może największym wskaźnikiem, że sztuczna inteligencja staje się czerwoną flagą w oczach konsumentów, jest chłodna, jeśli nie wręcz nieufna, reakcja publiczna na pierwszy start Apple’a, szczególnie w odniesieniu do umów o udostępnianiu danych z OpenAI.

Częściowe rozwiązania

Istnieją kroki, które ustawodawcy, deweloperzy i firmy mogą podjąć, aby złagodzić niektóre z ryzyk związanych z sztuczną inteligencją generatywną. To są specjalistyczne rozwiązania konkretnych aspektów ogólnego problemu, żadne z nich nie jest wystarczające, ale wszystkie, działając razem, mogą uczynić różnicę.

• Minimalizacja danych. Minimalizowanie ilości gromadzonych i przechowywanych danych jest rozsądnym celem, ale jest to bezpośrednio sprzeczne z pragnieniem deweloperów sztucznej inteligencji generatywnej do danych szkoleniowych.
• Przejrzystość. Biorąc pod uwagę obecny stan sztuki w uczeniu maszynowym, może to nie być nawet technicznie możliwe w wielu przypadkach. Wgląd w to, jakie dane są przetwarzane i w jaki sposób podczas generowania danych wyjściowych, jest jednym ze sposobów zapewnienia prywatności w interakcjach z sztuczną inteligencją generatywną.
• Anonimizacja. Każde dane osobowe, które nie mogą być wykluczone z danych szkoleniowych (poprzez minimalizację danych), powinny być anonimizowane. Problem polega na tym, że wiele popularnych technik anonimizacji i pseudonimizacji jest łatwo pokonywanych.
• Zgoda użytkownika. Wymaganie od użytkowników zgody na gromadzenie i udostępnianie ich danych jest niezbędne, ale zbyt podatne na nadużycia i zbyt skłonne do lenistwa konsumentów, aby być skutecznym. To świadoma zgoda jest tutaj potrzebna, a większość konsumentów, właściwie poinformowanych, nie wyraziłaby zgody na takie udostępnianie danych, więc zachęty są niezgodne.
• Zabezpieczenie danych w transporcie i w spoczynku. Kolejna podstawa ochrony danych i bezpieczeństwa, ochrona danych za pomocą środków kryptograficznych i innych, może zawsze być bardziej skuteczna. Jednak systemy sztucznej inteligencji generatywnej mają tendencję do wycieku danych przez swoje interfejsy, co sprawia, że jest to tylko część rozwiązania.
• Wymuszanie prawa autorskiego i prawa własności intelektualnej w kontekście tak zwanej sztucznej inteligencji. Uczenie maszynowe może działać w „czarnej skrzynce”, utrudniając, jeśli nie uniemożliwiając, śledzenie, które chronione materiały i prawa własności intelektualnej kończą się w danych wyjściowych sztucznej inteligencji generatywnej.
• Audyty. Kolejna kluczowa miara zabezpieczeń, która jest utrudniona przez naturę „czarnej skrzynki” LLM i systemów sztucznej inteligencji generatywnej, które wspierają. Tę wewnętrzną ograniczenie potęguje zamknięta natura większości produktów sztucznej inteligencji generatywnej, co ogranicza audyty do tych, które są wykonywane wyłącznie według uznania deweloperów.

Wszystkie te podejścia do problemu są ważne i konieczne, ale żadne z nich nie jest wystarczające. Wymagają one wsparcia ustawodawczego, aby mieć znaczący efekt, co oznacza, że są skazane na pozostanie w tyle za tym dynamicznie rozwijającym się polem.

Jasne rozwiązanie

Rozwiązanie problemu ryzyk związanych z ochroną prywatności sztucznej inteligencji generatywnej nie jest rewolucyjne ani ekscytujące, ale wzięte do logicznego wniosku, jego wyniki mogą być zarówno rewolucyjne, jak i ekscytujące. Jasne rozwiązanie polega na tym, że zwykli konsumenci stają się świadomi wartości swoich danych dla firm i bezcennej wartości ochrony prywatności dla siebie.

Konsumenci są źródłem i siłą napędową za informacjami osobistymi, które napędzają tak zwany nowoczesny nadzór gospodarczy. Gdy krytyczna masa konsumentów zacznie powstrzymywać przepływ danych osobowych do sfery publicznej i zacznie domagać się odpowiedzialności od firm, które handlują danymi osobowymi, system będzie musiał samoregulować się.

Pobudzające w przypadku sztucznej inteligencji generatywnej jest to, że w przeciwieństwie do obecnych modeli reklamowych i marketingowych, nie musi ona obejmować informacje osobiste na żadnym etapie. Dane przeszkoleniowe i doskonalenia nie muszą zawierać danych osobowych, a użytkownicy nie muszą ujawniać takich danych podczas interakcji z systemami sztucznej inteligencji generatywnej.

Aby usunąć swoje dane osobowe z danych szkoleniowych, ludzie mogą pójść prosto do źródła i usunąć swoje profile z różnych pośredników danych (w tym stron people search), które agregują dane publiczne i wprowadzają je do obiegu na wolnym rynku. Usługi usuwania danych osobowych automatyzują ten proces, czyniąc go szybkim i łatwym. Oczywiście, usunięcie danych osobowych z baz danych tych firm ma wiele innych korzyści i nie ma wad.

Ludzie również generują dane osobowe podczas interakcji z oprogramowaniem, w tym sztuczną inteligencją generatywną. Aby powstrzymać przepływ tych danych, użytkownicy będą musieli być bardziej świadomi, że ich interakcje są rejestrowane, przeglądane, analizowane i udostępniane. Ich opcje, aby uniknąć tego, sprowadzają się do ograniczania tego, co ujawniają online, i korzystania z systemów sztucznej inteligencji generatywnej na urządzeniu i otwartych LLM, gdzie tylko to możliwe. Ludzie, ogólnie rzecz biorąc, już teraz dobrze radzą sobie z kontrolowaniem tego, o czym dyskutują publicznie – musimy tylko rozszerzyć te instynkty na dziedzinę sztucznej inteligencji generatywnej.