Co czego nie mówi założycielom ustawa UE o sztucznej inteligencji o danych szkoleniowych

Artykuł 50 ustawy UE o sztucznej inteligencji wymaga, aby system sztucznej inteligencji ujawnił, że osoba rozmawia z maszyną. Nie mówi nic o tym, co dzieje się z tą rozmową po ujawnieniu.

Założyciele budujący produkty na podstawie modelu podstawowego koncentrują się na dokładności i cenie. Kwestia tego, co dzieje się z danymi użytkowników po opuszczeniu ich produktu i przetworzeniu przez model trzeciej strony, rzadko pojawia się podczas wyboru dostawcy.

Przepis ten wszedł w życie 2 sierpnia 2026 r., a kary za nieprzestrzeganie sięgają 15 milionów euro lub 3% globalnego rocznego obrotu, w zależności od tego, co jest wyższe. Przechowywanie i szkolenie znajdują się całkowicie poza jego zakresem. Jeśli Twoja aplikacja wysyła rozmowy użytkowników do modelu trzeciej strony, praktyki danych tego dostawcy stają się częścią Twojego produktu, niezależnie od tego, czy chciałeś tego, czy nie.

Domyślnie w branży jest szkolenie, a nie pytanie

Badacze z Instytutu Sztucznej Inteligencji Uniwersytetu Stanforda przeglądali politykę prywatności sześciu głównych amerykańskich deweloperów sztucznej inteligencji, w tym Amazon, Anthropic, Google, Meta, Microsoft i OpenAI, i stwierdzili, że każdy z nich używał danych rozmów klientów w celu szkolenia swoich modeli, a niektórzy przechowywali te dane nieograniczenie. Główny badacz Jennifer King była bezpośrednia, gdy zapytano ją, czy użytkownicy systemów czatowych sztucznej inteligencji powinni się martwić o swoją prywatność, odpowiadając “absolutnie tak”. Szkolenie powinno więc być traktowane jako domyślne założenie, chyba że dokumentacja dostawcy mówi inaczej. Szczegóły różnią się jednak od jednego dostawcy do drugiego i zasługują na uwagę przed podjęciem decyzji o platformie.

Anthropic, który wcześniej był chwalony za świadomość prywatności, zmienił warunki dla konsumentów, tak aby rozmowy z Claude były teraz używane do szkolenia domyślnie, a użytkownicy mogli zrezygnować. To pokazuje, jak szybko polityka szkoleniowa dostawcy może ulec zmianie, nawet gdy prywatność była częścią jego pierwotnej oferty.

W innych modelach rezygnacja z udziału nie działa w pełni. Google przechowuje rozmowy Gemini przeglądane przez ludzkich annotatorów przez okres do trzech lat, a wyłączenie ustawienia aktywności Gemini nie powoduje zaprzestania przeglądu przez ludzi. Gdy rozmowa została oznaczona do przeglądu przez człowieka, pozostaje w systemach Google na oddzielnym torze przechowywania, niezależnie od tego, co użytkownik robi później.

Character.AI szkolił się na rozmowach użytkowników domyślnie i oferował rezygnację tylko użytkownikom w EEA i Wielkiej Brytanii, co plasuje go na bardziej permissivej stronie praktyk danych omawianych tutaj. Oddzielnie, firma spotkała się z problemami prawnymi i wizerunkowymi. W styczniu 2026 r. Character.AI i Google zgodzili się na ugodę w sprawie grupy pozwów twierdzących, że interakcje czatbota z nieletnimi wyrządziły szkodę, niezwiązaną z polityką szkoleniową danych. Google został wymieniony jako współpozwany ze względu na swoje powiązania z założycielami Character.AI, a chociaż nie przyznano winy i warunki nie zostały ujawnione, sprawa pokazuje, że ekspozycja prawna związana z dostawcą sztucznej inteligencji może dotknąć firmy, które ją wspierają.

Okna przechowywania, wyzwania przeglądu przez ludzi i dostęp podwykonawców rzadko pojawiają się poza drobnym drukiem polityki prywatności. Firmy integrujące te API często muszą dokładnie zbadać, aby dowiedzieć się, jak długo dane użytkowników pozostają w przeglądzie lub kto jeszcze może je zobaczyć. Prawie żadne z tych szczegółów nie docierają do użytkowników końcowych, co oznacza, że firma może odziedziczyć praktyki danych dostawcy i przekazać tę samą ekspozycję bez tego, aby któraś ze stron zdawała sobie z tego sprawę.

Dlaczego jest to problem założyciela, a nie tylko debata polityczna

Jeśli Twój produkt kieruje rozmowy użytkowników przez model podstawowy z włączonym domyślnie szkoleniem, zaakceptowałeś politykę danych w imieniu użytkowników bez poinformowania ich, nawet jeśli nie zamierzałeś tego zrobić. Artykuł 50 nie wymaga od Ciebie ujawnienia tej decyzji, ponieważ dotyczy tylko faktu, że rozmawiają z sztuczną inteligencją.

Dostęp trzeciej strony powoduje jeszcze większą ekspozycję. Dostawcy modeli regularnie zlecają anotację danych i przegląd bezpieczeństwa podwykonawcom. W maju 2026 r. prokurator generalny Teksasu Ken Paxton wszczął śledztwo w sprawie okularów AI Meta po tym, jak anotatorzy danych w kenijskim podwykonawcy o nazwie Sama rzekomo powiedzieli, że mogą uzyskać dostęp do nagrania prywatnych momentów użytkowników, w tym wizyt w łazience. Meta zakwestionował, że odzwierciedla to pełny obraz swoich praktyk, a śledztwo jest w toku. Chociaż przykład dotyczy kamer noszonych, ten sam problem może dotyczyć sztucznej inteligencji konwersacyjnej. Obietnica, że firma nie sprzedaje Twoich danych, nie mówi nic o tym, kto jeszcze może je przeczytać wewnętrznie, zanim jeszcze trafią do potoku szkoleniowego.

Co sprawdzić przed wyborem dostawcy

Przed połączeniem modelu podstawowego z prawdziwymi danymi użytkowników istnieją beberapa pytań, które każdy założyciel powinien odpowiedzieć.

Umowa dotycząca przetwarzania danych jest dobrym punktem wyjścia. Umowa ta jest dokumentem, który reguluje, w jaki sposób dane użytkowników są przetwarzane, i warto ją przeczytać w całości.

Sam kontrakt zasługuje na taką samą uwagę. Dostawcy często oferują bardziej restrykcyjne warunki bez szkolenia na kontraktach przedsiębiorstw lub API niż na produktach czatowych dla konsumentów, więc potwierdź na piśmie, które warunki mają zastosowanie do Twojej konkretnego połączenia. Wiele firm często popełnia błąd, zakładając, że język prywatności na poziomie przedsiębiorstwa automatycznie ich obejmuje.

Przepisy dotyczące rezygnacji z udziału również są warte zbadania. Ustawienia Gemini ilustrują to, ponieważ w tym modelu wyłączenie śledzenia aktywności nie powoduje zaprzestania przeglądu przez ludzi. Dostawca powinien być w stanie powiedzieć wyraźnie, czy rezygnacja z udziału powoduje zaprzestanie szkolenia, przeglądu przez ludzi lub obu.

Wreszcie, sprawdź, dokąd trafiają dane w dół od dostawcy. Anotacja i przegląd bezpieczeństwa są często zlecone podwykonawcom, a własne obietnice prywatności dostawcy nie automatycznie rozciągają się na każdego podwykonawcę w tej sieci.

Żadne z tych pytań nie powinno być traktowane jako jednorazowa ćwiczenie. Warunki dostawcy mogą ulec zmianie, czasem szybko, a dostawca, z którym podpisałeś umowę w zeszłym roku, może nie działać według tych samych zasad dzisiaj.

Rynek może ustalić standard, którego nie osiągnęła jeszcze regulacja

Artykuł 50 nie jest prawdopodobnie ostatnim słowem Unii Europejskiej w sprawie zarządzania danymi sztucznej inteligencji, a założyciele nie powinni czekać na następną rundę regulacji, aby dogonić lukę, którą pozostawiła. Firmy mogą wyprzedzić tę lukę, budując jawne i widoczne opt-in dla szkolenia na danych swoich użytkowników. Istnieje wyraźna granica między udoskonalaniem modelu a cichym zarabianiem na zaufaniu użytkowników. Wiele usług sztucznej inteligencji nadal przekracza tę granicę, używając rozmów do szkolenia bez pytania o wyraźną, świadomą zgodę. Założyciele, którzy wyznaczą tę granicę dla siebie teraz, nie będą musieli dostosowywać się do przepisów później.

To jest ruch z precedensem. Zaszyfrowane aplikacje do wiadomości i menedżery haseł nie czekały na regulatorów, aby uczynić silne domyślne ustawienia standardem. Zrobili to sami i przekształcili je w pozycję rynkową. Produkty sztucznej inteligencji mają taką samą okazję. Założyciele, którzy wyznaczą tę granicę przed czasem, będą tymi, którym zostanie powierzona następna wrażliwa rozmowa ich użytkowników.