Twój samochód obserwuje Cię: Jak etycznie integrujemy sztuczną inteligencję w nowoczesnych pojazdach

Czy przeczytałeś warunki korzystania z Twojego samochodu? Może to brzmieć jak głupie pytanie, ale nowoczesne samochody są jak każdy inny produkt technologiczny lub usługa. Oznacza to strony i strony wytycznych dotyczących danych – i to, co producenci samochodów mogą i robią, może Cię zaskoczyć. Raport na temat prywatności danych w samochodach ujawnił, że nowoczesne samochody zapisują informacje osobiste o kierowcach, takie jak historia zatrudnienia i informacje medyczne, a także biometryczne, takie jak rozpoznawanie twarzy i dane konsumenckie z połączonych telefonów. Nie pamiętasz, abyś wyraził zgodę na to? Nie ma to znaczenia – polityka prywatności Subaru utrzymuje, że pasażerowie wyrazili zgodę na zbieranie danych tylko przez przebywanie w samochodzie.

Dzisiejsze samochody inteligentne stały się pożeraczami danych na kołach. I, niestety, wiele producentów samochodów nie traktuje poważnie swojego zobowiązania do prywatności i bezpieczeństwa. Mozilla ocenia samochody inteligentne jako najgorszą kategorię produktów pod względem prywatności konsumentów, stwierdzając, że aplikacje randkowe i zabawki erotyczne publikują więcej szczegółowych informacji o bezpieczeństwie niż nowoczesne samochody. Fundacja oceniła polityki prywatności i praktyki 25 producentów samochodów i wszystkie nie zdały testu prywatności konsumentów. Są to ogromne czerwone flagi, zwłaszcza gdy nowoczesne samochody są wyposażone w kamery i czujniki, a także są na progu rozpowszechnienia sztucznej inteligencji.

Jeśli producenci samochodów już teraz nie mogą być ufań, gdy chodzi o podstawowe dane kierowców, wdrożenie jeszcze bardziej zaawansowanych systemów, które uczą się z zachowania kierowców, wzorców głosowych i stanów emocjonalnych, wymaga starannego rozważenia. Zatem, przyjrzyjmy się bliżej samochodowi inteligentnemu dzisiaj i temu, jak powinien wyglądać jutro, badając napięcie między poprawą asystencji kierowcy za pomocą zbierania danych a ochroną prywatności w erze sztucznej inteligencji.

Trudno ufać producentom samochodów inteligentnych

Spójrz wokół nowoczesnych samochodów i szybko zauważysz, jak bardzo zmieniła się deska rozdzielcza i wnętrze w porównaniu z dawnymi czasami. Trudno nie zauważyć rozległej sieci czujników, mikrofonów i kamer, a także trudno powiedzieć, dokąd idą te informacje. Głębokie zanurzenie Mozilli w tym sektorze pokazuje, że producenci samochodów zbierają informacje od danych biometrycznych do szczegółowych profili psychologicznych, a 21 z 25 udostępnia informacje o klientach dostawcom usług i pośrednikom danych. Kolejne 19 przyznaje, że mogą sprzedawać dane osobowe.

To jest coś, co widzieliśmy wcześniej tego roku. Federalny proces w kwietniu ujawnił, że Toyota potajemnie zbierała i sprzedawała szczegółowe dane o prowadzeniu pojazdu – w tym lokalizację, prędkość i wzorce hamowania – firmie ubezpieczeniowej Progressive. Kierowcy odkryli to inwigilowanie dopiero wtedy, gdy złożyli wniosek o ubezpieczenie i zorientowali się, że firma już posiadała ich historię prowadzenia pojazdu. Pomimo publicznych deklaracji Toyoty dotyczących prywatności klienta, producent samochodów potajemnie komercjalizował intymne dane behawioralne i wykorzystywał ruchy kierowców. Podobnie, Tesla popadła w tarapaty za udostępnianie inwazyjnych nagrań klientów za pośrednictwem wewnętrznych czatów, w tym nagrania wypadków i zawartości prywatnych garaży.

Te rodzaje naruszeń to tylko wierzchołek góry lodowej. Nissan, na przykład, wykorzystuje dane z samochodów inteligentnych do tworzenia szczegółowych profili, które opisują preferencje kierowców, cechy, trendy psychologiczne, skłonności, zachowania, postawy, inteligencję, umiejętności i zdolności. Tak, słyszysz dobrze, Nissan uważa, że może wnioskować o Twojej inteligencji i sprzedawać tę ocenę stronom trzecim. Tego rodzaju nadużycie danych jest powszechne i niepokojące – i to zanim zostaną wprowadzone bardziej intuicyjne systemy z sztuczną inteligencją.

Sztuczna inteligencja w samochodach inteligentnych nie jest całkowicie zła

Dodanie sztucznej inteligencji podniesie samochody inteligentne do nowego poziomu responsywności i intuicyjności. Nie jesteśmy daleko od wizji komputerowej, która analizuje wyrażenia twarzy, ruchy oczu i stany emocjonalne, aby wykryć senność i rozkojarzenie. Ten rodzaj technologii może również bardziej szczegółowo przeanalizować warunki drogowe i pomóc nam jeździć lepiej (lub w ogóle – samochody autonomiczne nie są daleko i ta technologia mogłaby zapewnić ostateczny impuls).

Ponadto, wewnętrzne czatboty konwersacyjne będą mogły przetwarzać polecenia języka naturalnego i wzorce mówienia, informując wszystko, od reakcji na stres w różnych scenariuszach do osobistych tematów rozmów. Wspierane przez różne dane wejściowe i inteligentne zrozumienie, nie ma granic dla tego, czego te systemy mogą się nauczyć o nas za kierownicą.

Problem polega na tym, że producenci samochodów nie okazali się godnymi zaufania opiekunami tej nadchodzącej ewolucji. Systemy nadzoru sztucznej inteligencji bez zabezpieczeń mogłyby wykroczyć ryzyko naruszenia prywatności. Gdzie Toyota potajemnie sprzedała podstawowe wzorce prowadzenia, pojazdy z sztuczną inteligencją mogłyby komercjalizować bieżące poziomy stresu, wskaźniki zdrowia i intymne rozmowy, tworząc profile psychologiczne o wiele bardziej wartościowe i inwazyjne niż cokolwiek, co widzieliśmy.

Kluczowe jest wprowadzenie sztucznej inteligencji i zapewnienie zaufania

Jasne, że osiągnięcie odpowiedniej równowagi między innowacjami technologicznymi a prywatnością kierowców jest niezwykle ważne w następnym rozdziale samochodów inteligentnych. Upewnienie się, że to się stanie, zaczyna się od przetwarzania wszystkich danych w pojeździe. Na przykład, sztuczna inteligencja krawędziowa przetwarza wrażliwe dane biometryczne i behawioralne lokalnie, eliminując w ten sposób potrzebę transmisji chmury i serwerów pośrednich. Ten podejście umożliwia korzyści dla bezpieczeństwa – takie jak wykrywanie senności w czasie rzeczywistym i unikanie kolizji – jednocześnie uniemożliwiając producentom samochodów dostęp do surowych danych osobowych, które napędzają te systemy.

Możemy również budować zaufanie, lobując za surowymi ramami regulacyjnymi i zabezpieczeniami danych. Jeśli samochód ma posiadać możliwości sztucznej inteligencji, potrzebujemy zasad minimalizacji danych, które zbierają tylko informacje niezbędne do bezpieczeństwa. Ponadto, audyt algorytmiczny mógłby pomóc upewnić się, że systemy nie tworzą wykorzystywalnych profili psychologicznych.

Inne podstawowe technologie powinny być brane pod uwagę w celu poprawy bezpieczeństwa. Obejmują one homomorficzną szyfrowanie, dzięki której systemy sztucznej inteligencji mogą przetwarzać dane, które pozostają chronione matematycznie, nawet podczas analizy. Podobnie, protokoły zero-knowledge umożliwiają weryfikację zgodności z bezpieczeństwem bez ujawniania podstawowych danych osobowych, a połączenie peer-to-peer pozwala pojazdom wymieniać się krytycznymi informacjami o bezpieczeństwie bezpośrednio, bez routingowania przez inne pośredniki. Znowu, te technologie chroniące prywatność dowodzą, że możemy mieć inteligentne pojazdy bez poddawania się korporacyjnym sieciom nadzoru.

Samochody z sztuczną inteligencją są już w drodze, ale musimy najpierw rozwiązać te problemy. Są imponujące i ważne korzyści dla funkcjonalności, bezpieczeństwa i efektywności, wynikające z integracji tych platform następnej generacji, ale – i jest to duże ale – obecny stan lekceważenia danych nie jest wystarczający. Konsumenci nie powinni musieć czytać warunków korzystania z samochodu, aby wiedzieć, że ich prywatność jest szanowana.

Zamiast tego, producenci samochodów muszą poprawić swoją grę, a twórcy platform muszą zbudować silniejsze podstawy danych, w których bezpieczeństwo jest częścią rozwiązania.