Rosnące wezwania do regulacji sztucznej inteligencji po tygodniach doniesień

W ciągu ostatnich kilku tygodni rosły wezwania do silniejszej regulacji sztucznej inteligencji (AI). Obawa ta wynika po różnych doniesieniach prasowych, które pokazały potencjalne nadużycia tej technologii. Teraz, po wydaniu przez Komisję Europejską (UE) długo oczekiwanego białej księgi na temat sztucznej inteligencji, która jest pierwszą próbą regulacji AI na poziomie paneuropejskim. W tym samym czasie, Biuro Polityki Nauki i Technologii Białego Domu (OSTP) opublikowało raport na temat amerykańskiej inicjatywy sztucznej inteligencji.

Przed wydaniem białej księgi UE, The Intercept opublikował artykuł na temat wycieków dokumentów wewnętrznych Unii Europejskiej. Zgodnie z dokumentami, UE rozważała stworzenie sieci baz danych rozpoznawania twarzy w całej Europie. Siły policyjne 10 państw członkowskich UE opracowały raport, w którym wezwano do stworzenia i połączenia tych baz danych we wszystkich państwach członkowskich. Wiele osób obawia się, że stworzenie takich baz danych będzie nieuniknione połączone z podobnymi bazami w Stanach Zjednoczonych, co pozwoli na konsolidację ogromnych ilości danych biometrycznych. Wiele osób oczekiwało, że biała księga UE zaproponuje zakaz rozpoznawania twarzy, ale tego nie zawiera.

Według Edina Omanovica, dyrektora ds. lobbingu w Privacy International, “To jest niepokojące na poziomie krajowym i europejskim, zwłaszcza w przypadku, gdy niektóre kraje UE zmierzają w kierunku bardziej autorytarnych rządów.”

Jedna z największych historii w ostatnich tygodniach, zainicjowana przez śledztwo New York Times w styczniu, dotyczy start-upu Clearview AI. Aplikacja rozpoznawania twarzy firmy identyfikuje ludzi za pomocą bazy danych zdjęć pobranych z mediów społecznościowych. Aplikacja porównuje zdjęcie z bazą danych ponad 3 miliardów zdjęć pochodzących z witryn takich jak Facebook (META ), Venmo i Youtube. Po znalezieniu dopasowań, aplikacja odpowiada linkami do witryn, na których zdjęcia zostały pierwotnie opublikowane. Ta technologia może prowadzić do odkrycia szczegółów osobistych o osobie. Zgodnie z raportem, aplikacja została użyta przez ponad 600 agencji ścigania. Podczas gdy baza danych Clearview zawiera ponad 3 miliardy zdjęć, baza danych FBI zawiera tylko 641 milionów zdjęć obywateli USA.

Historia ta wybuchła ponownie z nowym raportem BuzzFeed News (BZFD ) w zeszłym tygodniu. Zgodnie z raportem, firma rozważała rozszerzenie poza cele ścigania, z uwzględnieniem handlu detalicznego, nieruchomości, bankowości i rynków międzynarodowych. Raport stwierdził również, że aplikacja rozpoznawania twarzy została już sprzedana tysiącom organizacji na całym świecie i użyta przez Departament Sprawiedliwości, ICE, Macy’s (M ), Walmart (WMT ) i NBA. Może być najbardziej problematyczne wśród klientów jest suwerenny fundusz majątkowy w Zjednoczonych Emiratach Arabskich i tysiące podmiotów rządowych.

Nowe rozwinięcia spowodowały obawy wśród obrońców prywatności dotyczące potencjalnego wykorzystania do masowego nadzoru. Innym obawą jest możliwość błędów w technologiach, co może prowadzić do celowania przez organy ścigania w niewinnych osobach. Poza wszystkimi obawami dotyczącymi prywatności, firmy takie jak Facebook, Google (GOOGL ) i Twitter grożą podjęciem działań prawnych. Oprócz prywatnych działań prawnych, co najmniej dwóch senatorów Stanów Zjednoczonych oświadczyło, że zamierzają zbadania firmy.

Przykładem nadużycia tej technologii może być zaobserwowany w amerykańskiej Agencji Imigracji i Celnej (ICE). The Washington Post poinformował w zeszłym tygodniu, że urzędnicy ICE mają pozwolenie na używanie technologii rozpoznawania twarzy do przeszukiwania milionów zdjęć praw jazdy w Maryland, i mogą to robić bez uzyskania zgody stanu lub sądu.

Według Harrisona Rudolpha, starszego współpracownika w Centrum Prawa i Technologii Uniwersytetu Georgetown, “ICE używa informacji biometrycznych w ukryciu, bez zezwolenia rządu lub publicznej zgody, aby ścigać najbardziej bezbronne osoby.”

To są tylko niektóre z najbardziej publicznych przykładów, jak ta technologia jest używana, ale wiele więcej dzieje się za kulisami. Z tego powodu, rosły wezwania do zwiększenia nadzoru i regulacji. Zwiększona przejrzystość, niezależnie od tego, czy jest to ochotnicze, czy poprzez dziennikarstwo śledcze, ujawnia wiele praktyk. Bez zrozumienia przez społeczeństwa, co sztuczna inteligencja może oznaczać dla gospodarki, rządu, ścigania, nadzoru, i każdego innego aspektu społeczeństwa, nomy, rząd, organy ścigania, nadzór, i każdy inny aspekt społeczeństwa, jest mała nadzieja dla rządów i firm, aby same się regulowały. Społeczeństwo widzi ogromne korzyści sztucznej inteligencji i ogromne obawy, a wszystko to dzieje się zbyt szybko, aby firmy, rządy i osoby mogły nadążyć.