Niepowodzenia projektu unijnej ustawy o sztucznej inteligencji

Nowa krytyka prawna projektu unijnej ustawy o sztucznej inteligencji przedstawia szereg zarzutów wobec proponowanych regulacji opublikowanych w kwietniu, stwierdzając, że wiele elementów dokumentu jest “zszyte” z ledwo stosowalnych regulacji konsumenckich z lat 80-tych; że tak naprawdę promuje deregulowany środowisko sztucznej inteligencji w Europie, zamiast wprowadzać spójne regulacje; oraz – wśród wielu innych zarzutów – że proponowane regulacje wytyczają ramy przyszłego regulacyjnego środowiska sztucznej inteligencji, które mają “mały sens i wpływ”.

Tytuł Demistyfikacja projektu unijnej ustawy o sztucznej inteligencji to współpraca badaczy z UCL London i Radboud University w Nijmegen.

Artykuł dodaje do rosnącego nurtu negatywnych opinii na temat proponowanej implementacji (a nie samej intencji) ram regulacyjnych sztucznej inteligencji, w tym twierdzenia z kwietnia jednego z autorów projektu regulacji, że proponowane wytyczne są “letnie, krótkowzroczne i celowo niejasne”, co charakteryzuje dokument Komisji Europejskiej jako promujący “fałszywą etykę”.

Manipulative AI Systems

Nowy artykuł twierdzi, że proponowane ograniczenia w projekcie ustawy o sztucznej inteligencji dotyczące “manipulacyjnych systemów” są ograniczone przez niejasną i wręcz sprzeczną definicję “szkody”, komentując, że “ynik mógłby uznać, że Komisja jest bardziej zainteresowana retoryczną wartością zakazów niż praktycznym efektem”.

Projekt regulacji określa dwa potencjalne zabronione praktyki:

(a) umieszczenie na rynku, wprowadzenie do użytku lub użycie systemu sztucznej inteligencji, który wykorzystuje techniki podprogowe poza świadomością osoby, w celu znacznego zniekształcenia zachowania osoby w sposób, który powoduje lub może powodować szkodę fizyczną lub psychiczną tej osoby lub innej osoby;

(b) umieszczenie na rynku, wprowadzenie do użytku lub użycie systemu sztucznej inteligencji, który wykorzystuje słabości określonej grupy osób ze względu na ich wiek, niepełnosprawność fizyczną lub psychiczną, w celu znacznego zniekształcenia zachowania osoby należącej do tej grupy w sposób, który powoduje lub może powodować szkodę fizyczną lub psychiczną tej osoby lub innej osoby;

Badacze twierdzą, że te ograniczenia nie dotyczą tego, czy usługi lub oprogramowanie dostawcy sztucznej inteligencji są skuteczne w osiąganiu ich własnych celów, ale tylko czy użytkownik końcowy doświadcza “szkody” w tym procesie. Dodają, że definicja szkody w projekcie jest ograniczona do indywidualnych użytkowników, a nie rodzaju szkody kolektywnej lub społecznej, jaka może być rozsądnie wnioskowana z liczby kontrowersji związanych z sztuczną inteligencją w ostatnich latach, takich jak skandal Cambridge Analytica.

Artykuł zauważa, że “w prawdziwym życiu szkoda może się kumulować bez jednego zdarzenia, które przekroczyłoby próg poważności, co utrudnia udowodnienie”.

Harmful AI Systems Allowed, but Not for EU Consumption

Projekt ustawy o sztucznej inteligencji proponuje wprowadzenie zakazu “w czasie rzeczywistym” systemów biometrycznych w przestrzeni publicznej przez organy ścigania. Chociaż niektórzy wyrazili publiczne wątpliwości co do wyjątków, które proponowane przepisy wprowadzają dla walki z terroryzmem, handlem ludźmi i europejskim nakazem aresztowania, badacze zauważają, że nic nie uniemożliwia dostawcom sprzedaży systemów biometrycznych sprzecznych z prawem do reżimów opresyjnych.

Artykuł zauważa, że jest to już praktyka historyczna, jak wynika z raportu Amnesty International z 2020 roku.

Stwierdza ponadto, że określenie “w czasie rzeczywistym” systemu biometrycznego jest arbitralne i wyklucza systemy analityczne offline, takie jak późniejsza analiza nagrania wideo z wydarzeń protestacyjnych.

Dodatkowo zauważa, że proponowane przepisy nie przewidują mechanizmu ograniczającego systemy biometryczne, które nie są związane z organami ścigania, które zamiast tego są leniwie odsyłane do RODO; oraz że RODO samo w sobie “nakłada wymóg wysokiej jakości, indywidualnej zgody dla każdej osoby, którą skanuje, co jest skutecznie niemożliwe do spełnienia”.

Słownictwo tej sekcji projektu ustawy o sztucznej inteligencji również poddawane jest krytyce przez badaczy. Projekt określa, że wymagane będzie uprzednie uzasadnienie dla wdrożenia systemów biometrycznych dla “indywidualnego użytku” przez właściwe organy – ale nie wyjaśnia, co oznacza “indywidualny użytek” w tym kontekście. Artykuł zauważa, że kontrowersyjne nakazy mogą być tematyczne i dotyczyć szerokich organizacji, celów i miejsc.

Ponadto projekt regulacji nie określa mechanizmu transparentności dla liczby i rodzaju wydanych zezwoleń, co utrudnia publiczną kontrolę.

Outsourcing Regulation to ‘Harmonized Standards’

Badanie stwierdza, że najważniejsze podmioty w projekcie ustawy o sztucznej inteligencji nie są nawet wymienione w projekcie regulacji: CEN (Europejski Komitet Normalizacyjny) i CENELEC (Europejski Komitet Normalizacyjny Elektrotechniki) – dwa z trzech Europejskich Organizacji Normalizacyjnych (ESO), które Komisja Europejska może upoważnić do sformułowania zharmonizowanych norm, które w wielu przypadkach stanowiłyby ramy regulacyjne dla określonych typów usług i wdrożeń sztucznej inteligencji.

To skutecznie oznacza, że producenci sztucznej inteligencji mogą wybrać przestrzeganie standardów, które są w istocie konkurencyjne, a nie uzupełniające, zamiast spełniać podstawowe wymagania określone w projekcie ustawy o sztucznej inteligencji. Pozwala to dostawcom na luźniejsze interpretowanie proponowanych regulacji, gdy wejdą one w życie w latach 2024-2025.

Badacze są również zdania, że interweniujące lata lobbingu przemysłowego wśród organizacji normalizacyjnych prawdopodobnie znacznie zmienią te “podstawowe normy”, i sugerują, że “idealne” regulacje powinny zacząć się od wyższego poziomu etycznego i legislacyjnej jasności, jeśli tylko po to, aby uwzględnić ten nieunikniony proces erozji.

Legitimizing the Fallacy of Emotion Recognition Systems

Projekt ustawy o sztucznej inteligencji zawiera przepis dotyczący zakazu wdrożenia systemów rozpoznawania i klasyfikacji emocji – ram, które mogą niekoniecznie identyfikować jednostkę, ale które albo twierdzą, że rozumieją, co osoba czuje, albo są w stanie klasyfikować ją pod względem płci, etniczności i innych ekonomicznych i społecznych wskaźników.

Badacze twierdzą, że ten przepis jest bezcelowy, ponieważ RODO już obliguje dostawców takich systemów do zapewnienia użytkownikom jasnych informacji o wykorzystaniu tych systemów, aby użytkownicy mogli zrezygnować (co może oznaczać niekorzystanie z usługi online lub nie wchodzenie w obszar, w którym takie systemy są ogłaszane).

Bardziej istotne jest to, że artykuł twierdzi, że ten przepis legitymizuje obaloną technologię i charakteryzuje systemy rozpoznawania emocji w stylu FACS w świetle haniebnej historii frenologii i innych niemal szamańskich podejść do społecznej klasyfikacji z wczesnej epoki przemysłowej.

“Ci, którzy twierdzą, że wykrywają emocje, używają uproszczonych, wątpliwych taksonomii; niepoprawnie zakładają powszechność w różnych kulturach i kontekstach; i ryzykują ‘[powrót do frenologicznej przeszłości] analizy cech z struktury twarzy‘. Przepisy projektu ustawy o sztucznej inteligencji dotyczące rozpoznawania emocji i klasyfikacji biometrycznej wydają się niewystarczające do złagodzenia tych ryzyk.”

A Too-Modest Proposal

Oprócz powyższego, badacze zajmują się innymi postrzeganymi brakami w projekcie ustawy o sztucznej inteligencji w odniesieniu do regulacji głębokich fałszerstw, braku nadzoru nad emisjami dwutlenku węgla systemów sztucznej inteligencji, powielania nadzoru regulacyjnego z innymi ramami, oraz niewystarczającej definicji karalnych podmiotów prawnych.

Badacze nakłaniają legislatorów i aktywistów społecznych do podjęcia działań w celu naprawienia zidentyfikowanych problemów i zauważają ponadto, że nawet ich obszerna dekonstrukcja projektu regulacji musiała pominąć wiele innych obszarów problemów ze względu na brak miejsca.

Pomimo tego, artykuł chwali projekt ustawy o próbie wprowadzenia systemu poziomej regulacji systemów sztucznej inteligencji, cytując wiele “sensownych elementów”, takich jak tworzenie hierarchii poziomów oceny ryzyka, zobowiązanie do wprowadzenia zakazów, oraz proponowanie publicznej bazy danych systemów, do których dostawcy musieliby przyczyniać się, aby uzyskać europejską legitymację, choć zauważa, że ten ostatni wymóg prawdopodobnie wywoła wiele prawnych wątpliwości.