Kąt Andersona
UE wprowadza pierwsze przepisy dotyczące sztucznej inteligencji
21 kwietnia Unia Europejska ogłosi swój pierwszy regulacyjny framework dotyczący wykorzystania sztucznej inteligencji. Nowe przepisy całkowicie zabronią “wysokiego ryzyka” systemów machine learning, oraz wprowadzą minimalne standardy dla innych technologii machine learning, nakładając kary w wysokości 20 milionów euro, lub 4% obrotu firmy, za naruszenia.
W projekcie nowej ustawy, uzyskanym przez Politico, celem jest wspieranie innowacji i rozwoju systemów sztucznej inteligencji dla ogólnego dobra gospodarki i społeczeństwa UE, w dziedzinach takich jak produkcja, poprawa efektywności energetycznej i modelowanie zmian klimatycznych; ale zabroni wykorzystania machine learning w systemach oceny kredytowej, automatycznej oceny wyroków, oraz oceny przydatności do świadczeń społecznych i wniosków o azyl lub wizy, wśród innych zakazów, które zostaną ujawnione później.
W projekcie wyraźnie stwierdza się, że chińskie systemy oceny społecznej dla osób i firm są sprzeczne z wartościami Unii Europejskiej i będą zabronione na mocy przepisów, wraz z technologiami “masowej inwigilacji” napędzanymi przez sztuczną inteligencję.
Nadzór regulacyjny
W następstwie powołania wysokiego poziomu grupy ekspertów ds. sztucznej inteligencji w marcu 2021 roku, UE również zamierza utworzyć nową Europejską Radę Sztucznej Inteligencji, z przedstawicielami każdego państwa członkowskiego, oraz przedstawicielem Komisji Europejskiej i organu ochrony danych UE.
Możliwe, że najbardziej daleko idące i kontrowersyjne zarządzenie w projekcie to zakaz systemów, które powodują szkodę populacjom UE przez “manipulowanie ich zachowaniem, opinią lub decyzjami”, co mogłoby być argumentowane jako wiele technologii, które napędzają analizę marketingu handlowego i politycznego.
Przepisy będą wyjątkiem dla walki z poważnymi przestępstwami, zezwalając na określone wdrożenia systemów rozpoznawania twarzy, w granicach zakresu i czasu użytkowania.
Podobnie jak w szerokim zakresie RODO, wydaje się, że nowe przepisy mogą być wystarczająco ogólne, aby wywołać “efekt ochładzający” w obszarach, w których nie podano ścisłych wytycznych dotyczących wykorzystania sztucznej inteligencji, z korporacjami narażonymi na ekspozycję, gdy ich wykorzystanie machine learning wpada w potencjalną szarą strefę w ramach przepisów.
Uprzedzenia w nowych przepisach UE dotyczących sztucznej inteligencji
Jednak największym wyzwaniem i możliwym problemem prawnym jest wymóg projektu przepisów, aby zestawy danych nie “zawierały żadnych zamierzonych lub niezamierzonych uprzedzeń”, które mogą ułatwić dyskryminację.
Uprzedzenia danych to jeden z najtrudniejszych aspektów w rozwoju systemów machine learning – trudno udowodnić, trudno rozwiązać, i głęboko związany z centralnymi kulturami ciał gromadzących dane. Problem ten coraz częściej stawia prywatne i państwowe jednostki badawcze w sprzeczności między potrzebą dokładnego przedstawienia odrębnych grup (praktycznie założeniem obliczeń matematycznych i analizy statystycznej) a potencjałem propagowania profilowania rasowego i demonizacji kulturowej, wśród innych rozważań.
Dlatego też prawdopodobne, że rynki spoza UE będą liczyć na to, że nowe przepisy dostarczą co najmniej niektóre obszary wytycznych i zakresu stosowalnych definicji w tym zakresie.
Zewnętrzny opór wobec regulacji UE dotyczącej sztucznej inteligencji
Nowe przepisy prawdopodobnie będą miały głęboki wpływ na ramy prawne dotyczące wykorzystania machine learning do analizy danych publicznie dostępnych – oraz na takie dane, jakie będą nadal można pozyskać od użytkowników internetu w erze śledzenia, która jest obecnie wprowadzana przez Apple, Firefox i (w mniejszym stopniu) Chrome.
Może być konieczne jasne określenie jurysdykcji, na przykład w przypadkach, w których giganci FAANG gromadzą dane użytkowników zgodnie z RODO, ale przetwarzają te dane za pomocą systemów machine learning poza Unią Europejską. Nie jest jasne, czy algorytmy pochodzące z takich systemów mogą być stosowane na platformach wewnątrz UE, i jeszcze mniej jasne, jak takie zastosowanie mogłoby być udowodnione.
W przypadku wykorzystania sztucznej inteligencji do informowania decyzji dotyczących przetrzymywania i wyroków, rosnący trend w Stanach Zjednoczonych, własne okazjonalne eksperymenty w tym sektorze byłyby objęte nowymi przepisami, gdyby kraj nie opuścił Unii Europejskiej.
W 2020 roku projekt memoriału Białego Domu dotyczącego regulacji sztucznej inteligencji przedstawił amerykański przypadek za niską regulacją sztucznej inteligencji, oświadczając, że ‘Agencje federalne muszą unikać działania regulacyjnego lub neregulacyjnego, które zbędnie hamuje innowacje i wzrost sztucznej inteligencji’. Możliwe, że taka postawa będzie przetrwać administrację Trumpa, pod którą memoriał został opublikowany, ale raczej odzwierciedla nadchodzące tarcie między USA a UE w następstwie nowych przepisów.
Podobnie, “Mapa drogowa sztucznej inteligencji” Rady AI Wielkiej Brytanii wyraża wielką entuzjazm dla korzyści ekonomicznych wynikających z przyjęcia sztucznej inteligencji, ale ogólne obawy, że nowe przepisy nie powinny hamować tego postępu.
Pierwsze prawdziwe prawo dla sztucznej inteligencji
Zobowiązanie UE do stanowiska prawnego w sprawie sztucznej inteligencji jest innowacyjne. Ostatnie dziesięć lat charakteryzowało się burzą białych książek i wstępnych ustaleń komitetu i zaleceń rządów z całego świata, koncentrujących się na etyce sztucznej inteligencji, przy czym niewiele praw zostało uchwalonych.
Geograficzny rozkład wydawców wytycznych etycznych sztucznej inteligencji według liczby opublikowanych dokumentów, w badaniu z 2019 roku. Największa liczba wytycznych etycznych jest publikowana w Stanach Zjednoczonych i w Unii Europejskiej, następnie w Wielkiej Brytanii i Japonii. Kanada, Islandia, Norwegia, Zjednoczone Emiraty Arabskie, Indie, Singapur, Korea Południowa, Australia są reprezentowane przez 1 dokument każdy. Po tym, jak państwa członkowskie G7 przyczyniły się do określonego oświadczenia G7, państwa członkowskie G7 są wyodrębnione oddzielnie. Źródło: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
Czytanie dalsze
