ЄС запускає перші регуляторні акти щодо штучного інтелекту

21 квітня Європейський Союз оголосить про свою першу регуляторну базу, що регулює використання штучного інтелекту. Нові регуляції повністю заборонять “високоризикові” системи машинного навчання та введуть мінімальні стандарти для інших технологій машинного навчання, передбачаючи штрафи у розмірі 20 мільйонів євро або 4% від обороту компанії за порушення.

Проект звіту про новий закон, отриманий Politico, спрямований на сприяння інноваціям та розвитку систем штучного інтелекту на загальну користь економіки та суспільства ЄС, у сфері виробництва, підвищення енергоефективності та моделювання зміни клімату; але заборонить використання машинного навчання у системах кредитного скорингу, автоматичної оцінки покарань та оцінки придатності для соціальних виплат та заяв на отримання віз та притулку, серед інших заборон, які будуть оголошені пізніше.

Проект явно зазначає, що китайські соціальні системи оцінки для осіб та компаній суперечать цінностям Європейського Союзу та будуть заборонені згідно з регуляціями, разом з технологіями “масової спостереження”, що працюють на основі штучного інтелекту.

Регуляторний нагляд

Після призначення вищого рівня експертної групи з питань штучного інтелекту у березні 2021 року ЄС також планує створити нову Європейську раду з штучного інтелекту, у якій буде представлений кожен член держави, разом з представником Європейської комісії та органом з захисту даних ЄС.

Можливо, найрадикальнішим та потенційно суперечливим рішенням у проекті є те, що він забороняє системи, які завдають шкоди населенням ЄС шляхом “маніпулювання їх поведінкою, думками або рішеннями”, що можна вважати багатьма технологіями, які забезпечують аналіз комерційних та політичних маркетингових досліджень.

Регуляції передбачатимуть винятки для боротьби з серйозними злочинами, дозволяючи використання систем розпізнавання облич у межах обсягу та тривалості використання.

Як і у випадку з широким спектром GDPR, здається, що ці нові регуляції можуть бути досить загальними, щоб викликати “охолоджувальний ефект” у сферах, де не надано суворих керівних принципів щодо використання штучного інтелекту, при цьому корпорації ризикують бути піддані впливу у випадках, коли їхнє використання машинного навчання потрапляє у потенційну сіру зону регуляцій.

Предвзяість у нових регуляціях ЄС щодо штучного інтелекту

Однак найбільшою викликом та можливим юридичним болотом є положення про те, що набори даних не повинні “включати будь-які намірені чи ненамірені упередження”, які можуть сприяти дискримінації.

Предвзяність даних є однією з найбільш складних аспектів у розробці систем машинного навчання – важко довести, важко вирішити, і тісно пов’язана з центральними культурами органів збору даних. Ця проблема все частіше ставить приватні та державні дослідницькі органи у протиріччя між потребою точно представляти окремі групи (практично основна мета обчислювальної математики та емпіричного статистичного аналізу) та можливістю поширення расових профілів та культурної демонізації, серед інших аспектів.

Отже, ймовірно, що ринки поза ЄС сподіваються, що нова регуляція надає принаймні деякі конкретні області керівних принципів та діапазон застосовуваних визначення в цьому відношенні.

Зовнішній опір регуляціям ЄС щодо штучного інтелекту

Нова регуляція, ймовірно, матиме глибокий вплив на юридичні наслідки використання машинного навчання для аналізу публічних даних – а також на такі дані, які все ще можна буде витягнути з веб-користувачів у пост-трекінгову епоху, яку зараз запроваджують Apple, Firefox та (у меншій мірі) Chrome.

Юрисдикція може потребувати чіткого визначення, наприклад, у випадках, коли компанії FAANG збирають дані користувачів у відповідності з GDPR, але обробляють ці дані через системи машинного навчання поза Європейським Союзом. Неясно, чи можуть алгоритми, отримані через такі системи, бути застосовані до платформ всередині ЄС, і ще менше ясно, як таке застосування можна довести.

У разі використання штучного інтелекту для інформування рішень щодо утримання під вартою та покарань, зростаючої тенденції у Сполучених Штатах, власні періодичні експерименти Великої Британії в цій сфері були б охоплені новими регуляціями, якщо країна не вийшла б з Європейського Союзу.

У 2020 році проект меморандуму Білого дому щодо регуляції штучного інтелекту висунув американську позицію щодо низької регуляції штучного інтелекту, заявивши, що ‘Федеральні агентства повинні уникати регуляторних або нерегуляторних дій, які безпідставно гальмують інновації та зростання штучного інтелекту’. Ймовірно, така позиція збережеться після адміністрації Трампа, під час якої був опублікований цей меморандум, але радше відображає майбутню суперечку між США та ЄС у зв’язку з новою регуляцією.

Аналогічно, “дорожня карта штучного інтелекту” Ради штучного інтелекту Великої Британії виражає великий ентузіазм щодо економічних вигод від впровадження штучного інтелекту, але загальну стурбованість тим, що нові регуляції не повинні заважати цьому прогресу.

Перший справжній закон про штучний інтелект

Зобов’язання ЄС щодо юридичної позиції щодо штучного інтелекту є інноваційним. Останні десять років були характеризовані бурею білих книг та попередніх висновків та рекомендацій урядів світу, що зосереджуються на етиці штучного інтелекту, при цьому було прийнято небагато законів.

Географічний розподіл видавців етичних керівних принципів штучного інтелекту за кількістю випущених документів, згідно з опитуванням 2019 року. Найбільша кількість етичних керівних принципів випущена у Сполучених Штатах та Європейському Союзі, за ними слідують Велика Британія та Японія. Канада, Ісландія, Норвегія, Об’єднані Арабські Емірати, Індія, Сінгапур, Південна Корея, Австралія представлені по одному документу кожна. Члени країн G7, які внесли свій внесок у конкретну заяву G7, виділені окремо. Джерело: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Додаткове читання

Національні політики та стратегії штучного інтелекту (ОЕСР)