Недоліки проекту Закону ЄС про штучний інтелект

Нова юридична критика проекту Закону ЄС про штучний інтелект висуває ряд критичних зауважень щодо запропонованих регуляцій опублікованих у квітні, висновуючи, що більша частина документа «шита» з мало застосовних правил споживачів 1980-х років; що вона фактично сприяє дерегуляції середовища штучного інтелекту в Європі, а не підпорядковує галузь цілісній регуляції; і – серед ряду інших критичних зауважень – що запропоновані регуляції визначають майбутню регуляторну основу штучного інтелекту, яка має «мало сенсу та впливу».

Назва статті Демістифікація проекту Закону ЄС про штучний інтелект, це співпраця між дослідниками з UCL Лондона та Радбодського університету в Неймегені.

Стаття додається до зростаючого числа негативних відгуків про запропоновану реалізацію (а не про сам намір) регуляторної основи штучного інтелекту, включаючи твердження у квітні одного з учасників проекту регуляції, що запропоновані керівні принципи «теплі, короткозорі та свідомо невизначені», які характеризують документ Європейської комісії як захисника «фальшивої етики».

Маніпулятивні системи штучного інтелекту

Нова стаття стверджує, що запропоновані обмеження Закону про штучний інтелект щодо «маніпулятивних систем» ускладнені нечіткою та навіть суперечливою дефініцією «шкоди», коментуючи, що «[с]кіптик міг би подумати, що комісія більше зацікавлена в риторичній цінності заборон, ніж у практичному ефекті».

Запропоновані регуляції визначають два потенційно заборонені практики:

(а) розміщення на ринку, введення в дію або використання системи штучного інтелекту, яка використовує сублімінальні техніки за межами свідомості людини для матеріальної деформації поведінки людини таким чином, що це може спричинити фізичну або психологічну шкоду людині чи іншій людині;

(б) розміщення на ринку, введення в дію або використання системи штучного інтелекту, яка використовує будь-яку з уразливостей конкретної групи осіб через їх вік, фізичну або психічну інвалідність, для матеріальної деформації поведінки людини, що належить до цієї групи, таким чином, що це може спричинити фізичну або психологічну шкоду людині чи іншій людині;

Дослідники стверджують, що ці обмеження не звертаються до питання, чи послуги або програмне забезпечення постачальника штучного інтелекту успішно сприяють власним цілям, а лише чи користувач зазнає «шкоди» в процесі. Вони додають, що визначення шкоди в проекті обмежене лише індивідуальними користувачами, а не тим видом колективної чи соціальної шкоди, який можна розумно вивести з ряду суперечок, пов’язаних зі штучним інтелектом за останні роки, таких як скандал з Cambridge Analytica.

Стаття зазначає, що «у реальному житті шкода може накопичуватися без того, щоб окрема подія спровокувала серйозність, що робить її важкою для доведення».

Шкідливі системи штучного інтелекту дозволені, але не для споживання в ЄС

Закон про штучний інтелект пропонує заборонити «в реальному часі» біометричні системи в громадських місцях правоохоронними органами. Хоча деякі громадські сумніви були спрямовані на винятки, пропоновані пропозиціями для боротьби з тероризмом, торгівлею дітьми та виконання європейського ордера на арешт, дослідники зазначають, що нічого не завадить постачальникам продавати біометричні системи, що суперечать цьому, репресивним режимам.

Стаття зазначає, що це вже історична практика, як було розкрито у звіті Amnesty International за 2020 рік.

У ній також зазначається, що специфікація «в реальному часі» біометричної системи є довільною та виключає офлайн-аналітичні системи, такі як пізніше оброблення відеозаписів з протестних заходів.

Крім того, зазначається, що пропозиції не пропонують жодного механізму для обмеження біометричних систем, які не пов’язані з правоохоронними органами, які замість цього ледве відсилаються до GDPR; і що GDPR сама по собі «встановлює вимогу високоякісної, індивідуальної згоди для кожного сканованого особи, яку фактично неможливо виконати».

Формулювання цього розділу Закону про штучний інтелект також піддається критиці з боку дослідників. Проект регуляції передбачає, що для розгортання біометричних систем для «індивідуального використання» компетентними органами буде потрібно попереднє схвалення – але не уточнює, що означає «індивідуальне використання» в цьому контексті. Стаття зазначає, що суперечливі ордери можуть бути тематичними і стосуватися широких організацій, цілей та місць.

Крім того, проект регуляції не передбачає механізму прозорості для кількості та типу виданих дозволів, що робить громадський контроль проблематичним.

Виходячи з регуляції до «гармонізованих стандартів»

Дослідження стверджує, що найважливішими сутностями Закону про штучний інтелект насправді не згадуються жодного разу в проекті регуляції: CEN (Європейський комітет зі стандартизації) та CENELEC (Європейський комітет зі стандартизації електротехніки) – два з трьох Європейських організацій зі стандартизації (ESO), яким Європейська комісія може доручити розробити гармонізовані стандарти, які в багатьох випадках будуть залишатися основними регуляторними рамками для певних типів послуг та розгортань штучного інтелекту.

Це фактично означає, що виробники штучного інтелекту можуть вибирати слідування стандартам того, що є насправді конкуруючими, а не доповнювальними регуляціями, замість виконання основних вимог, викладених у Законі про штучний інтелект. Це дозволяє постачальникам вільніше тлумачити запропоновані регуляції, коли вони вступлять у силу у 2024-2025 роках.

Дослідники також вважають, що проміжні роки промислового лобіювання серед органів стандартизації, ймовірно, суттєво переозначать ці «необхідні стандарти», і пропонують, що «ідеальні» регуляції повинні починатися з вищого рівня етики та законодавчої ясності, якщо тільки для того, щоб врахувати цей невідворотний процес атриції.

Легітимізація помилки систем розпізнавання емоцій

Закон про штучний інтелект передбачає положення проти розгортання систем розпізнавання та категоризації емоцій – рамок, які можуть не обов’язково ідентифікувати окрему особу, але або претендують на розуміння того, що людина відчуває, або на можливість категоризувати її за ознаками гендеру, етнічної приналежності та інших економічних і соціальних ознак.

Дослідники стверджують, що цей пункт є безглуздим, оскільки GDPR вже зобов’язує постачальників таких систем надавати користувачам чітку інформацію про використання таких систем, щоб користувачі могли відмовитися (що може включати у себе відмову від використання онлайн-сервісу або не входження в зону, де такі системи оголошуються).

Більш того, стаття стверджує, що цей пункт легітимізує спростовану технологію, і характеризує системи розпізнавання емоцій типу FACS у світлі ганебної історії френології та інших майже шаманських підходів до соціальної категоризації з початку промислової епохи.

«Ті, хто претендує на виявлення емоцій, використовують спрощені, сумнівні таксономії; неправильно припускають універсальність у культурах та контекстах; і ризикують «[повернутися до френологічного минулого» аналізу характерних ознак за допомогою структури обличчя. Положення Закону про розпізнавання емоцій та біометричну категоризацію здаються недостатніми для пом’якшення ризиків.»

Занадто скромна пропозиція

Крім цього, дослідники розглядають інші виявлені недоліки Закону про штучний інтелект щодо регулювання глибоких фейків, відсутності нагляду за викидами вуглецю систем штучного інтелекту, дублікування регуляторного нагляду з іншими рамками та недостатньої визначення юридичних осіб, що підлягають переслідуванню.

Вони закликають законодавців та громадських активістів вжити заходів для вирішення виявлених проблем та зазначають, що навіть їхній розгорнутий аналіз проекту регуляції мав оминути багато інших питань через брак місця.

Тим не менше, стаття аплодіє спробі Закону створити систему горизонтального регулювання систем штучного інтелекту, цитуючи його «розумні елементи», такі як створення ієрархії рівнів оцінки ризиків, наявність зобов’язання запровадити заборони та пропонуючи публічну базу даних систем, до якої постачальники мали б внесок для отримання європейської легітимності, хоча й зазначаючи юридичні проблеми, які це останнє вимога, ймовірно, викличе.