Зростання вимог до регулювання штучного інтелекту після тижнів новинних повідомлень

За останні тижні зростають вимоги до посилення регулювання штучного інтелекту (ШІ). Ця турбота виникла після різних новинних повідомлень, які показали потенційний зловживання цією технологією. Тепер ще більше питань виникає з виходом довгоочікуваного білого документу про штучний інтелект Європейської комісії (ЄС), який є першою пан-національною спробою регулювати ШІ. Приблизно в той же час Управління науки і технологій Білого дому (OSTP) опублікувало звіт про свою ініціативу з американського штучного інтелекту.

До виходу білого документу ЄС The Intercept опублікував новину про витік внутрішніх документів Європейського Союзу. За цими документами, ЄС розглядає можливість створення мережі баз даних розпізнавання облич по всій Європі. Національні поліцейські сили 10 держав-членів ЄС створили звіт, який закликав до створення та взаємозв’язку цих баз даних у кожній державі-члені. Багато людей турбуються, що створення таких баз даних неминуче буде пов’язано з аналогічними базами даних у Сполучених Штатах, що дозволить консолідувати величезну кількість біометричних даних. Багато людей очікували, що білій документ ЄС пропонуватиме заборону на регулювання обличчя, але цього не сталося.

За словами Едіна Омановіча, директора з питань захисту прав людини в Privacy International, “Це турбує на національному рівні та на рівні ЄС, особливо оскільки деякі країни ЄС рухаються до більш авторитарних урядів”.

Одна з найбільших новин за останні тижні, яка розпочалася з розслідування New York Times у січні, пов’язана зі стартапом Clearview AI. Додаток для розпізнавання облич компанії ідентифікує людей за допомогою бази даних зображень, взятих з соціальних мереж. Додаток порівнює фото з базою даних понад 3 мільярдів зображень з сайтів, таких як Facebook (META ), Venmo та Youtube. Як тільки додаток знаходить збіг, він повертає посилання на сайт, де зображення були спочатку опубліковані. Ця технологія може привести до відкриття особистих даних про людину. За звітом, додаток був використаний понад 600 правоохоронними органами. Хоча база даних Clearview містить понад 3 мільярди зображень, база даних ФБР містить лише 641 мільйон зображень громадян США.

Історія знову вибухнула з новим звітом BuzzFeed News (BZFD ) на минулому тижні. За звітом, компанія розглядає можливість розширення не тільки для правоохоронних органів, а й для роздрібної торгівлі, нерухомості, банківської справи та міжнародних ринків. Звіт також зазначає, що додаток для розпізнавання облич вже був проданий тисячам організацій по всьому світу та використовувався Міністерством юстиції, ICE, Macy’s (M ), Walmart (WMT ) та НБА. Можливо, найбільш проблематичним у списку клієнтів є суверенний фонд багатства Об’єднаних Арабських Еміратів та тисячі урядових органів.

Нові розробки викликали занепокоєння серед захисників приватності щодо можливого масового спостереження. Іншою турботою є можливість неточності технології, що призводить до того, що правоохоронні органи націлюються на невинних людей. Окрім усіх цих проблем з приватністю, компанії, такі як Facebook, Google (GOOGL ) та Twitter, погрожують юридичними діями. Окрім приватних юридичних дій,至少 два сенатори США заявили, що вони мають намір розслідувати компанію.

Прикладом зловживання цією технологією може бути агентство імміграції та митної служби США (ICE). The Washington Post повідомив на минулому тижні, що офіційні особи ICE мають дозвіл використовувати технологію розпізнавання облич для пошуку серед мільйонів фотографій водійських прав штату Меріленд, і вони можуть це робити без схвалення держави або суду.

За словами Гаррісона Рудольфа, старшого асоційованого Центру приватності та технологій юридичної школи Джорджтаунського університету, “ICE використовує біометричну інформацію в тіні, без урядового повідомлення або громадського схвалення, для полювання на найбільш уразливих людей”.

Це лише деякі з найбільш публічних прикладів того, як ця технологія використовується, але відбувається ще більше за лаштунками. Через це зростають вимоги до більшої уваги та регулювання. Збільшення прозорості, як добровільної, так і через розслідувальні репортажі, приносить багато практик до світла. Без розуміння суспільством штучного інтелекту та того, що це може означати для економіки, уряду, правоохоронних органів, спостереження та кожного іншого аспекту суспільства, мало надії на те, що уряди та компанії зможуть саморегулюватися. Суспільство бачить як величезні переваги ШІ, так і величезні проблеми, і все це відбувається занадто швидко для компаній, урядів та окремих осіб, щоб вони могли跟ати.