Растущие призывы к регулированию ИИ после недель новостных репортажей

За последние несколько недель растут призывы к более строгому регулированию искусственного интеллекта (ИИ). Обеспокоенность возникает после различных новостных историй, которые показали потенциальные злоупотребления технологией. Теперь, после выпуска ожидаемого белой книги о искусственном интеллекте Европейской комиссии (ЕС), которая является первой пан-национальной попыткой регулирования ИИ, еще больше вопросов возникает. Одновременно с этим Белый дом Office of Science and Technology Policy (OSTP) выпустил отчет о своей американской инициативе по искусственному интеллекту.

До выпуска белой книги ЕС The Intercept опубликовала новостную историю о утечке внутренних документов Европейского Союза. Согласно документам, ЕС рассматривал возможность создания сети баз данных распознавания лиц по всей Европе. Национальные полицейские силы 10 государств-членов ЕС подготовили отчет, в котором предложили создать и подключить базы данных в каждом государстве-члене. Многие беспокоятся, что создание таких баз данных неизбежно будет связано с аналогичными базами данных в США, что позволит консолидировать огромные объемы биометрических данных. Многие ожидали, что белая книга ЕС предложит запрет на распознавание лиц, но этого не произошло.

По словам Эдина Омановича, директора по защите прав Privacy International, “Это вызывает беспокойство на национальном и европейском уровне, особенно поскольку некоторые страны ЕС склоняются к более авторитарным правительствам”.

Одна из крупных новостных историй за последние несколько недель, начавшаяся с расследования New York Times в январе, связана со стартапом Clearview AI. Приложение для распознавания лиц компании идентифицирует людей с помощью базы данных изображений, взятых из социальных сетей. Приложение сравнивает фотографию с базой данных более 3 миллиардов изображений из сайтов such as Facebook, Venmo и Youtube. Как только приложение находит совпадения, оно отвечает ссылками на сайт, где исходные фотографии были опубликованы. Эта технология может привести к обнаружению личных деталей об отдельном лице. Согласно отчету, приложение использовалось более чем 600 правоохранительными органами. Хотя база данных Clearview содержит более 3 миллиардов изображений, база данных ФБР содержит только 641 миллион изображений граждан США.

История снова разгорелась с новым отчетом BuzzFeed News на прошлой неделе. Согласно отчету, компания рассматривала возможность расширения за пределы правоохранительных органов, включая розничную торговлю, недвижимость, банковское дело и международные рынки. Отчет также заявил, что приложение для распознавания лиц уже было продано тысячам организаций по всему миру и использовалось Министерством юстиции, ICE, Macy’s, Walmart и NBA. Возможно, наиболее проблематичным в списке клиентов является суверенный фонд в Объединенных Арабских Эмиратах и тысячи государственных органов.

Новые разработки вызвали обеспокоенность среди защитников конфиденциальности по поводу потенциального массового наблюдения. Другой проблемой является возможность неточности технологии, что может привести к преследованию правоохранительными органами невинных людей. Помимо всех проблем конфиденциальности, компании such as Facebook, Google и Twitter угрожают принять юридические меры. Кроме частных юридических действий, как минимум два сенатора США заявили, что намерены расследовать компанию.

Примером злоупотребления этой технологией может служить U.S. Immigration and Customs Enforcement Agency (ICE). The Washington Post отчиталась на прошлой неделе, что чиновники ICE получили разрешение использовать технологию распознавания лиц для поиска миллионов фотографий водительских прав в Мэриленде, и они могут сделать это без получения государственного или судебного одобрения.

По словам Харрисона Рудольфа, старшего ассоциированного Центра по конфиденциальности и технологиям юридического факультета Джорджтаунского университета, “ICE использует биометрическую информацию в тени, без уведомления правительства или общественного одобрения, чтобы охотиться на наиболее уязвимых людей”.

Это лишь некоторые из наиболее публичных примеров того, как эта технология используется, но гораздо больше происходит за кулисами. Из-за этого возросли призывы к контролю и регулированию. Увеличенная прозрачность, будь то добровольная или через расследовательскую журналистику, приносит многие практики к свету. Без понимания общественностью искусственного интеллекта и того, что он может означать для экономики, правительства, правоохранительных органов, наблюдения и каждого другого аспекта общества, есть мало надежды на то, что правительства и компании будут самоограничиваться. Общество видит как огромные выгоды от ИИ, так и огромные проблемы, и все это происходит слишком быстро для компаний, правительств и людей, чтобы они могли за этим поспевать.