Растущие призывы к регулированию ИИ после недель новостных репортажей

За последние несколько недель возросли призывы к более строгому регулированию искусственного интеллекта (ИИ). Обеспокоенность возникла после различных новостных историй, показывающих потенциальные злоупотребления технологией. Теперь, после выпуска ожидаемого белой книги о искусственном интеллекте Европейской комиссии (ЕС), которая является первой пан-национальной попыткой регулирования ИИ, еще больше вопросов возникло. В то же время Белый дом Office of Science and Technology Policy (OSTP) выпустил отчет о своей американской инициативе по искусственному интеллекту.

До выпуска белой книги ЕС The Intercept опубликовал новостную историю о утечке внутренних документов Европейского Союза. Согласно документам, ЕС рассматривал возможность создания сети баз данных распознавания лиц по всей Европе. Национальные полицейские силы 10 государств-членов ЕС подготовили отчет, в котором призвали к созданию и взаимосвязи баз данных в каждом государстве-члене. Многие беспокоятся, что создание таких баз данных неизбежно будет связано с аналогичными базами данных в Соединенных Штатах, что позволит консолидировать огромные объемы биометрических данных. Многие ожидали, что белая книга ЕС предложит запрет на распознавание лиц, но его там не было.

По словам Эдина Омановича, директора по защите прав личности в Privacy International, “Это вызывает беспокойство на национальном и европейском уровнях, особенно поскольку некоторые страны ЕС склоняются к более авторитарным правительствам”.

Одна из крупных новостных историй за последние несколько недель, начавшаяся с расследования New York Times в январе, связана со стартапом Clearview AI. Приложение для распознавания лиц компании идентифицирует людей с помощью базы данных изображений, взятых из социальных сетей. Приложение сравнивает фотографию с базой данных более 3 миллиардов изображений из сайтов such as Facebook (META ), Venmo и Youtube. Как только приложение находит совпадения, оно отвечает ссылками на сайт, где были сделаны оригинальные фотографии. Эта технология может привести к обнаружению личных деталей об отдельном лице. Согласно отчету, приложение было использовано более 600 правоохранительными органами. Хотя база данных Clearview содержит более 3 миллиардов изображений, база данных ФБР содержит только 641 миллион изображений граждан США.

История снова разгорелась с новым отчетом BuzzFeed News (BZFD ) на прошлой неделе. Согласно отчету, компания рассматривала возможность расширения за пределы только правоохранительных целей, включая розничную торговлю, недвижимость, банковское дело и международные рынки. Отчет также заявил, что приложение для распознавания лиц уже было продано тысячам организаций по всему миру и использовалось Министерством юстиции, ICE, Macy’s (M ), Walmart (WMT ) и NBA. Возможно, наиболее проблематичным в списке клиентов является суверенный фонд богатства в Объединенных Арабских Эмиратах и тысячи государственных органов.

Новые разработки вызвали обеспокоенность среди защитников конфиденциальности по поводу потенциального массового наблюдения. Другой проблемой является возможность неточности технологии, что может привести к тому, что правоохранительные органы будут нацеливаться на невинных людей. Помимо всех проблем с конфиденциальностью, компании such as Facebook, Google (GOOGL ) и Twitter угрожают принять юридические меры. Кроме частных юридических действий, как минимум два сенатора США заявили, что намерены расследовать компанию.

Примером злоупотребления этой технологией может служить U.S. Immigration and Customs Enforcement Agency (ICE). The Washington Post сообщил на прошлой неделе, что чиновники ICE получили разрешение использовать технологию распознавания лиц для поиска в миллионах фотографий водительских удостоверений штата Мэриленд, и они могут сделать это без получения одобрения штата или суда.

По словам Харрисона Рудольфа, старшего ассоциата Центра по конфиденциальности и технологиям юридического факультета Джорджтаунского университета, “ICE использует биометрическую информацию в тени, без уведомления правительства или общественного одобрения, чтобы охотиться на наиболее уязвимых людей”.

Это лишь некоторые из наиболее публичных примеров того, как эта технология используется, но за кулисами происходит гораздо больше. Из-за этого возросли призывы к контролю и регулированию. Увеличенная прозрачность, будь то добровольная или через расследовательскую журналистику, приносит многие практики к свету. Без понимания общественностью искусственного интеллекта и того, что он может значить для экономики, правительства, правоохранительных органов, наблюдения и каждого другого аспекта общества, есть мало надежды на то, что правительства и компании будут регулировать себя. Общество видит как огромные выгоды от ИИ, так и巨альные проблемы, и все это происходит слишком быстро для компаний, правительств и отдельных лиц, чтобы они могли справиться.