Исследователи считают, что ИИ можно использовать для защиты конфиденциальности людей

Два профессора информационных наук недавно опубликовали статью в The Conversation, в которой утверждается, что ИИ может помочь сохранить конфиденциальность людей, исправив некоторые из проблем, которые он создал.

Чжийуань Чен и Арья Ганопадхайяй утверждают, что алгоритмы искусственного интеллекта могут быть использованы для защиты конфиденциальности людей, противодействуя некоторым из многих проблем с конфиденциальностью, созданных другими использованиями ИИ. Чен и Ганопадхайяй признают, что многие продукты, основанные на ИИ, которые мы используем для удобства, не будут работать без доступа к большим объемам данных, что на первый взгляд кажется противоречивым с попытками сохранить конфиденциальность. Кроме того, по мере распространения ИИ на все больше отраслей и применений будет собираться и храниться все больше данных, что делает более привлекательными взломы этих баз данных. Однако Чен и Ганопадхайяй считают, что при правильном использовании ИИ может помочь смягчить эти проблемы.

Чен и Ганопадхайяй объясняют в своей статье, что риски, связанные с конфиденциальностью и ИИ, исходят как минимум из двух разных источников. Первым источником являются большие наборы данных, собранные для обучения моделей нейронных сетей, а вторым источником угрозы конфиденциальности являются сами модели. Данные могут потенциально “протечь” из этих моделей, а поведение моделей может раскрыть подробности о данных, использованных для их обучения.

Глубокие нейронные сети состоят из нескольких слоев нейронов, каждый из которых связан со слоями вокруг них. Индивидуальные нейроны, а также связи между ними, кодируют различные части обучающих данных. Модель может оказаться слишком хороша в запоминании закономерностей обучающих данных, даже если модель не переобучена. Следы обучающих данных существуют внутри сети, и злонамеренные акторы могут быть в состоянии определить аспекты обучающих данных, как было обнаружено в одном из исследований Корнелльского университета. Исследователи Корнелльского университета обнаружили, что алгоритмы распознавания лиц могут быть эксплуатированы атакующими для раскрытия изображений, а значит и людей, использованных для обучения модели распознавания лиц. Исследователи Корнелльского университета также обнаружили, что даже если атакующий не имеет доступа к исходной модели, использованной для обучения приложения, атакующий может все равно быть в состоянии проанализировать сеть и определить, был ли конкретный человек включен в обучающие данные, просто используя модели, обученные на очень похожих данных.

Некоторые модели ИИ в настоящее время используются для защиты от утечек данных и попыток обеспечить конфиденциальность людей. Модели ИИ часто используются для обнаружения попыток взлома, распознавая закономерности поведения, которые хакеры используют для проникновения в системы безопасности. Однако хакеры часто меняют свое поведение, чтобы обмануть ИИ, распознающий закономерности.

Новые методы обучения и разработки ИИ направлены на то, чтобы сделать модели и приложения ИИ менее уязвимыми для методов взлома и тактик обхода безопасности. Адверсарное обучение направлено на обучение моделей ИИ на симуляциях вредоносных или вредных входных данных, что делает модель более устойчивой к эксплуатации, отсюда и название “адверсарное”. Согласно Чену и Ганопадхайяю, их исследования обнаружили методы борьбы с вредоносными программами, предназначенными для кражи конфиденциальной информации людей. Два исследователя объяснили, что одним из наиболее эффективных методов сопротивления вредоносным программам было введение неопределенности в модель. Цель состоит в том, чтобы сделать более трудным для злонамеренных акторов предсказать, как модель отреагирует на любой вход.

Другие методы использования ИИ для защиты конфиденциальности включают минимизацию воздействия данных при создании и обучении модели, а также тестирование для обнаружения уязвимостей сети. Когда речь идет о сохранении конфиденциальности данных, федеративное обучение может помочь защитить конфиденциальность чувствительных данных, поскольку оно позволяет модели быть обученной без того, чтобы обучающие данные когда-либо покидали локальные устройства, содержащие данные, изолируя данные и многие параметры модели от слежки.

В конечном итоге, Чен и Ганопадхайяй утверждают, что хотя распространение ИИ создало новые угрозы для конфиденциальности людей, ИИ также может помочь защитить конфиденциальность, если он спроектирован с заботой и вниманием.