Исследователи считают, что ИИ можно использовать для защиты конфиденциальности людей

Два профессора информационных наук недавно опубликовали статью в The Conversation, в которой утверждается, что ИИ может помочь сохранить конфиденциальность людей, исправив некоторые из проблем, которые он создал.

Zhiyuan Chen и Aryya Gangopadhyay утверждают, что алгоритмы искусственного интеллекта можно использовать для защиты конфиденциальности людей, нейтрализуя некоторые из многих проблем с конфиденциальностью, созданных другими использованием ИИ. Chen и Gangopadhyay признают, что многие продукты, основанные на ИИ, которые мы используем для удобства, не будут работать без доступа к большим объемам данных, что на первый взгляд кажется противоречивым с попытками сохранить конфиденциальность. Кроме того, по мере распространения ИИ на все больше отраслей и приложений будет собираться и храниться все больше данных в базах данных, что делает их уязвимыми для взлома. Однако Chen и Gangopadhyay считают, что при правильном использовании ИИ можно помочь смягчить эти проблемы.

Chen и Gangopadhyay объясняют в своей статье, что риски конфиденциальности, связанные с ИИ, исходят как минимум из двух разных источников. Первым источником являются большие наборы данных, собранные для обучения моделей нейронных сетей, а вторым источником угрозы конфиденциальности являются сами модели. Данные могут потенциально “протечь” из этих моделей, а поведение моделей может раскрыть детали о данных, использованных для их обучения.

Глубокие нейронные сети состоят из нескольких слоев нейронов, каждый из которых связан со слоями вокруг них. Индивидуальные нейроны, а также связи между ними, кодируют разные части обучающих данных. Модель может оказаться слишком хорошей в запоминании закономерностей обучающих данных, даже если модель не переобучена. Следы обучающих данных существуют внутри сети, и злонамеренные акторы могут быть в состоянии определить некоторые аспекты обучающих данных, как было обнаружено в одном из исследований Корнелльского университета. Исследователи Корнелльского университета обнаружили, что алгоритмы распознавания лиц можно использовать для раскрытия того, какие изображения, а значит и какие люди, были использованы для обучения модели распознавания лиц. Исследователи Корнелльского университета обнаружили, что даже если у злоумышленника нет доступа к исходной модели, использованной для обучения приложения, злоумышленник все равно может быть в состоянии определить, был ли конкретный человек включен в обучающие данные, просто используя модели, которые были обучены на очень похожих данных.

Некоторые модели ИИ в настоящее время используются для защиты от утечек данных и попыток обеспечить конфиденциальность людей. Модели ИИ часто используются для обнаружения попыток взлома путем распознавания закономерностей поведения, которые используют хакеры для проникновения в системы безопасности. Однако хакеры часто меняют свое поведение, чтобы обмануть обнаруживающие закономерности модели ИИ.

Новые методы обучения и разработки ИИ направлены на то, чтобы сделать модели ИИ и приложения менее уязвимыми для методов взлома и тактик обхода безопасности. Противостоящее обучение направлено на обучение моделей ИИ на симуляциях вредоносных или вредных входных данных, что делает модель более устойчивой к эксплуатации, отсюда и название “противостоящее”. Согласно Chen и Gangopadhyay, их исследования обнаружили методы борьбы с вредоносным ПО, предназначенным для кражи конфиденциальной информации людей. Два исследователя объяснили, что одним из наиболее эффективных методов, которые они обнаружили для сопротивления вредоносному ПО, было введение неопределенности в модель. Цель состоит в том, чтобы сделать более трудным для злоумышленников предсказать, как модель отреагирует на любой вход.

Другие методы использования ИИ для защиты конфиденциальности включают минимизацию воздействия данных при создании и обучении модели, а также тестирование для обнаружения уязвимостей сети. Когда речь идет о сохранении конфиденциальности данных, федеративное обучение может помочь защитить конфиденциальность чувствительных данных, поскольку оно позволяет модели быть обученной без того, чтобы обучающие данные покинули локальные устройства, содержащие данные, изолируя данные и многие параметры модели от слежки.

В конечном итоге, Chen и Gangopadhyay утверждают, что хотя распространение ИИ создало новые угрозы конфиденциальности людей, ИИ также может помочь защитить конфиденциальность, когда он спроектирован с осторожностью и учетом.