Что такое дифференциальная приватность?

Мы живем в эпоху больших данных, которая еще больше фокусирует внимание на теме защиты данных. Люди производят огромное количество данных каждую секунду, и компании используют эти данные для различных приложений. С хранением и обменом данных происходит беспрецедентная скорость, и поэтому необходимо разработать больше методов защиты конфиденциальности.

Дифференциальная приватность – это один из подходов к защите личных данных, который оказался более эффективным, чем многие традиционные методы. Она может быть определена как система для обмена информацией о наборе данных, описывая закономерности групп внутри набора данных, при этом скрывая информацию об отдельных лицах в наборе данных.

Дифференциальная приватность позволяет исследователям и аналитикам баз данных получать ценную информацию из баз данных, не раскрывая личную идентификационную информацию об отдельных лицах. Это крайне важно, поскольку многие базы данных содержат разнообразную личную информацию.

Другой способ рассматривать дифференциальную приватность – это создание анонимных данных путем введения шума в наборы данных. Введенный шум помогает защитить конфиденциальность, при этом оставаясь достаточно ограниченным, чтобы аналитики могли надежно использовать данные.

Вы можете иметь два почти идентичных набора данных. Один с вашей личной информацией и один без нее. С помощью дифференциальной приватности вы можете гарантировать, что вероятность того, что статистический запрос даст определенный результат, будет одинаковой, независимо от того, над каким набором данных он выполняется.

Как работает дифференциальная приватность?

Дифференциальная приватность работает путем введения параметра потери приватности или бюджета приватности, который часто обозначается как эпсилон (ε), в набор данных. Эти параметры контролируют, сколько шума или случайности добавляется к сырым данным.

Например, представьте, что у вас есть столбец в наборе данных с ответами “Да” или “Нет” от отдельных лиц.

Теперь предположим, что вы подбрасываете монету для каждого отдельного лица:

• Орёл: ответ остается без изменений.
• Решка: вы подбрасываете монету еще раз, записывая ответ как “Да”, если орёл, и “Нет”, если решка, независимо от реального ответа.

Используя этот процесс, вы добавляете случайность к данным. С большим количеством данных и информацией из механизма добавления шума набор данных останется точным в отношении агрегированных измерений. Конфиденциальность обеспечивается путем предоставления каждому отдельному лицу возможности правдоподобно отрицать свой реальный ответ благодаря процессу рандомизации.

Хотя это простой пример дифференциальной приватности, он дает базовое понимание. В реальных приложениях алгоритмы более сложные.

Также важно отметить, что дифференциальная приватность может быть реализована локально, где шум добавляется к индивидуальным данным до их централизации в базе данных, или глобально, где шум добавляется к сырым данным после их сбора от отдельных лиц.

Примеры дифференциальной приватности

Дифференциальная приватность применяется в широком диапазоне приложений, таких как системы рекомендаций, социальные сети и сервисы, основанные на местоположении.

Вот некоторые примеры того, как крупные компании полагаются на дифференциальную приватность:

• Apple (AAPL ) использует этот метод для сбора анонимных данных об использовании устройств, таких как iPhone и Mac.
• Facebook (META ) использует дифференциальную приватность для сбора поведенческих данных, которые можно использовать для целевых рекламных кампаний.
• Amazon (AMZN ) полагается на эту технику, чтобы получить представление о персонализированных предпочтениях покупателей, скрывая при этом конфиденциальную информацию.

Apple была особенно прозрачна в отношении использования дифференциальной приватности для получения информации о пользователях, сохраняя при этом их конфиденциальность.

“Apple приняла и дальше разработала технику, известную в академическом мире как локальная дифференциальная приватность, чтобы сделать что-то действительно интересное: получить представление о том, что делают многие пользователи Apple, сохраняя при этом конфиденциальность отдельных пользователей. Это техника, которая позволяет Apple узнать о сообществе пользователей, не узнавая об отдельных лицах в этом сообществе. Дифференциальная приватность преобразует информацию, передаваемую Apple, еще до того, как она покинет устройство пользователя, так, что Apple никогда не сможет воспроизвести реальные данные.”

– Обзор дифференциальной приватности Apple

Применения дифференциальной приватности

Поскольку мы живем в эту эпоху больших данных, существует много утечек данных, которые угрожают правительствам, организациям и компаниям. В то же время современные приложения машинного обучения полагаются на методы обучения, которые требуют больших объемов обучающих данных, часто поступающих от отдельных лиц. Исследовательские учреждения также используют и делятся данными с конфиденциальной информацией. Неправильное раскрытие этих данных любым образом может вызвать много проблем как для отдельных лиц, так и для организаций, и в тяжелых случаях может привести к гражданской ответственности.

Формальные модели приватности, такие как дифференциальная приватность, решают все эти проблемы. Они используются для защиты личной информации, реального местоположения и многое другое.

Используя дифференциальную приватность, компании могут получить доступ к большому количеству конфиденциальных данных для исследований или бизнеса, не компрометируя данные. Исследовательские учреждения также могут разработать конкретные технологии дифференциальной приватности, чтобы автоматизировать процессы приватности в облачных сообществах, которые становятся все более популярными.

Почему использовать дифференциальную приватность?

Дифференциальная приватность предлагает несколько основных свойств, которые делают ее отличной основой для анализа конфиденциальных данных, гарантируя при этом конфиденциальность:

• Количественная оценка потери приватности: механизмы и алгоритмы дифференциальной приватности могут измерять потерю приватности, что позволяет сравнивать ее с другими методами.
• Композиция: поскольку можно количественно оценить потерю приватности, можно также анализировать и контролировать ее при нескольких вычислениях, что позволяет разрабатывать различные алгоритмы.
• Групповая приватность: помимо индивидуального уровня, дифференциальная приватность позволяет анализировать и контролировать потерю приватности среди более крупных групп.
• Защищенность от постобработки: дифференциальная приватность не может быть скомпрометирована постобработкой. Например, аналитик данных не может вычислить функцию выходных данных алгоритма дифференциальной приватности и сделать его менее дифференциально-приватным.

Преимущества дифференциальной приватности

Как мы упоминали ранее, дифференциальная приватность лучше, чем многие традиционные методы защиты конфиденциальности. Например, если вся доступная информация является идентифицируемой информацией, дифференциальная приватность делает ее проще определить все элементы данных. Она также устойчива к атакам на конфиденциальность, основанным на вспомогательной информации, предотвращая атаки, которые могут быть совершены на деидентифицированных данных.

Одним из величайших преимуществ дифференциальной приватности является то, что она является композиционной, то есть можно вычислить потерю приватности, проводя два различных анализа дифференциальной приватности над одними и теми же данными. Это делается путем суммирования индивидуальных потерь приватности для двух анализов.

Хотя дифференциальная приватность является новым инструментом и может быть трудна для достижения вне исследовательских сообществ, легкие в реализации решения для защиты данных становятся более доступными. В ближайшем будущем мы должны увидеть растущее количество этих решений, доступных более широкой общественности.