¿Qué es la privacidad diferencial?

Estamos viviendo en la era de los grandes datos, lo que ha centrado aún más la atención en el tema de la privacidad de los datos. Los humanos producen una cantidad increíble de datos cada segundo, y las empresas utilizan estos datos para una amplia gama de aplicaciones. Con el almacenamiento y el intercambio de datos a un ritmo sin precedentes, es necesario que haya más técnicas de protección de la privacidad.

La privacidad diferencial es uno de estos enfoques para proteger los datos personales, y ha demostrado ser más efectiva que muchos de nuestros métodos tradicionales. Puede definirse como un sistema para compartir información pública sobre un conjunto de datos describiendo patrones de grupos dentro del conjunto de datos mientras se retiene la información sobre los individuos en el conjunto de datos.

La privacidad diferencial permite a los investigadores y analistas de bases de datos obtener información valiosa de las bases de datos sin divulgar la información de identificación personal sobre los individuos. Esto es crítico, ya que muchas bases de datos contienen una variedad de información personal.

Otra forma de ver la privacidad diferencial es que crea datos anónimos inyectando ruido en los conjuntos de datos. El ruido introducido ayuda a proteger la privacidad mientras sigue siendo lo suficientemente limitado como para que los analistas puedan utilizar los datos de manera fiable.

Puedes tener dos conjuntos de datos casi idénticos. Uno con tu información personal y otro sin ella. Con la privacidad diferencial, puedes asegurarte de que la probabilidad de que una consulta estadística produzca un resultado determinado sea la misma independientemente de la base de datos en la que se realice.

¿Cómo funciona la privacidad diferencial?

La forma en que funciona la privacidad diferencial es introduciendo un parámetro de pérdida de privacidad o presupuesto de privacidad, que a menudo se denota como epsilon (ε), en el conjunto de datos. Estos parámetros controlan cuánto ruido o aleatoriedad se agrega al conjunto de datos sin procesar.

Por ejemplo, imagina que tienes una columna en el conjunto de datos con respuestas “Sí”/”No” de los individuos.

Ahora, supongamos que lanzas una moneda para cada individuo:

• Cara: la respuesta se mantiene como está.
  
• Cruz: lanzas una segunda vez, grabando la respuesta como “Sí” si sale cara y “No” si sale cruz, independientemente de la respuesta real.

Al utilizar este proceso, agregas aleatoriedad a los datos. Con una gran cantidad de datos y la información del mecanismo de agregación de ruido, el conjunto de datos seguirá siendo preciso en términos de mediciones agregadas. La privacidad se logra al permitir que cada individuo niegue plausiblemente su respuesta real gracias al proceso de aleatorización.

Si bien este es un ejemplo simplificado de privacidad diferencial, proporciona un nivel básico de comprensión. En aplicaciones del mundo real, los algoritmos son más complejos.

También es importante destacar que la privacidad diferencial se puede implementar localmente, donde el ruido se agrega a los datos individuales antes de que se centralicen en la base de datos, o globalmente, donde el ruido se agrega a los datos sin procesar después de que se recopilan de los individuos.

Ejemplos de privacidad diferencial

La privacidad diferencial se aplica en una amplia gama de aplicaciones como sistemas de recomendación, redes sociales y servicios basados en la ubicación.

A continuación, se presentan algunos ejemplos de cómo las grandes empresas confían en la privacidad diferencial:

• Apple utiliza este método para recopilar información de uso anónima de dispositivos como iPhones y Macs.

• Facebook utiliza la privacidad diferencial para recopilar datos de comportamiento que se pueden utilizar para campañas publicitarias dirigidas.

• Amazon confía en esta técnica para obtener información sobre preferencias de compra personalizadas mientras oculta información sensible.

Apple ha sido especialmente transparente sobre su uso de la privacidad diferencial para obtener información sobre los usuarios mientras preserva su privacidad.

“Apple ha adoptado y desarrollado aún más una técnica conocida en el mundo académico como privacidad diferencial local para hacer algo realmente emocionante: obtener información sobre lo que muchos usuarios de Apple están haciendo, mientras ayuda a preservar la privacidad de los usuarios individuales. Es una técnica que permite a Apple aprender sobre la comunidad de usuarios sin aprender sobre los individuos en la comunidad. La privacidad diferencial transforma la información compartida con Apple antes de que salga del dispositivo del usuario de tal manera que Apple nunca puede reproducir los datos reales.”

– Visión general de la privacidad diferencial de Apple

Aplicaciones de la privacidad diferencial

Dado que vivimos en esta era de grandes datos, hay muchas violaciones de datos que amenazan a gobiernos, organizaciones y empresas. Al mismo tiempo, las aplicaciones de aprendizaje automático de hoy en día dependen de técnicas de aprendizaje que requieren grandes cantidades de datos de entrenamiento, que a menudo provienen de individuos. Las instituciones de investigación también utilizan y comparten datos con información confidencial. La divulgación indebida de estos datos de cualquier manera puede causar muchos problemas tanto para el individuo como para la organización, y en casos graves, puede llevar a responsabilidad civil.

Los modelos de privacidad formales como la privacidad diferencial abordan todos estos problemas. Se utilizan para proteger la información personal, la ubicación en tiempo real y más.

Al utilizar la privacidad diferencial, las empresas pueden acceder a una gran cantidad de datos sensibles para investigación o negocio sin comprometer los datos. Las instituciones de investigación también pueden desarrollar tecnologías de privacidad diferencial específicas para automatizar los procesos de privacidad en comunidades de intercambio en la nube, que están creciendo en popularidad.

¿Por qué utilizar la privacidad diferencial?

La privacidad diferencial ofrece algunas propiedades principales que la convierten en un excelente marco para analizar datos privados mientras se garantiza la privacidad:

• Cuantificación de la pérdida de privacidad: Los mecanismos y algoritmos de privacidad diferencial pueden medir la pérdida de privacidad, lo que permite compararla con otras técnicas.

• Composición: Dado que se puede cuantificar la pérdida de privacidad, también se puede analizar y controlar sobre múltiples cálculos, lo que permite el desarrollo de diferentes algoritmos.

• Privacidad de grupo: Además del nivel individual, la privacidad diferencial permite analizar y controlar la pérdida de privacidad entre grupos más grandes.

• Seguro en el procesamiento posterior: La privacidad diferencial no se ve afectada por el procesamiento posterior. Por ejemplo, un analista de datos no puede calcular una función de la salida de un algoritmo de privacidad diferencial y hacer que sea menos diferencialmente privado.

Ventajas de la privacidad diferencial

Como mencionamos anteriormente, la privacidad diferencial es mejor que muchas técnicas de privacidad tradicionales. Por ejemplo, si toda la información disponible es información identificada, la privacidad diferencial hace que sea más fácil identificar todos los elementos de los datos. También es resistente a los ataques de privacidad basados en información auxiliar, lo que evita ataques que se pueden realizar en datos desidentificados.

Una de las mayores ventajas de la privacidad diferencial es que es compositiva, lo que significa que se puede calcular la pérdida de privacidad de realizar dos análisis de privacidad diferencial sobre los mismos datos. Esto se hace sumando las pérdidas de privacidad individuales para los dos análisis.

Si bien la privacidad diferencial es una herramienta nueva y puede ser difícil de lograr fuera de las comunidades de investigación, las soluciones fáciles de implementar para la privacidad de los datos están volviéndose más accesibles. En el futuro cercano, deberíamos ver un aumento en la cantidad de estas soluciones disponibles para el público en general.