Investigadores creen que la IA puede ser utilizada para ayudar a proteger la privacidad de las personas

Dos profesores de ciencia de la información han publicado recientemente un artículo en The Conversation, argumentando que la IA podría ayudar a preservar la privacidad de las personas, rectificando algunos de los problemas que ha creado.

Zhiyuan Chen y Aryya Gangopadhyay argumentan que los algoritmos de inteligencia artificial podrían ser utilizados para defender la privacidad de las personas, contrarrestando algunos de los muchos problemas de privacidad que otros usos de la IA han creado. Chen y Gangopadhyay reconocen que muchos de los productos impulsados por IA que usamos para la conveniencia no funcionarían sin acceso a grandes cantidades de datos, lo que a primera vista parece estar en desacuerdo con los intentos de preservar la privacidad. Además, a medida que la IA se extiende a más y más industrias y aplicaciones, se recopilarán y almacenarán más datos en bases de datos, lo que hace que las violaciones de esas bases de datos sean tentadoras. Sin embargo, Chen y Gangopadhyay creen que cuando se utiliza correctamente, la IA puede ayudar a mitigar estos problemas.

Chen y Gangopadhyay explican en su publicación que los riesgos para la privacidad asociados con la IA provienen de al menos dos fuentes diferentes. La primera fuente es el gran conjunto de datos recopilados para entrenar modelos de redes neuronales, mientras que la segunda amenaza para la privacidad son los modelos en sí. Los datos pueden “filtrarse” de estos modelos, y el comportamiento de los modelos puede revelar detalles sobre los datos utilizados para entrenarlos.

Las redes neuronales profundas están compuestas por múltiples capas de neuronas, con cada capa conectada a las capas que la rodean. Las neuronas individuales, así como los enlaces entre neuronas, codifican diferentes bits de los datos de entrenamiento. El modelo puede resultar demasiado bueno recordando patrones de los datos de entrenamiento, incluso si el modelo no se está sobreajustando. Las trazas de los datos de entrenamiento existen dentro de la red y los actores maliciosos pueden ser capaces de discernir aspectos de los datos de entrenamiento, como encontraron durante uno de sus estudios en la Universidad de Cornell. Los investigadores de Cornell encontraron que los algoritmos de reconocimiento facial podrían ser explotados por atacantes para revelar qué imágenes, y por lo tanto qué personas, se utilizaron para entrenar el modelo de reconocimiento facial. Los investigadores de Cornell descubrieron que incluso si un atacante no tiene acceso al modelo original utilizado para entrenar la aplicación, el atacante aún puede ser capaz de sondear la red y determinar si una persona en particular se incluyó en los datos de entrenamiento simplemente utilizando modelos que se entrenaron en datos muy similares.

Algunos modelos de IA se utilizan actualmente para proteger contra violaciones de datos y tratar de garantizar la privacidad de las personas. Los modelos de IA se utilizan con frecuencia para detectar intentos de hacking al reconocer los patrones de comportamiento que los hackers utilizan para penetrar los métodos de seguridad. Sin embargo, los hackers a menudo cambian su comportamiento para tratar de engañar a la IA que detecta patrones.

Nuevos métodos de entrenamiento y desarrollo de IA apuntan a hacer que los modelos y aplicaciones de IA sean menos vulnerables a los métodos de hacking y tácticas de evasión de seguridad. El aprendizaje adversario busca entrenar a los modelos de IA en simulaciones de entradas maliciosas o dañinas y, al hacerlo, hacer que el modelo sea más robusto contra la explotación, de ahí el “adversario” en el nombre. Según Chen y Gangopadhyay, su investigación ha descubierto métodos para combatir el malware diseñado para robar información privada de las personas. Los dos investigadores explicaron que uno de los métodos que encontraron más efectivos para resistir el malware fue la introducción de incertidumbre en el modelo. El objetivo es hacer que sea más difícil para los actores maliciosos anticipar cómo reaccionará el modelo a cualquier entrada dada.

Otros métodos para utilizar la IA para proteger la privacidad incluyen minimizar la exposición de datos cuando se crea y entrena el modelo, así como sondear para descubrir las vulnerabilidades de la red. Cuando se trata de preservar la privacidad de los datos, el aprendizaje federado puede ayudar a proteger la privacidad de los datos sensibles, ya que permite que un modelo se entrene sin que los datos de entrenamiento salgan de los dispositivos locales que contienen los datos, aislándolos y protegiendo muchos de los parámetros del modelo de espionaje.

En última instancia, Chen y Gangopadhyay argumentan que, si bien la proliferación de la IA ha creado nuevas amenazas para la privacidad de las personas, la IA también puede ayudar a proteger la privacidad cuando se diseña con cuidado y consideración.