Bailey Kacsmar, candidata a doctorado en la Universidad de Waterloo – Serie de entrevistas

Bailey Kacsmar es candidata a doctorado en la Escuela de Ciencias de la Computación de la Universidad de Waterloo y miembro de la facultad entrante en la Universidad de Alberta. Sus intereses de investigación se centran en el desarrollo de tecnologías de privacidad mejoradas que tengan en cuenta a los usuarios, a través del estudio paralelo de enfoques técnicos para la computación privada junto con las percepciones, preocupaciones y comprensión de los usuarios sobre estas tecnologías. Su trabajo tiene como objetivo identificar el potencial y las limitaciones de la privacidad en las aplicaciones de aprendizaje automático.

Sus intereses de investigación se centran en el desarrollo de tecnologías de privacidad mejoradas que tengan en cuenta a los usuarios, ¿por qué es tan importante la privacidad en la inteligencia artificial?

La privacidad en la inteligencia artificial es tan importante, en gran parte porque la inteligencia artificial en nuestro mundo no existe sin datos. Los datos, aunque son una abstracción útil, en última instancia describen a las personas y su comportamiento. Rara vez trabajamos con datos sobre poblaciones de árboles y niveles de agua; así que, siempre que trabajamos con algo que pueda afectar a personas reales, debemos ser conscientes de eso y entender cómo nuestro sistema puede hacer el bien o el mal. Esto es particularmente cierto para la inteligencia artificial, donde muchos sistemas se benefician de grandes cantidades de datos o esperan utilizar datos altamente sensibles (como datos de salud) para tratar de desarrollar nuevas comprensiones de nuestro mundo.

¿Cuáles son algunas de las formas en que ha visto que el aprendizaje automático ha traicionado la privacidad de los usuarios?

Traicionar es una palabra fuerte. Sin embargo, cada vez que un sistema utiliza información sobre personas sin su consentimiento, sin informarles y sin considerar los posibles daños, corre el riesgo de traicionar las normas de privacidad individuales o sociales. Esencialmente, esto resulta en una traición por mil pequeños cortes. Estas prácticas pueden incluir entrenar un modelo en las bandejas de entrada de correo electrónico de los usuarios, entrenar en los mensajes de texto de los usuarios o en los datos de salud; todo sin informar a los sujetos de los datos.

¿Podría definir qué es la privacidad diferencial y cuál es su opinión al respecto?

La privacidad diferencial es una definición o técnica que ha ganado prominencia en términos de uso para lograr la privacidad técnica. Las definiciones técnicas de privacidad, en general, incluyen dos aspectos clave; qué es lo que se está protegiendo y de quién. Dentro de la privacidad técnica, las garantías de privacidad son protecciones que se logran dado que se cumplen una serie de suposiciones. Estas suposiciones pueden ser sobre los posibles adversarios, complejidades del sistema o estadísticas. Es una técnica increíblemente útil que tiene una amplia gama de aplicaciones. Sin embargo, lo que es importante tener en cuenta es que la privacidad diferencial no es equivalente a la privacidad.

La privacidad no se limita a una definición o concepto, y es importante ser consciente de nociones más allá de eso. Por ejemplo, la integridad contextual, que es una noción conceptual de privacidad que tiene en cuenta cosas como cómo diferentes aplicaciones o organizaciones cambian las percepciones de privacidad de un individuo con respecto a una situación. También hay nociones legales de privacidad, como las recogidas en la Ley de Protección de la Información Personal y los Documentos Electrónicos (PIPEDA) de Canadá, el Reglamento General de Protección de Datos (GDPR) de Europa y la Ley de Protección del Consumidor de California (CCPA). Todo esto es para decir que no podemos tratar a los sistemas técnicos como si existieran en un vacío libre de otros factores de privacidad, incluso si se utiliza la privacidad diferencial.

Otro tipo de aprendizaje automático que mejora la privacidad es el aprendizaje federado, ¿cómo definiría qué es esto y cuál es su opinión al respecto?

El aprendizaje federado es una forma de realizar aprendizaje automático cuando el modelo se va a entrenar en una colección de conjuntos de datos que están distribuidos en varios propietarios o ubicaciones. No es intrínsecamente un tipo de aprendizaje automático que mejora la privacidad. Un tipo de aprendizaje automático que mejora la privacidad necesita definir formalmente qué es lo que se está protegiendo, quién es quién se está protegiendo y las condiciones que deben cumplirse para que estas protecciones se mantengan. Por ejemplo, cuando pensamos en un cálculo diferencialmente privado simple, garantiza que alguien que vea la salida no podrá determinar si un punto de datos determinado se contribuyó o no.

Además, la privacidad diferencial no ofrece esta garantía si, por ejemplo, hay correlación entre los puntos de datos. El aprendizaje federado no tiene esta característica; simplemente entrena un modelo en una colección de datos sin requerir que los titulares de esos datos proporcionen directamente sus conjuntos de datos a otros o a un tercero. Aunque eso suene como una característica de privacidad, lo que se necesita es una garantía formal de que no se puede aprender la información protegida dada los intermediarios y salidas que las partes no confiables observarán. Esta formalidad es especialmente importante en el entorno federado, donde las partes no confiables incluyen a todos los que proporcionan datos para entrenar el modelo colectivo.

¿Cuáles son algunas de las limitaciones actuales de estos enfoques?

Las limitaciones actuales podrían describirse mejor como la naturaleza del intercambio entre privacidad y utilidad. Incluso si se hace todo lo demás, se comunican las implicaciones de privacidad a los afectados, se evalúa el sistema para lo que se intenta hacer, etc., todavía se reduce a lograr la privacidad perfecta, lo que significa que no creamos el sistema, lograr la utilidad perfecta generalmente no tendrá protecciones de privacidad, así que la pregunta es cómo determinamos qué es el “intercambio ideal” y cómo construimos hacia él de manera que aún logremos la funcionalidad deseada mientras proporcionamos las protecciones de privacidad necesarias.

Actualmente, busca desarrollar tecnología de privacidad consciente del usuario a través del estudio paralelo de soluciones técnicas para la computación privada. ¿Podría entrar en algunos detalles sobre qué son algunas de estas soluciones?

Lo que quiero decir con estas soluciones es que podemos, en términos generales, desarrollar cualquier número de sistemas de privacidad técnica. Sin embargo, al hacerlo, es importante determinar si las garantías de privacidad están alcanzando a los afectados. Esto puede significar desarrollar un sistema después de descubrir qué tipo de protecciones valora la población. Esto puede significar actualizar un sistema después de descubrir cómo las personas realmente utilizan un sistema dado sus consideraciones de amenazas y riesgos reales. Una solución técnica podría ser un sistema correcto que satisfaga la definición que mencioné anteriormente. Una solución consciente del usuario diseñaría su sistema basado en entradas de los usuarios y otros afectados en el dominio de aplicación previsto.

Actualmente, busca estudiantes de posgrado interesados en comenzar en septiembre de 2024, ¿por qué cree que los estudiantes deberían estar interesados en la privacidad de la inteligencia artificial?

Creo que los estudiantes deberían estar interesados porque es algo que solo crecerá en su omnipresencia dentro de nuestra sociedad. Para tener una idea de lo rápido que estos sistemas, no busquen más allá de la reciente amplificación de Chat-GPT a través de artículos de noticias, redes sociales y debates sobre sus implicaciones. Existimos en una sociedad donde la recopilación y el uso de datos están tan arraigados en nuestra vida diaria que casi constantemente proporcionamos información sobre nosotros mismos a varias empresas y organizaciones. Estas empresas quieren utilizar los datos, en algunos casos para mejorar sus servicios, en otros para obtener ganancias. En este punto, parece poco realista pensar que estas prácticas corporativas de uso de datos cambiarán. Sin embargo, la existencia de sistemas que preservan la privacidad que protegen a los usuarios mientras permiten ciertos análisis deseados por las empresas puede ayudar a equilibrar el intercambio de riesgos y recompensas que se ha vuelto una parte tan implícita de nuestra sociedad.

Gracias por la gran entrevista, los lectores que estén interesados en aprender más pueden visitar la página de Github de Bailey Kacsmar.