¿Existe una Solución Clara para los Riesgos de Privacidad Planteado por la Inteligencia Artificial Generativa?

Los riesgos de privacidad planteados por la inteligencia artificial generativa son muy reales. Desde un aumento en la vigilancia y la exposición a campañas de phishing y vishing más efectivas que nunca, la inteligencia artificial generativa erosiona la privacidad en masa, indiscriminadamente, mientras proporciona a los actores maliciosos, ya sean criminales, patrocinados por el estado o gubernamentales, las herramientas que necesitan para dirigirse a individuos y grupos.

La solución más clara a este problema implica que los consumidores y usuarios colectivamente rechacen la hipería de la IA, exijan transparencia de aquellos que desarrollan o implementan características de la IA y una regulación efectiva de los órganos gubernamentales que supervisan sus operaciones. Aunque vale la pena esforzarse por lograrlo, esto no es probable que suceda pronto.

Lo que queda son enfoques razonables, aunque necesariamente incompletos, para mitigar los riesgos de privacidad de la inteligencia artificial generativa. La predicción a largo plazo, segura pero aburrida, es que cuanto más educada esté la población en general sobre la privacidad de los datos, menor será el riesgo de privacidad que plantea la adopción masiva de la inteligencia artificial generativa.

¿Entendemos Todos el Concepto de Inteligencia Artificial Generativa?

La hipería alrededor de la IA es tan ubicua que una encuesta de lo que la gente entiende por inteligencia artificial generativa es apenas necesaria. Por supuesto, ninguna de estas características o productos de “IA” representa en realidad ejemplos de inteligencia artificial verdadera, sea lo que sea que eso signifique. Más bien, son en su mayoría ejemplos de aprendizaje automático (ML), aprendizaje profundo (DL) y modelos de lenguaje grande (LLM).

La inteligencia artificial generativa, como sugiere el nombre, puede generar nuevo contenido, ya sea texto (incluyendo lenguajes de programación), audio (incluyendo música y voces similares a las humanas) o videos (con sonido, diálogo, cortes y cambios de cámara). Todo esto se logra entrenando a los LLM para identificar, emparejar y reproducir patrones en contenido generado por humanos.

Tomemos a ChatGPT como ejemplo. Como muchos LLM, se entrena en tres etapas generales:

• Pre-entrenamiento: Durante esta fase, el LLM se “alimenta” con material textual de Internet, libros, revistas académicas y cualquier otra cosa que contenga texto potencialmente relevante o útil.
• Ajuste fino de instrucción supervisada: Los modelos se entrenan para responder de manera más coherente a las instrucciones utilizando pares de instrucción-respuesta de alta calidad, generalmente obtenidos de humanos.
• Aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF): Los LLM como ChatGPT a menudo pasan por esta etapa de entrenamiento adicional, durante la cual las interacciones con los usuarios humanos se utilizan para refinar el modelo para que se alinee con los casos de uso típicos.

Las tres etapas del proceso de entrenamiento involucran datos, ya sea grandes almacenes de datos pre-reunidos (como los utilizados en el pre-entrenamiento) o datos reunidos y procesados casi en tiempo real (como los utilizados en RLHF). Son esos datos los que llevan la mayor parte de los riesgos de privacidad que surgen de la inteligencia artificial generativa.

¿Cuáles son los Riesgos de Privacidad Planteado por la Inteligencia Artificial Generativa?

La privacidad se compromete cuando la información personal relacionada con un individuo (el sujeto de datos) se pone a disposición de otros individuos o entidades sin el consentimiento del sujeto de datos. Los LLM se entrenan y ajustan en una amplia gama de datos que pueden y a menudo incluyen datos personales. Estos datos suelen extraerse de fuentes públicamente disponibles, pero no siempre.

Incluso cuando esos datos se toman de fuentes públicamente disponibles, tenerlos agregados y procesados por un LLM y luego esencialmente hacerlos buscables a través de la interfaz del LLM podría considerarse una violación adicional de la privacidad.

La etapa de aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF) complica las cosas. En esta etapa de entrenamiento, las interacciones reales con los usuarios humanos se utilizan para corregir y refinar las respuestas del LLM. Esto significa que las interacciones de un usuario con un LLM pueden ser vistas, compartidas y difundidas por cualquier persona con acceso a los datos de entrenamiento.

En la mayoría de los casos, esto no es una violación de la privacidad, dado que la mayoría de los desarrolladores de LLM incluyen políticas de privacidad y términos de servicio que requieren que los usuarios den su consentimiento antes de interactuar con el LLM. El riesgo de privacidad aquí radica más bien en el hecho de que muchos usuarios no son conscientes de que han aceptado la recopilación y uso de sus datos. Es probable que estos usuarios revelen información privada y sensible durante sus interacciones con estos sistemas, sin darse cuenta de que estas interacciones no son confidenciales ni privadas.

De esta manera, llegamos a las tres formas principales en que la inteligencia artificial generativa plantea riesgos de privacidad:

• Los grandes almacenes de datos de pre-entrenamiento que potencialmente contienen información personal son vulnerables a ser comprometidos y exfiltrados.
• La información personal incluida en los datos de pre-entrenamiento puede filtrarse a otros usuarios del mismo LLM a través de sus respuestas a consultas y instrucciones.
• La información personal y confidencial proporcionada durante las interacciones con los LLM termina con los empleados de los LLM y posiblemente con contratistas de terceros, desde donde puede ser vista o filtrada.

Estos son todos riesgos para la privacidad de los usuarios, pero las posibilidades de que la información de identificación personal (PII) termine en manos equivocadas todavía parecen bastante bajas. Es decir, al menos hasta que los corredores de datos entran en escena. Estas empresas se especializan en buscar PII y recopilar, agregar y difundir, si no transmitir abiertamente, esta información.

Con la PII y otros datos personales habiéndose convertido en una especie de commodity y la industria de los corredores de datos surgiendo para beneficiarse de esto, cualquier dato personal que “salga” es muy probable que sea recogido por los corredores de datos y difundido ampliamente.

Los Riesgos de Privacidad de la Inteligencia Artificial Generativa en Contexto

Antes de examinar los riesgos de privacidad que plantea la inteligencia artificial generativa en el contexto de productos, servicios y asociaciones corporativas específicos, analicemos de manera más estructurada el panorama completo de riesgos de la inteligencia artificial generativa. En un artículo para la IAPP, Moraes y Previtali adoptaron un enfoque basado en datos para refinar la “Taxonomía de la privacidad” de Solove de 2006, reduciendo las 16 violaciones de la privacidad descritas allí a 12 riesgos de privacidad específicos de la IA.

Estos son los 12 riesgos de privacidad incluidos en la taxonomía revisada de Moraes y Previtali:

• Vigilancia: La IA aumenta los riesgos de vigilancia al aumentar la escala y la ubicuidad de la recopilación de datos personales.
• Identificación: Las tecnologías de la IA permiten la vinculación automática de identidades a través de diversas fuentes de datos, lo que aumenta los riesgos relacionados con la exposición de la identidad personal.
• Agregación: La IA combina varios fragmentos de datos sobre una persona para hacer inferencias, lo que crea riesgos de invasión de la privacidad.
• Frenología y fisiognomía: La IA infiere la personalidad o los atributos sociales a partir de características físicas, una nueva categoría de riesgo que no está en la taxonomía de Solove.
• Uso secundario: La IA agudiza el uso de datos personales para fines distintos de los originalmente previstos a través de la reutilización de datos.
• Exclusión: La IA hace que el fracaso en informar o dar control a los usuarios sobre cómo se utilizan sus datos sea peor a través de prácticas de datos opacas.
• Inseguridad: Las necesidades de datos y las prácticas de almacenamiento de la IA conllevan riesgos de fugas de datos y acceso inapropiado.
• Exposición: La IA puede revelar información sensible, como a través de técnicas de inteligencia artificial generativa.
• Distorsión: La capacidad de la IA para generar contenido realista pero falso aumenta la difusión de información falsa o engañosa.
• Divulgación: La IA puede causar una divulgación inapropiada de datos cuando infiere información sensible adicional a partir de los datos brutos.
• Aumento de la accesibilidad: La IA hace que la información sensible sea más accesible para una audiencia más amplia de lo que se pretendía.
• Intrusión: Las tecnologías de la IA invaden el espacio personal o la soledad, a menudo a través de medidas de vigilancia.

Esto resulta en una lectura bastante alarmante. Es importante tener en cuenta que esta taxonomía, a su favor, tiene en cuenta la tendencia de la inteligencia artificial generativa a alucinar, es decir, a generar y presentar con confianza información factualmente inexacta. Este fenómeno, aunque rara vez revela información real, también es un riesgo de privacidad. La difusión de información falsa y engañosa afecta la privacidad del sujeto de maneras más sutiles que en el caso de información precisa, pero de todos modos la afecta.

Vamos a profundizar en algunos ejemplos concretos de cómo estos riesgos de privacidad se manifiestan en el contexto de productos de IA reales.

Interacciones Directas con Sistemas de Inteligencia Artificial Generativa Basados en Texto

El caso más simple es el que implica a un usuario que interactúa directamente con un sistema de inteligencia artificial generativa, como ChatGPT, Midjourney o Gemini. Las interacciones del usuario con muchos de estos productos se registran, almacenan y utilizan para RLHF (aprendizaje por refuerzo a partir de la retroalimentación humana), ajuste fino de instrucción supervisada y incluso el pre-entrenamiento de otros LLM.

Un análisis de las políticas de privacidad de muchos de estos servicios también revela otras actividades de intercambio de datos impulsadas por propósitos muy diferentes, como marketing y corretaje de datos. Esto es otro tipo de riesgo de privacidad planteado por la inteligencia artificial generativa: estos sistemas pueden caracterizarse como enormes embudos de datos, recopilando datos proporcionados por los usuarios, así como los generados a través de sus interacciones con el LLM subyacente.

Interacciones con Sistemas de Inteligencia Artificial Generativa Incorporados

Algunos usuarios pueden estar interactuando con interfaces de inteligencia artificial generativa que están incorporadas en el producto que están utilizando. El usuario puede saber que está utilizando una característica “IA”, pero es menos probable que sepa lo que eso implica en términos de riesgos de privacidad de datos. Lo que se destaca con los sistemas incorporados es la falta de apreciación del hecho de que los datos personales compartidos con el LLM podrían terminar en manos de los desarrolladores y los corredores de datos.

Hay dos grados de falta de conciencia aquí: algunos usuarios se dan cuenta de que están interactuando con un producto de inteligencia artificial generativa; y algunos creen que están utilizando el producto en el que se incorpora la inteligencia artificial generativa. En cualquier caso, el usuario puede haber (y probablemente lo hizo) dado su consentimiento técnico a los términos y condiciones asociados con sus interacciones con el sistema incorporado.

Otras Asociaciones que Exponen a los Usuarios a Sistemas de Inteligencia Artificial Generativa

Algunas empresas incorporan o incluyen de otra manera interfaces de inteligencia artificial generativa en su software de maneras menos obvias, lo que hace que los usuarios interactúen y compartan información con terceros sin darse cuenta. Afortunadamente, “IA” se ha convertido en un punto de venta tan efectivo que es poco probable que una empresa mantenga tales implementaciones en secreto.

Otro fenómeno en este contexto es el creciente rechazo que tales empresas han experimentado después de intentar compartir datos de usuarios o clientes con empresas de inteligencia artificial generativa como OpenAI. La empresa de eliminación de datos Optery, por ejemplo, revirtió recientemente una decisión de compartir datos de usuarios con OpenAI en una base de exclusión, lo que significa que los usuarios estaban inscritos en el programa por defecto.

No solo los clientes fueron rápidos en expresar su decepción, sino que el servicio de eliminación de datos de la empresa también fue eliminado de la lista de servicios de eliminación de datos recomendados por Privacy Guides. Afortunadamente, Optery revirtió su decisión de manera rápida y transparente, pero es la reacción generalizada lo que es significativo aquí: la gente está empezando a apreciar los riesgos de compartir datos con empresas de “IA”.

El caso de Optery es un buen ejemplo aquí porque sus usuarios están, en cierto sentido, a la vanguardia del creciente escepticismo que rodea las implementaciones de la IA. El tipo de personas que optan por un servicio de eliminación de datos también son, típicamente, las que prestarán atención a los cambios en los términos de servicio y las políticas de privacidad.

Evidencia de un Creciente Rechazo a la Utilización de Datos de la Inteligencia Artificial Generativa

Los consumidores conscientes de la privacidad no han sido los únicos en expresar preocupaciones sobre los sistemas de inteligencia artificial generativa y los riesgos de privacidad de datos asociados. A nivel legislativo, el Acta de Inteligencia Artificial de la UE clasifica los riesgos según su gravedad, con la privacidad de los datos como criterio explícito o implícito para asignar gravedad en la mayoría de los casos. La Acta también aborda los problemas de consentimiento informado que discutimos anteriormente.

En los EE. UU., notoriamente lentos para adoptar legislación de privacidad de datos integral y federal, al menos tienen algunas salvaguardias gracias a la Orden Ejecutiva 14110. Nuevamente, las preocupaciones de privacidad de los datos están en el centro de los propósitos dados para la Orden: “el uso irresponsable [de las tecnologías de la IA] podría exacerbar los daños sociales, como el fraude, la discriminación, los sesgos y la desinformación”, todos relacionados con la disponibilidad y difusión de datos personales.

Volviendo al nivel del consumidor, no solo los consumidores particularmente conscientes de la privacidad han reaccionado en contra de las implementaciones invasivas de la privacidad de la inteligencia artificial generativa. La función “Recall” “impulsada por la IA” de Microsoft, destinada a su sistema operativo Windows 11, es un ejemplo destacado. Una vez que se reveló el alcance de los riesgos de privacidad y seguridad, el rechazo fue suficiente para hacer que el gigante tecnológico retrocediera. Desafortunadamente, Microsoft parece no haber abandonado la idea, pero la reacción inicial del público es de todos modos alentadora.

Permaneciendo con Microsoft, su programa Copilot ha sido ampliamente criticado por problemas de privacidad y seguridad de datos. Como Copilot se entrenó en datos de GitHub (principalmente código fuente), también surgió controversia sobre las presuntas violaciones de Microsoft de los acuerdos de licencia de software de los programadores y desarrolladores. Es en casos como este que las líneas entre la privacidad de los datos y los derechos de propiedad intelectual comienzan a borrosas, otorgando a la primera un valor monetario, algo que no se hace fácilmente.

Quizás la mayor indicación de que la IA se está convirtiendo en una bandera roja en los ojos de los consumidores es la respuesta pública tibia, si no abiertamente cautelosa, que Apple obtuvo en su lanzamiento inicial de la IA, específicamente en lo que respecta a los acuerdos de intercambio de datos con OpenAI.

Las Soluciones Parciales

Hay pasos que los legisladores, los desarrolladores y las empresas pueden tomar para mitigar algunos de los riesgos planteados por la inteligencia artificial generativa. Estas son las soluciones especializadas para aspectos específicos del problema general, ninguna de estas soluciones es suficiente por sí sola, pero todas ellas, trabajando juntas, podrían marcar una diferencia real.

• Minimización de datos. Minimizar la cantidad de datos recopilados y almacenados es un objetivo razonable, pero está directamente en oposición a los deseos de los desarrolladores de la IA de obtener datos de entrenamiento.
• Transparencia. Dado el estado actual de la técnica en el aprendizaje automático, esto puede no ser técnicamente factible en muchos casos. La visibilidad de qué datos se procesan y cómo cuando se genera una determinada salida es una forma de garantizar la privacidad en las interacciones con la inteligencia artificial generativa.
• Anonimización. Cualquier información de identificación personal (PII) que no se pueda excluir de los datos de entrenamiento (a través de la minimización de datos) debe anonimizarse. El problema es que muchas técnicas de anonimización y seudonimización populares son fácilmente derrotadas.
• Consentimiento del usuario. Requerir que los usuarios den su consentimiento para la recopilación y el intercambio de sus datos es esencial, pero demasiado abierto a abusos y demasiado propenso a la complacencia del consumidor para ser efectivo. Es el consentimiento informado lo que se necesita aquí, y la mayoría de los consumidores, adecuadamente informados, no consentirían en el intercambio de dichos datos, por lo que los incentivos están desalineados.
• Protección de los datos en tránsito y en reposo. Otra base de la privacidad y la seguridad de los datos, proteger los datos a través de medios criptográficos y otros puede hacerse siempre más efectivo. Sin embargo, los sistemas de inteligencia artificial generativa tienden a filtrar datos a través de sus interfaces, lo que hace que esto sea solo parte de la solución.
• Aplicación de la ley de derechos de autor y propiedad intelectual en el contexto de la llamada IA. El aprendizaje automático puede operar en una “caja negra”, lo que hace difícil, si no imposible, rastrear qué material con derechos de autor y propiedad intelectual termina en qué salida de la inteligencia artificial generativa.
• Auditorías. Otra medida de salvaguarda crucial obstaculizada por la naturaleza de “caja negra” de los LLM y los sistemas de inteligencia artificial generativa que respaldan. Esta limitación inherente se ve exacerbada por la naturaleza de código cerrado de la mayoría de los productos de inteligencia artificial generativa, lo que limita las auditorías a aquellas realizadas a conveniencia del desarrollador.

Todos estos enfoques para el problema son válidos y necesarios, pero ninguno es suficiente. Todos requieren apoyo legislativo para tener un efecto significativo, lo que significa que están condenados a estar por detrás de los tiempos a medida que este campo dinámico continúa evolucionando.

La Solución Clara

La solución a los riesgos de privacidad planteados por la inteligencia artificial generativa no es revolucionaria ni emocionante, pero llevada a su conclusión lógica, sus resultados podrían ser ambas cosas. La solución clara implica que los consumidores cotidianos se den cuenta del valor de sus datos para las empresas y la invaluabilidad de la privacidad de los datos para ellos mismos.

Los consumidores son las fuentes y los motores detrás de la información privada que impulsa lo que se llama la economía de la vigilancia moderna. Una vez que una masa crítica de consumidores comience a frenar el flujo de datos privados hacia la esfera pública y comience a exigir responsabilidad de las empresas que comercian con datos personales, el sistema tendrá que autocorregirse.

Lo alentador sobre la inteligencia artificial generativa es que, a diferencia de los modelos actuales de publicidad y marketing, no tiene que involucrar información personal en ninguna etapa. Los datos de pre-entrenamiento y ajuste fino no tienen que incluir PII o otros datos personales, y los usuarios no tienen que exponer la misma durante sus interacciones con los sistemas de inteligencia artificial generativa.

Para eliminar su información personal de los datos de entrenamiento, las personas pueden ir directamente a la fuente y eliminar sus perfiles de los varios corredores de datos (incluidos los sitios de búsqueda de personas) que agregan registros públicos, lo que los pone en circulación en el mercado abierto. Los servicios de eliminación de datos personales automatizan el proceso, haciéndolo rápido y fácil. Por supuesto, eliminar datos personales de las bases de datos de estas empresas tiene muchos otros beneficios y ninguna desventaja.

Las personas también generan datos personales cuando interactúan con software, incluida la inteligencia artificial generativa. Para frenar el flujo de estos datos, los usuarios tendrán que ser más conscientes de que sus interacciones están siendo registradas, revisadas, analizadas y compartidas. Sus opciones para evitar esto se reducen a restringir lo que revelan a los sistemas en línea y a utilizar LLM de código abierto en el dispositivo siempre que sea posible. Las personas, en general, ya hacen un buen trabajo de modular lo que discuten en público; solo necesitamos extender estos instintos al ámbito de la inteligencia artificial generativa.