Lo que la Ley de IA de la UE no le dice a los fundadores sobre los datos de entrenamiento

El artículo 50 de la Ley de IA de la UE requiere que un sistema de IA revele que una persona está hablando con una máquina. No dice nada sobre qué sucede con esa conversación una vez que se ha realizado la revelación.

Los fundadores que construyen productos sobre un modelo de base se enfocan en la precisión y el precio. La pregunta de qué sucede con los datos de los usuarios una vez que dejan su producto y son procesados por un modelo de terceros rara vez surge durante la selección de proveedores.

La norma se convirtió en aplicable el 2 de agosto de 2026, y las multas por incumplimiento pueden llegar a 15 millones de euros o el 3% del volumen de negocios anual mundial, lo que sea mayor. La retención y el entrenamiento se encuentran completamente fuera de su alcance. Si su aplicación envía conversaciones de usuarios a un modelo de terceros, las prácticas de datos de ese proveedor se convierten en parte de su producto, ya sea que lo haya planeado o no.

El valor predeterminado en la industria es el entrenamiento, no la solicitud

Los investigadores del Instituto de Inteligencia Artificial Centrada en el Ser Humano de Stanford revisaron las políticas de privacidad de seis importantes desarrolladores de IA de EE. UU., incluyendo Amazon, Anthropic, Google, Meta, Microsoft y OpenAI, y encontraron que todos ellos utilizaban los datos de conversación del cliente para entrenar sus modelos por defecto, con algunos reteniendo esos datos de forma indefinida. La investigadora principal Jennifer King fue directa cuando se le preguntó si los usuarios de los sistemas de chat de IA deberían preocuparse por su privacidad, respondiendo “absolutamente sí”. Por lo tanto, el entrenamiento debe considerarse como el supuesto predeterminado a menos que la documentación del proveedor indique lo contrario. Los detalles, sin embargo, varían de un proveedor a otro y merecen una atención cercana antes de comprometerse con una plataforma.

Una vez elogiada por su enfoque consciente de la privacidad, Anthropic cambió sus términos de consumidor para que las conversaciones con Claude se utilicen ahora para entrenamiento por defecto, con los usuarios que pueden optar por no participar. Esto ilustra cómo rápidamente puede cambiar la política de entrenamiento de un proveedor, incluso cuando la privacidad fue parte de su oferta original.

En otros modelos, no optar por no participar no funciona completamente. Google mantiene las conversaciones de Gemini revisadas por annotadores humanos durante hasta tres años, y desactivar la configuración de actividad de Gemini no revierte eso. Una vez que una conversación ha sido marcada para revisión humana, permanece en los sistemas de Google en una pista de retención separada, independientemente de lo que el usuario haga después.

Character.AI se entrenó con conversaciones de usuarios por defecto y ofreció una opción de no participar solo a los usuarios en el EEA y el Reino Unido, lo que lo coloca en el extremo permisivo de las prácticas de datos cubiertas aquí. Por separado, la empresa ha enfrentado desafíos legales y de reputación. En enero de 2026, Character.AI y Google acordaron en principio resolver un grupo de demandas que alegaban daños por las interacciones de chatbot con menores, sin relación con su política de entrenamiento de datos. Google fue nombrado como co-demandado debido a sus vínculos con los fundadores de Character.AI, y aunque no se admitió responsabilidad y los términos no se divulgaron, el caso muestra que la exposición legal vinculada a un proveedor de IA puede alcanzar a las empresas que lo respaldan.

Las ventanas de retención, los desencadenantes de revisión humana y el acceso de subcontratistas rara vez aparecen fuera del texto pequeño de una política de privacidad. Las empresas que integran estas API frecuentemente tienen que investigar a fondo para descubrir cuánto tiempo permanecen los datos de los usuarios en revisión o quién más puede verlos. Casi none de ese detalle llega a los usuarios finales, lo que significa que una empresa puede heredar las prácticas de datos de un proveedor y pasar la misma exposición sin que ninguna de las partes se dé cuenta de que sucedió.

Por qué este es un problema de fundadores y no solo un debate de política

Si su producto envía conversaciones de usuarios a un modelo de base con entrenamiento habilitado por defecto, ha aceptado una política de datos en nombre de sus usuarios sin decírselo, incluso si nunca lo planeó. El artículo 50 no requiere que revele esa decisión porque solo cubre el hecho de que están hablando con IA.

El acceso de terceros amplía aún más esa exposición. Los proveedores de modelos regularmente subcontratan la anotación de datos y la revisión de seguridad a subcontratistas. En mayo de 2026, el fiscal general de Texas, Ken Paxton, abrió una investigación sobre las gafas de IA de Meta después de que los annotadores de datos de un subcontratista con sede en Kenia llamado Sama supuestamente dijeron que podían acceder a imágenes de momentos privados de los usuarios, incluyendo visitas al baño. Meta cuestionó que esto reflejara la imagen completa de sus prácticas, y la investigación está en curso. Aunque el ejemplo involucra cámaras portátiles, el mismo problema puede aplicarse a la IA conversacional. Una promesa de que una empresa no vende sus datos no dice nada sobre quién más puede leerlos internamente antes de que lleguen a una tubería de entrenamiento.

Qué verificar antes de elegir un proveedor

Antes de conectar un modelo de base a datos de usuarios reales, hay varias preguntas que cada fundador debe responder.

El acuerdo de procesamiento de datos es un lugar para empezar. Ese acuerdo es el documento que rige cómo se manejan los datos de los usuarios, y vale la pena leerlo completo.

El contrato en sí merece tanta atención. Los proveedores a menudo ofrecen términos de no entrenamiento más estrictos en contratos empresariales o de API que en productos de chat de consumo, así que confirme por escrito qué términos se aplican a su integración específica. Muchas empresas a menudo asumen incorrectamente que el lenguaje de privacidad de nivel empresarial las cubre por defecto.

Las disposiciones de no participar también valen la pena examinar. La configuración de Gemini de Google ilustra por qué, ya que en ese modelo, desactivar el seguimiento de actividad no detiene la revisión humana. Un proveedor debe poder decir claramente si una opción de no participar detiene el entrenamiento, la revisión humana o ambos.

Finalmente, mapee a dónde va el dato aguas abajo del proveedor. La anotación y la revisión de seguridad se subcontratan con frecuencia, y las promesas de privacidad de un proveedor no se extienden automáticamente a cada subcontratista en esa cadena.

Ninguna de estas preguntas debe tratarse como un ejercicio de una sola vez. Los términos del proveedor cambian, a veces rápidamente, y el proveedor con el que firmó el año pasado puede no estar operando bajo las mismas reglas hoy.

El mercado puede establecer un estándar que la regulación no ha alcanzado aún

El artículo 50 es poco probable que sea la última palabra sobre la gobernanza de datos de IA de la UE, y los fundadores no deben esperar a la próxima ronda de regulación para ponerse al día con la brecha que dejó atrás. Las empresas pueden adelantarse a esa brecha ahora construyendo un opt-in explícito y visible para el entrenamiento en los datos de sus propios usuarios. Hay una línea real entre mejorar un modelo y sacar provecho en silencio de la confianza del usuario. Muchos servicios de IA aún cruzan esa línea utilizando conversaciones para entrenar sin pedir nunca el consentimiento explícito e informado. Los fundadores que dibujan esa línea para sí mismos ahora no necesitarán adaptar la conformidad más tarde.

Es un movimiento con precedentes. Las aplicaciones de mensajería seguras y los administradores de contraseñas no esperaron a los reguladores para que los estándares fuertes fueran estándar. Tomaron esas decisiones por sí mismos y las convirtieron en una posición de mercado. Los productos de IA tienen la misma oportunidad. Los fundadores que dibujan esa línea antes de que sea obligatoria serán los que serán confiados con la próxima conversación sensible que sus usuarios tengan.