Si un bot puede coquetear con niños, ¿qué más está permitido hacer con tus datos?

Cuando se filtraron las directrices internas que revelaban que Meta permitía que sus chatbots de IA coquetearan con niños, la mayoría de las personas lo trataron como un escándalo y pasaron a otra cosa. Pero vale la pena tomar un momento para analizar qué nos dice esta investigación sobre el estado actual de la ética de la IA: si una empresa como Meta está condonando tales políticas a su escala, ¿qué más están permitiendo estas plataformas en silencio? ¿Y cuánto de eso involucra tus datos?

Los líderes empresariales tienden a evaluar las herramientas de IA por lo que pueden hacer, con qué rapidez y a qué costo. Pero hay preguntas más difíciles que vale la pena hacer, especialmente a medida que las herramientas de IA se convierten en una herramienta estándar: ¿Qué términos estás aceptando cuando tus equipos comienzan a utilizar herramientas de IA? ¿Qué están haciendo los proveedores de modelos y los constructores de agentes con tus datos? ¿Y quién asume la responsabilidad cuando algo sale mal?

La mayoría de las organizaciones están tan enfocadas en cómo sacar el máximo provecho de esta nueva tecnología que aún no han considerado la pregunta más importante:

¿Qué está sucediendo realmente con tus datos?

La mayoría de las personas sobreestiman el riesgo de compartir algo con un chatbot o lo descartan por completo. La verdad es que los grandes modelos de lenguaje están, en cierto sentido, congelados una vez que se entrenan y se lanzan al público. Eso significa que tus conversaciones se almacenan por separado, no se conectan instantáneamente a la memoria del sistema; lo que le dijiste a ChatGPT esta mañana no informa de inmediato lo que el modelo le diría a alguien más por la tarde.

Esto no significa que tus datos no se estén utilizando. Lo están. El camino es simplemente más complicado.

Los registros de conversaciones se almacenan por separado, y muchos laboratorios de IA reservan explícitamente el derecho de utilizarlos para entrenar la próxima versión de su modelo. Está justo allí en los términos del servicio. Lo que se introduce como una consulta de soporte al cliente o una lluvia de ideas de estrategia hoy puede, con el tiempo, influir en un modelo que millones utilizarán mañana.

El riesgo para los datos propietarios va más allá de la política. En 2025, Scale AI exposó involuntariamente miles de páginas de materiales de proyectos confidenciales de clientes, incluidos Meta, Google y xAI. Por separado, una filtración en noviembre de un proveedor de OpenAI llevó a que los hackers se llevaran datos de clientes, incluidos nombres, correos electrónicos y detalles del sistema.

Para ser claro, esto no es una situación de cinco alarmas, pero tampoco está exento de riesgo. Los sistemas de grado empresarial vienen con guardrails contractuales alrededor de la reutilización de datos. Las herramientas para consumidores en gran medida no. Si tus datos son tan sensibles que querrías un acuerdo de no divulgación para protegerlos, no deberías entregarlos a un chatbot de consumidor y asumir que no se utilizarán en otro lugar.

Los números sugieren que la mayoría de las organizaciones aún no han absorbido esto. Casi ocho de cada diez empleados han pegado información de la empresa en herramientas de IA, y de esos, más de cuatro de cada cinco lo hicieron utilizando sus cuentas personales, según una encuesta de la fuerza laboral de 2025. Una de cada cinco organizaciones ya ha informado sobre una filtración relacionada con el uso de IA en la sombra, y solo el 37 por ciento tiene políticas para detectar o gestionar, según el Informe sobre el costo de una filtración de datos de IBM de 2025.

Una vez que se entiende, este tipo de riesgo de datos no es difícil de sortear. Diferenciar entre herramientas de consumidor y empresariales, saber a qué estás accediendo y habrás cubierto la mayoría de tus bases.

¿Dónde falla la comunicación mediada por IA para las empresas?

Qué sucede con tus datos es una parte de la imagen. La otra, y para muchas empresas la más importante, es lo que estos sistemas hacen con la calidad y la responsabilidad de tus comunicaciones más importantes.

Piensa en las conversaciones que mueven el negocio: reuniones para retener a clientes de larga data; una negociación de ventas donde el tono y la confianza son casi más importantes que el lenguaje del trato; o una presentación trimestral a la junta directiva sobre tus progresos hacia los hitos del año. Resulta que la IA puede manejar los elementos transaccionales de estas interacciones de manera razonable, como tomar notas de la reunión, asignar prioridades y resaltar puntos de acción. Sin embargo, lucha con todo lo que hay debajo.

Los modos de fallo específicos vale la pena nombrar. La IA comprime el contexto; resume, suaviza y estandariza de maneras que pueden eliminar la sutileza. Además, el contenido que generan los grandes modelos de lenguaje es difícil de verificar. Las personas a las que les has enviado un correo electrónico generado por IA o has resumido notas de la reunión no tienen forma de confirmar que lo que han recibido refleja lo que querías decir, o que el mensaje no fue filtrado o reformulado por la IA.

Esto no significa que la IA no tenga lugar en la comunicación empresarial. Claramente lo tiene. Pero hay una categoría de conversación donde las ganancias de eficiencia no justifican la exposición, y la mayoría de las organizaciones no han pensado lo suficiente en diferenciar esos casos de uso.

Conoce cuándo hacerlo tú mismo

Así que la pregunta se convierte en: ¿Debería la IA estar en el bucle para tus comunicaciones más sensibles?

Mi respuesta honesta es no, al menos no sin una persona que pueda ser responsable de lo que se dijo, cómo se dijo y si el mensaje se entregó. Verificar la comunicación humana no es una preferencia por la forma antigua de hacer las cosas; es simplemente un reconocimiento de que algunas conversaciones requieren que una persona se ponga detrás de ellas.

Los líderes deben hacer su tarea. ¿Qué dice la política de datos del proveedor sobre la reutilización? ¿Qué sucede con los registros de conversaciones de tu equipo cuando termina el contrato? Estas no son preguntas para que tu equipo de TI las resuelva en segundo plano. Son preguntas de adquisición, y pertenecen más temprano en el proceso de lo que es el caso actual.

El bot que se le permitió coquetear con los niños no tomó esa decisión por sí solo. Alguien lo aprobó. Cada sistema de IA refleja el juicio de las personas que lo construyeron y desplegaron, y esas decisiones no siempre son obvias desde afuera.

Hasta que las herramientas para auditar las herramientas y sistemas de IA alcancen su adopción, la posición más defensible que los líderes empresariales pueden tomar es dibujar la línea entre qué conversaciones están cómodos para enrutar a través de la IA y cuáles no.

El argumento de eficiencia para la IA es convincente. También lo es el de ser dueño de lo que sale en tu nombre.