¿Cómo afecta la datos sintéticos a las alucinaciones de la IA?

Aunque los datos sintéticos son una herramienta poderosa, solo pueden reducir las alucinaciones de la inteligencia artificial en circunstancias específicas. En casi todos los demás casos, las amplificarán. ¿Por qué es así? ¿Qué significa este fenómeno para aquellos que han invertido en él!

¿Cómo se diferencian los datos sintéticos de los datos reales?

Los datos sintéticos son información generada por la IA. En lugar de ser recopilada de eventos o observaciones del mundo real, se produce artificialmente. Sin embargo, se asemeja lo suficiente al original como para producir una salida precisa y relevante. Esa es la idea, de todos modos.

Para crear un conjunto de datos artificial, los ingenieros de IA entrenan un algoritmo generativo en una base de datos relacional real. Cuando se les pide, produce un segundo conjunto que se asemeja mucho al primero, pero no contiene información genuina. Aunque las tendencias generales y las propiedades matemáticas permanecen intactas, hay suficiente ruido para ocultar las relaciones originales.

Un conjunto de datos generado por la IA va más allá de la desidentificación, replicando la lógica subyacente de las relaciones entre los campos en lugar de simplemente reemplazar los campos con alternativas equivalentes. Dado que no contiene detalles identificativos, las empresas pueden utilizarlo para eludir las regulaciones de privacidad y derechos de autor. Más importante aún, pueden compartirlo o distribuirlo libremente sin temor a una violación.

Sin embargo, la información falsa se utiliza más comúnmente para la suplementación. Las empresas pueden utilizarla para enriquecer o ampliar tamaños de muestra que son demasiado pequeños, haciéndolos lo suficientemente grandes como para entrenar sistemas de IA de manera efectiva.

¿Minimiza los datos sintéticos las alucinaciones de la IA?

A veces, los algoritmos se refieren a eventos inexistentes o hacen sugerencias lógicamente imposibles. Estas alucinaciones a menudo son sin sentido, engañosas o incorrectas. Por ejemplo, un modelo de lenguaje grande podría escribir un artículo de cómo domesticar leones o convertirse en médico a los 6 años. Sin embargo, no todos son tan extremos, lo que puede hacer que reconocerlos sea desafiante.

Si se cura adecuadamente, los datos artificiales pueden mitigar estos incidentes. Una base de datos de entrenamiento relevante y auténtica es la base de cualquier modelo, por lo que tiene sentido que cuanto más detalles tenga alguien, más precisa será la salida del modelo. Un conjunto de datos suplementario permite la escalabilidad, incluso para aplicaciones de nicho con información pública limitada.

La desviación de la bias es otra forma en que una base de datos sintética puede minimizar las alucinaciones de la IA. Según la Escuela de Administración de la Universidad de MIT Sloan, puede ayudar a abordar la bias porque no está limitada al tamaño de muestra original. Los profesionales pueden utilizar detalles realistas para llenar los vacíos donde las subpoblaciones selectas están subrepresentadas o sobrerepresentadas.

¿Cómo los datos artificiales empeoran las alucinaciones?

Dado que los algoritmos inteligentes no pueden razonar o contextualizar la información, están propensos a las alucinaciones. Los modelos generativos — en particular, los modelos de lenguaje grande preentrenados — son especialmente vulnerables. De alguna manera, los hechos artificiales complican el problema.

Amplificación de la bias

Al igual que los humanos, la IA puede aprender y reproducir sesgos. Si una base de datos artificial sobrevalúa algunos grupos mientras subrepresenta a otros — lo cual es fácil de hacer accidentalmente — su lógica de toma de decisiones se inclinará, afectando adversamente la precisión de la salida.

Un problema similar puede surgir cuando las empresas utilizan datos falsos para eliminar sesgos del mundo real, porque ya no reflejarán la realidad. Por ejemplo, dado que más del 99% de los cánceres de mama ocurren en mujeres, utilizar información suplementaria para equilibrar la representación podría sesgar los diagnósticos.

Alucinaciones interseccionales

La interseccionalidad es un marco sociológico que describe cómo las demografías como la edad, el género, la raza, la ocupación y la clase se intersectan. Analiza cómo las identidades sociales superpuestas de los grupos resultan en combinaciones únicas de discriminación y privilegio.

Cuando un modelo generativo se le pide que produzca detalles artificiales basados en lo que se entrenó, puede generar combinaciones que no existían en el original o son lógicamente imposibles.

Ericka Johnson, profesora de género y sociedad en la Universidad de Linköping, trabajó con un científico de aprendizaje automático para demostrar este fenómeno. Utilizaron una red adversaria generativa para crear versiones sintéticas de las cifras del censo de los Estados Unidos de 1990.

Inmediatamente, notaron un problema flagrante. La versión artificial tenía categorías tituladas “esposa y soltera” y “maridos que nunca se casaron”, ambas de las cuales eran alucinaciones interseccionales.

Sin una curación adecuada, la base de datos de réplica siempre sobrerepresentará las subpoblaciones dominantes en los conjuntos de datos, mientras subrepresenta — o incluso excluye — a los grupos subrepresentados. Los casos límite y los valores atípicos pueden ser ignorados por completo a favor de las tendencias dominantes.

Colapso del modelo

Una dependencia excesiva de patrones y tendencias artificiales conduce al colapso del modelo — donde el rendimiento de un algoritmo se deteriora drásticamente a medida que se vuelve menos adaptable a las observaciones y eventos del mundo real.

Este fenómeno es particularmente aparente en la IA generativa de próxima generación. Utilizar repetidamente una versión artificial para entrenarlos resulta en un bucle de autoconsumo. Un estudio encontró que su calidad y recuerdo disminuyen progresivamente sin suficientes cifras recientes y reales en cada generación.

Sobreajuste

Sobreajuste es una dependencia excesiva de los datos de entrenamiento. El algoritmo se desempeña bien inicialmente, pero alucinará cuando se le presenten nuevos puntos de datos. La información sintética puede compounding este problema si no refleja con precisión la realidad.

Implicaciones del uso continuado de datos sintéticos

El mercado de datos sintéticos está en auge. Las empresas en esta industria de nicho recaudaron alrededor de $328 millones en 2022, un aumento del 518% en solo 18 meses. Es importante destacar que esta es solo la financiación pública conocida, lo que significa que la cifra real puede ser aún mayor. Es seguro decir que las empresas están muy invertidas en esta solución.

Si las empresas continúan utilizando una base de datos artificial sin una curación y desviación adecuadas, el rendimiento de su modelo se deteriorará progresivamente, agriando sus inversiones en IA. Los resultados pueden ser más graves, dependiendo de la aplicación. Por ejemplo, en la atención médica, un aumento en las alucinaciones podría resultar en diagnósticos incorrectos o planes de tratamiento inadecuados, lo que lleva a peores resultados para los pacientes.

La solución no implicará regresar a los datos reales

Los sistemas de IA necesitan millones, si no miles de millones, de imágenes, texto y videos para el entrenamiento, gran parte de los cuales se extraen de sitios web públicos y se compilan en conjuntos de datos abiertos masivos. Desafortunadamente, los algoritmos consumen esta información más rápido de lo que los humanos pueden generarla. ¿Qué sucede cuando aprenden todo?

Los líderes empresariales están preocupados por golpear el muro de datos — el punto en el que toda la información pública en Internet se ha agotado. Puede estar acercándose más rápido de lo que piensan.

Aunque la cantidad de texto plano en la página web promedio y el número de usuarios de Internet están creciendo anualmente entre el 2% y el 4%, los algoritmos se están quedando sin datos de alta calidad. Solo el 10% al 40% se puede utilizar para el entrenamiento sin comprometer el rendimiento. Si las tendencias continúan, el stock de información pública generada por humanos podría agotarse para 2026.

Es probable que el sector de la IA golpee el muro de datos incluso antes. El auge de la IA generativa de los últimos años ha aumentado las tensiones sobre la propiedad y la infracción de derechos de autor de la información. Más propietarios de sitios web están utilizando el Protocolo de Exclusión de Robots — un estándar que utiliza un archivo robots.txt para bloquear a los rastreadores web — o haciendo claro que su sitio está fuera de límites.

Un estudio de 2024 publicado por un grupo de investigación liderado por MIT reveló que el conjunto de datos Colossal Cleaned Common Crawl (C4) — un corpus de rastreo web a gran escala — las restricciones están en aumento. Más del 28% de las fuentes más activas y críticas en C4 estaban completamente restringidas. Además, el 45% de C4 ahora está designado como fuera de límites por los términos del servicio.

Si las empresas respetan estas restricciones, la frescura, relevancia y precisión de los hechos del mundo real disminuirán, obligándolas a depender de bases de datos artificiales. Pueden no tener mucha elección si los tribunales dictaminan que cualquier alternativa es una infracción de derechos de autor.

El futuro de los datos sintéticos y las alucinaciones de la IA

A medida que las leyes de derechos de autor se actualizan y más propietarios de sitios web ocultan su contenido de los rastreadores web, la generación de conjuntos de datos artificiales se volverá cada vez más popular. Las organizaciones deben prepararse para enfrentar la amenaza de las alucinaciones.