En 2024, los deepfakes se están convirtiendo en mainstream. Aquí está cómo las empresas pueden protegerse

Desde al menos las elecciones de 2016, cuando las preocupaciones sobre la desinformación irrumpieron en la conciencia pública, los expertos han estado sonando la alarma sobre los deepfakes. Las implicaciones de esta tecnología eran – y siguen siendo – aterradoras. La proliferación sin control de medios sintéticos hiperrealistas supone una amenaza para todos – desde políticos hasta personas comunes. En un entorno ya caracterizado por una desconfianza generalizada, los deepfakes prometían avivar aún más las llamas.

Resulta que nuestros temores fueron prematuros. El conocimiento tecnológico necesario para crear realmente deepfakes, junto con su calidad a menudo deficiente, significó que durante al menos los dos últimos ciclos de elecciones presidenciales, permanecieron como una preocupación mínima.

Pero todo eso está a punto de cambiar – ya está cambiando. En los últimos dos años, la tecnología de inteligencia artificial generativa ha entrado en el mainstream, simplificando radicalmente el proceso de creación de deepfakes para el consumidor promedio. Estas mismas innovaciones han aumentado significativamente la calidad de los deepfakes, de tal manera que, en una prueba a ciegas, la mayoría de las personas no podrían distinguir un video manipulado del real.

Este año, en particular, hemos comenzado a ver indicios de cómo esta tecnología podría afectar a la sociedad si no se toman esfuerzos para combatirla. El año pasado, por ejemplo, una foto generada por IA del papa Francisco con un abrigo inusualmente elegante se volvió viral, y muchos la tomaron como auténtica. Si bien esto podría parecer, en un nivel, como un inocuo trozo de diversión, revela la peligrosa potencia de estos deepfakes y lo difícil que puede ser frenar la desinformación una vez que ha comenzado a propagarse. Podemos esperar encontrar instancias mucho menos divertidas – y mucho más peligrosas – de este tipo de falsedad viral en los meses y años venideros.

Por esta razón, es imperativo que las organizaciones de todo tipo – desde los medios hasta las finanzas, los gobiernos y las plataformas de redes sociales – tomen una postura proactiva hacia la detección de deepfakes y la verificación de la autenticidad del contenido. Una cultura de confianza a través de salvaguardas necesita ser establecida ahora, antes de que una ola de deepfakes pueda arrastrar nuestra comprensión compartida de la realidad.

Entendiendo la amenaza de los deepfakes

Antes de profundizar en lo que las organizaciones pueden hacer para combatir este aumento de deepfakes, vale la pena elaborar sobre por qué son necesarias las herramientas de salvaguarda. Por lo general, aquellos que se preocupan por los deepfakes citan su posible efecto en la política y la confianza social. Estas posibles consecuencias son extremadamente importantes y no deben ser descuidadas en ninguna conversación sobre deepfakes. Pero resulta que el surgimiento de esta tecnología tiene efectos potencialmente graves en múltiples sectores de la economía de EE. UU.

Tomemos, por ejemplo, el seguro. Actualmente, el fraude de seguros anual en los Estados Unidos asciende a $308.6 mil millones – una cifra aproximadamente una cuarta parte del tamaño de toda la industria. Al mismo tiempo, las operaciones de backend de la mayoría de las compañías de seguros están cada vez más automatizadas, con el 70% de las reclamaciones estándar proyectadas para ser sin contacto para 2025. Lo que esto significa es que las decisiones se toman cada vez más con una intervención humana mínima: autoservicio en el frontend y automatización facilitada por IA en el backend.

Irónicamente, la misma tecnología que ha permitido este aumento en la automatización – es decir, el aprendizaje automático y la inteligencia artificial – ha garantizado su explotación por parte de actores maliciosos. Ahora es más fácil que nunca para el usuario promedio manipular reclamaciones – por ejemplo, utilizando programas de IA generativos como Dall-E, Midjourney o Stable Diffusion para hacer que un automóvil parezca más dañado de lo que es. Ya existen aplicaciones específicamente para este propósito, como Dude Your Car!, que permite a los usuarios crear artificialmente abolladuras en fotos de sus vehículos.

Lo mismo se aplica a los documentos oficiales, que ahora pueden ser manipulados fácilmente – con facturas, evaluaciones de subvención y sogar firmas ajustadas o inventadas en su totalidad. Este capacidad es un problema no solo para los aseguradores, sino en toda la economía. Es un problema para las instituciones financieras, que deben verificar la autenticidad de una amplia gama de documentos. Es un problema para los minoristas, que pueden recibir una queja de que un producto llegó defectuoso, acompañado de una imagen manipulada.

Las empresas simplemente no pueden operar con este grado de incertidumbre. Alguno grado de fraude es probablemente siempre inevitable, pero con los deepfakes, no estamos hablando de fraude en los márgenes – estamos hablando de una posible catástrofe epistemológica en la que las empresas no tienen un medio claro de determinar la verdad de la ficción, y terminan perdiendo miles de millones de dólares debido a esta confusión.

Luchando contra el fuego con fuego: cómo la IA puede ayudar

¿Qué se puede hacer para combatir esto? Quizás no sea de extrañar, la respuesta yace en la misma tecnología que facilita los deepfakes. Si queremos detener esta plaga antes de que gane más impulso, necesitamos luchar contra el fuego con fuego. La IA puede ayudar a generar deepfakes – pero también, afortunadamente, puede ayudar a identificarlos automáticamente y a gran escala.

Utilizando las herramientas de IA adecuadas, las empresas pueden determinar automáticamente si una fotografía, video o documento determinado ha sido manipulado. Al traer decenas de modelos dispares a la tarea de identificación de falsificaciones, la IA puede informar automáticamente a las empresas de si una fotografía o video determinado es sospechoso. Al igual que las herramientas que las empresas están desplegando para automatizar las operaciones diarias, estas herramientas pueden ejecutarse en segundo plano sin sobrecargar al personal ya estresado o tomar tiempo de proyectos importantes.

Si y cuando se identifica una fotografía como potencialmente alterada, el personal humano puede ser alertado, y puede evaluar el problema directamente, ayudado por la información proporcionada por la IA. Utilizando un análisis de escaneo profundo, puede informar a las empresas por qué cree que una fotografía ha sido probablemente manipulada – señalando, por ejemplo, metadatos alterados manualmente, la existencia de imágenes idénticas en la web, varias irregularidades fotográficas, etc.

Nada de esto es para denigrar los increíbles avances que hemos visto en la tecnología de IA generativa en los últimos años, que de hecho tienen aplicaciones útiles y productivas en various industrias. Pero la misma potencia – no mencionar la simplicidad – de esta tecnología emergente casi garantiza su abuso por parte de aquellos que buscan manipular a las organizaciones, ya sea para beneficio personal o para sembrar el caos social.

Las organizaciones pueden tener lo mejor de ambos mundos: los beneficios de productividad de la IA sin los inconvenientes de los deepfakes omnipresentes. Pero hacerlo requiere un nuevo grado de vigilancia, especialmente dado el hecho de que las salidas de la IA generativa están volviéndose más persuasivas, detalladas y realistas con cada día. Cuanto antes las organizaciones dirijan su atención a este problema, antes podrán cosechar los beneficios completos de un mundo automatizado.