En 2024, los deepfakes se generalizarán. Así es como las empresas pueden protegerse

Al menos desde las elecciones de 2016, cuando las preocupaciones sobre la desinformación irrumpieron en la conciencia pública, los expertos han estado haciendo sonar la alarma sobre los deepfakes. Las implicaciones de esta tecnología fueron, y siguen siendo, aterradoras. La proliferación desenfrenada de medios sintéticos hiperrealistas plantea una amenaza a todos—Desde los políticos hasta la gente común. En un ambiente inflamable que ya se caracteriza por una desconfianza generalizada, los deepfakes prometieron avivar aún más las llamas.

Resulta que nuestros temores eran prematuros. El conocimiento tecnológico necesario para hacer deepfakes, junto con su calidad a menudo deficiente, significó que durante al menos los dos últimos ciclos de elecciones presidenciales, siguieran siendo una preocupación mínima.

Pero todo eso está a punto de cambiar; ya está cambiando. En los últimos dos años, la tecnología de IA generativa se ha vuelto popular, simplificando radicalmente el proceso de creación de deepfakes para el consumidor promedio. Estas mismas innovaciones han aumentado significativamente la calidad de los deepfakes, de modo que, en una prueba a ciegas, la mayoría de las personas no podrían distinguir un video manipulado del real.

Este año, especialmente, hemos empezado a ver indicios de cómo esta tecnología podría afectar a la sociedad si no se hacen esfuerzos para combatirla. El año pasado, por ejemplo, se publicó una foto generada por IA del Papa Francisco con un abrigo inusualmente elegante. se volvió viral, y muchos lo consideraron auténtico. Si bien esto puede parecer, en cierto nivel, una diversión inofensiva, revela la peligrosa potencia de estos deepfakes y lo difícil que puede ser frenar la información errónea una vez que comienza a difundirse. Podemos esperar encontrar casos mucho menos divertidos (y mucho más peligrosos) de este tipo de falsificación viral en los meses y años venideros.

Por esta razón, es imperativo que las organizaciones de todo tipo (desde los medios hasta las finanzas, los gobiernos y las plataformas de redes sociales) adopten una postura proactiva hacia la detección de deepfakes y la verificación de la autenticidad del contenido. Es necesario establecer una cultura de confianza a través de salvaguardias. ahora, antes de que una marejada de deepfakes pueda borrar nuestra comprensión compartida de la realidad.

Comprender la amenaza de los deepfake

Antes de profundizar en lo que las organizaciones pueden hacer para combatir este aumento de deepfakes, vale la pena explicar precisamente por qué son necesarias las herramientas de protección. Normalmente, quienes se preocupan por los deepfakes mencionan su efecto potencial en la política y la confianza social. Estas posibles consecuencias son extremadamente importantes y no deben pasarse por alto en ninguna conversación sobre deepfakes. Pero resulta que el auge de esta tecnología tiene efectos potencialmente nefastos en múltiples sectores de la economía estadounidense.

Tomemos como ejemplo los seguros. En este momento, el fraude anual a seguros en Estados Unidos asciende a 308.6 millones de dólares, una cifra que representa aproximadamente una cuarta parte de toda la industria. Al mismo tiempo, las operaciones de back-end de la mayoría de las compañías de seguros están cada vez más automatizadas, y se prevé que el 70% de las reclamaciones estándar se realizarán sin contacto para 2025. Lo que esto significa es que las decisiones se toman cada vez más con una mínima intervención humana: autoservicio en el front-end y automatización facilitada por IA en el back-end.

Irónicamente, la misma tecnología que ha permitido este aumento de la automatización (es decir, el aprendizaje automático y la inteligencia artificial) ha garantizado su explotación por parte de malos actores. Ahora es más fácil que nunca para una persona promedio manipular las reclamaciones; por ejemplo, mediante el uso de programas de inteligencia artificial generativa como Dall-E, Midjourney o Stable Diffusion para hacer que un automóvil parezca más dañado de lo que está. Ya existen aplicaciones específicamente para este propósito, como Dude Your Car!, que permite a los usuarios crear abolladuras artificialmente en fotografías de sus vehículos.

Lo mismo se aplica a los documentos oficiales, que ahora pueden manipularse fácilmente: facturas, valoraciones de suscripción e incluso firmas ajustadas o inventadas al por mayor. Esta capacidad es un problema no sólo para las aseguradoras sino para toda la economía. Es un problema para las instituciones financieras, que deben verificar la autenticidad de una amplia gama de documentos. Es un problema para los minoristas, quienes pueden recibir una queja de que un producto llegó defectuoso, acompañado de una imagen manipulada.

Las empresas simplemente no pueden operar con este grado de incertidumbre. Es probable que siempre sea inevitable cierto grado de fraude, pero con los deepfakes no estamos hablando de fraude marginal: estamos hablando de una posible catástrofe epistemológica en la que las empresas no tienen medios claros para determinar la verdad de la ficción y terminan perdiendo miles de millones de dólares. dólares a esta confusión.

Combatir el fuego con fuego: cómo puede ayudar la IA

Entonces, ¿qué se puede hacer para combatir esto? Quizás no sea sorprendente que la respuesta esté en la misma tecnología que facilita los deepfakes. Si queremos detener este flagelo antes de que cobre más impulso, debemos combatir el fuego con fuego. La IA puede ayudar a generar deepfakes, pero afortunadamente también puede ayudar a identificarlos automáticamente y a escala.

Utilizando las herramientas de inteligencia artificial adecuadas, las empresas pueden determinar automáticamente si una fotografía, un vídeo o un documento determinado ha sido manipulado. Al utilizar docenas de modelos dispares para la tarea de identificación falsa, la IA puede indicar automáticamente a las empresas con precisión si una determinada fotografía o vídeo es sospechoso. Al igual que las herramientas que las empresas ya están implementando para automatizar las operaciones diarias, estas herramientas pueden ejecutarse en segundo plano sin sobrecargar al personal sobrecargado ni quitarle tiempo a proyectos importantes.

Si se identifica una fotografía como potencialmente alterada, se puede alertar al personal humano y evaluar el problema directamente, con la ayuda de la información proporcionada por la IA. Mediante un análisis de escaneo profundo, puede informar a las empresas porque cree que una fotografía probablemente haya sido manipulada, señalando, por ejemplo, metadatos alterados manualmente, la existencia de imágenes idénticas en la web, varias irregularidades fotográficas, etc.

Nada de esto pretende denigrar los increíbles avances que hemos visto en la tecnología de IA generativa en los últimos años, que de hecho tienen aplicaciones útiles y productivas en todas las industrias. Pero la potencia misma –por no hablar de la simplicidad– de esta tecnología emergente casi garantiza su abuso por parte de quienes buscan manipular organizaciones, ya sea para beneficio personal o para sembrar el caos social.

Organizaciones podemos Tenga lo mejor de ambos mundos: los beneficios de productividad de la IA sin las desventajas de los omnipresentes deepfakes. Pero hacerlo requiere un nuevo grado de vigilancia, especialmente teniendo en cuenta el hecho de que los resultados de la IA generativa son cada día más persuasivos, detallados y realistas. Cuanto antes las organizaciones presten atención a este problema, antes podrán cosechar todos los beneficios de un mundo automatizado.