Experto dice que los DeepFakes “perfectamente reales” estarán aquí en 6 meses

Los impresionantes pero controvertidos DeepFakes, imágenes y videos manipulados o generados por redes neuronales profundas, probablemente se vuelvan más impresionantes y controvertidos en el futuro cercano, según Hao Li, director del Laboratorio de Visión y Gráficos de la Universidad del Sur de California. Li es un experto en visión por computadora y DeepFakes, y en una reciente entrevista con CNBC dijo que los DeepFakes “perfectamente reales” probablemente lleguen dentro de seis meses.

Li explicó que la mayoría de los DeepFakes aún son reconocibles como falsos para el ojo real, y que incluso los DeepFakes más convincentes aún requieren un esfuerzo sustancial por parte del creador para hacerlos parecer realistas. Sin embargo, Li está convencido de que dentro de seis meses, los DeepFakes que parecen perfectamente reales probablemente aparecerán a medida que los algoritmos se vuelvan más sofisticados.

Li inicialmente pensó que tomaría entre dos y tres años que los DeepFakes extremadamente convincentes se vuelvan más comunes, haciendo esa predicción en una reciente conferencia organizada en el Instituto de Tecnología de Massachusetts. Sin embargo, Li revisó su cronograma después de la revelación de la reciente aplicación china Zao y otros desarrollos recientes relacionados con la tecnología de DeepFakes. Li explicó a CNBC que los métodos necesarios para crear DeepFakes realistas son más o menos los métodos que se utilizan actualmente y que el ingrediente principal que creará DeepFakes realistas es más datos de entrenamiento.

Li y sus colegas investigadores han estado trabajando arduamente en la tecnología de detección de DeepFakes, anticipando la llegada de DeepFakes extremadamente convincentes. Li y sus colegas, como Hany Farid de la Universidad de California en Berkeley, experimentaron con algoritmos de DeepFakes de última generación para entender cómo funciona la tecnología que los crea.

Li explicó a CNBC:

“Si quieres ser capaz de detectar deepfakes, tienes que ver también qué son los límites. Si necesitas construir marcos de inteligencia artificial que sean capaces de detectar cosas que son extremadamente reales, esos tienen que ser entrenados utilizando estas tecnologías, así que de alguna manera, es imposible detectarlos si no sabes cómo funcionan”.

Li y sus colegas están invertidos en crear herramientas para detectar DeepFakes en reconocimiento de los posibles problemas y peligros que la tecnología plantea. Li y colegas están lejos de ser el único grupo de investigadores de inteligencia artificial preocupados por los posibles efectos de los DeepFakes y interesados en crear contramedidas para ellos.

Recientemente, Facebook (META ) inició una asociación conjunta con MIT, Microsoft (MSFT ) y la Universidad de Oxford para crear el Desafío de Detección de DeepFakes, que tiene como objetivo crear herramientas que puedan ser utilizadas para detectar cuando las imágenes o videos han sido alterados. Estas herramientas serán de código abierto y podrán ser utilizadas por empresas, organizaciones de medios y gobiernos. Mientras tanto, investigadores del Instituto de Ciencias de la Información de la Universidad del Sur de California recientemente crearon una serie de algoritmos que podrían distinguir videos falsos con una precisión de alrededor del 96%.

Sin embargo, Li también explicó que el problema con los DeepFakes es la forma en que pueden ser mal utilizados, y no la tecnología en sí. Li señaló varios usos legítimos posibles para la tecnología de DeepFakes, incluyendo en las industrias del entretenimiento y la moda.

Las técnicas de DeepFake también se han utilizado para replicar las expresiones faciales de personas con sus caras ocultas en imágenes. Investigadores utilizaron Redes Generativas Adversarias para crear una cara completamente nueva que tenía la misma expresión que un sujeto en una imagen original. Las técnicas desarrolladas por la Universidad Noruega de Ciencia y Tecnología podrían ayudar a representar expresiones faciales durante entrevistas con personas sensibles que necesitan privacidad, como denunciantes. Alguien más podría dejar que su cara se utilice como sustituto para la persona que necesita anonimato, pero las expresiones faciales de la persona aún podrían ser leídas.

A medida que la sofisticación de la tecnología de Deepfake aumenta, los casos de uso legítimos para los Deepfakes también aumentarán. Sin embargo, el peligro también aumentará, y por esta razón, el trabajo de detección de DeepFakes realizado por Li y otros se vuelve aún más importante.