Especialista diz que DeepFakes “perfeitamente reais” estarão aqui em 6 meses

Os impressionantes, mas controversos DeepFakes, imagens e vídeos manipulados ou gerados por redes neurais profundas, provavelmente se tornarão ainda mais impressionantes e controversos no futuro próximo, de acordo com Hao Li, Diretor do Laboratório de Visão e Gráficos da Universidade do Sul da Califórnia. Li é um especialista em visão computacional e DeepFakes, e em uma entrevista recente com a CNBC, ele disse que DeepFakes “perfeitamente reais” provavelmente chegarão dentro de seis meses.

Li explicou que a maioria dos DeepFakes ainda é reconhecível como falsa ao olho humano, e mesmo os DeepFakes mais convincentes ainda requerem um esforço substancial por parte do criador para torná-los realistas. No entanto, Li está convencido de que, dentro de seis meses, DeepFakes que pareçam perfeitamente reais provavelmente aparecerão à medida que os algoritmos se tornam mais sofisticados.

Li inicialmente pensou que levaria entre dois a três anos para que DeepFakes extremamente convincentes se tornassem mais comuns, fazendo essa previsão em uma conferência recente realizada no Instituto de Tecnologia de Massachusetts. No entanto, Li revisou sua linha do tempo após a revelação do aplicativo chinês Zao e outros desenvolvimentos recentes relacionados à tecnologia de DeepFakes. Li explicou à CNBC que os métodos necessários para criar DeepFakes realistas são mais ou menos os métodos atualmente utilizados e que o principal ingrediente que criará DeepFakes realistas é mais dados de treinamento.

Li e seus colegas de pesquisa têm trabalhado arduamente na tecnologia de detecção de DeepFakes, antecipando a chegada de DeepFakes extremamente convincentes. Li e seus colegas, como Hany Farid, da Universidade da Califórnia, Berkeley, experimentaram com algoritmos de DeepFakes de ponta para entender como a tecnologia que os cria funciona.

Li explicou à CNBC:

“Se você quiser ser capaz de detectar DeepFakes, você também precisa ver quais são os limites. Se você precisa construir estruturas de IA capazes de detectar coisas extremamente reais, essas estruturas precisam ser treinadas usando esses tipos de tecnologias, então, de certa forma, é impossível detectá-las se você não souber como elas funcionam.”

Li e seus colegas estão investindo na criação de ferramentas para detectar DeepFakes, reconhecendo os problemas e perigos potenciais que a tecnologia apresenta. Li e seus colegas estão longe de serem o único grupo de pesquisadores de IA preocupados com os possíveis efeitos dos DeepFakes e interessados em criar contramedidas para eles.

Recentemente, o Facebook (META ) iniciou uma parceria conjunta com o MIT, a Microsoft (MSFT ) e a Universidade de Oxford para criar o Desafio de Detecção de DeepFakes, que visa criar ferramentas que possam ser usadas para detectar quando imagens ou vídeos foram alterados. Essas ferramentas serão de código aberto e utilizáveis por empresas, organizações de mídia e governos. Enquanto isso, pesquisadores do Instituto de Ciências da Informação da Universidade do Sul da Califórnia recentemente criaram uma série de algoritmos que poderiam distinguir vídeos falsos com cerca de 96% de precisão.

No entanto, Li também explicou que o problema com os DeepFakes é a forma como eles podem ser mal utilizados, e não a tecnologia em si. Li notou várias utilizações legítimas possíveis para a tecnologia de DeepFakes, incluindo nas indústrias de entretenimento e moda.

Técnicas de DeepFakes também foram usadas para replicar as expressões faciais de pessoas com os rostos obscurecidos em imagens. Pesquisadores usaram Redes Adversárias Generativas para criar um rosto completamente novo que tinha a mesma expressão de um sujeito em uma imagem original. As técnicas desenvolvidas pela Universidade Norueguesa de Ciência e Tecnologia poderiam ajudar a renderizar expressões faciais durante entrevistas com pessoas sensíveis que precisam de privacidade, como denunciantes. Alguém mais poderia deixar seu rosto ser usado como um substituto para a pessoa que precisa de anonimato, mas as expressões faciais da pessoa ainda poderiam ser lidas.

À medida que a sofisticação da tecnologia de DeepFakes aumenta, os casos de uso legítimos para os DeepFakes também aumentarão. No entanto, o perigo também aumentará, e por essa razão, o trabalho de detecção de DeepFakes feito por Li e outros se torna ainda mais importante.