Deepfakes e Navegando a Nova Era da Mídia Sintética

Lembre-se de “notícias falsas”? O termo foi usado (e abusado) a tal ponto que pode ser difícil lembrar o que inicialmente se referia. Mas o conceito tem uma origem muito específica. Há dez anos, jornalistas começaram a soar o alarme sobre um influxo de supostos “sites de notícias” que lançavam afirmações falsas, muitas vezes absurdas, sobre políticos e celebridades. Muitos podiam instantaneamente dizer que esses sites eram ilegítimos.

Mas muitos mais careciam das ferramentas críticas para reconhecer isso. O resultado foi o primeiro movimento de uma crise epistemológica que agora está engolfando a internet – uma que alcançou sua manifestação mais assustadora com o surgimento de deepfakes.

Ao lado de um deepfake até passável, os “sites de notícias falsas” de outrora parecem mansos. Pior ainda, mesmo aqueles que acreditam possuir níveis relativamente altos de alfabetização midiática estão em risco de serem enganados. A mídia sintética criada com o uso de algoritmos de aprendizado profundo e IA geradora têm o potencial de causar estragos nas fundações de nossa sociedade. De acordo com a Deloitte, este ano alone elas podem custar às empresas mais de $250 milhões por meio de transações fraudulentas e outras variedades de fraude. Enquanto isso, o Fórum Econômico Mundial chamou os deepfakes de “um dos usos mais preocupantes da IA”, apontando para o potencial de “chatbots e avatares de IA personalizados em tempo real” para facilitar novas cepas de manipulação personalizada (e ultraeficaz).

A resposta sugerida pelo Fórum Econômico Mundial a esse problema é sensata: eles defendem uma “mentalidade de confiança zero“, que traz um grau de ceticismo a cada encontro com a mídia digital. Se queremos distinguir entre o autêntico e o sintético em frente – especialmente em ambientes online imersivos – essa mentalidade será cada vez mais essencial.

Duas abordagens para combater a crise dos deepfakes

Combater a desinformação rampante gerada por mídia sintética exigirá, na minha opinião, duas abordagens distintas.

A primeira envolve verificação: fornecer uma maneira simples para os usuários comuns da internet determinarem se o vídeo que estão vendo é de fato autêntico. Ferramentas como essas já são amplamente utilizadas em setores como o de seguros, dado o potencial de atores mal-intencionados apresentarem reivindicações falsas auxiliadas por vídeos, fotografias e documentos manipulados. Democratizar essas ferramentas – torná-las gratuitas e de fácil acesso – é um passo crucial nessa luta, e já estamos vendo um movimento significativo nesse sentido.

O segundo passo é menos tecnológico e, portanto, mais desafiador: nomeadamente, aumentar a conscientização e fomentar habilidades de pensamento crítico. No rescaldo do escândalo original de “notícias falsas”, em 2015, organizações sem fins lucrativos em todo o país criaram programas de alfabetização midiática e trabalharam para disseminar as melhores práticas, muitas vezes em parceria com instituições cívicas locais para empoderar cidadãos comuns a identificar falsidades. Claro, as “notícias falsas” antigas são brincadeira de criança perto dos deepfakes mais avançados, o que é por que precisamos redobrar nossos esforços nesse front e investir em educação em todos os níveis.

Deepfakes avançados exigem pensamento crítico avançado

Claro, essas iniciativas educacionais foram um pouco mais fáceis de empreender quando a desinformação em questão era baseada em texto. Com sites de “notícias falsas”, os sinais de fraude eram muitas vezes óbvios: design de site canhestro, erros de digitação abundantes, fontes bizarras. Com deepfakes, os sinais são muito mais sutis – e frequentemente impossíveis de notar à primeira vista.

Consequentemente, usuários da internet de todas as idades precisam efetivamente re-treinar a si mesmos para examinar vídeo digital em busca de indicadores de deepfakes. Isso significa prestar atenção a uma série de fatores. Para vídeo, isso pode significar áreas borradas e sombras irreais; movimentos e expressões faciais não naturais; tons de pele perfeitos demais; padrões inconsistentes em roupas e movimentos; erros de sincronização labial; e assim por diante. Para áudio, isso pode significar vozes que soam muito perfeitas (ou obviamente digitalizadas), falta de tom emocional humano, padrões de fala estranhos ou frases incomuns.

No curto prazo, esse tipo de auto-treinamento pode ser muito útil. Ao nos perguntarmos, repetidamente, Isso parece suspeito?, afiamos não apenas nossa capacidade de detectar deepfakes, mas também nossas habilidades de pensamento crítico em geral. Dito isso, estamos rapidamente nos aproximando de um ponto em que nem mesmo o olho mais treinado será capaz de separar fato de ficção sem assistência externa. Os sinais visuais – as irregularidades mencionadas acima – serão tecnologicamente suavizados, de modo que cliques completamente fabricados serão indistinguíveis do artigo genuíno. O que nos restará é nossa intuição situacional – nossa capacidade de nos perguntar coisas como Um político ou celebridade diria isso? ou É plausível o conteúdo desse vídeo?

É nesse contexto que as plataformas de detecção de IA se tornam essenciais. Com o olho nu tornado irrelevante para a detecção de deepfakes, essas plataformas podem servir como árbitros definitivos da realidade – guardiões contra o abismo epistemológico. Quando um vídeo parece real, mas de alguma forma parece suspeito – como ocorrerá cada vez mais nos próximos meses e anos -, essas plataformas podem nos manter aterrados nos fatos, confirmando a veracidade básica do que estamos vendo. Em última análise, com tecnologia tão poderosa, a única coisa que pode nos salvar é a IA em si. Precisamos lutar fogo com fogo – o que significa usar boa IA para erradicar os piores abusos da tecnologia.

Realmente, a aquisição dessas habilidades de forma alguma precisa ser um processo cínico ou negativo. Fomentar uma mentalidade de confiança zero pode, em vez disso, ser visto como uma oportunidade para afiar seu pensamento crítico, intuição e consciência. Ao nos perguntarmos, repetidamente, certas perguntas-chave – Isso faz sentido? Isso é suspeito? – você aumenta sua capacidade de confrontar não apenas a mídia falsa, mas o mundo em geral. Se há uma linha de prata na era dos deepfakes, é isso. Estamos sendo forçados a pensar por nós mesmos e a nos tornar mais empíricos em nossas vidas diárias – e isso só pode ser uma coisa boa.