Ferramentas de Navegador de IA Visam Reconhecer Deepfakes e Outras Mídias Falsas

Os esforços das empresas de tecnologia para combater a desinformação e o conteúdo falso estão ganhando força nos últimos tempos, à medida que as tecnologias de geração de conteúdo falso sofisticadas, como os DeepFakes, se tornam mais fáceis de usar e refinadas. Uma das tentativas mais recentes para ajudar as pessoas a detectar e combater os deepfakes é o RealityDefender, produzido pela Fundação de IA, que se comprometeu a desenvolver agentes e assistentes de IA éticos que os usuários possam treinar para realizar várias tarefas.

O projeto mais notável da Fundação de IA é uma plataforma que permite às pessoas criar suas próprias personas digitais que se parecem com elas e as representam em espaços de encontro virtuais. A Fundação de IA é supervisionada pelo Conselho Global de IA e, como parte de seu mandato, deve antecipar os possíveis impactos negativos das plataformas de IA e tentar superar esses problemas. Conforme relatado pelo VentureBeat, uma das ferramentas que a Fundação de IA criou para ajudar na detecção de deepfakes é chamada de Reality Defender. O Reality Defender é uma ferramenta que uma pessoa pode usar em seu navegador da web (verifique isso), que analisará vídeos, imagens e outros tipos de mídia para detectar sinais de que a mídia foi falsificada ou alterada de alguma forma. Espera-se que a ferramenta ajude a contrariar o aumento do fluxo de deepfakes na internet, que, de acordo com algumas estimativas, mais que dobrou nos últimos seis meses.

O Reality Defender opera utilizando uma variedade de algoritmos baseados em IA que podem detectar pistas que sugerem que uma imagem ou vídeo pode ter sido falsificado. Os modelos de IA detectam sinais sutis de truque e manipulação, e os falsos positivos detectados pelo modelo são marcados como incorretos pelos usuários da ferramenta. Os dados são então usados para retreinar o modelo. As empresas de IA que criam deepfakes não enganosos têm seu conteúdo marcado com uma etiqueta “IA honesta” ou marca d’água que permite que as pessoas identifiquem facilmente os falsos gerados por IA.

O Reality Defender é apenas uma das ferramentas e uma plataforma de responsabilidade de IA que a Fundação de IA está tentando criar. A Fundação de IA está perseguindo a criação do Guardian AI, uma plataforma de responsabilidade construída no princípio de que os indivíduos devem ter acesso a agentes de IA pessoais que trabalhem para eles e que possam ajudar a protegê-los contra a exploração por atores mal-intencionados. Em essência, a Fundação de IA está visando expandir o alcance da IA na sociedade, levando-a a mais pessoas, enquanto também protege contra os riscos da IA.

O Reality Defender não é o único produto movido por IA que visa reduzir a desinformação nos Estados Unidos. Um produto semelhante é chamado de SurfSafe, que foi criado por dois estudantes de graduação da UC Berkeley, Rohan Phadte e Ash Bhat. Conforme relatado pelo The Verge, o SurfSafe opera permitindo que os usuários cliquem em uma peça de mídia que eles estão curiosos e o programa realizará uma busca de imagem reversa e tentará encontrar conteúdo semelhante de fontes confiáveis na internet, marcando imagens que são conhecidas por serem falsificadas.

É incerto justamente quão eficazes essas soluções serão a longo prazo. O professor do Dartmouth College e especialista em perícia Hany Farid foi citado pelo The Verge como tendo dito que ele é “extremamente cético” de que planos de sistemas como o Reality Defender funcionarão de forma significativa. Farid explicou que um dos principais desafios na detecção de conteúdo falso é que a mídia não é puramente falsa ou real. Farid explicou:

“Há um continuum; uma gama incrivelmente complexa de questões para lidar. Algumas alterações são insignificantes, e algumas alteram fundamentalmente a natureza de uma imagem. Pretender que podemos treinar uma IA para detectar a diferença é incrivelmente ingênuo. E pretender que podemos crowdsourcer é ainda mais ingênuo.”

Além disso, é difícil incluir elementos de crowdsourcing, como marcar falsos positivos, porque os humanos são normalmente muito ruins em identificar imagens falsas. Os humanos frequentemente cometem erros e perdem detalhes sutis que marcam uma imagem como falsa. Também é incerto como lidar com atores de má-fé que trollam quando marcam conteúdo.

Parece provável que, para ser maximamente eficaz, as ferramentas de detecção de falsos precisarão ser combinadas com esforços de alfabetização digital que ensinem as pessoas a raciocinar sobre o conteúdo com o qual elas interagem online.