Alex Fink, Executivo de Tecnologia, Fundador e CEO da Otherweb – Série de Entrevistas

Alex Fink é um Executivo de Tecnologia e o Fundador e CEO da Otherweb, uma Corporação de Benefício Público que usa Inteligência Artificial para ajudar as pessoas a ler notícias e comentários, ouvir podcasts e pesquisar na web sem paywalls, clickbait, anúncios, vídeos que se reproduzem automaticamente, links de afiliados ou qualquer outro tipo de conteúdo “lixo”. A Otherweb está disponível como um aplicativo (iOS e Android), um site, um boletim informativo ou uma extensão de navegador independente. Antes da Otherweb, Alex foi Fundador e CEO da Panopteo e Co-fundador e Presidente da Swarmer.

Pode fornecer uma visão geral da Otherweb e sua missão de criar um espaço de notícias sem lixo?

A Otherweb é uma corporação de benefício público, criada para ajudar a melhorar a qualidade das informações que as pessoas consomem.

Nosso principal produto é um aplicativo de notícias que usa Inteligência Artificial para filtrar o lixo e permitir que os usuários tenham customizações ilimitadas – controlando todos os limiares de qualidade e todos os mecanismos de ordenação que o aplicativo usa.

Em outras palavras, enquanto o resto do mundo cria algoritmos de caixa preta para maximizar a participação do usuário, queremos dar aos usuários o máximo de valor em o mínimo de tempo possível, e tornamos tudo personalizável. Até mesmo tornamos nossos modelos e conjuntos de dados de Inteligência Artificial disponíveis para que as pessoas possam ver exatamente o que estamos fazendo e como avaliamos o conteúdo.

O que o inspirou a se concentrar em combater a desinformação e notícias falsas usando Inteligência Artificial?

Nasci na União Soviética e vi o que acontece com uma sociedade quando todos consomem propaganda e ninguém tem ideia do que está acontecendo no mundo. Tenho memórias vívidas de meus pais acordando às 4h da manhã, trancando-se no armário e ligando o rádio para ouvir a Voz da América. Era ilegal, é claro, por isso o faziam à noite e se certificavam de que os vizinhos não pudessem ouvir – mas isso nos dava acesso a informações reais. Como resultado, saímos 3 meses antes de tudo desmoronar e a guerra estourar em minha cidade natal.

Na verdade, lembro-me de ver fotos de tanques na rua em que cresci e pensar “então é isso que informações reais valem”.

Quero que mais pessoas tenham acesso a informações reais e de alta qualidade.

Quão significativa é a ameaça dos deepfakes, particularmente no contexto de influenciar eleições? Pode compartilhar exemplos específicos de como os deepfakes foram usados para espalhar desinformação e qual foi o impacto?

No curto prazo, é uma ameaça muito séria.

Os eleitores não percebem que gravações de vídeo e áudio não podem mais ser confiáveis. Eles pensam que o vídeo é uma prova de que algo aconteceu, e 2 anos atrás isso ainda era verdade, mas agora é óbvio que não é mais o caso.

Este ano, no Paquistão, os eleitores de Imran Khan receberam ligações de Imran Khan em pessoa, pedindo-lhes que boicotassem a eleição. Era falso, é claro, mas muitas pessoas acreditaram.

Eleitores na Itália viram uma de suas políticas femininas aparecer em um vídeo pornográfico. Era falso, é claro, mas até que a falsidade foi descoberta – o dano já estava feito.

Até mesmo aqui no Arizona, vimos um boletim informativo se anunciar mostrando um vídeo de endosso estrelado por Kari Lake. Ela nunca endossou, é claro, mas o boletim informativo ainda obteve milhares de assinantes.

Então, em novembro, acho que é quase inevitável que vejamos pelo menos um falso escândalo. E é muito provável que isso aconteça logo antes da eleição e se revele falso logo após a eleição – quando o dano já estiver feito.

Quão eficazes são as ferramentas de Inteligência Artificial atuais em identificar deepfakes, e quais melhorias você prevê para o futuro?

No passado, a melhor maneira de identificar imagens falsas era ampliar e procurar os erros característicos (também conhecidos como “artefatos”) que os criadores de imagens tendiam a cometer. Iluminação incorreta, sombras ausentes, bordas irregulares em certos objetos, compressão excessiva em torno dos objetos, etc.

O problema com a edição baseada em GAN (também conhecida como “deepfake”) é que nenhum desses artefatos comuns está presente. O processo funciona da seguinte maneira: um modelo de Inteligência Artificial edita a imagem, e outro modelo de Inteligência Artificial procura artefatos e os aponta – e o ciclo é repetido várias vezes até que não haja mais artefatos.

Como resultado, geralmente não há como identificar um deepfake bem feito apenas olhando para o conteúdo em si.

Temos que mudar nossa mentalidade e começar a supor que o conteúdo é real apenas se pudermos rastrear sua cadeia de custódia até a fonte. Pense nisso como impressões digitais. Ver impressões digitais na arma do crime não é suficiente. Você precisa saber quem encontrou a arma do crime, quem a levou para a sala de armazenamento, etc. – você precisa ser capaz de rastrear cada vez que ela mudou de mãos e garantir que não foi manipulada.

Quais medidas os governos e as empresas de tecnologia podem tomar para prevenir a disseminação de desinformação durante períodos críticos, como eleições?

O melhor antídoto para a desinformação é o tempo. Se você vê algo que muda as coisas, não se apresse em publicar – espere um ou dois dias para verificar se é realmente verdade.

Infelizmente, essa abordagem colide com o modelo de negócios da mídia, que recompensa cliques mesmo que o material se revele falso.

Como a Otherweb aproveita a Inteligência Artificial para garantir a autenticidade e a precisão das notícias que agrega?

Descobrimos que há uma forte correlação entre a correção e a forma. As pessoas que querem dizer a verdade tendem a usar certa linguagem que enfatiza a restrição e a humildade, enquanto as pessoas que desprezam a verdade tentam chamar a atenção.

A maior ênfase da Otherweb não é a verificação de fatos. É a verificação da forma. Selecionamos artigos que evitam linguagem que chama a atenção, fornecem referências externas para cada afirmação, dizem as coisas como elas são e não usam técnicas de persuasão.

Esse método não é perfeito, é claro, e em teoria um ator ruim poderia escrever uma falsidade no estilo exato que nossos modelos recompensam. Mas na prática, simplesmente não acontece. As pessoas que querem mentir também querem muita atenção – é isso que ensinamos nossos modelos a detectar e filtrar.

Com a crescente dificuldade em distinguir imagens reais de falsas, como plataformas como a Otherweb podem ajudar a restaurar a confiança do usuário no conteúdo digital?

A melhor maneira de ajudar as pessoas a consumir melhor conteúdo é amostrando de todos os lados, escolhendo o melhor de cada um e exercendo muita restrição. A maioria da mídia está se apressando em publicar informações não verificadas nos dias de hoje. Nossa capacidade de cruzar referências de centenas de fontes e nos concentrar nos melhores itens nos permite proteger nossos usuários da maioria das formas de desinformação.

Qual é o papel dos metadados, como os padrões C2PA, na verificação da autenticidade de imagens e vídeos?

É a única solução viável. O C2PA pode ou não ser o padrão correto, mas é claro que a única maneira de validar se o vídeo que você está assistindo reflete algo que realmente aconteceu na realidade é a) garantir que a câmera usada para capturar o vídeo estava apenas capturando e não editando, e b) garantir que ninguém editou o vídeo após ele deixar a câmera. A melhor maneira de fazer isso é se concentrar nos metadados.

Quais desenvolvimentos futuros você antecipa na luta contra a desinformação e os deepfakes?

Acho que, dentro de 2-3 anos, as pessoas se adaptarão à nova realidade e mudarão sua mentalidade. Antes do século XIX, a melhor forma de prova era o testemunho de testemunhas oculares. Os deepfakes provavelmente nos farão voltar a esses padrões testados e aprovados.

Com a desinformação em geral, acredito que é necessário adotar uma visão mais matizada e separar a desinformação (ou seja, informações falsas criadas intencionalmente para enganar) do lixo (ou seja, informações criadas para serem monetizadas, independentemente de sua veracidade).

O antídoto para o lixo é um mecanismo de filtragem que torna o lixo menos provável de se espalhar. Isso mudaria a estrutura de incentivos que faz com que o lixo se espalhe como fogo. A desinformação ainda existirá, assim como sempre existiu. Conseguimos lidar com isso ao longo do século XX, e seremos capazes de lidar com isso no século XXI.

É o dilúvio de lixo que temos que nos preocupar, porque é a parte com a qual estamos mal equipados para lidar agora. É o principal problema que a humanidade precisa resolver.

Assim que mudarmos os incentivos, a relação sinal-ruído da internet melhorará para todos.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar o site da Otherweb, ou segui-los no X ou LinkedIn.