Quem nos protegerá da desinformação gerada por IA?

A IA geradora passou de zero a cem em menos de um ano. Embora seja cedo, já demonstrou seu potencial para transformar os negócios. Todos podemos concordar com isso. Onde divergimos é em como conter os perigos que ela apresenta.

Para ser claro, sou a favor da inovação e não sou um alarmista. Mas o recente aumento da desinformação — em grande parte direcionada à polarização em torno de questões controversas do momento — tornou claro que, se não for controlada, a IA geradora pode causar estragos nas sociedades.

Já vimos isso acontecer com as mídias sociais, mas levou anos e lições difíceis para que nos déssemos conta de seus defeitos. Aprendemos algo com isso. A pergunta de hoje é quem vai ajudar a conter a distorção da realidade causada pela IA geradora, e como?

Previsivelmente, os governos estão começando a agir. A Europa está liderando o caminho, como tem demonstrado cada vez mais na regulação da tecnologia. Os EUA estão logo atrás, com o presidente Biden emitindo uma ordem executiva no passado outubro.

Mas vai levar uma aldeia global agindo juntos para “manter a IA geradora honesta”. E antes que o governo possa ajudar, precisa entender as limitações das abordagens disponíveis.

O problema de identidade piorou muito

Neste novo mundo, a verdade se torna a agulha no palheiro de opiniões disfarçadas de fatos. Saber quem é o criador do conteúdo é mais importante do que nunca.

E não é tão simples quanto decretar que todas as contas de mídia social devem ser verificadas por identidade. Há uma forte oposição a isso, e em alguns casos a anonimato é necessário para proteger justificadamente os titulares da conta. Além disso, muitos consumidores do pior conteúdo não se importam se é credível, nem de onde veio.

Apesar dessas ressalvas, o papel potencial da identidade no combate à IA geradora é subestimado. Céticos, ouçam-me.

Vamos imaginar que a regulação ou a consciência social causem as plataformas a darem a cada titular de conta essas opções:

1. Verificar sua identidade ou não, e
2. Revelar publicamente sua identidade verificada, ou apenas ser rotulada como “ID Verificada”
   

Então, o público das mídias sociais pode decidir melhor quem é credível. Igualmente importante, se não mais, a identidade apoia a responsabilização. As plataformas podem decidir sobre ações a serem tomadas contra “desinformadores” sérios e abusadores repetidos de conteúdo gerado por IA, mesmo que surjam sob diferentes nomes de conta.

Com a IA geradora aumentando as apostas, acredito que a identidade — saber exatamente quem postou o quê — é crítica. Alguns se oporão a isso, e a identidade não é uma resposta abrangente. Na verdade, nenhuma solução satisfará todos os stakeholders. Mas se a regulação compelir as plataformas a oferecer verificação de identidade a todas as contas, estou convencido de que o impacto será enormemente positivo.

O dilema da moderação

A moderação de conteúdo — automatizada e humana — é a última linha de defesa contra conteúdo indesejável. A moderação humana é um trabalho difícil, com risco de dano psicológico por exposição ao pior que a humanidade pode oferecer. Também é cara e frequentemente acusada de censura tendenciosa que as plataformas buscam reduzir.

A moderação automatizada escala além da capacidade humana de lidar com os torrentes de novo conteúdo, mas falha em entender o contexto (memes sendo um exemplo comum) e nuances culturais. Ambas as formas de moderação são cruciais e necessárias, mas são apenas parte da resposta.

A prescrição convencional e frequentemente ouvida para controlar a IA geradora é: “Colaboração entre líderes de tecnologia, governo e sociedade civil é necessária.” Claro, mas o que especificamente?

Os governos, por sua parte, podem pressionar as plataformas de mídia social a oferecer verificação de identidade e exibir prominentemente em todas as postagens. Os reguladores também podem abrir caminho para métricas de credibilidade que realmente ajudem a avaliar se uma fonte é confiável. A colaboração é necessária para desenvolver padrões universais que forneçam orientação e direção específicas para que o setor privado não precise adivinhar.

Finalmente, deve ser ilegal criar saídas de IA maliciosas? Legislação para proibir conteúdo destinado a atividades ilegais pode reduzir o volume de conteúdo tóxico e aliviar a carga sobre os moderadores. Não vejo a regulação e as leis como capazes de derrotar a desinformação, mas são essenciais para enfrentar a ameaça.

O lado ensolarado da rua: inovação

A promessa da inovação me torna otimista aqui. Não podemos esperar que os políticos ou os proprietários de plataformas nos protejam completamente contra a decepção gerada por IA. Eles deixam uma grande lacuna, e é exatamente isso que vai inspirar a invenção de nova tecnologia para autenticar conteúdo e detectar falsificações.

Já que agora sabemos o lado negativo das mídias sociais, fomos rápidos em perceber que a IA geradora pode se tornar um grande passivo para a humanidade, com sua capacidade de polarizar e enganar.

Otessimamente, vejo benefícios em abordagens multi-prongues onde métodos de controle funcionam juntos, primeiro na fonte, limitando a criação de conteúdo projetado para uso ilegal. Em seguida, antes da publicação, verificando a identidade daqueles que declinam a anonimato. Em seguida, rotulagem clara para mostrar classificações de credibilidade e a identidade do postador ou a falta dela. Finalmente, moderação automatizada e humana podem filtrar parte do pior. Antecipo que nova tecnologia de autenticação venha online em breve.

Somando tudo, teremos uma solução muito melhor, embora nunca perfeita. Enquanto isso, devemos desenvolver nossas habilidades para descobrir o que é real, quem está dizendo a verdade e quem está tentando nos enganar.