Ética
Microsoft expande ferramentas de integridade de conteúdo para apoiar eleições globais em meio a preocupações com IA generativa
O ano de 2024 deverá ser significativo para as eleições em todo o mundo, com a União Europeia a realizar eleições parlamentares neste verão e aproximadamente metade dos países europeus a prepararem-se para votações nacionais ou regionais. À medida que este exercício democrático se desenrola, o rápido avanço da IA generativa levantou questões sobre o seu potencial impacto nas eleições e no ecossistema de informação mais amplo. Surgiram preocupações sobre a capacidade da tecnologia para gerar conteúdos diversos em alta velocidade e a sua potencial utilização na propagação de desinformação.
Anúncio da Microsoft
À luz destes desenvolvimentos, a Microsoft anunciou a expansão da visualização privada de suas ferramentas de integridade de conteúdo para partidos políticos e campanhas na União Europeia, bem como para organizações de notícias em todo o mundo. A empresa afirmou que as ferramentas foram projetadas para ajudar as organizações a informar os eleitores sobre a origem do conteúdo que encontram online.
As ferramentas de Integridade de Conteúdo permitem que as organizações anexem “Credenciais de Conteúdo” seguras à sua mídia original, fornecendo informações sobre quem criou ou publicou o conteúdo, onde e quando foi criado, se foi gerado por IA e se a mídia foi editada ou alterado desde a sua criação. Ao apoiar o sistema amplamente adoptado Padrão de credenciais de conteúdo, a Microsoft pretende tornar essas ferramentas acessíveis e interoperáveis entre plataformas.
Como funcionam as ferramentas de integridade de conteúdo
As ferramentas de integridade de conteúdo da Microsoft consistem em três componentes principais. Primeiro, existe uma aplicação web acessível a campanhas políticas, organizações de notícias e autoridades eleitorais, que lhes permite adicionar credenciais de conteúdo ao seu conteúdo. Em segundo lugar, uma aplicação móvel privada, desenvolvida em parceria com Verdadeiro, permite que os usuários capturem fotos, vídeos e áudio seguros e autenticados adicionando credenciais de conteúdo em tempo real a partir de seus smartphones. Terceiro, um site público está disponível para verificadores de fatos e o público em geral revisarem imagens, áudio e vídeo quanto à presença de credenciais de conteúdo.
O padrão Content Credentials fornece um meio de autenticar mídia e informar os usuários sobre sua origem. No entanto, vale a pena notar que este padrão tem enfrentado críticas pela relativa facilidade com que os metadados podem ser removidos do conteúdo. Além disso, não existe atualmente um método fiável para detetar textos gerados por IA, o que representa um desafio constante na luta contra a desinformação.
A primeira das três imagens tem as credenciais de conteúdo aplicadas. (Fonte: Microsoft)
Esforços mais amplos de proteção eleitoral da Microsoft
A Microsoft reconheceu que as ferramentas de Integridade de Conteúdo por si só não são uma solução completa para o problema da mídia enganosa nas eleições. A empresa enfatizou que estas ferramentas fazem parte de uma estratégia de defesa mais ampla contra o uso indevido de conteúdo gerado por IA.
No início deste ano, a Microsoft juntou-se ao Acordo tecnológico para combater o uso enganoso de IA junto com outras 20 empresas. Esta iniciativa visa abordar o uso indevido de vídeo, áudio e imagens que alteram a aparência, a voz ou as ações de candidatos políticos e funcionários eleitorais. A Microsoft também está a trabalhar com partidos políticos globais para fornecer apoio e formação sobre como lidar com os desafios colocados pela IA nas eleições. Além disso, a empresa oferece assistência em segurança cibernética por meio de sua equipe Campaign Success e do programa AccountGuard para ajudar na proteção contra ataques cibernéticos de estados-nação direcionados a eleições.
Um passo crítico na proteção da integridade eleitoral
À medida que se aproximam as eleições globais de 2024, a expansão das ferramentas de Integridade de Conteúdo da Microsoft representa um passo crítico na salvaguarda da integridade dos processos democráticos face aos desafios tecnológicos em evolução. Ao fornecer aos partidos políticos, às campanhas e às organizações noticiosas os meios para autenticarem os seus meios de comunicação e informarem os eleitores sobre a proveniência do conteúdo online, a Microsoft está a contribuir para a criação de um ecossistema de informação mais transparente e fiável.
No entanto, é importante reconhecer que as ferramentas de integridade de conteúdo são apenas uma peça do quebra-cabeça no combate ao potencial uso indevido de IA generativa nas eleições. A facilidade com que os metadados podem ser removidos do conteúdo e a atual falta de métodos fiáveis para detetar texto gerado por IA sublinham a necessidade de investigação, colaboração e vigilância contínuas nesta área.
O compromisso da Microsoft em proteger as eleições em todo o mundo através de iniciativas como o Tech Accord, o apoio aos partidos políticos e a assistência à segurança cibernética demonstra o reconhecimento da empresa da natureza multifacetada do desafio. À medida que a tecnologia continua a avançar e o cenário de ameaças evolui, será crucial que os líderes da indústria, os decisores políticos e a sociedade civil trabalhem em conjunto para desenvolver e implementar estratégias abrangentes para salvaguardar a integridade dos processos democráticos na era digital.
