Quão longe e sombrio irão os Deepfakes?

À medida que a IA se integra mais profundamente nas nossas vidas diárias, a tecnologia deepfake tornou-se uma preocupação crescente para muitos, especialmente aqueles que gostam de partilhar momentos pessoais nas redes sociais. Quer seja uma noite com amigos ou um piquenique em família nas Bahamas, as fotos compartilhadas em plataformas como Instagram, Facebook e Snapchat não estão necessariamente protegidas contra possível uso indevido.

Uma jovem coreana recentemente recorreu às redes sociais para expressar sua angústia por causa de um vídeo deepfake feito como um ato de vingança. No vídeo, ela parecia estar nua. Ela implorou veementemente pela remoção do vídeo gerado por IA e instou o indivíduo a interromper sua distribuição.

Em outubro de 2023, figuras renomadas como a co-apresentadora do CBS Mornings Gayle King, o ator Tom Hanks e a personalidade do YouTube MrBeast foram vítimas de vídeos deepfake não autorizados que se espalharam pelas plataformas de mídia social. Outro vídeo com a jornalista da CNN, Clarissa Ward, perto da fronteira entre Israel e Gaza, foi manipulado para lançar dúvidas sobre as suas reportagens.

Esses vídeos, criados com tecnologia deepfake de ponta, têm o poder de substituir indivíduos no conteúdo existente. A sua natureza realista é perturbadora, levando muitos a acreditar na sua autenticidade. Isso inclui Músicas geradas por IA imitando estrelas famosas, algumas das quais se tornaram líderes das paradas.

Tais eventos suscitaram preocupações globais sobre o potencial de humilhação pública, assédio e chantagem, destacando ainda mais o potencial sinistro dos deepfakes.

Por que a tecnologia Deepfake é mais perigosa do que você pensa

O aumento de incidentes perturbadores indica a urgência de medidas proativas contra deepfakes. Atualmente, não existe uma lei universal que trate de deepfakes ou conteúdo não autorizado gerado por IA, mesmo nos Estados Unidos. Embora não possam ser totalmente erradicados, podem ser tomadas medidas de proteção.

Para quem não conhece, a tecnologia deepfake emprega IA para criar imagens, vídeos ou clipes de áudio realistas, mas fabricados. Esta tecnologia enganosa ganhou destaque por volta de 2017 quando um usuário anônimo do Reddit introduziu um algoritmo para gerar vídeos falsos realistas.

Embora inicialmente destinado ao entretenimento, educação ou ativismo, o rápido avanço da IA, juntamente com capacidades deepfake, apresenta uma infinidade de preocupações éticas e de segurança. Isso inclui:

1. Violação de privacidade: A principal preocupação é o uso não autorizado da imagem de uma pessoa. Casos notáveis ​​incluem vídeos adultos deepfake de celebridades, manchando sua imagem. Por exemplo, em 2017, um vídeo impróprio retratando falsamente a atriz Gal Gadot circulou amplamente.
2. Desinformação e Manipulação: Deepfakes podem distorcer verdades, influenciando a opinião pública. Um exemplo notável é um vídeo deepfake do ex-presidente Obama, criado por BuzzFeed e Jordan Peele. Embora pretendido como um PSA contra a desinformação, sublinha o potencial uso indevido da tecnologia.

1. Fraude e Chantagem: Esta tecnologia pode produzir provas falsas ou enganar através da duplicação de voz/imagem. Os criminosos podem usar deepfakes para extorsão ou mesmo fraude financeira, como visto quando uma empresa de energia do Reino Unido foi enganada para transferir uma quantia significativa, potencialmente através de deepfake de voz.
2. Preconceito e discriminação: Deepfakes podem perpetuar ou amplificar preconceitos sociais, potencialmente deturpando dados demográficos específicos.

Deepfakes: ameaças à democracia, relacionamentos e identidade

Embora a tecnologia deepfake em si não seja inerentemente malévola, seu uso indevido pode ser prejudicial. Pode distorcer os resultados eleitorais, prejudicar as relações pessoais e violar a identidade pessoal, como demonstrado em programas de entretenimento como “DeepFake Love” e “Clickbait” da Netflix.

Pensamentos Finais

Deepfakes estão transformando o mundo digital, abrindo caminhos inovadores e ao mesmo tempo apresentando desafios éticos. A ausência de regulamentação global e de ferramentas de detecção eficazes torna esta questão crítica. Embora a sensibilização do público e a literacia mediática sejam essenciais, são apenas parte da solução.

É vital ponderar: vemos os deepfakes como maravilhas tecnológicas ou ameaças ao bem-estar individual e social? A conversa deve persistir, uma vez que a consciência e a ação coletivas são cruciais para mitigar os impactos prejudiciais da tecnologia deepfake.