Ângulo de Anderson

Rejeição total: os grupos que tratam a IA como um contaminante intolerável

Martin Anderson
Adicione Unite.AI às suas fontes preferidas no Google
AI-generated image, Z-Image Turbo via Krita Diffusion AI + Photoshop 2023 (no-AI): 'Interior. Photo of two burly US military guards, standing sentry with large automatic rifles, outside a huge and complex bank vault door, stock image. The bank vault door is made of thick steel and seems impenetrable'
Pontos-chaveProibições de IA com tolerância zero enfrentam impossibilidade prática devido à…
Ver mais
  • Proibições de IA com tolerância zero enfrentam impossibilidade prática devido à natureza onipresente e frequentemente indetectável da tecnologia.
  • Organizações como Bandcamp e Comic-Con implementam proibições como medidas pré-legais em meio a cenários econômicos e de direitos autorais incertos.
  • As proibições corporativas ao ChatGPT decorrem principalmente de temores sobre segurança de propriedade intelectual, e não de preocupações éticas com dados de treinamento.

A “tolerância zero” ao conteúdo gerado por IA torna-se uma opção cada vez mais atraente diante das crescentes preocupações jurídicas, éticas e dos usuários com a tecnologia. Mas essa forma de ficar de fora é viável na prática?

 

Opinião  Quem usa redes sociais e outros fóruns de discussão na internet talvez tenha notado, ultimamente, um número crescente de comunidades, fóruns e organizações profissionais proibindo por completo o uso de IA generativa. O impacto econômico da tecnologia já ultrapassa o círculo de artistas e escritores cujos protestos, em 2023, acenderam as preocupações atuais.

As consequências jurídicas e econômicas da revolução da IA ainda são incertas, mas organizações sob pressão tanto dos usuários quanto de seus próprios assessores jurídicos precisam definir políticas muito antes de conhecer o quadro completo. A situação se complica com a convicção emergente de que adiar a adoção pode deixá-las em desvantagem competitiva.

IA como miasma

A decisão de proibir é política e tem consequências. Já a capacidade de proibir envolve armadilhas políticas e práticas, pois o histórico de proibir o que as pessoas realmente querem é, na melhor das hipóteses, marcado por êxitos e fracassos. Até eliminar o que ninguém quer exige esforços contínuos de longo prazo.

Assim, sob a sombra da história dos luditas, tão mal compreendida, comunidades e organizações que consideram qualquer vestígio de IA absolutamente intolerável costumam adotar um tom defensivo ao anunciar ou discutir uma proibição.

Como os amish constataram nos últimos séculos, pode ser difícil manter uma postura de isolamento diante de uma tecnologia de impacto real. A rigor, por exemplo, quem segue os princípios do veganismo não pode assistir a filmes rodados em película tradicional de celuloide, nem sequer fazer um exame de raios X. Da mesma forma, evitar a fluoretação em países ou cidades que a adotam pode ser difícil.

Na prática, uma tecnologia popular e disseminada torna-se um fenômeno “atmosférico”, que não se deixa conter facilmente pelas fronteiras hoje estabelecidas por um número crescente de grupos e organizações.

Medidas antes da definição jurídica

Como mencionado, as primeiras batalhas contra a expansão da IA ocorreram no setor menos determinístico e mais sujeito à interpretação da IA generativa: o entretenimento. Quando o sindicato norte-americano de atores e profissionais de televisão e rádio SAG-AFTRA lutou pela proteção dos direitos de seus membros em 2023, acabou conseguindo obter algumas concessões importantes.

Desde então, houve pouquíssimas vitórias tão decisivas em relação à IA, e a batalha por clareza jurídica em diversos setores está apenas começando. Por exemplo, a maioria das novas leis sobre deepfakes, especialmente no Reino Unido e nos Estados Unidos, apenas inclui a IA em categorias mais amplas de crimes, como imagens sem o consentimento da pessoa, sejam reais ou falsas.

Logo após a vitória do SAG-AFTRA, uma série de processos sobre o uso das obras de outros tipos de artistas permanece continuamente em andamento. Enquanto isso, muitos grupos insatisfeitos criam regras próprias, antecipando uma futura ratificação jurídica.

Antes de examinar melhor a lógica e as limitações de uma atitude de intolerância total à IA, vejamos alguns casos em que esse tipo de política está sendo aplicado.

Proibições de IA com tolerância zero

Uma nota de discordância

Somente neste mês, o Bandcamp tornou-se a primeira grande plataforma de música na internet a proibir completamente o conteúdo de IA. O comunicado que anunciou a proibição também declarou: “Música e áudio gerados por IA integralmente ou em parte substancial não são permitidos no Bandcamp.”

Como em quase todos os casos, a restrição precisa deixar alguma margem de manobra por causa do referido efeito de “miasma” dos sistemas de IA amplamente difundidos. Em outro trecho do anúncio, afirma-se que a proibição se dirige à música que* “parece ter sido feita inteiramente com IA generativa ou com forte dependência dela”. É uma limitação pragmática, já que, na maioria das áreas, ao menos parte do conteúdo generativo pode parecer inteiramente humano, tanto para as pessoas quanto para o setor de detecção de IA, em constante evolução.

Esse é, na prática, o modelo da maioria das novas políticas de “tolerância zero”: nessas circunstâncias difíceis, desconhecer a participação da IA é uma justificativa.

Após um episódio em que uma faixa criada por IA conquistou rapidamente as paradas suecas, a organização nacional da indústria musical IFPI Sweden proibiu a inclusão de música gerada por IA nas paradas, embora com a ressalva habitual:* “Nossa regra é que, se uma música for principalmente gerada por IA, ela não tem direito a estar na lista das mais populares.”

Mais uma vez, reconhece-se que o desejo de proibir totalmente a IA é impraticável. A proibição é tacitamente total, mas sua aplicação é efetivamente impossível.

Efeito nas convenções de quadrinhos

No último ano, uma onda de proibições de conteúdo generativo percorreu as convenções de quadrinhos nos Estados Unidos e em outros países. A San Diego Comic-Con, que em 2024 havia restringido o uso comercial da arte produzida por IA, anunciou neste mês que está proibindo totalmente o conteúdo de IA, segundo relatos, em resposta aos protestos dos artistas.

Da mesma forma, em outubro do ano passado, a New York Comic-Con proibiu completamente a venda de produtos ou conteúdo gerados por IA. O site oficial afirma:*

“Produtos, materiais ou conteúdo criados integralmente ou em parte substancial com ferramentas ou algoritmos de inteligência artificial generativa (‘Gerados por IA’), ou que incorporem elementos gerados por IA, não podem ser disponibilizados para compra na New York Comic Con. Isso inclui, entre outros, obras de arte visual, imagens ou gráficos, animações e/ou materiais.”

A expressão “parte substancial” reconhece, mais uma vez, a dificuldade atual de identificar toda a origem criativa de uma obra. Isso reflete a proibição inicial da San Diego contra a comercialização dos resultados da IA, em vez da proibição completa adotada posteriormente. Ainda assim, na maioria dos casos, a abordagem retira o conteúdo de IA da plataforma de modo bastante eficaz, embora essas obras ainda possam alimentar plataformas comerciais.

Além disso, a convenção FanX Salt Lake instituiu, em setembro do ano passado, uma proibição mais decisiva do conteúdo de IA. O fundador e produtor Dan Farr comentou:

“Se os clientes vierem comprar uma obra de arte sem perceber que ela foi criada com IA generativa, poderão pagar muito dinheiro sem saber que ela não tem tanto valor assim.”

Resistência nas redes sociais

Muitas comunidades na internet também adotaram tolerância zero ao conteúdo de IA. Esse é um dos aspectos mais visíveis dessa intolerância para o público, e foi a frequência crescente das proibições que chamou minha atenção para o tema:

Uma proibição típica de IA no Facebook. Fonte: https://www.facebook.com/groups/1416546745305397/posts/3754074121552636/

Uma proibição típica de IA no Facebook. Fonte

O Reddit foi particularmente afetado. Moderadores de grandes subreddits frequentemente proíbem todas as imagens, obras de arte ou formas de texto criadas por IA, como ficção e programação, quando essas postagens inundam os fóruns e sobrecarregam os recursos humanos limitados de moderação.

Um exemplo bastante antigo, de 2022, foi o subreddit r/Dune, onde cerca de 250 mil fãs votaram pela proibição total da arte gerada por IA após o fórum ser inundado por imagens sintéticas. Na época, os moderadores observaram:

“Reconhecemos que muitas dessas obras são agradáveis de ver e que a tecnologia é fascinante, mas tecnicamente se trata de conteúdo que exige pouco esforço, sobretudo em comparação com a arte original, ‘feita por humanos’, que queremos priorizar daqui para a frente.”

Desde então, vários subreddits, do r/lego ao r/DataHoarder, também anunciaram que qualquer conteúdo feito ao menos parcialmente por IA será removido assim que for visto — como sempre, ao menos quando for reconhecível.

Proibições semelhantes aparecem com frequência no Facebook. Mas sua controladora, a Meta, é uma das principais desenvolvedoras de IA do mundo, enquanto o Reddit é uma fonte contínua de dados humanos, muito procurada e disputada acirradamente. Por isso, essas proibições tendem a gerar menos controvérsia.

Surpreendentemente, a Meta demora um pouco para acompanhar o sentimento do público sobre IA. Um ano atrás, por exemplo, a empresa fez um grande recuo em um experimento com agentes de IA publicando em diferentes linhas do tempo, devido às reações negativas dos usuários.

Proibições do ChatGPT por receio de vazamento de dados

Uma categoria particular de proibições “absolutas” da IA é o veto frequente ao uso do ChatGPT em ambientes corporativos ou sensíveis. Nesse sentido, o mesmo vale, em grande medida, para qualquer modelo de linguagem na nuvem acessado por API, como Claude ou Gemini.

No entanto, essas proibições costumam decorrer não de preocupações liberais com a exploração dos dados de treinamento, mas do medo de que a OpenAI acabe armazenando, processando ou até explorando a propriedade intelectual sensível da empresa revelada em conversas no aplicativo cliente.

Departamentos jurídicos podem apoiar ou até iniciar proibições corporativas de plataformas semelhantes ao ChatGPT. Mas é provável que também considerem se o uso de dados da web aberta para treinar sistemas comerciais pode expor a empresa ou seus clientes a responsabilidades futuras, sobretudo se os processos judiciais em curso contra a OpenAI ou entidades semelhantes resultarem em decisões judiciais significativas.

Exemplos de proibições do ChatGPT† incluem uma onda de proibições em reação à sua chegada em 2023 por parte da Apple (AAPL ), Amazon (AMZN ), Spotify, Wells Fargo e muitas outras. Naquele mesmo ano, uma pesquisa da Cisco constatou que 27% das organizações consultadas haviam instituído proibições semelhantes — não especificamente do ChatGPT, mas do uso de IA generativa em geral.

Em 2024, outra pesquisa constatou que 65% das 20 maiores farmacêuticas haviam proibido os funcionários de usar o ChatGPT.

É evidente que muitas, se não todas, as empresas mencionadas provavelmente buscarão aproveitar a IA de formas mais alinhadas aos seus interesses. Muitas também devem manter ou desenvolver outros produtos de IA para uso interno, ou até APIs comerciais com proteção à propriedade intelectual superior à oferecida pela OpenAI.

Muitos governos que defendem fortemente a IA também proíbem o ChatGPT. Alguns, como Cuba e Coreia do Norte, são candidatos óbvios a esse tipo de proibição. Mas a China, atualmente considerada a líder da revolução da IA, também proíbe o ChatGPT em nível governamental, presumivelmente em favor de alternativas nacionais.

Conclusão: sobre a tolerância zero

Uma dúvida sobre a tendência a proibições “absolutas” da IA, além da dificuldade de identificar o conteúdo sintético, é se a proibição intransigente realmente funciona. É fácil entender mal o que a tolerância zero é, o que pode realizar e as circunstâncias bastante restritas em que pode alcançar seus objetivos.

Por exemplo, Nova York, talvez a cidade mais associada ao termo, conseguiu sair do ponto mais baixo de sua crise de criminalidade nas décadas de 1970 e 1980 pela aplicação gradual e contínua da teoria psicológica das “janelas quebradas”. Ela propõe que, por mais pobre ou rico que seja um bairro, a presença de apenas uma janela quebrada tende a levar a outras janelas quebradas e, por fim, ao aumento de crimes mais graves. A permanência da primeira janela quebrada sugere que as autoridades não estão observando ou não se importam.

Assim, acredita-se que a tolerância zero ao crime inicial de quebrar uma janela tenha benefícios preventivos, pois essa “entropia criminosa” não chega a se estabelecer. Ao cuidar de coisas pequenas, como lixo e janelas quebradas, que não custam caro para resolver, os problemas maiores, que exigiriam gastos superiores, acabariam se resolvendo sozinhos.

Na prática, porém, essa teoria, às vezes criticada como racista, pode parecer autoritarismo extremo ou até fascismo:

Clique para reproduzir. Do único filme de treinamento que John Ford fez, ‘OSS – Undercover Training’, um exemplo de tolerância zero aparentemente obsessiva em uma representação fictícia da cultura do Eixo na Segunda Guerra Mundial. Fonte

No imaginário público, porém, a tolerância zero costuma equivaler a uma ação “firme, mas necessária”, como as leis intransigentes que a maioria dos países aplica às penas por causar danos a menores: regras claras para o bem público, concretizadas em leis punitivas que suscitam pouca discussão ou concessão.

Na verdade, a tolerância zero foi concebida para renovar cidades com orçamento limitado: criar no espaço público a impressão de haver mais recursos do que realmente existiam nos bastidores. Não é uma aplicação particularmente adequada para colocar o gênio da IA de volta na garrafa.

Na prática, a IA generativa já é tão disseminada que os dados mais adiante na cadeia, aparentemente livres de IA, podem já lhe dever algo. Mesmo que seja apenas um codec aprimorado por IA em um vídeo verdadeiro, não falso, que você criou, enviou ao YouTube e publicou em sua rede social favorita. Se a IA realmente se tornar um “gás” cultural, parece destinada a ultrapassar limites definidos e soluções binárias como uma “proibição da IA”.

 

* Ênfase do autor.

† Nesse sentido, podemos considerá-lo representante desta classe de grandes modelos de linguagem, em vez de apenas um produto específico.

Publicado originalmente na quinta-feira, 29 de janeiro de 2026

Escritor em aprendizado de máquina, especialista em síntese de imagens humanas. Ex‑chefe de conteúdo de pesquisa na Metaphysic.ai, até sua dissolução na Brahma.ai da DNEG.
Website: martinanderson.ai
Contato: martin@martinanderson.ai