Recuo Total: Os Grupos que Tratam a IA como um Contaminante Intolerável

A "tolerância zero" em relação ao conteúdo gerado por IA é uma opção cada vez mais atraente diante das crescentes preocupações legais, éticas e da base de usuários em torno da IA; mas será que esse tipo de "exclusão" é uma proposta viável?

Opinião  Quem utiliza redes sociais e outros tipos de fóruns de discussão online provavelmente já notou o crescente número de comunidades, fóruns e organizações profissionais que surgem ultimamente. proibição total O uso da IA ​​generativa, à medida que o impacto econômico da tecnologia se estende para além dos artistas e escritores cujos protestos despertaram as preocupações atuais em 2023.

Com as consequências legais e econômicas da revolução da IA ainda incerto, organizações que enfrentam pressão Tanto os usuários quanto os consultores jurídicos internos estão sendo forçados a decidir sobre políticas muito antes que o quadro completo esteja claro – uma situação complicada por... crença emergente que a adoção tardia poderia deixá-los em desvantagem competitiva.

IA como Miasma

O método da decisão Proibir é uma decisão política, com consequências; habilidade Proibir, no entanto, implica em questões políticas. e armadilhas práticas, visto que o histórico de proibir coisas que as pessoas realmente desejam é um quadriculado, na melhor das hipóteses.e até mesmo erradicando as coisas que ninguém quer requer esforço contínuo e de longo prazo.

Assim, assombrado pelo muito-mal-entendido Historicamente, os luditas, comunidades e entidades que tratam qualquer vestígio de IA como absolutamente intolerável, muitas vezes adotam um tom defensivo ao anunciar ou discutir uma proibição da IA.

Como os Amish encontrei Ao longo dos últimos séculos, manter uma postura reclusa contra uma tecnologia verdadeiramente impactante pode ser difícil; falando estritamente, por exemplo, aqueles que seguem as regras do veganismo não podem assistir a filmes. filmado em celuloide tradicional, ou até mesmo ter an x-rayDa mesma forma, optar por não utilizar a fluoretação em países ou cidades que a adotam. pode ser difícil.

Na prática, uma tecnologia difundida e popular é um fenômeno "atmosférico" que não se deixa facilmente influenciar pelos limites que estão sendo impostos por um número crescente de grupos e organizações.

Medidas pré-legais

Como mencionado anteriormente, as primeiras batalhas contra a invasão da IA ​​foram travadas no setor menos determinístico e mais interpretativo da IA ​​geral – o entretenimento. Quando o Sindicato dos Atores de Cinema Americanos – Federação Americana de Artistas de Televisão e Rádio (SAG-AFTRA) travada Para a proteção dos direitos de seus membros em 2023, a organização finalmente conseguiu... ganhar Algumas concessões notáveis.

Desde então, houve pouquíssimas vitórias tão decisivas em relação à IA – e a batalha por clareza jurídica em diversos setores está apenas começando. Por exemplo, a maior parte da nova legislação sobre deepfakes, principalmente da... UK e US, inclui a IA apenas em uma categoria mais ampla de crime (como imagens não consensuais, reais ou falsas).

Logo após a vitória do SAG-AFTRA, uma série de processos judiciais envolvendo o uso da obra de outros tipos de artistas está surgindo. sempre em andamentoEntretanto, muitos dos grupos descontentes envolvidos aguardam a ratificação legal com normas locais.

Antes de analisarmos mais a fundo a lógica e as limitações de uma atitude "totalmente intolerante" em relação à IA, vejamos alguns casos em que esse tipo de política está sendo implementado.

Proibições de IA com tolerância zero

Uma nota de discordância

Apenas neste mês, o Bandcamp se tornou a primeira grande plataforma de música online a banir completamente o conteúdo de IAA proibição foi anunciada em um comunicado que também declarou 'Música e áudio gerados total ou substancialmente por IA não são permitidos no Bandcamp.'.

Essa restrição, como em quase todos os casos, é forçada a adotar uma postura cautelosa devido ao já mencionado efeito de "miasma" causado pela ampla disseminação de sistemas de IA. Em outra parte do anúncio, afirma-se que a música que* 'aparece a ser produzido inteiramente ou com forte dependência de IA generativa' é alvo da proibição – uma limitação pragmática, visto que, na maioria dos domínios, pelo menos alguns O conteúdo gerado por IA é capaz de parecer inteiramente artificial, tanto para as pessoas quanto para a sociedade em constante evolução. detecção por IA setor.

Na prática, este é o modelo para a maioria das novas políticas de "tolerância zero" que estão entrando em vigor: a ignorância em relação à IA. is Uma desculpa, nestas circunstâncias difíceis.

Após um incidente onde uma faixa musical criada por IA invadiu as paradas suecas, IFPI Suécia, a organização nacional sueca da indústria musical, banido Música gerada por IA a partir da inclusão nas paradas musicais – embora com a ressalva de praxe, declarando* Nossa regra é que, se for uma música que é principalmente Gerado por IA, não tem o direito de estar na lista principal..

Mais uma vez, reconhece-se aqui que o desejo de uma proibição total da IA ​​é impraticável; a proibição é tácita e total, mas a implementação é efetivamente impossível.

Efeito cômico

Uma onda de proibições contra conteúdo gerado por IA varreu o cenário das convenções de quadrinhos nos EUA e em outros países no último ano. A San Diego Comic-Con, que em 2024 havia imposto restrições comerciais à arte produzida por IA, anunciou neste mês que... banir completamente o conteúdo de IA., supostamente em resposta a protestos de artistas.

Da mesma forma, em outubro do ano passado, a New York Comic-Con impôs uma proibição total à venda de produtos ou conteúdo gerados por IA, com o site oficial declarando*:

Produto, material ou conteúdo criado, no todo ou em parte. parte substancialÉ proibido disponibilizar para compra na New York Comic Con qualquer produto que utilize ferramentas ou algoritmos generativos de inteligência artificial ("Gerado por IA") ou incorpore elementos Gerados por IA, incluindo, entre outros, obras de arte visuais, imagens ou gráficos, animações e/ou materiais.

Mais uma vez, vemos que, em "parte substancial", a expressão deve reconhecer a dificuldade de identificar toda a origem criativa de qualquer obra nos dias de hoje. Isso reflete a proibição inicial de San Diego sobre comercializando A abordagem visava a produção de IA, em vez de sua posterior proibição completa de conteúdo de IA. Dito isso, essa abordagem é uma forma bastante eficaz de "desplataformar" o conteúdo de IA na maioria dos casos (embora esse trabalho ainda possa servir de base para plataformas comerciais).

Além disso, a convenção de quadrinhos FanX Salt Lake instituiu um proibição mais decisiva sobre conteúdo de IA, em setembro do ano passado, com o fundador e produtor Dan Farr comentando:

"Se os clientes comprarem uma obra de arte sem perceberem que foi usada inteligência artificial generativa para criá-la, podem acabar pagando muito dinheiro por ela, sem se darem conta de que não se trata de algo tão valioso assim."

Antissocial

Muitas comunidades online também adotaram tolerância zero em relação ao conteúdo gerado por IA. De fato, esse é um dos aspectos mais visíveis da intolerância à IA, e foi a crescente frequência dessas proibições que chamou minha atenção para o assunto:

Um típico decreto anti-IA do Facebook. fonte

O Reddit tem sido especialmente afetado, com moderadores de vários subreddits grandes frequentemente banindo todas as imagens, artes ou formas de texto criadas por IA (como ficção e programação), assim que essas postagens começaram a inundar seus fóruns e sobrecarregar os recursos limitados de moderação humana.

Um exemplo bem antigo, de 2022, foi o subreddit r/Dune, com cerca de 250,000 fãs. votaram para proibir Arte totalmente gerada por IA, após ter sido inundada por imagens feitas por IA. Os moderadores do subreddit observaram na época:

"Reconhecemos que muitas dessas obras são visualmente interessantes, e a tecnologia certamente é fascinante, mas tecnicamente se qualificam como conteúdo de baixo esforço – especialmente quando comparadas à arte original, 'feita pelo homem', que gostaríamos de priorizar daqui para frente."

Desde então, inúmeros subreddits (de r/lego para r/DataHoarder) declararam de forma semelhante que qualquer conteúdo, mesmo que parcialmente criado por IA, será removido imediatamente – pelo menos, como sempre, onde for reconhecível.

Proibições semelhantes aparecem com frequência no Facebook. No entanto, como a Meta, empresa controladora do Facebook, é uma das desenvolvedoras de IA de vanguarda do mundo, enquanto o Reddit é, por outro lado, uma plataforma mais voltada para o público em geral, a Meta também é uma desenvolvedora de IA. muito disputado e, por ser uma fonte muito procurada de dados contínuos baseados em atividades humanas, essas proibições tendem a causar menos controvérsia.

Surpreendentemente, a Meta demorou um pouco para acompanhar o sentimento geral do público em relação à IA – há um ano, por exemplo, a empresa fez uma retirada ousada de um experimento com agentes baseados em IA que publicavam em diversas linhas do tempo, devido a reações adversas dos usuários.

Proibições de exfiltração do ChatGPT

Uma categoria singular de proibições 'absolutas' de IA é a frequente proibição do uso de ChatGPT em ambientes corporativos ou sensíveis (e, nesse sentido, o mesmo se aplica a qualquer modelo de linguagem baseado em nuvem e acessado por API, como...) Claude or Gemini).

No entanto, essas proibições geralmente não são inspiradas por preocupações liberais em relação à exploração de dados de treinamento, mas sim por medos que a OpenAI acabará armazenando, processando ou até mesmo explorando propriedade intelectual sensível da empresa, divulgada durante conversas com clientes.

Embora os departamentos jurídicos possam apoiar ou até mesmo iniciar proibições corporativas de plataformas do tipo ChatGPT, eles também provavelmente considerarão se o uso de dados da web aberta para treinar sistemas comerciais pode expor a empresa ou seus clientes a responsabilidades futuras – especialmente se litígio em andamento Ações contra a OpenAI ou entidades similares devem resultar em julgamentos significativos.

Exemplos de banimentos no ChatGPT^† incluir um onda de proibições reacionárias Em 2023, empresas como Apple, Amazon, Spotify e Wells Fargo, entre muitas outras, anunciaram investimentos. No mesmo ano, um pesquisa Cisco Descobriu-se que 27% das organizações pesquisadas haviam instituído proibições semelhantes – não especificamente no ChatGPT, mas no uso do GenAI em geral.

Em 2024, outra pesquisa constatou que 65% das 20 maiores empresas farmacêuticas tinham funcionários banidos obtido através do uso do ChatGPT.

É evidente que muitas, senão todas as empresas aqui mencionadas, provavelmente buscarão se beneficiar da IA ​​de maneiras que melhor atendam aos seus interesses; e que muitas provavelmente manterão ou desenvolverão outros produtos baseados em IA para uso interno – ou até mesmo produtos de API comerciais com melhor proteção de propriedade intelectual do que a OpenAI pode oferecer.

Muitos governos são grandes defensores da IA. também banir o ChatGPTEmbora alguns desses países, como Cuba e Coreia do Norte, sejam candidatos óbvios para esse tipo de proibição, a China, atualmente considerada a figura de vanguarda da revolução da IA, proíbe o ChatGPT em nível governamental – presumivelmente em favor de alternativas caseiras.

Conclusão: Sobre a Tolerância Zero

Uma preocupação em relação a qualquer tendência de proibições "absolutas" à IA (além do desafio de identificar conteúdo de IA) é se a proibição intransigente é realmente eficaz. De fato, é fácil interpretar mal o que "tolerância zero" realmente significa; o que ela pode alcançar; e as circunstâncias bastante limitadas em que ela pode atingir seus objetivos.

Por exemplo, a cidade de Nova Iorque, talvez a mais fortemente associada ao termo "tolerância zero", foi capaz de ascensão desde seu ponto mais baixo, assolado pela criminalidade nas décadas de 1970 e 1980, até a aplicação gradual e contínua do ''janelas quebradas' teoria psicológica, que postula que não importa quão pobre ou rica seja uma vizinhança, a presença de apenas um Uma janela quebrada tende a levar a mais distante Janelas quebradas – e uma eventual escalada para outros tipos de crimes mais graves, já que a presença contínua da janela quebrada inicial sugere que as autoridades ou não estão observando, ou não se importam.

Portanto, acredita-se que uma atitude de "tolerância zero" em relação ao crime "inicial" de quebrar uma janela traga benefícios a longo prazo, uma vez que essa "entropia criminosa" nunca consegue se estabelecer; dessa forma, ao se atentar para pequenas coisas (como lixo e janelas quebradas, que não são problemas caros de resolver), os problemas maiores (que custariam mais para resolver) se resolvem por si mesmos.

No entanto, essa teoria foi posta em prática (às vezes) criticado como racista) pode ser interpretado como autoritarismo extremo, ou até mesmo fascismo:

Clique para jogar. Do único filme de treinamento que John Ford já fez, 'OSS – Treinamento Secreto', Um exemplo de tolerância zero aparentemente obsessiva em um contexto de cultura do Eixo simulando a Segunda Guerra Mundial. fonte

Em vez disso, a "tolerância zero" é frequentemente equiparada na mente do público a uma ação "severa, mas necessária", como as leis inflexíveis que a maioria das nações possui em relação às penalidades por prejudicar menores – ou seja, regras claras para o bem público, concretizadas em leis punitivas que inspiram pouco debate ou compromisso.

Na verdade, o ZT foi projetado para promover a renovação urbana com um orçamento limitado, sugerindo mais recursos em um espaço público do que os que realmente existiam nos bastidores; não um caso de uso particularmente aplicável para colocar o gênio da IA ​​de volta na garrafa.

E, na prática, a IA generativa é já tão difundido que seus dados downstream aparentemente livres de IA podem muito bem já dever algo a ela – mesmo que seja um Codec aprimorado por IA em um vídeo (não falso) que você criou, enviou para o YouTube e postou em sua rede social favorita. Se a IA realmente se tornar um "gás" cultural, parece destinada a desafiar fronteiras claras ou soluções binárias, como uma "proibição da IA".

* Minha ênfase.

^† O que podemos considerar representativo disto classe de LLM, e não um produto exclusivo, nesse sentido.

Primeira publicação na quinta-feira, 29 de janeiro de 2026