O Crescente Número de Empresas de Tecnologia Canceladas por Lavagem de IA

Em 2024, 15 empresas de tecnologia de IA foram processadas por reguladores por exagerar as capacidades de seus produtos, e esse número mais do que dobrou em relação a 2023. As denúncias relacionadas à IA estão aumentando e as empresas de tecnologia podem ser pegos no fogo cruzado se não entenderem as regulamentações emergentes e como evitá-las.

O que está Errado com o Marketing de IA Hoje?

Enquanto muitos estão familiarizados com a expressão “greenwashing”, é apenas no último ano que uma nova forma surgiu do hype em torno da inteligência artificial, e é chamada de “lavagem de IA”. De acordo com a BBC, o fenômeno da lavagem de IA pode ser definido como alegar usar IA quando, na realidade, um método de computação menos sofisticado está sendo usado. Eles explicam que a lavagem de IA também pode ocorrer quando as empresas superestimam como sua IA está operacional ou quando uma empresa combina produtos ou capacidades juntos. Por exemplo, quando “empresas simplesmente adicionam um chatbot de IA ao seu software operacional existente não IA”.

As alegações exageradas de IA são perigosas para os usuários e outros stakeholders. Três preocupações óbvias sobre a lavagem de IA vêm à mente:

• O usuário paga por algo que não está recebendo
• Os usuários esperam um resultado que não é alcançável
• Os stakeholders da empresa não sabem se estão investindo em um negócio que está realmente inovando com IA

A lavagem de IA é um problema crescente à medida que as empresas de tecnologia competem por uma maior participação de mercado. Até 40% das empresas que se descreviam como startups de IA em 2019 não tinham nenhuma tecnologia de inteligência artificial. A pressão para oferecer tecnologia avançada é ainda maior agora do que era há cinco anos.

O que Está Por trás da Lavagem de IA?

Os especialistas têm algumas teorias sobre o que está por trás desse fenômeno crescente. Douglas Dick, o chefe de risco de tecnologia emergente da KPMG no Reino Unido, disse à BBC que é a falta de definição de IA e a ambiguidade que torna a lavagem de IA possível.

Especialistas da Berkely acreditam que o discurso da cultura organizacional é responsável pela lavagem de IA, e as razões principais para esse fenômeno incluem:

• Falta de conhecimento técnico de IA na liderança sênior
• Pressão para inovação contínua
• Curto-prazismo e hype
• Medo de perder a oportunidade (FOMO)

A lavagem de IA também pode ser impulsionada por financiamento. Os investidores querem ver inovação consistente e superação dos concorrentes. Mesmo que as marcas não tenham desenvolvido completamente uma capacidade de IA, elas podem atrair a atenção dos investidores com ferramentas de automação mal elaboradas para ganhar capital adicional.

Com o mercado global de IA previsto para atingir aproximadamente $250B até o final de 2025, é fácil entender por que a onda está em pleno efeito, e as startups ansiosas por financiamento estão rapidamente adicionando a etiqueta de IA a qualquer coisa. Infelizmente, os reguladores tomaram nota.

Empresas de Tecnologia de IA Acusadas de Lavagem de IA

As empresas que alegam usar inteligência artificial muitas vezes estão apenas usando técnicas de computação e automação avançadas. A menos que a infraestrutura de ciência de dados de IA verdadeira esteja em vigor com algoritmos de aprendizado de máquina, redes neurais, processamento de linguagem natural, reconhecimento de imagens ou alguma forma de Gen IA, a empresa pode estar apenas criando fumaça e espelhos com suas alegações de IA.

Uma empresa de tecnologia de RH de IA chamada Joonko foi fechada pela SEC por práticas fraudulentas.

Aprendendo com Joonko

Joonko alegou que podia ajudar os empregadores a identificar candidatos próximos para que os empregadores pudessem aproveitar esses pools. A ideia era que isso criaria candidatos mais diversificados para serem apresentados aos recrutadores e teriam uma maior chance de serem contratados. Joonko foi tão bem-sucedido em marketing de sua IA que Eubanks escreveu sobre Joonko em seu primeiro livro, e a empresa levantou $27 milhões em financiamento de VC entre 2021 e 2022.

Quando a SEC acusou o ex-CEO de Joonko de fraude de valores mobiliários de lavagem de IA, foi porque ele havia falsamente representado o número e os nomes de seus clientes. Ele alegou que Joonka vendia para cartões de crédito globais, viagens e marcas de luxo, e forjou extratos bancários e pedidos de compra para investidores. O CEO recebeu cargos criminais além das acusações da SEC contra a empresa.

Aprendendo com Codeway

Em 2023, o aplicativo Codeway foi acusado de uma propaganda enganosa no Instagram que alegava que seu IA podia consertar fotos borradas. O anúncio dizia “Melhore sua imagem com IA” e, quando desafiado por um reclamante, a empresa não conseguiu demonstrar como seu aplicativo podia consertar uma imagem borrada por conta própria sem a ajuda de outros processos de melhoria de foto digital. A Autoridade de Padrões de Publicidade (ASA) manteve a reclamação e proibiu a empresa de executar esse anúncio ou qualquer outro semelhante.

Outros Exemplos

Nos EUA, a FTC e a SEC recentemente realizaram as seguintes ações de execução:

• Esquemas de negócios múltiplos foram interrompidos após alegar que as pessoas podiam usar IA para ganhar dinheiro com lojas online
• Uma alegação de mais de 190k foi ação para serviços de advogado robótico ineficazes
• Uma empresa chamada Rytr LLC falsamente alegou que podia criar conteúdo gerado por IA
• Uma ação de acerto contra IntelliVision Technologies por alegações enganosas sobre seu reconhecimento facial de IA
• Delphia Inc. e Global Predictions Inc. foram acusadas de fazer alegações falsas sobre IA em seus sites e contas de mídia social

Regulamentações Emergentes

O crescimento da tecnologia de IA e a lavagem de IA chamaram a atenção dos reguladores em todo o mundo. No Reino Unido, a ASA já está estabelecendo um precedente ao processar anúncios de IA não comprovados.

No Canadá, os reguladores estão visando alegações não comprovadas sobre IA, bem como material de marketing que é enganoso ou promove excessivamente a tecnologia de IA. Os Administradores de Valores Mobiliários do Canadá emitiram um aviso de pessoal em 7 de novembro de 2024 que compartilhou alguns exemplos do que consideram ser lavagem de IA:

• Uma empresa de IA que alega que seu emissor está disruptando sua indústria com a tecnologia de IA mais avançada e moderna disponível
• Uma empresa de IA que alega ser o líder global em sua categoria de IA
• Uma empresa de IA que exagera seu uso ou importância para a indústria

Nos EUA, existem regulamentações específicas de estado, como as auditorias de viés de IA obrigatórias da cidade de Nova York, que todas as empresas de tecnologia de IA que operam lá são obrigadas a ter. No entanto, não existem regulamentações federais abrangentes que restrinjam o desenvolvimento ou uso de IA. Em dezembro de 2024, o Congresso dos EUA estava considerando mais de 120 projetos de lei diferentes sobre IA. Essas regulamentações cobririam tudo, desde o acesso de IA a armas nucleares até direitos autorais, mas elas dependeriam de medidas voluntárias em vez de protocolos estritos que pudessem retardar o progresso tecnológico. Enquanto esses projetos de lei são debatidos, existe um patchwork de leis federais dos EUA dentro de departamentos específicos, como a Administração Federal de Aviação que diz que a IA na aviação deve ser revisada.

Não Seja um Poseur de IA

À medida que os reguladores continuam a aplicar várias ações contra os culpados de lavagem de IA, as empresas de tecnologia devem prestar atenção. Qualquer empresa que afirme criar tecnologia de IA real deve ser capaz de comprovar suas alegações. As equipes de marketing devem evitar exagerar as capacidades dos produtos de IA da empresa, bem como os resultados, os clientes e a receita. Qualquer empresa que esteja incerta sobre sua própria tecnologia ou marketing deve revisar a legislação emergente localmente e dentro dos mercados em que vendem. Os consumidores ou empresas que pensam em comprar tecnologia de IA devem olhar muito de perto o produto antes de comprá-lo. Com os casos de lavagem de IA de 2024 ainda nos estágios iniciais de litígio, a história ainda está se desenrolando, mas uma coisa é certa, você não quer que sua empresa faça parte disso.