A lacuna de conhecimento que a IA está criando é a nova lacuna de segurança. Veja como fechá-la.

As empresas de tecnologia estão fazendo uma aposta conhecida: que a IA pode trabalhar mais rápido e a um custo menor do que as pessoas. Embora isso possa ser verdade em muitos casos, ela também está sendo usada como uma justificativa fácil para demissões.

Em um relatório da PwC compartilhado no início deste ano, 56% dos CEOs disseram que não viram nenhum benefício financeiro significativo de seus investimentos em IA até agora, e apenas 12% relataram ver economia de custos e crescimento de receita com a IA. Além disso, um estudo de fevereiro do National Bureau of Economic Research encontrou que quase 90% das empresas disseram que a IA não teve impacto no emprego ou produtividade nos últimos três anos. Isso destaca uma verdade reveladora: muitas organizações ainda não viram os retornos de receita e produtividade prometidos inicialmente pela IA, e para cobrir suas perdas, continuam a cortar milhares da força de trabalho.

Mas há algo que não está sendo dito nas teleconferências de resultados: quando se elimina o gerente de contas que guarda na memória dez anos de contexto sobre o relacionamento com os clientes, ou o engenheiro de garantia da qualidade cujo conhecimento institucional é a única coisa que detecta defeitos antes de chegarem aos clientes, não se está cortando gordura. Estão sendo derrubadas paredes estruturais. Os custos de retrabalho, a perda de clientes e os problemas de qualidade que surgem depois raramente aparecem na mesma apresentação que celebrou a redução do quadro de funcionários. Eles são absorvidos silenciosamente nos trimestres seguintes, atribuídos às condições de mercado e esquecidos. A distância entre o que a reestruturação impulsionada pela IA promete e o que realmente entrega é real, está crescendo e, para muitas organizações, continua inteiramente sem reconhecimento.

Os custos reais desse ciclo não recaem sobre um único lugar. Eles se espalham por todas as equipes que permanecem após os cortes. Os desenvolvedores absorvem a carga de trabalho dos engenheiros que saíram, enquanto recebem ferramentas de IA ainda imaturas demais para compensar a perda de pessoal. As equipes de produto perdem o contexto que mantinha seus planos ancorados na realidade dos clientes. As equipes de suporte ficam sobrecarregadas e a qualidade das respostas piora, enquanto os clientes reconhecem imediatamente o conteúdo de baixa qualidade gerado por IA nas respostas aos seus chamados. O ônus não se concentra: ele se distribui, e essa dispersão contribui para que seja tão fácil ignorá-lo em um relatório trimestral. Dentro dessa dispersão mais ampla, porém, as equipes de TI enfrentam uma versão específica e agravada do problema. Não estão apenas fazendo mais com menos. Precisam gerenciar infraestrutura construída rapidamente, sem o conhecimento institucional que lhe dava coerência, enquanto executam simultaneamente os procedimentos de saída dos colegas que deixaram a empresa e a integração de seus substitutos, à medida que as empresas revertem discretamente os cortes que celebraram publicamente.

À medida que o ano avança e as organizações buscam cumprir as promessas da IA, é hora de perceber que se perde muito mais do que receita quando se abre mão da experiência humana em nome da eficiência proporcionada pela IA. A boa notícia é que se pode ter o melhor dos dois mundos. Mas isso exige uma abordagem mais prática e pragmática da IA, que mantenha as pessoas no centro da estratégia.

O que se perde quando o conhecimento sai pela porta

Conhecimento operacional crítico vive nas pessoas e é aplicado por meio do julgamento humano, não sistemas. Quando essas pessoas saem, esse conhecimento sai com elas. Não importa quão sofisticado seja o modelo, a IA não pode preencher essa lacuna hoje.

Mesmo com a expansão das capacidades da IA, a automação sem um contexto rico em nuances cria pontos cegos perigosos em áreas críticas:

• Julgamento e estratégia: A intuição, o conhecimento institucional e a compreensão do mercado não se encaixam de forma organizada em conjuntos de dados, nem mesmo nos não estruturados.
• Contexto e consciência situacional: As pessoas reconhecem nuances e intenções e conseguem lidar com as áreas cinzentas em que regras rígidas podem deixar de funcionar.
• Empatia e confiança: Momentos de alto impacto ou carregados emocionalmente (especialmente aqueles envolvendo clientes ou funcionários) exigem uma resposta centrada no ser humano.
• Supervisão e responsabilização: Alguém precisa ter a responsabilidade de identificar falhas e vieses ou de se antecipar à desinformação. Simplesmente dizer «Você tem razão, vou tentar novamente» depois de fornecer informações completamente erradas não basta.
• Memória institucional e contexto dos sistemas: Entender por que as equipes construíram a infraestrutura de determinada maneira — ou por que não o fizeram —, o que já tentaram e quais casos excepcionais existem que ninguém documentou.
• Liderança e governança: Definir política, tolerância ao risco e manter limites éticos permanece uma responsabilidade fundamentalmente humana.

A IA pode revelar informações úteis, recomendar ações e acelerar a execução, mas não pode substituir a memória institucional que evita desastres nem oferecer a responsabilização que permite detectá-los antes que saiam do controle.

O que as organizações inteligentes estão fazendo de forma diferente

As organizações que têm sucesso com a IA não estão retirando as pessoas da equação. Usam a IA para simplificar processos rotineiros e repetitivos que criam atrito nas operações diárias. Assim, liberam tempo e outros recursos essenciais para que as pessoas encontrem novas formas criativas de gerar maiores benefícios para o negócio. Usam a IA como uma ferramenta para «correr junto com ela» e ampliar as capacidades humanas. Considere as operações de TI. Essas equipes já estão sobrecarregadas, gerenciando infraestruturas enormes com recursos limitados. A IA, ou talvez mais especificamente o aprendizado de máquina (ML), pode oferecer valor real nesse contexto. A IA e o ML podem automatizar tarefas rotineiras que antes consumiam muito tempo e soterravam especialistas valiosos sob o trabalho operacional: pesquisa e testes de patches, classificação de chamados, geração de fluxos de trabalho, descoberta e mapeamento de riscos.

Essas tarefas formam a base das operações de TI, mas consomem enormes quantidades de tempo, sobretudo à medida que o ambiente digital das organizações se amplia, o panorama de vulnerabilidades muda e os funcionários esperam cada vez mais experiências digitais positivas com os dispositivos que usam para trabalhar. Quando as equipes não conseguem executar bem o básico — gerenciar ou monitorar essas capacidades e processos — porque estão sobrecarregadas, as consequências são graves: indisponibilidade, patches não aplicados, vazamentos de dados e violações de segurança.

Por outro lado, quando a IA é bem utilizada para simplificar o trabalho nessas áreas, o pessoal de TI ganha tempo para fazer o que a IA não pode: reduzir a dívida técnica, melhorar os sistemas e processos existentes, reprojetar a arquitetura para aumentar a resiliência e preservar o conhecimento institucional que mantém os sistemas críticos funcionando. Isso é mais do que eficiência: é mitigação de riscos. E estabelece uma base mais sólida para o crescimento de longo prazo.

Como acertar na adoção da IA

As organizações que partem de uma aplicação e adoção criteriosas da IA, priorizando também condições seguras e eficazes para seu uso, estão obtendo — e continuarão obtendo — resultados melhores com suas estratégias de IA. A otimização não vem de cortar pessoas. Ela vem de investir nelas, redesenhando fluxos de trabalho e educando as equipes sobre como usar a IA da melhor forma.

Isso não é realmente novo. A tecnologia avança por ciclos geracionais há centenas de anos, e tendemos a repetir os mesmos erros em cada um deles. Exageramos na aposta e tentamos transformar um avanço específico em uma panaceia para todos os nossos problemas. Não faltam charlatães que se aproveitam desse desespero, prometem demais e desaparecem antes que os resultados possam ser medidos. A realidade é que a IA e o ML podem fazer o que os computadores sempre fizeram: executar determinadas tarefas com mais velocidade e precisão do que uma pessoa. Quem identificar essas oportunidades e aplicar a IA de forma pragmática, para trabalhar junto com ela, terá retornos rápidos sobre o investimento. Na prática, isso significa:

• Usar a IA para eliminar tarefas de baixo valor, não o julgamento humano de alto valor
• Projetar fluxos de trabalho com participação humana para reduzir os riscos de decisões de alto impacto
• Definir caminhos claros para encaminhar os casos aos responsáveis quando os sistemas de IA falham ou produzem resultados incertos
• Atribuir explicitamente a responsabilidade pelas decisões impulsionadas pela IA
• Treinar as equipes para examinar criticamente os resultados da IA, em vez de aceitá-los cegamente

O custo real de errar

O ciclo atual da indústria de tecnologia de demissões em massa seguidas de recontratação silenciosa não é uma mudança na distribuição de talentos. É uma transferência de riscos. As organizações estão trocando décadas de memória institucional por alguns meses de velocidade automatizada, e são os líderes de TI que ficam com a responsabilidade de administrar as consequências.

A IA oferece ganhos reais, mas eles têm mais valor quando ela é usada para preservar e ampliar a experiência, em vez de substituí-la. As empresas que continuarão prosperando na era da IA não são as que fazem os cortes mais profundos ou implantam o maior número de ferramentas de IA. São aquelas que usam a IA de forma criteriosa para automatizar a monotonia e ampliar a criatividade, a colaboração e a experiência humanas.

Porque, quando o próximo sistema falhar ou ocorrer a próxima interrupção do serviço ou o próximo incidente de cibersegurança, não se vai querer um robô ou uma máquina à frente da recuperação dos sistemas ou da comunicação com os clientes. Nesse momento, será importante — e necessário — que a pessoa com profundo conhecimento e contexto histórico ainda esteja na empresa.

Se queremos liberar todo o potencial da IA, é fundamental concentrar seu uso nas tarefas monótonas e parar de usá-la como desculpa para o mau desempenho empresarial.