Quando o Modelo Não é o Problema e o Processo Está Errado

Imagine um cenário comum nos serviços financeiros. Uma equipe implanta inteligência artificial para revisar contratos: centenas de páginas, cláusulas repetitivas e trabalho rotineiro que normalmente leva dias para os funcionários. O modelo identifica os riscos e referências para parágrafos corretos. No entanto, a saída não soma.

Descobre-se que o problema está na pasta de contratos, onde os arquivos estão lado a lado com nomes como contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx e contract_finalfinal_THIS_ONE.docx.

A inteligência artificial selecionou o arquivo mais recentemente salvo. No entanto, esse arquivo era uma versão mais antiga que alguém havia aberto e salvo automaticamente na semana anterior.

O modelo fez exatamente o que foi projetado para fazer. O processo, no entanto, o deixou para trás.

Quando o Modelo Não é o Problema

Em meu artigo anterior, argumentei que as falhas de inteligência artificial frequentemente começam fora do modelo – nas estruturas de governança, propriedade e tomada de decisões que o rodeiam. No entanto, a governança é apenas parte do problema. Mesmo um sistema de inteligência artificial bem governado lutará se o processo subjacente depende de documentos desatualizados, exceções informais ou caminhos de aprovação projetados para um ritmo de trabalho muito mais lento.

Quando um sistema de inteligência artificial produz um resultado ruim, o modelo é geralmente o primeiro suspeito. Talvez ele tenha “sonhado”, mal-entendido a tarefa ou recebido um prompt fraco. Mas às vezes o modelo fez exatamente o que foi projetado para fazer. A falha ocorreu no processo que forneceu suas informações ou na organização que não pôde agir sobre sua saída.

Implantar inteligência artificial revela problemas de processo que sempre existiram, mas nunca foram visíveis – como uma ferramenta de diagnóstico. Isso expõe fraquezas que as pessoas anteriormente compensavam sem pensar: contexto ausente, propriedade não clara e soluções informais que nunca foram documentadas.

Velocidade Sem Capacidade

A inteligência artificial não apenas acelera a saída. Ela também acelera as escaladas, solicitações de decisões e a descoberta de problemas. Um modelo sinaliza uma anomalia em tempo real, não na sexta-feira à tarde, quando alguém finalmente encontra tempo para revisar os logs.

As organizações não estão preparadas para esse ritmo. Processos de aprovação, caminhos de escalada, autoridade de tomada de decisões – tudo isso foi calibrado para a velocidade humana. Quando a inteligência artificial produz saídas mais rápido do que a organização pode absorver, três coisas podem acontecer:

• A inteligência artificial aguarda uma decisão, apagando o ganho de eficiência.
• Os funcionários ignoram sua saída e retornam ao que acreditam que funciona – o antigo processo.
• Os funcionários empurram decisões para a frente sem verificar adequadamente porque se sentem pressionados a manter a velocidade.

Alguns funcionários retornam a verificações manuais porque essas se sentem mais seguras. Outros aprovam resultados que não tiveram tempo de verificar porque se sentem pressionados a manter a velocidade prometida pela tecnologia. Em ambos os casos, a organização paga por uma saída mais rápida sem se tornar mais rápida para tomar decisões responsáveis.

A propriedade também pode se tornar confusa. Quem é responsável por revisar uma anomalia sinalizada, decidir se o modelo está errado e escalar o problema quando várias equipes estão envolvidas? Sem uma resposta clara, a inteligência artificial continua executando em segundo plano, produzindo saídas que ninguém verdadeiramente possui.

Isso reflete um problema organizacional mais amplo. Como uma análise da Forbes de fins de 2025 observou, quando a tecnologia muda os fluxos de trabalho mais rápido do que uma organização pode absorver, o resultado não é eficiência; é sobrecarga de trabalho. A inteligência artificial pode acelerar uma etapa de um processo, mas seu valor ainda depende de se a organização circundante pode absorver e agir sobre o que ela produz.

O Conhecimento Silencioso que Ninguém Escreveu

Imagine que Martin sabe que o contrato da empresa com um fornecedor inclui uma exceção para pagamentos abaixo de €2.000. Foi acordado verbalmente há três anos, mas nunca foi documentado. Quando a empresa implanta inteligência artificial para automatizar aprovações de pagamento, o sistema bloqueia o pagamento – corretamente, de acordo com o contrato escrito.

Isso é conhecimento tácito: conhecimento organizacional que vive nas cabeças das pessoas, e não nos sistemas. Toda empresa tem isso. E a maioria das empresas não tem ideia de quanto conhecimento tácito elas possuem.

A inteligência artificial só pode usar conhecimento que foi tornado acessível a ela. A exceção de Martin não existe do ponto de vista do sistema. Sem esse contexto, sua decisão pode ser tecnicamente correta, mas operacionalmente errada.

A McKinsey identificou o mesmo desafio em implantações de inteligência artificial agente. Construir agentes de inteligência artificial eficazes exige que as empresas codifiquem práticas de especialistas que podem existir em procedimentos padrão – ou apenas como conhecimento tácito nas cabeças dos funcionários. Em outras palavras: a implantação de inteligência artificial pode ser a primeira vez que uma organização vê quanto o processo depende do que Martin sabe.

A Fonte Falsa de Verdade

A saída de inteligência artificial mais perigosa não é sempre uma resposta obviamente incorreta. Pode ser uma resposta credível, profissionalmente apresentada, produzida a partir de informações desatualizadas.

Durante anos, muitos departamentos operaram com múltiplas versões do mesmo documento porque Jane, do departamento jurídico, sempre sabia qual era a versão autoritativa. Infelizmente, a inteligência artificial não.

A menos que tenha recebido regras para distinguir entre versões, o sistema não tem motivo para questionar o documento que recebe. E assim a revisão de inteligência artificial é executada corretamente – no documento errado. Isso pode ser pior do que não ter revisão alguma, porque a saída parece credível.

Um funcionário experiente pode saber onde está a verdade e pode navegar pelo caos. No entanto, um sistema precisa de uma maneira confiável de identificar qual informação é atual, aprovada e relevante.

Conhecimento tácito, documentos não confiáveis e processos de aprovação construídos para saídas de velocidade humana parecem ser problemas separados. No entanto, eles compartilham a mesma causa raiz. Nenhum deles foi criado pela inteligência artificial, mas a inteligência artificial os torna mais difíceis de ignorar.

Perguntas para Responder Antes de Construir um Agente

Antes de implantar um agente de inteligência artificial, uma organização deve ser capaz de responder a três perguntas.

Quais decisões dependem de conhecimento que nunca foi documentado?

Isso significa identificar as exceções, atalhos e julgamentos que funcionários experientes aplicam sem descrevê-los conscientemente. Entrevistas sozinhas podem não revelar todo esse conhecimento. As organizações podem precisar observar como o trabalho é realizado e compará-lo com o processo oficial.

Como o sistema identificará informações atuais, aprovadas e relevantes?

Dar ao agente acesso a mais documentos não resolve o problema se ele não puder distinguir um contrato aprovado de um rascunho ou uma política ativa de uma desatualizada. Versão, propriedade, status de aprovação e regras de retenção devem ser claras o suficiente para o sistema identificar qual fonte deve governar sua decisão.

Os processos de aprovação e escalada existentes podem absorver o volume e a velocidade de sua saída?

As equipes devem estimar não apenas quanto trabalho o agente pode completar, mas também quantas revisões, exceções e escaladas esse trabalho pode criar. O Quadro de Gerenciamento de Risco de Inteligência Artificial da NIST recomenda definir claramente papéis e responsabilidades para a supervisão humana de sistemas de inteligência artificial. Esses precisam ser projetados para o volume esperado antes que o sistema seja implantado – e não depois que os funcionários se tornem sobrecarregados por ele.

Essas não são perguntas para responder uma vez e esquecer. Os processos mudam, os documentos envelhecem e as exceções não documentadas se acumulam novamente. Portanto, a prontidão precisa ser mantida, e não apenas estabelecida antes do lançamento.

A Prontidão para Inteligência Artificial Começa com o Processo

A prontidão para inteligência artificial não é apenas um teste da tecnologia. É um teste de se a organização tornou seus próprios processos explícitos o suficiente para a tecnologia operar dentro deles.

Preparar uma organização para inteligência artificial, portanto, envolve mais do que selecionar um modelo ou construir um agente. Isso significa esclarecer a propriedade, identificar informações autoritativas, documentar exceções e redesenhar como as saídas são revisadas, escaladas e agidas.

Isso é um trabalho difícil, mas uma implantação falha eventualmente forçará a organização a fazê-lo de qualquer forma. A única variável é o timing.