Se o seu funcionário agisse como IA, você já o teria demitido.

Imagine que você acabou de contratar alguém novo e, na maioria dos dias, ele é eficiente, conhecedor, articulado e confiante. Ele é tudo o que você esperava, demonstrando muitas das qualidades de um ótimo funcionário.

Agora imagine que, de vez em quando, ao se deparar com uma pergunta cuja resposta não conhece, ele simplesmente inventa algo. É fluente, convincente, então a princípio você aceita como verdade. Mas quando isso tem consequências para o negócio, você volta ao funcionário, o confronta – e ele não consegue explicar seu raciocínio nem compartilhar seus procedimentos. Você pode até explicar que ele está errado, e ele insiste no contrário, criando mais invenções para sustentar sua posição. Depois da segunda ou terceira vez que isso acontece, você provavelmente o teria demitido, ou ao menos lhe dado um aviso? A resposta da maioria dos empregadores é quase certamente sim.

Acho surpreendente que as empresas hoje entreguem fluxos de trabalho críticos e decisões a um ‘funcionário’ que se sabe apresentar exatamente esse comportamento. A única razão de isso passar despercebido é que esse ‘funcionário’ é um software, não uma pessoa.

Por que a IA não falha da mesma forma que as pessoas

Existe uma suposição comum e equivocada entre as empresas que implementam IA de que, se a tecnologia tem uma taxa de erro, isso é praticamente o mesmo problema que o erro humano e pode ser gerenciado da mesma forma. Mas verificações, revisões e escalonamentos nem sempre funcionam com grandes modelos de linguagem (LLMs). Eles são feitos para soar como humanos, mas se você observar o que está por trás, verá que não operam como nós de forma alguma.

Se um funcionário exemplar comete um erro, presumimos que o equívoco foi genuíno – ele estava fazendo o melhor e escorregou. Isso acontece. Se ele inventa deliberadamente uma resposta para fugir de não saber algo, e faz isso repetidamente, consideramos isso má conduta. Os gestores sabem onde concentrar sua supervisão, pois a dificuldade e as margens de erro coincidem. Eles podem pedir ao funcionário que explique seu raciocínio e questioná‑lo a respeito. O funcionário geralmente reconhece quando está fora de sua competência e admite isso. E após um erro, ele aprende, de modo que o mesmo engano não se repete em um ciclo constante.

Os sistemas de IA invertem todas essas suposições. Sua resposta padrão ao fracasso é uma invenção fluente e confiante. Eles gerarão uma resposta plausível que é simplesmente falsa, comportamento que encerraria a carreira de um ser humano. Os LLMs são projetados para produzir a continuação estatisticamente mais provável de um trecho de texto e, quando não sabem a resposta, frequentemente produzem algo que soa como se pudesse estar correto. Pesquisadores da própria OpenAI reconheceram que algum nível de erro factual é uma inevitabilidade estatística de como esses modelos funcionam, e que o treinamento recompensa um palpite confiante em vez de uma admissão honesta de incerteza.

Onde as abordagens neuro-simbólicas entram

É exatamente isso que as abordagens neuro-simbólicas foram projetadas para corrigir. Elas combinam redes neurais, que são excelentes em compreender linguagem e dados do mundo real caóticos, com raciocínio determinístico baseado em regras. Isso significa que as conclusões de um sistema decorrem de lógica explícita que pode ser inspecionada, em vez de emergirem de um processo que ninguém pode ver internamente.

Sem essa camada adicional de lógica que a tecnologia neuro-simbólica fornece, os erros da IA não se correlacionam com a dificuldade do trabalho como ocorre com os erros humanos – são imprevisíveis. Eles podem surgir em tarefas triviais enquanto os trabalhos difíceis são concluídos sem problemas, dificultando a identificação de onde concentrar a supervisão humana. Suas explicações, quando fornecidas, são geradas retroativamente, em vez de oferecer um relato verdadeiro de como chegaram a uma conclusão. O mesmo erro pode se repetir indefinidamente, pois não há ninguém dentro do sistema para aprender com ele ou ser responsabilizado por isso.

Confiança sem compreensão

Pesquisadores documentaram que, quando as pessoas são novas em um sistema, tendem a abandoná‑lo após um único erro visível; mas quando se trata de um sistema familiar, elas vão ao extremo oposto – aceitando seus resultados simplesmente porque se acostumaram com eles, não porque esses resultados se tornaram mais confiáveis. O que raramente se observa é o nível adequado de confiança, pois isso depende das pessoas entenderem quando um sistema de IA provavelmente está errado e serem capazes de reconhecer quando isso ocorre.

Isso não significa que a IA não deva ser confiada a trabalhos importantes. Significa que temos estado dispostos a conceder a ela um tipo de confiança que não concederíamos a uma pessoa, em parte porque não há um indivíduo evidente a ser responsabilizado quando falha.

Se a IA for assumir trabalhos baseados em julgamento da mesma forma que um colega valorizado, ela precisa atender aos mesmos padrões básicos. As respostas precisam ser verificáveis, com raciocínio visível, e aceitar o fato de que, às vezes, a melhor coisa que pode fazer é dizer “não sei”.