Se o Seu AI Está Alucinando, Não Culpe o AI

As “alucinações” do AI – aquelas respostas falsas, mas convincentes – atraem muita atenção da mídia, como no recente artigo do New York Times, O AI Está Se Tornando Mais Poderoso, Mas Suas Alucinações Estão Piorando. As alucinações são um perigo real quando você lida com um chatbot de consumidor. No contexto de aplicações comerciais de AI, é uma preocupação ainda mais séria. Felizmente, como líder de tecnologia empresarial, tenho mais controle sobre isso. Posso garantir que o agente tenha os dados certos para produzir uma resposta significativa.

Porque esse é o problema real. Nos negócios, não há desculpa para alucinações do AI. Pare de culpar o AI. Culpe-se por não usar o AI corretamente.

Quando as ferramentas de AI gerativa alucinam, elas estão fazendo o que foram projetadas para fazer – fornecer a melhor resposta possível com base nos dados disponíveis. Quando elas inventam coisas, produzindo uma resposta que não é baseada na realidade, é porque elas estão faltando os dados relevantes, não conseguem encontrá-los ou não entendem a pergunta. Sim, novos modelos como o o3 e o4-mini da OpenAI estão alucinando mais, agindo de forma ainda mais “criativa” quando não têm uma boa resposta para a pergunta que lhes foi feita. Sim, ferramentas mais poderosas podem alucinar mais – mas também podem produzir resultados mais poderosos e valiosos se as configurarmos para o sucesso.

Se você não quiser que o seu AI alucine, não o prive de dados. Alimente o AI com os melhores e mais relevantes dados para o problema que você deseja que ele resolva, e ele não será tentado a se desviar.

Mesmo assim, ao trabalhar com qualquer ferramenta de AI, recomendo manter suas habilidades de pensamento crítico intactas. Os resultados que os agentes de AI entregam podem ser produtivos e agradáveis, mas o objetivo não é desligar o cérebro e deixar o software fazer todo o pensamento por você. Continue fazendo perguntas. Quando um agente de AI lhe dá uma resposta, questione essa resposta para ter certeza de que ela faz sentido e é apoiada por dados. Se for assim, isso deve ser um sinal encorajador de que vale a pena fazer perguntas adicionais.

Quanto mais você questionar, melhores serão as percepções que você obterá.

Por Que As Alucinações Acontecem

Não é nenhum mistério. O AI não está tentando mentir para você. Todo grande modelo de linguagem (LLM) de AI é basicamente uma previsão da próxima palavra ou número com base na probabilidade.

Em um nível alto, o que está acontecendo aqui é que os LLMs constroem frases e parágrafos uma palavra de cada vez, prevendo a próxima palavra que deve ocorrer na frase com base em bilhões de outros exemplos em seus dados de treinamento. Os ancestrais dos LLMs (além do Clippy) foram prompts de autocompletar para mensagens de texto e código de computador, ferramentas de tradução de linguagem humana automatizadas e outros sistemas linguísticos probabilísticos. Com o aumento da capacidade de processamento bruto e o treinamento em volumes de dados de escala de internet, esses sistemas se tornaram “inteligentes” o suficiente para que pudessem manter uma conversa completa por chat, como o mundo aprendeu com a introdução do ChatGPT.

Os céticos do AI gostam de apontar que isso não é a mesma coisa que “inteligência” real, apenas software que pode destilar e regurgitar a inteligência humana que foi alimentada nele. Peça-lhe para resumir dados em um relatório escrito, e ele imita a forma como outros escritores resumiram dados semelhantes.

Isso me parece um argumento acadêmico desde que os dados sejam corretos e a análise seja útil.

O que acontece se o AI não tiver os dados? Ele preenche os espaços em branco. Às vezes é engraçado. Às vezes é um total desastre.

Quando se constroem agentes de AI, isso é 10 vezes o risco. Os agentes devem fornecer insights ação, mas eles tomam mais decisões no caminho. Eles executam tarefas multi-etapas, onde o resultado da etapa 1 informa as etapas 2, 3, 4, 5, … 10 … 20. Se os resultados da etapa 1 forem incorretos, o erro será amplificado, tornando a saída na etapa 20 ainda pior. Especialmente, como os agentes podem tomar decisões e pular etapas.

Feito corretamente, os agentes realizam mais para o negócio que os implanta. No entanto, como gerentes de produto de AI, devemos reconhecer o risco maior que acompanha a recompensa maior.

O que é que nossa equipe fez. Nós vimos o risco e o enfrentamos. Nós não apenas construímos um robô sofisticado; garantimos que ele execute com os dados certos. Aqui está o que acho que fizemos corretamente:

• Construa o agente para fazer as perguntas certas e verifique se ele tem os dados certos. Certifique-se de que o processo de entrada de dados inicial do agente seja realmente mais determinístico, menos “criativo”. Você quer que o agente diga quando não tiver os dados certos e não continue para a próxima etapa, em vez de inventar os dados.
• Estruture um plano de ação para o seu agente – certifique-se de que ele não invente um novo plano a cada vez, mas tenha uma abordagem semi-estruturada. Estrutura e contexto são extremamente importantes na etapa de coleta e análise de dados. Você pode deixar o agente se soltar e agir de forma mais “criativa” quando tiver os fatos e estiver pronto para escrever o resumo, mas primeiro obtenha os fatos certos.
• Construa uma ferramenta de alta qualidade para extrair os dados. Isso deve ser mais do que apenas uma chamada de API. Passe o tempo para escrever o código (as pessoas ainda fazem isso) que faz a quantidade e variedade certas de dados que serão coletados, incorporando verificações de qualidade no processo.
• Faça com que o agente mostre seu trabalho. O agente deve citar suas fontes e vincular a onde o usuário pode verificar os dados, da fonte original, e explorá-los mais a fundo. Nenhum truque é permitido!
• Guardrails: Pense no que pode dar errado e construa proteções contra os erros que você absolutamente não pode permitir. No nosso caso, isso significa que quando o agente responsável por analisar um mercado não tiver os dados – pelo qual quero dizer nossos dados do Similarweb, não alguma fonte de dados aleatória extraída da web – garantir que ele não invente nada é uma proteção essencial. Melhor para o agente não ser capaz de responder do que entregar uma resposta falsa ou enganosa.

Nós incorporamos esses princípios em nossa versão recente de nossos três novos agentes, com mais a seguir. Por exemplo, nosso Agente de Preparação de Reunião de AI para vendedores não apenas pede o nome da empresa-alvo, mas detalhes sobre o objetivo da reunião e com quem é, preparando-o para fornecer uma resposta melhor. Ele não precisa adivinhar porque usa uma riqueza de dados de empresa, dados digitais e perfis executivos para informar suas recomendações.

Nossos agentes são perfeitos? Não. Ninguém está criando AI perfeito ainda, nem mesmo as maiores empresas do mundo. Mas enfrentar o problema é um inferno melhor do que ignorá-lo.

Quer menos alucinações? Dê ao seu AI um pedaço de dados de alta qualidade.

Se ele alucinar, talvez não seja o AI que precisa ser consertado. Talvez seja sua abordagem para aproveitar essas capacidades poderosas sem colocar tempo e esforço para fazê-las corretamente.