Eles Prometeram-Nos Agentes, mas Tudo o que Conseguimos Foram Cadeias Estáticas

Na primavera de 2023, o mundo ficou animado com o surgimento de agentes de IA baseados em LLM. Demos poderosos como AutoGPT e BabyAGI demonstraram o potencial dos LLMs executando em um loop, escolhendo a próxima ação, observando os resultados e escolhendo a próxima ação, um passo de cada vez (também conhecido como o framework ReACT). Esse novo método era esperado para alimentar agentes que realizassem tarefas multi-etapas de forma autônoma e genérica. Dê-lhe um objetivo e um conjunto de ferramentas e ele cuidará do resto. No final de 2024, o cenário estaria cheio de agentes de IA e frameworks de construção de agentes. Mas como eles se medem em relação à promessa?

É seguro dizer que os agentes alimentados pelo framework ReACT ingênuo sofrem de limitações graves. Dê-lhes uma tarefa que exija mais de alguns passos, usando mais de algumas ferramentas e eles falharão miseravelmente. Além de seus problemas de latência óbvios, eles perderão o rumo, falharão em seguir as instruções, pararão cedo demais ou pararão tarde demais e produzirão resultados muito diferentes a cada tentativa. E não é de se admirar. O framework ReACT leva as limitações dos LLMs imprevisíveis e as compõe pelo número de passos. No entanto, os construtores de agentes que buscam resolver casos de uso do mundo real, especialmente nas empresas, não podem se contentar com esse nível de desempenho. Eles precisam de resultados confiáveis, previsíveis e explicáveis para fluxos de trabalho multi-etapas complexos. Eles precisam de sistemas de IA que mitiguem, em vez de exacerbar, a natureza imprevisível dos LLMs.

Então, como os agentes são construídos nas empresas hoje? Para casos de uso que exigem mais de algumas ferramentas e alguns passos (por exemplo, RAG conversacional), os construtores de agentes abandonaram amplamente a promessa dinâmica e autônoma do ReACT para métodos que dependem fortemente da cadeia estática – a criação de cadeias pré-definidas projetadas para resolver um caso de uso específico. Essa abordagem se assemelha à engenharia de software tradicional e está longe da promessa de agente do ReACT. Ela alcança níveis mais altos de controle e confiabilidade, mas carece de autonomia e flexibilidade. As soluções são, portanto, intensivas em desenvolvimento, estreitas em aplicação e muito rígidas para lidar com altos níveis de variação no espaço de entrada e no ambiente.

Para ter certeza, as práticas de cadeia estática podem variar em quanto elas são “estáticas”. Algumas cadeias usam LLMs apenas para realizar passos atômicos (por exemplo, para extrair informações, resumir texto ou redigir uma mensagem) enquanto outras também usam LLMs para tomar algumas decisões dinamicamente em tempo de execução (por exemplo, um LLM roteando entre fluxos alternativos na cadeia ou um LLM validando o resultado de um passo para determinar se ele deve ser executado novamente). Em qualquer caso, desde que os LLMs sejam responsáveis por qualquer tomada de decisão dinâmica na solução – estamos inevitavelmente presos em um tradeoff entre confiabilidade e autonomia. Quanto mais uma solução é estática, é mais confiável e previsível, mas também menos autônoma e, portanto, mais estreita em aplicação e mais intensiva em desenvolvimento. Quanto mais uma solução é dinâmica e autônoma, é mais genérica e simples de construir, mas também menos confiável e previsível.

Esse tradeoff pode ser representado no seguinte gráfico:

Isso levanta a pergunta, por que ainda não vimos um framework de agente que possa ser colocado no quadrante superior direito? Estamos condenados a negociar confiabilidade por autonomia para sempre? Não podemos ter um framework que forneça a interface simples de um agente ReACT (pegue um objetivo e um conjunto de ferramentas e figure-o) sem sacrificar a confiabilidade?

A resposta é – podemos e vamos! Mas para isso, precisamos realizar que estamos fazendo tudo errado. Todos os atuais frameworks de construção de agentes compartilham uma falha comum: eles dependem dos LLMs como o componente dinâmico e autônomo. No entanto, o elemento crucial que estamos faltando – o que precisamos para criar agentes que sejam autônomos e confiáveis – é a tecnologia de planejamento. E os LLMs NÃO são grandes planejadores.

Mas primeiro, o que é “planejamento”? Por “planejamento” queremos dizer a capacidade de modelar explicitamente cursos de ação alternativos que levam a um resultado desejado e de explorar e explorar essas alternativas sob restrições orçamentárias. O planejamento deve ser feito em ambos os níveis macro e micro. Um plano macro divide uma tarefa em passos dependentes e independentes que devem ser executados para alcançar o resultado desejado. O que é frequentemente negligenciado é a necessidade de planejamento micro voltado para garantir resultados desejados no nível de passo. Existem muitas estratégias disponíveis para aumentar a confiabilidade e alcançar garantias no nível de passo único usando mais computação em tempo de inferência. Por exemplo, você pode parafrasear consultas de busca semântica múltiplas vezes, pode recuperar mais contexto por consulta dada, pode usar um modelo maior e pode obter mais inferências de um LLM – tudo resultando em resultados mais satisfatórios para as necessidades, dos quais escolher o melhor. Um bom planejador micro pode usar eficientemente a computação em tempo de inferência para alcançar os melhores resultados sob um orçamento de computação e latência dado. Para dimensionar o investimento de recursos conforme necessário pelo caso de uso específico. Dessa forma, sistemas de IA planejados podem mitigar a natureza probabilística dos LLMs para alcançar resultados garantidos no nível de passo. Sem essas garantias, estamos de volta ao problema de erro composto que minará mesmo o melhor plano de nível macro.

Mas por que os LLMs não podem servir como planejadores? Afinal, eles são capazes de traduzir instruções de alto nível em correntes de pensamento razoáveis ou planos definidos em linguagem natural ou código. A razão é que o planejamento exige mais do que isso. O planejamento exige a capacidade de modelar cursos de ação alternativos que possam razoavelmente levar ao resultado desejado E de raciocinar sobre a utilidade esperada e os custos esperados (em computação e/ou latência) de cada alternativa. Embora os LLMs possam potencialmente gerar representações dos cursos de ação disponíveis, eles não podem prever sua utilidade e custos correspondentes. Por exemplo, quais são a utilidade e os custos esperados de usar o modelo X versus o modelo Y para gerar uma resposta por um contexto particular? Qual é a utilidade esperada de procurar uma peça específica de informação no corpus de documentos indexados versus uma chamada de API para o CRM? Seu LLM não começa a ter uma ideia. E por boa razão – traços históricos dessas características probabilísticas raramente são encontrados na natureza e não estão incluídos nos dados de treinamento dos LLMs. Eles também tendem a ser específicos do ambiente de ferramenta e dados em que o sistema de IA operará, ao contrário do conhecimento geral que os LLMs podem adquirir. E mesmo se os LLMs pudessem prever a utilidade e os custos esperados, raciocinar sobre eles para escolher o curso de ação mais eficaz é uma dedução lógica decisional, que não pode ser assumida como sendo realizada de forma confiável pelas previsões de token seguinte dos LLMs.

Então, quais são os ingredientes em falta para a tecnologia de planejamento de IA? Precisamos de modelos de planejador que possam aprender com experiência e simulação para modelar explicitamente cursos de ação alternativos e probabilidades de utilidade e custo por uma tarefa específica em um ambiente de ferramenta e dados específico. Precisamos de uma Linguagem de Definição de Plano (PDL) que possa ser usada para representar e raciocinar sobre os cursos de ação e probabilidades mencionados. Precisamos de um mecanismo de execução que possa executar de forma determinística e eficiente um plano dado definido em PDL.

Algumas pessoas já estão trabalhando arduamente para cumprir essa promessa. Até lá, continue construindo cadeias estáticas. Apenas por favor, não as chame de “agentes”.