Por que dados melhores, por si só, não bastam para agentes de IA

Há anos, um dos conselhos mais comuns para a IA empresarial é começar acertando os dados. A lógica é simples: se um sistema vai tomar decisões úteis, precisa de informações precisas e acessíveis para trabalhar.

Essa afirmação continua verdadeira, mas está se tornando incompleta à medida que os agentes de IA deixam de apenas responder a perguntas e gerar conteúdo e passam a agir em nome de funcionários e organizações. Os dados podem informar a um agente o que é verdade sobre um cliente, uma transação, uma reivindicação ou uma solicitação, mas não necessariamente indicam o que deve acontecer em seguida — nem quais seriam as consequências de uma ação. Essa distinção importa quando um agente deixa de simplesmente fornecer uma resposta e passa a aprovar uma solicitação, atualizar um registro, entrar em contato com um cliente ou dar andamento a um caso.

Espera-se que os funcionários de empresas aprendam a trabalhar dentro de uma estrutura que inclui cadeias de aprovação, regras de negócio, dependências, exceções e processos de escalonamento — os agentes precisam de uma maneira de fazer o mesmo. Com Gartnerprevendo que 40% dos aplicativos empresariais incluirão agentes de IA específicos para tarefas até o fim de 2026, ante menos de 5% em 2025, as lacunas de conhecimento dos agentes serão cada vez mais difíceis de ignorar. 

A Gartner também prevêque, até 2028, 80% do retorno tangível sobre o investimento em IA agêntica virá de agentes especializados e específicos de cada domínio. A especialização é importante, mas resolve apenas parte do problema. Conhecer um domínio específico não informa automaticamente ao agente onde começam e terminam suas responsabilidades, como sua tarefa se encaixa em um processo mais amplo ou quem deve assumir quando algo ultrapassa seu escopo. Para se tornarem participantes confiáveis do trabalho nas empresas, os agentes precisam tanto do contexto dos processos e fluxos de trabalho quanto dos dados de negócio.

Dados de qualidade não dizem a um agente o que acontece em seguida

Considere um pedido de empréstimo, no qual um agente pode ter acesso ao histórico financeiro do solicitante, a informações sobre seu emprego e a outros registros relevantes. Essas informações podem ajudá-lo a entender o pedido, mas não dizem ao agente como a organização o processa.

Quais verificações precisam ser feitas primeiro? O que muda quando o solicitante atende a uma condição, mas não a outra? Quais informações são obrigatórias para o caso prosseguir? Quais decisões podem ser tomadas automaticamente e quais precisam ser encaminhadas a um analista de crédito?

A maioria dos processos de trabalho nas empresas está repleta desses caminhos condicionais. Um processo pode avançar automaticamente quando determinados critérios são atendidos, parar enquanto coleta informações adicionais ou seguir por uma rota completamente diferente quando ocorre uma exceção. A próxima ação adequada depende não apenas das informações disponíveis, mas também do ponto em que o trabalho se encontra e do que já aconteceu.

Isso muda o significado de confiabilidade para um agente empresarial. Uma resposta precisa não basta se a próxima ação estiver errada. Um agente pode interpretar corretamente as informações diante dele e, ainda assim, encaminhar um caso para a etapa errada, ignorar a aprovação necessária ou agir antes que uma dependência tenha sido resolvida.

McKinseycompartilhou recentemente informações sobre seu trabalho com uma empresa de tecnologia médica que descobriu que a plataforma de IA utilizada não era capaz de dar suporte a várias de suas principais regras de fluxo de trabalho. Em vez de adiar a data de lançamento para resolver essas lacunas, a empresa seguiu conforme o planejado e acabou deixando de concretizar cerca de 30% do valor previsto da IA. Esse exemplo ressalta a necessidade de as empresas levarem em conta o processo que envolve a tarefa, e não apenas as informações necessárias para concluí-la. 

Ajuste as salvaguardas às decisões que um agente pode tomar

À medida que os agentes se tornam capazes de agir, a governança também precisa ser mais específica. Um agente que consulta um documento de políticas não representa o mesmo nível de risco que outro que altera a conta de um cliente, aprova um pagamento ou inicia uma transação. Ainda assim, as organizações podem facilmente cair em um de dois extremos: permitir que os agentes ajam com liberdade excessiva ou exigir aprovação humana para quase tudo.

Os controles aplicados a um agente devem refletir as decisões que ele pode tomar e as possíveis consequências. Pode ser adequado executar de forma independente uma ação repetitiva e de baixo risco. Outra ação talvez exija aprovação acima de determinado valor. Um caso incomum pode precisar ser encaminhado imediatamente a um funcionário.

A supervisão humana é mais útil quando é intencional. Se uma pessoa precisar aprovar cada etapa rotineira, boa parte dos benefícios da introdução de um agente desaparece. Mas eliminar pontos de controle de decisões que realmente exigem discernimento ou responsabilização cria outro problema.

IBM Research tem defendido regras explícitas sobre as ações que os agentes podem realizar e os momentos em que a supervisão humana é necessária. Esses controles também precisam levar em conta o processo do qual o agente participa. A autoridade de um agente não permanece necessariamente estática do início ao fim de um caso. O que ele pode fazer com segurança pode depender da etapa do processo, das informações já verificadas, das decisões tomadas anteriormente e das consequências da próxima ação.

Isso significa que as organizações precisam incorporar a governança ao próprio fluxo de trabalho. Em vez de atribuir a um agente um amplo conjunto de permissões e confiar nele em todas as situações, elas podem definir em que situações ele tem permissão para agir de forma independente, quando é necessário cumprir condições adicionais e quando a responsabilidade deve passar para uma pessoa. A questão, então, deixa de ser se um agente é autônomo e passa a ser em que pontos de um processo faz sentido haver autonomia.

Os agentes precisam trabalhar com a realidade atual da empresa

O contexto do processo se torna ainda mais importante quando um agente precisa interagir com o restante da empresa. As organizações não estão começando do zero. Uma única solicitação de cliente pode já passar por um CRM, um repositório de documentos, uma plataforma de gestão de casos e um sistema ERP, envolvendo funcionários de vários departamentos.

Inserir um agente em uma parte desse ambiente não torna automaticamente o processo como um todo mais eficiente. Um agente pode concluir perfeitamente sua tarefa específica, mas, se depois um funcionário precisar copiar o resultado para outro aplicativo, determinar quem precisa recebê-lo em seguida ou reiniciar o processo manualmente em outro lugar, o gargalo apenas terá mudado de lugar.

Por isso, as empresas precisam pensar nos agentes como participantes de um processo mais amplo, e não como ferramentas isoladas. O que aciona o agente? Que informações ele recebe? Pelo que ele é responsável? Para onde o trabalho segue depois que ele termina? E o que acontece quando ele não consegue concluir a tarefa?

Essas questões se tornam ainda mais importantes à medida que as organizações introduzem vários agentes especializados. Deloitte identificou a orquestração como um requisito essencial para as empresas que estão avançando rumo a sistemas multiagentes, nos quais agentes diferentes podem assumir funções distintas e coordenar o trabalho. A orquestração empresarial precisa abranger a forma como os agentes se comunicam e coordenam entre si, e não apenas como operam individualmente. Sem essa supervisão, os agentes correm o risco de agir com base em um contexto incompleto, desencadear ações conflitantes ou contornar regras de negócio e processos de aprovação estabelecidos. Os agentes continuam operando em organizações repletas de aplicativos, funcionários, regras de negócio e processos existentes, que podem durar dias, semanas ou meses.

Comece pelo processo que precisa ser concluído e determine onde os agentes, as pessoas e os sistemas existentes se encaixam. Um agente pode executar uma etapa de forma independente, outro pode realizar uma verificação especializada, um funcionário pode tomar uma decisão baseada em seu julgamento e um sistema existente pode executar a transação final. O importante é que o trabalho possa passar de um participante a outro sem perder o contexto ao longo do caminho.

A autonomia exige estrutura

Dar mais estrutura aos agentes não significa que cada ação precise de mais uma camada de restrições. Na verdade, o contrário pode ser verdadeiro. Processos claros podem dar às organizações mais confiança para determinar onde os agentes podem atuar de forma independente, pois os limites, as exceções e os pontos de escalonamento já foram definidos. Um agente não precisa de liberdade ilimitada para gerar valor significativo. Precisa de responsabilidade suficiente para fazer o trabalho avançar, contexto suficiente para saber o que vem a seguir e uma compreensão clara de quando a responsabilidade deve passar para outra pessoa.

Dados melhores continuarão ampliando a capacidade dos agentes. Mas, por si só, a capacidade não torna um agente útil dentro de uma empresa. O verdadeiro teste é saber se ele consegue tomar a ação certa, no momento certo de um processo e dentro dos limites estabelecidos pela empresa.