Babak Hodjat, Diretor de IA da Cognizant: Uma Conversa de Retorno

Babak Hodjat, Diretor de IA da Cognizant, lidera os Laboratórios de Pesquisa em IA da empresa, onde seu trabalho abrange IA agente, computação evolutiva, inteligência distribuída e o desenvolvimento de sistemas de IA projetados para implantação em larga escala nas empresas. Pesquisador de IA de longa data, inventor e empreendedor, Hodjat co‑fundou anteriormente a Sentient Technologies, onde ajudou a construir um dos maiores sistemas de IA distribuídos do mundo, e anteriormente co‑fundou a Dejima, desenvolvendo tecnologia de linguagem natural orientada a agentes que contribuiu para as bases do Siri da Apple.

Quando conversamos anteriormente com Babak Hodjat, nossa discussão explorou sua carreira em IA, abordagens evolutivas para a tomada de decisão complexa, o trabalho da Cognizant aplicando IA a desafios climáticos e de uso da terra, e a crescente democratização da IA nas empresas. Nesta conversa de acompanhamento, o foco se volta para a rapidamente emergente empresa agente. Baseando‑se em temas de seu livro recente, The Agentic Enterprise, Hodjat examina por que a arquitetura pode ser mais importante que a capacidade do modelo, como as organizações podem coordenar redes cada vez mais complexas de agentes de IA, onde a confiança e governança centralizadas se encaixam em ecossistemas de agentes descentralizados, e o que ainda precisa mudar antes que sistemas autônomos possam gerenciar de forma confiável objetivos de longo prazo com intervenção humana mínima.

Sua carreira abrange alguns dos primeiros trabalhos em agentes inteligentes, desde a tecnologia de linguagem natural da Dejima que ajudou a inspirar a Siri até a construção de sistemas massivos de IA distribuída na Sentient e agora atuando como Diretor de IA na Cognizant. Como a sua definição de “agente de IA” evoluiu ao longo dessa trajetória, e o que os desenvolvedores de hoje podem aprender com essas gerações anteriores de sistemas baseados em agentes?

A definição permaneceu a mesma, mas as capacidades dos agentes hoje fazem com que muitas das funções básicas de um agente que precisávamos codificar nos anos 90 estejam disponíveis prontamente com LLMs. É por isso que agentes baseados em LLM são o padrão atualmente, e quando as pessoas falam sobre agentes, assumem que há um LLM conduzindo sua interface e raciocínio.

No seu livro recente, The Agentic Enterprise, você argumenta que os sistemas de IA corporativa frequentemente têm sucesso ou fracassam devido à sua arquitetura, e não à capacidade bruta do modelo subjacente. O que as empresas estão fazendo de errado ao assumir que atualizar para um modelo mais poderoso resolverá seus problemas de IA agente?

Assim como arreios (ou seja, partes de um agente que não são LLM) podem fazer ou quebrar um agente de codificação, a arquitetura de um sistema multiagente é crítica para seu sucesso. Isso ocorre porque a arquitetura reflete o contexto no qual os agentes devem operar – algo semelhante à estrutura que sustenta a empresa agente. Sem ela, os agentes permanecem desconectados das realidades das operações empresariais, dados, fluxos de trabalho e processos. Isso é parcialmente análogo à estrutura organizacional de um negócio, que inclui descrições de cargos, definições de processos e protocolos de comunicação para os funcionários.

Você enfatizou que o sistema circundante, incluindo controles de acesso, responsabilidade, orquestração, observabilidade e supervisão, pode ser mais importante que o próprio modelo. O que uma arquitetura agente pronta para produção realmente precisa, que a maioria das implantações de prova de conceito ainda não possui?

Provas de conceito (PoC) costumam ser pouco fundamentadas, portanto, inicialmente, precisamos que os agentes operem em um ambiente onde tenham acesso aos dados internos e às aplicações da empresa. Perguntas importantes precisam ser feitas, como quais dados e aplicações estamos dispostos a permitir que os agentes acessem, e quais decisões nos sentimos confortáveis em deixar os agentes tomar, de modo que o sistema seja seguro e protegido, enquanto os ganhos de qualidade e produtividade que esperamos ainda possam ser alcançados? É difícil determinar a resposta a essas perguntas em um cenário de PoC. Além disso, limites de segurança e supervisão só podem ser significativos quando um sistema agente opera em conjunto com outros processos humanos ou agentes dentro da empresa. O sandboxing, portanto, é um passo importante no processo de transição eficaz de uma PoC para a implantação.

A Cognizant descreveu o surgimento de um “Sistema Operacional de Agentes” para coordenar redes de agentes de IA. Quais funções essa camada deve desempenhar, e você espera que a orquestração de agentes eventualmente se torne tão fundamental para a computação empresarial quanto os sistemas operacionais e plataformas de nuvem são hoje?

A coordenação de agentes é importante: se for muito rígida, seu sistema se degrada e se torna frágil. Se for muito aberta, com a coordenação totalmente delegada ao agente, corre-se o risco de tornar a tarefa do agente excessivamente complexa ou arriscada. Um bom mecanismo de coordenação permite que os agentes formem equipes espontaneamente em resposta a diversas situações, resultando em uma disciplina organizacional robusta e fluida. Sou defensor da coordenação distribuída. Isso é análogo a capacitar uma organização humana com algum nível de autoridade sobre seu domínio de responsabilidade. Quando um contexto se apresenta, os membros da organização comunicam‑se e coordenam‑se através da estrutura organizacional para determinar os indivíduos responsáveis por lidar com a situação, e a resposta é coletada, coordenada e consolidada entre os nós organizacionais. A boa notícia é que controles estritos e salvaguardas podem ser aplicados a sistemas agenticos de modo que essa flexibilidade não resulte em comportamento arriscado.

Acredito que, assim como o MCP se tornou rapidamente um padrão de fato para acesso a aplicações agenticas, os protocolos de coordenação também surgirão e se tornarão padronizados em plataformas agenticas para permitir processos multi‑agente espontâneos entre fronteiras de sistemas agenticos. Sistemas operacionais e plataformas de nuvem provavelmente não são a melhor analogia aqui; ao contrário, padrões amplamente acordados para definição multi‑agente e protocolos de coordenação precisarão emergir para permitir maior penetração e florescimento da agentificação nas empresas.

À medida que as empresas passam de copilotos individuais para redes contendo dezenas ou até centenas de agentes especializados, como as organizações devem decidir quais responsabilidades pertencem a agentes individuais e quais devem permanecer centralizadas?

Assim como o firewall da internet e os mecanismos de segurança, o estabelecimento de confiança por meio de auditoria em tempo real contra políticas e a aplicação de limites em sistemas agenticos devem ser uma função centralizada dentro de um negócio, definida e mantida por uma única entidade na empresa. Todos os demais sistemas agenticos podem ser provisionados ou implementados de forma descentralizada, mas esses sistemas precisarão se registrar no sistema de confiança para serem autorizados a operar.

A Cognizant implantou internamente um sistema multi‑agente que conecta aproximadamente 200 agentes em uma organização de cerca de 350 000 funcionários. O que operar nessa escala revelou sobre IA agentica que seria difícil descobrir por meio de pilotos menores?

Precisamos projetar para escalabilidade, extensibilidade, eficiência de custos e tempos de resposta razoáveis. Em projetos dessa magnitude, costuma‑se ter que inventar coisas que simplesmente não são necessárias em pequenos sistemas agenticos contidos, com poucos usuários. Por exemplo, é preciso tornar a coordenação inter‑agente personalizada e eficiente, evitando etapas extras e custos adicionais. Além disso, o sistema deve ser capaz de incorporar aplicativos desenvolvidos sob medida, bem como sistemas e agentes de terceiros, de modo que a interoperabilidade seja importante e possa economizar tempo e dinheiro.

Quando agentes autônomos podem chamar APIs, acessar sistemas empresariais, comunicar‑se com outros agentes e executar ações em velocidade de máquina, a governança tradicional de IA torna‑se muito mais difícil. Onde a supervisão humana deve permanecer obrigatória e onde as organizações podem permitir que os agentes operem de forma independente com segurança?

Acho que o determinante final de onde a supervisão humana é necessária e obrigatória é a confiança. À medida que esses sistemas se tornam mais confiáveis, concederemos a eles mais autonomia e, a menos que seja exigido por lei (por exemplo, devido à falta de personalidade jurídica para IA), nos sentiremos confortáveis em delegar decisões aos agentes. Medir confiança e risco, portanto, é importante e pode ajudar a traçar a linha entre autonomia e supervisão humana — uma linha que pode começar a se mover à medida que esses sistemas se tornam mais confiáveis e menos arriscados de operar autonomamente.

Grande parte de sua pesquisa anterior se concentrou em computação evolutiva e sistemas que melhoram por meio de seleção e adaptação. Como abordagens evolutivas podem complementar grandes modelos de linguagem e aprendizado por reforço ao tentarmos construir agentes que possam melhorar continuamente, em vez de simplesmente executar fluxos de trabalho predefinidos?

O mainstream em IA hoje é dominado por abordagens de gradiente descendente, que são uma forma de busca em subida de colina que não é muito criativa. A computação evolutiva é altamente eficiente na exploração de espaços de busca complexos e pode complementar as abordagens convencionais. Nosso laboratório, por exemplo, teve um avanço recente nesse sentido: conseguimos demonstrar que Estratégias Evolutivas são superiores ao Aprendizado por Reforço para a maioria dos pós‑treinamentos de LLMs, resultando em modelos de qualidade igual ou superior a custos muito menores. Abordagens evolutivas também podem ajudar no Treinamento em Tempo de Teste, que visa permitir que LLMs aprendam após a implantação.

A pesquisa da Cognizant explorou ambientes onde agentes interagentes desenvolvem cooperação, competição, conhecimento compartilhado e até estratégias enganosas. À medida que os sistemas multi‑agente se tornam mais complexos, o comportamento emergente pode se tornar um dos maiores desafios para manter a IA empresarial previsível e alinhada aos objetivos organizacionais?

Isso já é o caso, como evidenciado pelo muito divulgado incidente recente entre OpenAI/Hugging Face. Podemos pensar que agentes, confinados aos seus prompts e contextos, e utilizando LLMs que não aprendem em tempo de execução, permanecerão mais ou menos consistentes em seu comportamento. No entanto, o fato é que o ambiente e as motivações de um agente podem mudar, frequentemente como resultado das próprias ações do agente no ambiente, resultando em comportamento inesperado. Isso é ainda mais provável de acontecer à medida que múltiplos agentes interagem, e, portanto, é fundamental que observemos agentes autônomos em ambientes de sandbox seguros para que possamos determinar o escopo e a escala de suas tendências emergentes, e levar isso em conta em nossos projetos e salvaguardas agentivas. Nosso sistema publicamente disponível, TerraLingua, onde você pode introduzir agentes, artefatos e até personificar agentes e observar seu comportamento individual e coletivo, é um passo nessa direção.

Olhando além da onda atual de IA agente, qual avanço tecnológico ou mudança arquitetural você acredita que ainda falta antes que possamos construir sistemas de IA capazes de gerenciar de forma confiável objetivos complexos e de longa duração com intervenção humana mínima?

Muitas das limitações dos agentes atuais decorrem das limitações do estado da arte em IA. Os LLMs são praticamente fixos após o treinamento e não podem ‘mudar de ideia’ sobre as coisas à medida que encontram novas informações. Os LLMs são tudo e todos ao mesmo tempo, e por isso precisam ser preparados com contexto e prompts, sendo bastante sensíveis a essa preparação. Os LLMs têm janelas de contexto limitadas e precisam receber tudo novamente para cada palavra que produzem ou ação que executam. Em nível de múltiplos agentes, acredito que precisamos de protocolos de coordenação distribuída amplamente aceitos, salvaguardas de confiança e políticas, e sistemas de arbitragem de transações para que o futuro agente alcance todo o seu potencial.

Obrigado pela ótima entrevista, leitores que desejam saber mais devem visitar Cognizant ou nossa nossa entrevista anterior.