Jayant Swamy, Arquiteto Corporativo Chefe na Genpact – Série de Entrevistas

Jayant Swamy, Arquiteto Corporativo Chefe na Genpact, é um líder em tecnologia e dados com mais de duas décadas de experiência que abrangem arquitetura corporativa, inteligência artificial, engenharia de dados, tecnologias de nuvem e transformação digital em grande escala. Antes de ingressar na Genpact em 2024, atuou como CTO e Arquiteto Chefe na Xtrac8.Tech e como CTO e cofundador de uma startup de IA focada em tecnologias como IA generativa e grandes modelos de linguagem. Swamy passou mais de uma década na Accenture, onde seus cargos de liderança incluíram CTO, Líder Global e Diretor Gerente Global do Institute of Applied Intelligence, Diretor Gerente e Líder Global de Negócios para a área Data on Cloud, além de Arquiteto Chefe de Dados e Líder Global de Engenharia de Dados e Inovação em Dados. No início de sua carreira, trabalhou mais de sete anos na Fannie Mae supervisionando iniciativas de tecnologia e informação de negócios relacionadas a serviços e gestão de perdas de crédito, após vários anos como Senior Principal na Oracle (ORCL ).

Genpact é uma empresa global de tecnologia e serviços de negócios focada em ajudar organizações a transformar operações complexas por meio de inteligência artificial, dados, inteligência de processos e expertise setorial. A empresa tem origem em uma iniciativa de 1997 dentro da GE Capital, tornou‑se independente em 2005 e abriu capital na Bolsa de Valores de Nova Iorque em 2007. Hoje, a Genpact trabalha com organizações de diversos setores, incluindo bancos, seguros, finanças, cadeia de suprimentos, bens de consumo, saúde e tecnologia, com ênfase crescente em IA generativa, sistemas agentes, automação e operações empresariais habilitadas por IA.

Sua carreira o levou de cargos de arquitetura corporativa e liderança de dados na Oracle, Fannie Mae e Accenture para ambientes de startups e sua posição atual como Arquiteto Corporativo Chefe na Genpact. Como essa experiência moldou sua visão sobre onde a autonomia da IA cria valor real para a empresa e onde o julgamento humano continua essencial? 

Ao longo da minha carreira, aprendi que escala, governança, integração e risco são tão importantes quanto a inovação. A experiência corporativa mostra que tecnologia impressionante ainda falha se não conseguir operar dentro da organização; as startups reforçam o valor de agir rapidamente, experimentar e manter a arquitetura simples e adaptável. A autonomia da IA funciona melhor quando combinamos ambas as mentalidades — inovar em velocidade enquanto mantemos bases sólidas. Dessa forma, a IA pode realmente transformar como o trabalho flui em uma organização. As conclusões da nossa pesquisa recente reforçam esse ponto claramente.

O modelo em si é apenas uma parte da equação. A arquitetura ao redor — dados, sistemas, fluxos de trabalho, controles e integrações — determina se a IA gera valor em escala. É isso que queremos dizer com “nenhuma inteligência artificial sem inteligência de processos”. Essa também é a premissa do nosso trabalho de IA aplicada nos Genpact Labs, onde pegamos capacidades emergentes de IA e as transformamos em soluções prontas para produção e para o cliente. Cada capacidade está vinculada a um resultado de negócio mensurável e integrada ao fluxo de trabalho, aos dados e aos controles necessários para operá‑la.

A IA deve ter liberdade de ação quando o objetivo está claro, os dados são confiáveis e os limites são bem compreendidos. O julgamento humano permanece essencial para decisões de alto risco, ambíguas, subjetivas, regulamentadas ou que exigem responsabilidade e empatia. Autonomia não significa remover humanos do sistema. Trata‑se de projetar o sistema de modo que todos saibam onde a IA pode agir independentemente, onde os humanos precisam ter visibilidade e onde o julgamento humano deve assumir.

Muitas empresas avaliam a IA voltada ao cliente principalmente por velocidade, taxas de contenção e economia de custos. Por que essas métricas podem criar uma visão enganosa sobre se a tecnologia está realmente melhorando a experiência do cliente?

O problema é que essas são, sobretudo, medidas de eficiência. Elas mostram como o sistema se comportou, mas não necessariamente como o cliente o vivenciou. Considere a contenção: uma taxa alta pode parecer bem‑sucedida internamente, mas pode esconder resultados ruins se o cliente desistir, repetir a pergunta, receber respostas incompletas ou não conseguir falar com uma pessoa quando necessário. A contenção indica que a IA manteve o cliente dentro do sistema, não que ele recebeu o que precisava. O mesmo vale para a economia de custos, que pode vir à custa da confiança, satisfação ou qualidade da resolução.

Os sistemas de IA otimizam em torno dos sinais que lhes são fornecidos, portanto as empresas precisam projetar indicadores de medição no próprio sistema desde o início — conectando métricas de front‑end como velocidade e contenção a sinais posteriores como resolução de problemas e se o resultado gerou problemas em outras áreas. Em última análise, a IA voltada ao cliente deve ser medida pela capacidade de resolver o problema subjacente do usuário final de forma precisa, justa e com o nível adequado de apoio humano.

Quais sinais um agente de IA deve usar para reconhecer incerteza, frustração, urgência ou uma situação que foge ao seu fluxo de trabalho estabelecido? 

Não existe um sinal mágico único — o que importa é fornecer ao sistema contexto e observabilidade suficientes para reconhecer quando sua confiança, autoridade ou informação não são mais adequadas. Isso pode aparecer como informações conflitantes, tentativas repetidas falhas ou o agente entrando em círculos. Também pode ser uma mudança na linguagem do cliente — um sinal claro de frustração ou urgência — ou a própria tarefa exigindo informação, acesso ou autoridade que o agente não possui.

O sistema também precisa conhecer seus próprios limites. Se um problema estiver fora do fluxo projetado, exigir dados inacessíveis ou ultrapassar um limiar de risco definido, isso deve acionar um caminho diferente. O objetivo não é que o agente trate de todos os cenários possíveis — é que ele saiba quando parar, escalar ou solicitar ajuda.

Como as empresas podem distinguir entre uma interação meramente complexa e uma que realmente requer julgamento ou empatia humanos?

A linha divisória não está na dificuldade da tarefa. Está na quantidade de julgamento, consequência e contexto humano que a decisão carrega. Criar operações agentes onde as máquinas processam e os humanos validam requer entender onde o valor humano jamais pode ser substituído.

A IA pode lidar com tarefas muito complexas quando o objetivo está claro, os dados são confiáveis, o processo está definido e os resultados são mensuráveis. A complexidade, por si só, não exige um humano se o sistema compreender os limites dentro dos quais pode operar. Um humano deve ser acionado quando a intenção do cliente é ambígua, a situação requer discrição, há múltiplos resultados válidos ou a decisão tem consequências financeiras, legais, médicas ou reputacionais significativas. Algumas interações também pedem tranquilização, explicação, negociação ou empatia — não apenas uma resposta. A participação humana nesses casos é tão importante quanto a precisão técnica. A arquitetura deve refletir essa distinção. Esses pontos de intervenção devem ser projetados no fluxo de trabalho desde o início, e não decididos após algo dar errado.

Como deve ser um processo de escalonamento eficaz para que os clientes não precisem repetir informações ou reiniciar a interação quando um agente humano assume?

Um bom escalonamento não consiste apenas em transferir o cliente — é transferir o contexto, para que a próxima pessoa possa avançar diretamente para a resolução. Quando um humano assume, ele já deve ter o histórico da conversa, a identidade e o perfil do cliente e o que a IA já tentou — o suficiente para evitar que o cliente tenha que recomeçar.

Isso é, em grande parte, uma questão de arquitetura: se a IA permanece apenas na experiência de chat front‑end, desconectada do CRM, ERP, fontes de conhecimento, fluxos de trabalho e camada de orquestração, a transferência perfeita se torna impossível.

Os limiares de escalonamento devem mudar conforme fatores como risco financeiro, vulnerabilidade do cliente, exigências regulatórias ou as possíveis consequências de uma decisão incorreta?

As regras de escalonamento devem depender do nível de risco. Quanto maiores as consequências de um erro, mais cedo um humano deve ser envolvido.

Um reset de senha pode ser totalmente automatizado, mas uma transação financeira contestada deve ter controles mais rígidos. Em sinistros ou cobranças, isso pode significar autonomia total em atualizações rotineiras de status, mas uma verificação humana obrigatória quando um caso ultrapassa um limite monetário ou surge um indicador de dificuldade. Quanto mais regulada ou consequential a decisão, mais forte deve ser a supervisão. Um cliente vulnerável pode exigir intervenção humana mais precoce, e decisões com consequências irreversíveis devem ter limiares de autonomia menores.

Esses limiares também não devem ficar a critério de agentes individuais em tempo real. Eles precisam estar incorporados à arquitetura e à camada de orquestração, com regras claras sobre o que o agente está autorizado a fazer, o que requer validação adicional e o que deve ser escalado.

A oportunidade está em deixar a autonomia escalar com o risco — velocidade total em trabalhos de baixo risco, controle mais rígido onde realmente importa. Na Genpact, incorporamos essa diferenciação diretamente ao projetar fluxos de trabalho agentes — permitindo que casos rotineiros rodem autonomamente enquanto tudo que ultrapassa um limiar de risco ou monetário é encaminhado a um humano, de forma automática e sem que o agente precise decidir escalar. Empresas que dão o mesmo nível de autonomia a todas as interações rapidamente transformam conveniência em erros custosos.

Além da conclusão da tarefa, quais métricas as organizações devem usar para avaliar se um sistema autônomo de atendimento ao cliente está gerando resultados positivos para os clientes?

Concluir a tarefa é útil, mas está longe de ser suficiente. A pergunta não deve ser “o agente terminou a tarefa?” e sim “o cliente terminou em uma situação melhor?”. É a diferença entre prometer um resultado e ser responsável por ele.

Isso significa olhar além do tempo de atendimento para métricas como precisão da resposta, resolução no primeiro contato, contatos repetidos, qualidade de escalonamento, satisfação do cliente e equidade e consistência dos resultados. Também implica medir além de uma única interação. Um agente pode parecer bem‑sucedido em uma parte da jornada do cliente e, ao mesmo tempo, gerar um problema em outra etapa. Por exemplo, um caso que se encerra rapidamente pode ainda gerar outra chamada semanas depois, afetando o sentimento do cliente e exigindo remediação humana; por isso vale a pena acompanhar se o caso permanece resolvido após 30 dias.

É igualmente importante saber se o sistema realmente resolve a necessidade subjacente do cliente, em vez de simplesmente encerrar a interação e considerá‑la um sucesso. Isso requer observabilidade de ponta a ponta ao longo do fluxo de trabalho, não apenas métricas da interface de IA. Medir resultados para o cliente e para o negócio, em vez de apenas atividade, revela o verdadeiro ROI da IA.

Como as empresas podem impedir que agentes de IA otimizem metas operacionais, como reduzir volume de chamadas ou tempo de atendimento, em detrimento da equidade, confiança ou das necessidades reais do cliente?

Sistemas de IA são notavelmente bons em atingir qualquer meta que lhes seja atribuída. Esse é o ponto positivo e a armadilha: diga a um sistema agente que velocidade é o único objetivo e ele sacrificará tudo o mais para alcançá‑la.

As empresas precisam oferecer à IA um conjunto equilibrado de objetivos onde a eficiência importa, mas também estejam alinhados a resultados para o cliente, risco, equidade, precisão e confiança. Isso se consegue estabelecendo guardrails claros sobre comportamento aceitável, testando viés e resultados não intencionais, mantendo mecanismos de intervenção humana, monitorando decisões continuamente e tornando as saídas rastreáveis e auditáveis. A governança não pode ser algo acrescentado depois que o sistema já está em operação. Deve ser incorporada à arquitetura desde o início.

O contexto do cliente pode estar espalhado por conversas anteriores, transações, canais e sistemas corporativos. Como as empresas podem dar aos agentes de IA contexto suficiente para tomar melhores decisões sem criar novos riscos de privacidade, segurança ou governança?

A resposta ao contexto fragmentado não é dar ao agente de IA acesso a tudo. É conceder acesso governado às informações certas no momento certo. As empresas precisam de uma camada robusta de dados e integração que conecte os agentes aos sistemas autoritativos de registro, controlando o que cada agente pode ver e fazer. Isso inclui acesso baseado em papéis e propósitos, dados mínimos necessários, rastreamento de linhagem, logs de auditoria e proteção de informações sensíveis.

Mais contexto melhora as decisões da IA, mas somente se for governado. Caso contrário, a solução de um problema pode gerar um risco muito maior de privacidade ou segurança. Quando bem gerido, o contexto se acumula à medida que o sistema aprende com exceções anteriores, tornando interações futuras mais inteligentes sem criar novos riscos.

À medida que a IA voltada ao cliente se torna mais autônoma, como você espera que evolua a relação entre agentes de IA e funcionários humanos, e quais capacidades as organizações precisarão desenvolver agora para que essa colaboração seja bem‑sucedida?

O papel humano mudará cada vez mais de executar cada passo do processo para direcionar, supervisionar e aprimorar o sistema de agentes que assume o volume de trabalho. As pessoas passarão mais tempo definindo objetivos, lidando com exceções, exercendo julgamento, validando decisões de alto risco, refinando fluxos de trabalho, monitorando o comportamento dos agentes e aprimorando a arquitetura e a governança desses sistemas agentes. Isso altera as habilidades que as empresas precisam. Fluência em IA será importante, mas também o pensamento crítico, expertise setorial, orquestração de agentes, observabilidade e a capacidade de questionar um sistema de IA quando algo parece errado.

Isso não é apenas um desafio de força de trabalho. As organizações precisam de arquitetura que suporte essa colaboração, conectando agentes aos dados e sistemas corretos, coordenando como eles trabalham juntos e dando às pessoas visibilidade sobre o que estão fazendo. Governança, intervenção humana e escalonamento precisam ser projetados desde o início.

No meu papel de arquiteto corporativo chefe, vejo como meu dever garantir que toda a organização saiba não apenas como usar a IA, mas quando confiar nela, questioná‑la e assumir o controle. Dessa forma, a arquitetura se torna a porta de entrada para uma IA responsável que gera confiança e impacto real.

Obrigado pela ótima entrevista; leitores que desejam saber mais devem visitar Genpact.