Raj Shukla, CTO da SymphonyAI – Série de Entrevistas

Raj Shukla dirige a estratégia de tecnologia e execução da SymphonyAI, liderando a equipe de engenharia que constrói a plataforma de IA Eureka Gen. Com quase 20 anos de experiência em engenharia e pesquisa de IA/ML, Shukla também tem ampla experiência em AI SaaS empresarial devido aos seus papéis de liderança em engenharia na Microsoft (MSFT ), onde sua carreira de 14 anos incluiu liderar organizações globais de ciência e engenharia de IA em Azure, Dynamics 365, MSR e divisões de busca e publicidade. Raj tem ampla experiência em IA/ML em busca, publicidade e IA empresarial e construiu vários produtos de IA SaaS bem-sucedidos em domínios de consumidor e negócios.

SymphonyAI é uma empresa de IA empresarial focada em construir aplicações de IA específicas de indústria que entregam valor de negócios imediato. Em vez de modelos genéricos, fornece soluções verticais para varejo, bens de consumo, serviços financeiros, manufatura, mídia e TI, abordando desafios como previsão, prevenção de fraude, otimização operacional e análise. Seus produtos são alimentados pela plataforma de IA Eureka, que combina capacidades preditivas, gerativas e agênticas em fluxos de trabalho personalizados para cada setor. Fundada em 2017, a empresa cresceu para se tornar uma líder global em IA vertical, atendendo a milhares de clientes empresariais com soluções escaláveis e focadas em domínio.

Você trabalhou na vanguarda da inovação em IA na Microsoft, Oracle (ORCL ) e agora na SymphonyAI – o que o atraiu originalmente para o mundo da IA empresarial, e como sua perspectiva evoluiu ao longo dos anos?

Minha jornada na IA empresarial começou com uma crença fundamental de que as empresas devem implementar IA que resolva problemas de negócios reais, e não criar IA apenas por criar IA. Eu vi que soluções de IA genéricas e amplas raramente entregam valor transformador. Na SymphonyAI, construímos nossa estratégia e cultura da empresa em desenvolver IA que entende desafios específicos de indústria, desde detecção de crime financeiro até merchandising de varejo focado no consumidor e empoderamento de trabalhadores conectados industriais. A prontidão para empresas adiciona outra dimensão inteira – IA empresarial bem-sucedida requer mais do que grande tecnologia, exige arquitetura e governança de dados exemplares, colaboração e fluxos de trabalho sofisticados e transparência e auditoria totais.

Quais são as deficiências específicas que as empresas enfrentam com modelos pré-treinados genéricos, particularmente em setores altamente regulamentados como finanças ou saúde? 

Modelos pré-treinados genéricos não são construídos para ambientes de alto risco e altamente regulamentados de finanças, saúde e varejo. Modelos pré-treinados genéricos enfrentam barreiras críticas, incluindo a necessidade de expertise de domínio essencial para abordar nuances específicas de indústria e atender a requisitos regulamentares e de conformidade estritos que diferem entre geografias. Mais importante, eles não podem entregar a precisão e rastreabilidade que as empresas exigem, onde erros podem prejudicar consumidores ou desencadear violações regulamentares. Seja cumprir regulamentações de lavagem de dinheiro ou permitir que um varejo remova rapidamente itens retirados de centros de distribuição e prateleiras, a tecnologia de IA vertical da SymphonyAI é especificamente construída para as indústrias em que operamos e treinada em ontologias dessas indústrias, permitindo que elas tomem ou automatem decisões que criam impacto de negócios direto.

Combinar modelos pré-treinados com lógica de domínio profunda é cada vez mais visto como fundamental para desbloquear o ROI empresarial – quais são os componentes essenciais, como conhecimento de indústria, alinhamento de KPI e guardiões regulamentares, que tornam essa abordagem eficaz? 

Combinar modelos pré-treinados com lógica de domínio profunda desbloqueia valor criando sistemas de IA que entendem contexto de negócios e requisitos operacionais. Essa abordagem tem sucesso quando os modelos são aprimorados com ontologias específicas de indústria, alinhados com KPIs de empresa para garantir que as saídas sirvam diretamente a objetivos de negócios mensuráveis e equipados com guardiões regulamentares que fornecem estruturas de conformidade e auditoria necessárias. Quando esses elementos trabalham juntos, a IA genérica se transforma em soluções críticas de negócios que impulsionam resultados mensuráveis, mantendo a confiabilidade e conformidade que as empresas exigem.

A IBM recentemente adquiriu a Seek AI e lançou o Watsonx Labs em Nova York, sinalizando um possível desvio estratégico no cenário de IA – o que isso indica sobre o futuro das tendências de M&A e investimento em IA empresarial? 

A aquisição da Seek AI pela IBM e o lançamento do Watsonx Labs é uma validação da mudança fundamental que estamos antecipando: o cenário de IA empresarial mudou, sinalizando que a próxima onda de M&A priorizará empresas com modelos de IA vertical pré-treinados que chegam com expertise de indústria profunda, governança e guardiões regulamentares e KPIs orientados a resultados. Adquirentes estratégicos como a IBM reconhecem que agentes de IA focados em dados empresariais entregam ROI imediato quando entendem fluxos de trabalho de indústria específicos. O mercado está se consolidando em torno do reconhecimento de que a inteligência geral precisa de especialização vertical para impulsionar a transformação empresarial.

Em que ponto um modelo de fundação evolui para um agente de domínio – quais são os marcos arquitetônicos que sinalizam essa transição? 

Um modelo de fundação não amadurece naturalmente em um agente de domínio; ele deve ser projetado para isso. Não há um caminho direto onde um modelo geral simplesmente “se torna mais inteligente” e se torna um investigador de banco. A transição só acontece quando as equipes de engenharia param de confiar na inteligência bruta do modelo e começam a construir a arquitetura governada em torno dele – especificamente injetando uma camada de contexto (como um Gráfico de Conhecimento) e uma camada de orquestração para forçar o modelo a seguir um processo de negócios em vez de suas próprias tendências probabilísticas.

Quais são os desafios centrais em construir fluxos de trabalho agênticos que sejam resilientes e específicos de domínio, e como a SymphonyAI aborda esses desafios? 

Os desafios centrais em construir fluxos de trabalho agênticos resilientes e específicos de domínio são manter a confiabilidade em processos complexos de várias etapas. A SymphonyAI aborda esses desafios por meio de sua arquitetura em camadas, que incorpora expertise de domínio diretamente no agente, implementa tratamento de erros com recuperação de falhas e mantém gerenciamento de contexto persistente em processos empresariais de multi-sessão. Isso permite que nossos agentes operem de forma confiável em ambientes regulamentados de alto risco, onde a resiliência significa manter precisão, conformidade e integridade operacional.

A SymphonyAI enfatiza fundações de dados robustas, gráficos de conhecimento e camadas de metadados – por que essas capacidades são críticas para agentes de IA vertical, e por que muitas empresas lutam para implementá-las? 

Fundações de dados robustas e gráficos de conhecimento são cruciais para que os agentes de IA vertical tenham fontes significativas, forneçam recomendações contextualizadas e permaneçam atualizados com mudanças de mercado, cliente e processo em todos os níveis da empresa. A maioria das empresas luta para implementar essas capacidades porque elas exigem um investimento significativo em arquitetura de dados, expertise de ontologia especializada e mudanças fundamentais nas práticas de dados existentes que muitas organizações encontram desafiadoras do ponto de vista organizacional e técnico. É aí que um parceiro de tecnologia de IA com experiência e conhecimento profundos nessa vertical é inestimável, incluindo sua capacidade de pré-treinar a IA em vastas quantidades de dados de domínio e fontes em muitos clientes reais nessa indústria.

Em cenários do mundo real – como detecção de crime financeiro ou previsão de varejo – como a SymphonyAI combina IA preditiva, gerativa e agêntica em “habilidades” coesas?

A SymphonyAI combina IA preditiva, gerativa e agêntica em “habilidades” coesas criando fluxos de trabalho integrados onde cada produto de IA atende a um problema de negócios específico. Na detecção de crime financeiro, nossos modelos preditivos identificam padrões de transações suspeitas, e a IA gerativa cria relatórios de investigação detalhados e avaliações de risco. Ao mesmo tempo, a IA agêntica orquestra todo o fluxo de trabalho, escalonando automaticamente casos, coordenando com equipes de conformidade e adaptando estratégias de investigação com base em descobertas em tempo real.

A chave é que esses não são ferramentas de IA separadas, são capacidades integradas dentro de agentes de domínio específico que entendem contexto de negócios, mantêm o estado do fluxo de trabalho e podem transitar suavemente entre análise preditiva, geração de conteúdo e ação autônoma para entregar resultados de negócios completos em vez de saídas de IA fragmentadas.

Você advertiu que muitos agentes de IA empresarial podem tropeçar sem robustez – quais são as características-chave de um agente de IA empresarial bem-projetado e tolerante a falhas? 

Agentes de IA empresarial bem-projetados e construídos para escrutínio exigem várias características críticas. Embora muitas empresas estejam investindo rapidamente em e implantando agentes de IA para melhorar a eficiência, produtividade e inovação, elas frequentemente subestimam o trabalho necessário para o sucesso. Alguns aspectos vitais que os agentes bem-sucedidos precisam para ser bem-sucedidos são:

• Agentes de IA empresarial operam em dados de empresa, que são frequentemente isolados e carecem de acesso programático adequado, permissões e controles de acesso. Os agentes precisam ser equipados com as mesmas provisões de autenticação e autorização que os funcionários.
• Os agentes também precisam se recuperar de todas as formas de falhas de sistema empresarial, falhas de rede e pontos finais instáveis. A camada de orquestração precisa permitir fluxos de trabalho de longa duração, duráveis e tolerantes a falhas, o que a maioria dos orquestradores de LLM populares não faz.
• LLMs serão não determinísticos e falharão em tarefas. Recuperação de falhas, retries e descoberta de caminho ótimo precisam ser recursos-chave de sistemas agênticos.

Para CTOs que consideram construir plataformas de IA vertical internamente versus parceriar com fornecedores de nicho, que conselho você ofereceria? 

Construir soluções de IA empresarial em várias indústrias, incluindo varejo/CPG, industrial, serviços financeiros e mais, exige dominar tanto a tecnologia de IA de ponta quanto a expertise de domínio profunda simultaneamente para alcançar valor real de soluções de IA empresarial. Nossa plataforma de IA Eureka demonstra como fontes de dados específicas de indústria, gráficos de conhecimento, modelos preditivos e agentes devem ser personalizados para cada indústria, mas isso representa anos de investimento em pesquisa e iteração de cliente que a maioria das equipes internas não possui. Para empresas e CTOs que desejam investir em IA, aconselho-os a escolher soluções que entregam resultados reais desde o primeiro dia. Soluções de IA vertical fornecem esses resultados, entregando aos usuários dados que eles podem usar para criar valor de negócios.

Olhando para frente, como você vê as arquiteturas de IA empresarial – agentes verticais federados construídos em modelos de fundação compartilhados se tornarão a norma?

Nós não veremos apenas “agentes federados”; veremos arquiteturas agênticas governadas. Embora os modelos de fundação compartilhados forneçam o motor de raciocínio, eles são essencialmente commodities. A “norma” para empresas bem-sucedidas será implantar agentes especializados, verticais que não apenas “conversam” entre si, mas são orquestrados rigorosamente por meio de uma camada de contexto compartilhada. Se você tiver apenas “agentes federados” construídos em modelos de fundação, você obtém um sistema barulhento e propenso a alucinações – o que chamamos de “tubo furado” da IA empresarial. Para fazer essa arquitetura escalar em produção, você precisa de três camadas específicas que vão além da simples federação:

• Contexto (O Gráfico de Conhecimento de Domínio): Os agentes precisam compartilhar uma única fonte de verdade, não apenas trocar probabilidades.
• Orquestração: Você precisa de um “arquiteto-mestre” que decide quando usar um agente especializado e quando manter um humano no loop.
• Governança: A saída deve ser legalmente e operacionalmente segura antes de deixar o sistema.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar SymphonyAI.