Ali Sarrafi, CEO e fundador da Kovant – Série de entrevistas

Ali Sarrafi, CEO e fundador da Kovant, é um executivo experiente em tecnologia e IA, baseado em Estocolmo, com um histórico comprovado na criação e expansão de empresas de IA de alto crescimento. Desde a fundação da Kovant no final de 2024, ele tem se baseado em sua vasta experiência em estratégia de IA empresarial, execução de entrada no mercado e escalonamento operacional. Anteriormente, atuou como Vice-Presidente de Estratégia na Silo AI, após sua aquisição pela AMD, onde foi responsável por moldar a estratégia de IA empresarial e impulsionar a adoção em larga escala. No início de sua carreira, cofundou a Combient Mix, liderando a empresa em um rápido crescimento e em uma aquisição bem-sucedida pela Silo AI. Desde então, ocupou cargos de consultoria e em conselhos de administração em startups de educação e IA, refletindo um foco consistente em traduzir IA avançada em impacto real nos negócios.

Kovant A Kovant é uma empresa de IA empresarial focada em permitir que organizações passem do uso experimental de IA para processos de negócios totalmente operacionais e autônomos. A empresa desenvolve uma plataforma baseada em agentes, projetada para orquestrar equipes de agentes de IA em domínios operacionais complexos, como compras, cadeias de suprimentos, conformidade e operações com clientes. Ao enfatizar a implantação segura e de nível empresarial, além de um rápido retorno sobre o investimento, a Kovant se posiciona como uma ponte entre a ambição estratégica da IA ​​e a execução diária, ajudando grandes organizações a incorporar a IA diretamente em seus fluxos de trabalho principais, em vez de tratá-la como uma ferramenta independente ou um projeto piloto.

Você liderou importantes iniciativas de IA no Spotify, escalou e vendeu a Combient Mix e, posteriormente, moldou a estratégia de IA empresarial na Silo AI antes de fundar a Kovant. Quais lacunas ou frustrações específicas você encontrou nessas funções que o convenceram de que era o momento certo para construir uma plataforma empresarial autônoma, e como essa trajetória moldou a filosofia de design central da Kovant?

Em minhas experiências anteriores, algumas lacunas recorrentes se destacavam. Primeiro, a maioria das ferramentas de IA "verticais" fica praticamente restrita a uma única pilha de software: elas executam uma tarefa com um desempenho ligeiramente melhor dentro desse limite, mas enfrentam dificuldades quando um fluxo de trabalho precisa abranger vários sistemas. Ao mesmo tempo, os dados corporativos estão dispersos por diversas ferramentas, e muitas soluções de automação simplesmente não conseguem acessá-los. Some a isso anos de integrações pontuais e você terá a clássica arquitetura espaguete: a complexidade aumenta, as mudanças se tornam mais lentas e as equipes acabam automatizando etapas individuais em vez de reimaginar o fluxo de trabalho de ponta a ponta. O resultado é que o retorno sobre o investimento (ROI) geralmente chega mais lentamente — e em menor escala — do que as organizações esperam.

A Kovant foi concebida como uma resposta a essa realidade. Nossa filosofia central é que os agentes devem se comportar mais como funcionários: eles trabalham com diversas ferramentas, são "contratados" para realizar tarefas, não para automatizar uma única sequência de scripts. É por isso que integrações e orquestração são recursos integrados e por isso partimos do princípio de que os dados corporativos são frequentemente complexos e não estruturados – eles precisam de uma abordagem mais humana para lidar com exceções e ambiguidades.

Utilizamos agentes de fundação para alcançar velocidade e escalabilidade, mantendo a soberania dos dados como prioridade: as empresas podem acessar e usar seus próprios dados horizontalmente sem que eles saiam de suas instalações.

A Kovant se posiciona como uma plataforma empresarial autônoma capaz de gerenciar operações e departamentos inteiros com agentes de IA. Como você define "autônomo" em um contexto empresarial e como isso difere das ferramentas de automação e agentes que as empresas já estão experimentando atualmente?

Em um contexto empresarial, quando dizemos "autônomo", não queremos dizer "sem supervisão". Queremos dizer que agentes de IA podem tomar decisões reais de ponta a ponta em uma operação com objetivos e diretrizes claros, e que acionarão humanos quando a supervisão for necessária.

O que diferencia a Kovant são os nossos agentes de base. Em vez de automatizar um único processo fixo ou seguir uma sequência predefinida, os agentes da Kovant podem trabalhar em equipe (ou em grupo) em uma operação, utilizando apenas instruções e uma visão geral das operações que chamamos de projeto. Eles não são projetados para uma única tarefa específica; colaboram para resolver fluxos de trabalho complexos, adaptam-se conforme as condições mudam e transferem a responsabilidade para pessoas quando a situação exige supervisão.

Por exemplo, uma equipe de agentes de gestão de estoque pode executar todas as seguintes tarefas sem precisar recriá-las do zero, incluindo: comunicação com fornecedores por e-mail, monitoramento dos níveis de estoque e sinais de falta de estoque, rastreamento de remessas e pedidos de compra, atualização de status em todos os sistemas, criação de relatórios de discrepância para aprovação dos planejadores de estoque, redistribuição de estoque entre armazéns e consolidação de relatórios de estoque.

Assim, a mudança consiste em, em vez de "bate-papo mais ferramentas" ou automações frágeis que falham em grande escala, as empresas passarem de criar agentes para executá-los em grande escala.

Apesar do enorme interesse em IA agente, muitas organizações ainda estão presas na fase de testes piloto. Com base no que você observa em implementações reais, quais são os principais motivos pelos quais as empresas têm dificuldade em passar da experimentação para a produção em escala?

O que estamos vendo é que a maioria das organizações não fica presa no modo piloto porque a ideia está errada; elas ficam presas porque o ambiente é hostil à expansão.

O primeiro obstáculo é o cenário tecnológico empresarial fragmentado. Os fluxos de trabalho abrangem uma infinidade de sistemas, os dados residem em vários locais e integrar tudo de forma confiável é difícil. Além disso, a IA ativa é frequentemente implementada como um complemento às ferramentas existentes, em vez de uma forma de repensar a maneira como o fluxo de trabalho deve ser executado de ponta a ponta.

Há também um problema real de arquitetura e dados. Muitos fornecedores de SaaS ainda tentam bloquear os dados, o que cria incompatibilidades e limita o que os agentes podem realmente fazer em diferentes sistemas. E muitas equipes subestimam o fato de que a maior parte dos dados corporativos não é estruturada (e-mails, documentos, tickets, PDFs, registros de bate-papo). Se sua abordagem pressupõe dados limpos e estruturados, o tempo para obter valor se torna longo, trabalhoso e difícil de replicar além do projeto piloto.

Resumindo: fragmentação, dependência de fornecedores e dados não estruturados criam entraves – e os projetos-piloto nunca se transformam em produção até que essas realidades sejam consideradas no projeto.

A confiabilidade é frequentemente citada como o maior obstáculo para a implantação de agentes de IA no mundo real. Por que tantos sistemas de agentes falham ao saírem de ambientes controlados, e como a abordagem de Kovant reduz problemas como alucinações e comportamento imprevisível?

Alguns sistemas de agentes parecem ótimos em demonstrações, mas falham no mundo real porque o ambiente é complexo e imprevisível. Os dados são incompletos ou inconsistentes, casos extremos surgem constantemente (reembolsos, disputas, aprovações especiais). Os fluxos de trabalho abrangem múltiplas ferramentas, plataformas e integrações que mudam com o tempo, e as permissões variam. Quando um agente de IA é solicitado a lidar com uma tarefa grande e recebe muito contexto de uma só vez, o risco de alucinações e comportamentos estranhos aumenta.

A Kovant reduz isso por design. Nossa arquitetura exclusiva restringe o espaço do problema, o espaço de decisão e o contexto com os quais os modelos trabalham, reduzindo as alucinações. Também dividimos as operações em tarefas específicas e focadas para agentes e etapas individuais. Isso torna o comportamento mais previsível, adiciona rastreabilidade e controlabilidade ao sistema e permite um melhor gerenciamento das alucinações. Podemos ver o que cada agente fez, onde uma falha começou e intervir ou escalar o problema quando necessário.

As alucinações não desaparecem magicamente, mas ao restringir as responsabilidades de cada agente e limitar o contexto em que ele pode agir, podemos reduzir sua frequência e seu impacto. Essa abordagem de "tarefa/contexto restrito" também foi corroborada por um trabalho recente da equipe de pesquisa da Nvidia, que encontrou benefícios semelhantes ao restringir a tomada de decisões dos agentes.

A responsabilização é uma grande preocupação à medida que os agentes de IA começam a tomar decisões reais nos sistemas empresariais. Como os registros detalhados de ações alteram a discussão sobre confiança, conformidade e risco operacional?

Com registros de ações detalhados, podemos ver o que aconteceu, por que aconteceu e o que acontece em seguida.

Os registros detalhados transformam um agente, antes um robô misterioso operando na máquina, em um sistema que você pode inspecionar.

Na Kovant, em qualquer implementação de agente de IA, haverá um mapa de riscos que a organização poderá utilizar. Implementamos um sistema de controle de acesso humano para ações de risco, o que significa que os agentes só podem executar essas tarefas se um humano revisar e aprovar a decisão. Todas essas ações são registradas da mesma forma que um sistema de registros e são rastreáveis.

Acreditamos que é importante combinar registros de ações com supervisão humana e observabilidade para minimizar o risco. Isso significa que você ainda obtém os benefícios de velocidade e escalabilidade de agentes executando operações reais.

Há um debate crescente sobre se os agentes de IA podem ser segurados devido à sua tomada de decisão opaca. Como tornar os fluxos de trabalho dos agentes auditáveis ​​e reproduzíveis ajuda a resolver o problema da "caixa preta" e abre caminho para a segurabilidade?

O problema da "caixa preta" é o que dificulta a segurabilidade. Se você não consegue demonstrar claramente o que um agente fez, por que o fez e quais controles estavam em vigor, fica difícil para qualquer pessoa, especialmente para as seguradoras, precificar o risco.

Nossa abordagem é essencialmente uma extensão da estrutura de responsabilidade da resposta anterior. Dividimos o escopo da decisão e o impacto das ações em partes menores, de modo que o modelo não tome uma única decisão gigantesca e opaca que possa afetar toda a operação. Cada etapa é mais específica, mais previsível e mais fácil de avaliar.

Em seguida, adicionamos registros detalhados, observabilidade e supervisão humana. Para as decisões mais importantes e impactantes, utilizamos um intermediário humano para que o agente só possa prosseguir após revisão e aprovação. Isso proporciona muito mais visibilidade sobre o comportamento do fluxo de trabalho na prática.

Tornar os fluxos de trabalho auditáveis ​​e reproduzíveis é a peça final. Se algo der errado, você pode reproduzir o que aconteceu, investigar rapidamente, validar as correções e demonstrar com que frequência a aprovação humana é necessária e onde estão as salvaguardas. Em termos de subscrição, isso se transforma em... comportamento misterioso da IA para algo mais próximo do risco operacional padrão.

Com iniciativas como a Agentic AI Foundation, que visam criar padrões compartilhados para sistemas agentes, quais são, na sua opinião, os aspectos mais promissores desses esforços e onde eles ainda deixam a desejar para operações empresariais reais?

A padronização é geralmente algo positivo. A AAIF pode realizar o trabalho pouco glamoroso, mas essencial, de fazer com que os sistemas de agentes "falem a mesma língua", o que deve facilitar as integrações e reduzir a dependência de fornecedores ao longo do tempo.

O que me preocupa é a perspectiva de quem molda os padrões. Se a maior parte do trabalho for liderada por criadores de modelos e startups de tecnologia, corre-se o risco de os "padrões" priorizarem o que é mais fácil de construir ou demonstrar, em vez do que as grandes organizações realmente precisam para executar agentes com segurança no dia a dia.

Para operações empresariais reais, as lacunas tendem a estar menos relacionadas a conectores e mais ao controle: o que um agente pode acessar e alterar, fluxos de aprovação para ações de alto impacto, registros auditáveis ​​e observabilidade para que as equipes possam monitorar o comportamento, investigar incidentes e comprovar a conformidade. As empresas também precisam de padrões práticos para operar em um ambiente complexo: testes em casos extremos, gerenciamento de sistemas em constante mudança e a capacidade de pausar, conter ou reverter ações com segurança em ferramentas legadas e ambientes de dados regulamentados.

Portanto, é uma direção promissora, mas o impacto será limitado a menos que os requisitos empresariais e os controles de risco operacional não sejam tratados como uma reflexão tardia.

A Kovant já gerou receitas significativas de grandes empresas nórdicas, operando praticamente em sigilo. Quais tipos de funções ou fluxos de trabalho empresariais estão se mostrando mais adequados para agentes de IA autônomos atualmente?

Pelo que observamos em implementações reais, os fluxos de trabalho mais "prontos" hoje são aqueles compostos por tarefas operacionais reativas: monitoramento, acompanhamento, verificação, atualização de sistemas, tratamento de exceções e manutenção da fluidez das operações em diversas ferramentas.

Na indústria manufatureira e nas cadeias de suprimentos empresariais em geral, isso se manifesta em diversos setores:

• Fornecimento/aquisiçãoDisponibilidade de matérias-primas, fornecimento sustentável, operações de conformidade, seleção de fornecedores (incluindo fornecimento duplo/múltiplo), gestão de contratos, gestão de riscos de fornecedores e gestão de licitações/concorrências.
• ProduçãoPlanejamento de capacidade, programação da produção, gestão de manutenção, gestão da qualidade, gestão de gargalos e prevenção de perdas.
• ArmazenagemRecebimento e inspeção, gestão de inventário, rotação de estoque (FIFO/FEFO) e contagem cíclica/auditoria.
• Transporte / Logística: seleção de modalidade e transportadora, desembaraço aduaneiro/documentação, rastreamento e visibilidade, monitoramento de emissões e conformidade comercial.
• Vendas e serviçosDisponibilidade de produtos, prevenção de rupturas de estoque, gestão de vendas/devoluções, análise do comportamento do consumidor, além de áreas de pós-venda como reparos, rastreamento de fim de vida útil, operações de oficina e contratos de serviço.

Quando as empresas implementam agentes de IA em operações críticas, como você recomenda equilibrar a autonomia com a supervisão humana para garantir o controle sem comprometer a lentidão do processo?

O equilíbrio reside na autonomia. É preciso permitir que os agentes atuem rapidamente em tarefas de baixo risco, dentro de diretrizes claras, e acionar os humanos quando a ação ultrapassar um limite de risco definido.

Muitos fracassos decorrem de atribuir ao modelo um escopo e contexto excessivos de uma só vez. Recomendo dividir as operações em decisões menores e com escopo bem definido, onde cada etapa tenha permissões claras e um raio de impacto limitado. Isso reduz comportamentos imprevisíveis e facilita o monitoramento e a melhoria do desempenho.

Em seguida, você combina três elementos: observabilidade, registros de ações e controle humano. Tudo o que o agente faz deve ser rastreável, para que você possa inspecionar o que aconteceu e investigar rapidamente. Para ações de alto impacto ou risco, você adiciona uma etapa de aprovação humana ao fluxo de trabalho, para que o agente possa propor e preparar a ação, mas só a execute após a aprovação de uma pessoa.

Isso mantém o processo ágil. Na verdade, a única pequena desaceleração ocorre na etapa de supervisão humana, que é uma parte importante do processo. Os humanos não ficam supervisionando cada clique, mas ainda controlam os momentos que importam. O resultado é velocidade onde é seguro e supervisão onde é necessário.

Olhando para o futuro, como você espera que o papel dos agentes de IA autônomos evolua dentro das grandes organizações nos próximos anos, e o que diferenciará as empresas que tiverem sucesso com IA agética daquelas que enfrentarem dificuldades?

Nos próximos anos, os agentes autônomos de IA deixarão de ser experimentos interessantes para se tornarem uma camada operacional real dentro de grandes organizações. Eles serão usados ​​em operações, atendimento ao cliente, finanças e RH. À medida que a confiabilidade, a governança e a supervisão melhorarem, veremos as empresas migrarem de projetos-piloto isolados para equipes de agentes operando em fluxos de trabalho de ponta a ponta.

A maior mudança é que velocidade, agilidade, escalabilidade, eficiência e custos se tornarão uma alavanca competitiva muito mais direta. Acredito que um "movimento Uber" está surgindo para as empresas. Aquelas que realmente dominarem a IA ativa serão capazes de operar em um ritmo fundamentalmente superior ao das retardatárias, conquistar mercados mais rapidamente e responder às mudanças sem a habitual lentidão operacional.

O que diferencia os vencedores não é apenas a implantação de agentes, mas sim a sua implementação eficaz. Autonomia governada, forte observabilidade e registros de ações, além de arquiteturas que restringem o escopo de decisão, serão essenciais para isso. Empresas que tratam a IA agética como uma capacidade operacional essencial, com os controles, a integração e a responsabilidade adequados, a utilizarão para fazer mais, e não menos. Isso liberará as equipes para se concentrarem no crescimento e na inovação, em vez de passarem o dia atoladas em tarefas administrativas. Em resumo, velocidade e eficiência radicais se tornam uma verdadeira vantagem competitiva em escala empresarial.

Obrigado pela ótima entrevista, os leitores que desejam saber mais devem visitar Kovant.