Yu Su, Co-fundador e CEO da NeoCognition – Série de Entrevistas

Yu Su, co-fundador e CEO da NeoCognition, é um pesquisador de inteligência artificial de longa data cuja carreira abrange academia, inteligência artificial empresarial e sistemas de agentes avançados. Além de liderar a NeoCognition, ele atua como Professor Associado e Pesquisador de Inovação na Universidade Estadual de Ohio, onde seu trabalho se concentrou em agentes de IA, sistemas de raciocínio e aprendizado de máquina. Seu histórico também inclui mais de seis anos como Pesquisador Sênior na Microsoft, onde trabalhou ao lado de pesquisadores líderes, incluindo Percy Liang, em sistemas de IA conversacional para Outlook usando técnicas de parsing semântico. Em diferentes funções na Microsoft, academia e instituições de pesquisa, como o Centro de Pesquisa T.J. Watson da IBM, Yu Su construiu uma reputação por avançar sistemas de IA que podem raciocinar, aprender e interagir com ambientes digitais complexos, ajudando a fechar a lacuna entre pesquisas de ponta e aplicações do mundo real.

NeoCognition é uma empresa de pesquisa de agentes de IA que se concentra em desenvolver o que descreve como “inteligência especializada” — sistemas de IA que continuam aprendendo e melhorando por meio da experiência. Fundada por pesquisadores de IA líderes, a empresa está perseguindo uma visão que vai além de modelos de linguagem grandes e estáticos em direção a agentes capazes de desenvolver expertise profunda em domínios específicos. Sua pesquisa se concentra em áreas como aprendizado contínuo, raciocínio, planejamento, uso de ferramentas e colaboração entre agentes, com o objetivo de criar sistemas de IA que se tornem mais capazes e confiáveis ao longo do tempo. Ao combinar avanços em aprendizado de máquina com raciocínio estruturado e técnicas de aprendizado adaptativo, a NeoCognition visa ajudar a moldar a próxima geração de agentes de IA capazes de lidar com tarefas do mundo real cada vez mais complexas.

Muitas empresas correram para lançar copilotos de IA genéricos, mas estamos ouvindo cada vez mais preocupações sobre confiabilidade uma vez que esses sistemas entram em ambientes de produção real. Por que você acredita que tantos agentes de IA atuais lutam fora de demonstrações controladas?

A maioria dos agentes de IA atuais luta na produção porque ainda são fundamentalmente generalistas operando sem uma compreensão duradoura do ambiente em que estão trabalhando. Eles podem frequentemente completar uma tarefa uma vez em uma demonstração, mas isso é muito diferente de desenvolver julgamento repetível dentro de um sistema operacional real.

Os modelos de hoje são impressionantes em fazer combinações de padrões, mas ainda carecem dos mecanismos que os humanos usam para se tornar especialistas confiáveis. Os humanos não se tornam confiáveis memorizando tarefas isoladas. Nós nos especializamos aprendendo a estrutura de um mundo particular: os fluxos de trabalho, restrições, relacionamentos, ferramentas, prioridades e consequências que definem uma profissão ou organização. Com o tempo, construímos um modelo interno de funcionamento daquele ambiente, e é esse modelo que permite que as boas decisões se tornem consistentes e repetíveis.

A maioria dos agentes de IA de hoje não constrói esse tipo de compreensão operacional. Eles dependem fortemente de camadas de prompt, recuperação ou orquestração que os ajudam a completar ações isoladas, mas ainda estão basicamente improvisando cada vez que enfrentam uma nova situação. É por isso que o desempenho frequentemente se deteriora uma vez que o ambiente muda e mais ainda quando se torna desordenado, dinâmico ou de alto risco.

A peça que falta é a especialização. Os humanos prosperam porque podemos continuamente nos adaptar a ambientes em mudança e nos tornar especialistas dentro deles por meio do aprendizado contínuo. Acreditamos que os agentes de IA precisam de uma capacidade semelhante: a capacidade de aprender a estrutura local de um domínio o suficiente para operar com real proficiência.

A NeoCognition descreveu sua visão como construir agentes que possam aprender e se adaptar continuamente mais como os humanos. O que isso realmente significa tecnicamente em comparação com as abordagens de ajuste fino estático ou baseadas em recuperação que muitas empresas confiam hoje?

A maioria dos sistemas de IA empresariais de hoje melhora o desempenho ou ajustando um modelo uma vez ou recuperando informações relevantes no momento da inferência. Essas abordagens podem ser úteis, mas não permitem fundamentalmente que um agente desenvolva expertise em evolução dentro de um domínio.

O ajuste fino é tipicamente estático após o treinamento. Os sistemas de recuperação ajudam a superfície de informações, mas recuperar conhecimento não é o mesmo que desenvolver expertise de domínio ou adaptar o comportamento com base na experiência ao longo do tempo. Em muitos casos, o agente ainda carece de um modelo persistente do ambiente em que opera.

Quando um humano se junta a uma empresa, ele não se torna eficaz simplesmente porque pode pesquisar documentos. Ele gradualmente desenvolve julgamento entendendo como a organização realmente funciona, e a expertise emerge de refinar continuamente esse modelo interno.

Acreditamos que a próxima geração de agentes precisa de um mecanismo de aprendizado semelhante. Na NeoCognition, estamos focados em permitir que os agentes formem esse tipo de modelos operacionais em evolução para que possam aprender continuamente e melhorar dentro de um domínio ao longo do tempo, em vez de começar repetidamente do zero ou depender de reengenharia humana constante.

Parece haver uma divisão crescente entre experimentação de IA e confiança operacional. As empresas podem prototipar agentes com sucesso internamente, mas implantá-los em escala é um desafio completamente diferente. O que as organizações estão subestimando sobre essa transição?

Muitas organizações estão subestimando quão dinâmicos os ambientes operacionais reais são. Um agente que executa com 85% de precisão pode soar forte em testes, mas em escala empresarial isso ainda se traduz em um fluxo constante de erros e situações de recuperação que as equipes humanas devem gerenciar. O desafio se torna ainda mais significativo em fluxos de trabalho de múltiplos passos, onde as falhas se somam em sistemas e tarefas, tornando a supervisão, intervenção e responsabilização muito mais difíceis do que muitas organizações inicialmente esperam.

As empresas ainda estão tratando a implantação como um problema de orquestração ou prompt, quando na realidade também é um problema de aprendizado. A parte difícil não é apenas fazer com que um agente execute uma tarefa. É permitir que o sistema desenvolva competência duradoura e julgamento dentro de um ambiente operacional dinâmico.

O fardo da personalização, prompt, supervisão e reengenharia ainda recai fortemente nas equipes humanas hoje. Isso é frequentemente um sinal de que o sistema ainda carece de compreensão operacional; eles estão sendo manualmente direcionados por meio disso a cada vez. Isso não é um caminho para escala ou confiança.

Um tema importante que surge em toda a indústria de IA é governança, guardrails e aplicação de políticas. No entanto, a NeoCognition argumenta que a governança sozinha não é suficiente. Por que você acredita que a confiabilidade ultimate requer sistemas que continuamente se adaptam ao seu ambiente em vez de simplesmente seguir regras estáticas?

Governança e guardrails são extremamente importantes, mas regras estáticas sozinhas não podem resolver completamente a confiabilidade em ambientes complexos.

Sistemas operacionais de produção estão constantemente mudando. Fluxos de trabalho evoluem, ferramentas são atualizadas, políticas mudam e situações inesperadas surgem que não podem ser sempre antecipadas com antecedência. Se um agente só souber seguir regras pré-definidas sem entender o ambiente em que opera, ele eventualmente encontrará situações que essas regras não contabilizaram.

A confiabilidade dos humanos vem do julgamento, não apenas da adesão rígida a scripts, mas porque desenvolvemos julgamento entendendo a estrutura e as restrições do mundo ao nosso redor. Aprendemos quando escalonar, quando algo parece anormal e quando o contexto muda o curso de ação correto.

Acreditamos que os agentes de IA precisam de uma capacidade semelhante de adaptação e compreensão ambiental. Sistemas mais seguros virão de torná-los mais competentes e especializados dentro de mundos operacionais bem definidos. Esse tipo de sistema observa seu próprio ambiente e suas próprias saídas, rastreia onde falha e atualiza seu comportamento.

A indústria de IA frequentemente enfatiza modelos maiores e capacidades mais amplas, mas a NeoCognition parece se concentrar em especialização e aprendizado contextual. Você acredita que o futuro dos agentes de IA empresariais parecerá mais com trabalhadores digitais altamente especializados do que com assistentes universais?

Nós acreditamos firmemente que o futuro será impulsionado pela especialização. A indústria se concentrou naturalmente em modelos cada vez mais gerais porque a capacidade ampla é impressionante. Mas em ambientes empresariais, o desafio real não é se um agente pode fazer um pouco de tudo. É se ele pode desempenhar um papel específico de forma confiável e com julgamento sólido ao longo do tempo. Nossa força não é que sejamos especialistas natos em todos os ambientes. É que podemos aprender a estrutura de um mundo particular o suficiente para operar de forma eficaz dentro dele.

Na NeoCognition, acreditamos que o futuro não será um superagente que faça tudo. Em vez disso, será uma abundância de agentes especializados, cada um aprendendo um mundo particular o suficiente para operar com proficiência de especialista, confiabilidade e julgamento. Seu propósito não é substituir a expertise humana, mas torná-la mais abundante: colocar capacidade de fronteira em muitas mais mãos e elevar a linha de base do que qualquer pessoa ou organização pode fazer.

Uma das maiores preocupações em torno de agentes autônomos é como eles se comportam quando os ambientes mudam inesperadamente. Quão importante é a adaptação e a consciência ambiental do mundo real para prevenir falhas, alucinações ou ações inseguras?

É absolutamente crítico. Sem consciência ambiental, os agentes podem continuar agindo com confiança mesmo quando sua compreensão da situação está desatualizada ou incompleta. É aí que as falhas operacionais frequentemente surgem.

Acreditamos que a confiabilidade requer que os agentes continuamente aprendam a estrutura local do ambiente em que operam e atualizem sua compreensão ao longo do tempo. A confiabilidade muda e evolui ao longo do tempo: o que parecia confiável em setembro pode não parecer o mesmo em maio. Quanto mais profundamente um agente entende os sistemas, restrições, fluxos de trabalho e relacionamentos ao seu redor, mais capaz se torna de reconhecer quando as condições mudaram ou quando a incerteza exige escalonamento.

Quão perto você acredita que a indústria está de implantar sistemas de IA que possam genuinamente melhorar a si mesmos por meio da interação contínua com ambientes operacionais reais?

Ainda estamos no início de construir os mecanismos de aprendizado subjacentes necessários para aprendizado contínuo confiável e auto-aperfeiçoamento, mas a indústria está muito mais perto dessa transição do que muitas pessoas percebem. Estamos vivendo em uma linha do tempo comprimida. Os ingredientes para o próximo avanço tecnológico estão prontos. Isso pode acontecer muito em breve.

O que importa não é simplesmente o auto-aperfeiçoamento abstrato, mas a especialização estruturada dentro de ambientes reais. Isso significa aprender fluxos de trabalho, restrições, relacionamentos e padrões de comportamento bem-sucedido de maneiras que sejam estáveis, governáveis e resistentes à perda catastrófica. Esse é o problema em que estamos focados na NeoCognition.

Olhando para os próximos anos, o que você acredita que finalmente separará os agentes de IA de confiança empresarial da onda de sistemas experimentais que atualmente inundam o mercado?

Os sistemas que terão sucesso serão aqueles que parecem menos como cenários de brinquedo e mais como operadores confiáveis.

A capacidade bruta do modelo sozinha não será suficiente. As empresas eventualmente se importarão com a capacidade dos agentes de operar consistentemente dentro de seus ambientes reais, entender fluxos de trabalho e restrições locais, respeitar limites e permissões, se adaptar com segurança ao longo do tempo e entregar resultados repetíveis.

Os vencedores futuros na IA empresarial não serão simplesmente os sistemas que podem responder à maior variedade de perguntas. Eles serão os sistemas que podem aprender um mundo operacional particular o suficiente para agir com real proficiência, julgamento e confiabilidade dentro dele.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar NeoCognition.