A Hirundo Levanta $8M para Combater as Alucinações de IA com Aprendizado de Máquina

Hirundo, a primeira startup dedicada ao aprendizado de máquina, levantou $8 milhões em financiamento de sementes para abordar alguns dos desafios mais prementes na inteligência artificial: alucinações, viés e vulnerabilidades de dados incorporados. A rodada foi liderada pela Maverick Ventures Israel com a participação da SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND e Plug and Play Tech Center.

Fazendo a IA Esquecer: A Promessa do Aprendizado de Máquina

Ao contrário das ferramentas de IA tradicionais que se concentram em refinar ou filtrar as saídas de IA, a inovação central da Hirundo é o aprendizado de máquina – uma técnica que permite que os modelos de IA “esqueçam” conhecimentos ou comportamentos específicos após terem sido treinados. Essa abordagem permite que as empresas removam cirurgicamente alucinações, vieses, dados pessoais ou proprietários e vulnerabilidades adversárias de modelos de IA implantados sem retreiná-los do zero. Retreinar modelos de grande escala pode levar semanas e milhões de dólares; a Hirundo oferece uma alternativa muito mais eficiente.

A Hirundo compara esse processo a neurocirurgia de IA: a empresa identifica exatamente onde, nos parâmetros de um modelo, as saídas indesejadas se originam e as remove com precisão, preservando o desempenho. Essa técnica inovadora permite que as organizações remediem modelos em ambientes de produção e implantem IA com muito mais confiança.

Por Que as Alucinações de IA São Tão Perigosas

Alucinações de IA se referem à tendência de um modelo de gerar informações falsas ou enganosas que soam plausíveis ou mesmo factuais. Essas alucinações são especialmente problemáticas em ambientes empresariais, onde decisões baseadas em informações incorretas podem levar a exposição legal, erros operacionais e danos à reputação. Estudos mostraram que 58 a 82% dos “fatos” gerados por IA para consultas legais continham algum tipo de alucinação.

Apesar dos esforços para minimizar as alucinações usando guardrails ou fine-tuning, esses métodos frequentemente mascaram problemas em vez de eliminá-los. Os guardrails atuam como filtros, e o fine-tuning geralmente falha em remover a causa raiz – especialmente quando a alucinação está profundamente incorporada nos pesos aprendidos do modelo. A Hirundo vai além disso, removendo efetivamente o comportamento ou conhecimento do modelo em si.

Uma Plataforma Escalável para Qualquer Pilha de IA

A plataforma da Hirundo é construída para flexibilidade e implantação empresarial. Ela se integra a sistemas gerativos e não gerativos em uma ampla gama de tipos de dados – linguagem natural, visão, radar, LiDAR, tabular, fala e série temporal. A plataforma detecta automaticamente itens mal rotulados, outliers e ambiguidades nos dados de treinamento. Em seguida, permite que os usuários depurem saídas específicas defeituosas e as rastreiem até dados de treinamento problemáticos ou comportamentos aprendidos, que podem ser desaprendidos instantaneamente.

Tudo isso é alcançado sem alterar os fluxos de trabalho. O sistema da Hirundo, certificado SOC-2, pode ser executado via SaaS, nuvem privada (VPC) ou até mesmo em um ambiente isolado local, tornando-o adequado para ambientes sensíveis, como finanças, saúde e defesa.

Impacto Comprovado em Vários Modelos

A empresa já demonstrou melhorias significativas de desempenho em modelos de linguagem grandes e populares (LLMs). Em testes usando Llama e DeepSeek, a Hirundo alcançou uma redução de 55% nas alucinações, 70% na redução do viés e 85% na redução de ataques de injeção de prompts bem-sucedidos. Esses resultados foram verificados usando benchmarks independentes, como HaluEval, PurpleLlama e Bias Benchmark Q&A.

Enquanto as soluções atuais funcionam bem com modelos de código aberto, como Llama, Mistral e Gemma, a Hirundo está ativamente expandindo o suporte para modelos fechados, como ChatGPT e Claude. Isso torna sua tecnologia aplicável em todo o espectro de LLMs empresariais.

Fundadores com Profundidade Acadêmica e Industrial

A Hirundo foi fundada em 2023 por um trio de especialistas na interseção da academia e da IA empresarial. O CEO Ben Luria é um bolsista Rhodes e ex-visitante fellow em Oxford, que anteriormente fundou a startup de fintech Worqly e co-fundou a ScholarsIL, uma organização sem fins lucrativos que apoia a educação superior. Michael Leybovich, CTO da Hirundo, é um ex-pesquisador de pós-graduação no Technion e um oficial de P&D premiado na Ofek324. Prof. Oded Shmueli, o cientista-chefe da empresa, é o ex-decano de Ciência da Computação no Technion e ocupou cargos de pesquisa na IBM, HP, AT&T (T ) e mais.

A experiência coletiva deles abrange pesquisa de IA fundamental, implantação no mundo real e gerenciamento de dados seguro – tornando-os singularmente qualificados para abordar a atual crise de confiabilidade na indústria de IA.

Apoio de Investidores para um Futuro de IA Confiável

Os investidores nesta rodada estão alinhados com a visão da Hirundo de construir IA confiável e pronta para empresas. Yaron Carni, fundador da Maverick Ventures Israel, notou a necessidade urgente de uma plataforma que possa remover inteligência alucinada ou tendenciosa de IA antes que cause danos no mundo real. “Sem remover alucinações ou inteligência tendenciosa de IA, acabamos distorcendo os resultados e incentivando a desconfiança,” ele disse. “A Hirundo oferece um tipo de triagem de IA – removendo verdades ou dados construídos a partir de fontes discriminatórias e transformando completamente as possibilidades de IA.”

O sócio-gerente da SuperSeed, Mads Jensen, ecoou esse sentimento: “Investimos em empresas de IA excepcionais que transformam verticais de indústria, mas essa transformação é apenas tão poderosa quanto os modelos em si são confiáveis. A abordagem da Hirundo para o aprendizado de máquina aborda uma lacuna crítica no ciclo de vida do desenvolvimento de IA.”

Abordando um Desafio Cada Vez Maior na Implantação de IA

À medida que os sistemas de IA são cada vez mais integrados à infraestrutura crítica, as preocupações sobre alucinações, viés e dados sensíveis incorporados estão se tornando mais difíceis de ignorar. Essas questões representam riscos significativos em ambientes de alto estresse, desde finanças até saúde e defesa.

O aprendizado de máquina está surgindo como uma ferramenta crítica na resposta da indústria de IA às crescentes preocupações sobre a confiabilidade e segurança do modelo. À medida que as alucinações, o viés incorporado e a exposição de dados sensíveis cada vez mais minam a confiança nos sistemas de IA implantados, o aprendizado de máquina oferece uma maneira direta de mitigar esses riscos – após um modelo ser treinado e estar em uso.

Em vez de confiar na retreinamento ou em soluções de superfície, como filtragem, o aprendizado de máquina permite a remoção direcionada de comportamentos problemáticos e dados de modelos já em produção. Essa abordagem está ganhando tração entre empresas e agências governamentais que buscam soluções escaláveis e conformes para aplicações de alto estresse.