Hirundo lève 8 millions de dollars pour lutter contre les hallucinations de l’IA avec l’apprentissage inverse de la machine

Hirundo, la première startup dédiée à l’apprentissage inverse de la machine, a levé 8 millions de dollars en financement initial pour répondre à certains des défis les plus pressants de l’intelligence artificielle : les hallucinations, les biais et les vulnérabilités des données intégrées. Le tour a été mené par Maverick Ventures Israel avec la participation de SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND, et Plug and Play Tech Center.

Faire oublier l’IA : la promesse de l’apprentissage inverse de la machine

Contrairement aux outils d’IA traditionnels qui se concentrent sur l’affinement ou le filtrage des sorties d’IA, l’innovation principale de Hirundo est l’apprentissage inverse de la machine — une technique qui permet aux modèles d’IA de « oublier » des connaissances ou des comportements spécifiques après leur formation. Cette approche permet aux entreprises de supprimer chirurgicalement les hallucinations, les biais, les données personnelles ou propriétaires et les vulnérabilités adverses des modèles d’IA déployés sans les reformer à partir de zéro. La réformation de grands modèles peut prendre des semaines et des millions de dollars ; Hirundo offre une alternative beaucoup plus efficace.

Hirundo compare ce processus à la neurochirurgie de l’IA : l’entreprise identifie exactement où dans les paramètres d’un modèle les sorties indésirables proviennent et les supprime avec précision, tout en préservant les performances. Cette technique innovante permet aux organisations de remédier aux modèles en production et de déployer l’IA avec beaucoup plus de confiance.

Pourquoi les hallucinations de l’IA sont si dangereuses

Les hallucinations de l’IA font référence à la tendance d’un modèle à générer de fausses ou trompeuses informations qui semblent plausibles ou même factuelles. Ces hallucinations sont particulièrement problématiques dans les environnements d’entreprise, où les décisions basées sur des informations incorrectes peuvent entraîner des risques juridiques, des erreurs opérationnelles et des dommages à la réputation. Des études ont montré que 58 à 82 % des « faits » générés par l’IA pour les requêtes juridiques contenaient un certain type d’hallucination.

Malgré les efforts pour minimiser les hallucinations en utilisant des garde-fous ou un affinement, ces méthodes masquent souvent les problèmes plutôt que de les éliminer. Les garde-fous agissent comme des filtres, et l’affinement échoue généralement à supprimer la cause profonde — en particulier lorsque l’hallucination est profondément ancrée dans les poids appris du modèle. Hirundo va au-delà de cela en supprimant réellement le comportement ou les connaissances du modèle lui-même.

Une plateforme évolutivaire pour n’importe quelle pile d’IA

La plateforme de Hirundo est conçue pour la flexibilité et le déploiement d’entreprise. Elle s’intègre à la fois aux systèmes génératifs et non génératifs sur une large gamme de types de données — langage naturel, vision, radar, LiDAR, tabulaire, parole et série temporelle. La plateforme détecte automatiquement les éléments mal étiquetés, les valeurs aberrantes et les ambiguïtés dans les données de formation. Elle permet ensuite aux utilisateurs de déboguer des sorties spécifiques défectueuses et de les retracer jusqu’aux données de formation ou aux comportements appris problématiques, qui peuvent être oubliés instantanément.

Tout cela est réalisé sans modifier les flux de travail. Le système certifié SOC-2 de Hirundo peut être exécuté via SaaS, cloud privé (VPC) ou même sur site en mode déconnecté, ce qui le rend adapté aux environnements sensibles tels que la finance, les soins de santé et la défense.

Impact démontré sur les modèles

La société a déjà démontré des améliorations de performances importantes sur les grands modèles de langage (LLM). Dans des tests utilisant Llama et DeepSeek, Hirundo a réalisé une réduction de 55 % des hallucinations, une diminution de 70 % des biais et une réduction de 85 % des attaques d’injection de requêtes réussies. Ces résultats ont été vérifiés à l’aide de benchmarks indépendants tels que HaluEval, PurpleLlama et Bias Benchmark Q&A.

Alors que les solutions actuelles fonctionnent bien avec les modèles open source comme Llama, Mistral et Gemma, Hirundo élargit activement son soutien aux modèles fermés comme ChatGPT et Claude. Cela rend leur technologie applicable à l’ensemble du spectre des LLM d’entreprise.

Fondateurs avec une profondeur académique et industrielle

Hirundo a été fondée en 2023 par un trio d’experts à l’intersection de l’académie et de l’IA d’entreprise. Le PDG Ben Luria est un boursier Rhodes et ancien chercheur invité à Oxford, qui a précédemment fondé la startup de fintech Worqly et co-fondé ScholarsIL, une organisation à but non lucratif qui soutient l’enseignement supérieur. Michael Leybovich, CTO de Hirundo, est un ancien chercheur diplômé à la Technion et un officier de recherche et développement primé chez Ofek324. Prof. Oded Shmueli, le scientifique en chef de la société, est l’ancien doyen de l’informatique à la Technion et a occupé des postes de recherche chez IBM, HP, AT&T (T ) et d’autres.

Leur expérience collective s’étend sur la recherche fondamentale en IA, le déploiement dans le monde réel et la gestion sécurisée des données — ce qui les rend unique pour relever la crise actuelle de fiabilité de l’industrie de l’IA.

Soutien des investisseurs pour un avenir d’IA fiable

Les investisseurs dans ce tour sont alignés sur la vision de Hirundo de construire une IA fiable et prête pour l’entreprise. Yaron Carni, fondateur de Maverick Ventures Israel, a noté l’urgence d’une plateforme capable de supprimer les intelligences hallucinées ou biaisées avant qu’elles ne causent des dommages dans le monde réel. « Sans supprimer les hallucinations ou les intelligences biaisées de l’IA, nous finissons par déformer les résultats et encourager la méfiance », a-t-il déclaré. « Hirundo offre une sorte de triage de l’IA — supprimant les faussetés ou les données construites sur des sources discriminatoires et transformant complètement les possibilités de l’IA. »

Le partenaire directeur de SuperSeed, Mads Jensen, a échoé ce sentiment : « Nous investissons dans des sociétés d’IA exceptionnelles qui transforment les verticales industrielles, mais cette transformation n’est puissante que dans la mesure où les modèles eux-mêmes sont fiables. L’approche de Hirundo en matière d’apprentissage inverse de la machine répond à un fossé critique dans le cycle de développement de l’IA. »

Répondre à un défi croissant dans le déploiement de l’IA

Alors que les systèmes d’IA sont de plus en plus intégrés dans les infrastructures critiques, les préoccupations concernant les hallucinations, les biais et les données sensibles intégrées deviennent de plus en plus difficiles à ignorer. Ces problèmes posent des risques importants dans les environnements à enjeux élevés, de la finance aux soins de santé et à la défense.

L’apprentissage inverse de la machine émerge comme un outil essentiel dans la réponse de l’industrie de l’IA aux préoccupations croissantes concernant la fiabilité et la sécurité des modèles. Alors que les hallucinations, les biais intégrés et l’exposition de données sensibles sapent de plus en plus la confiance dans les systèmes d’IA déployés, l’apprentissage inverse offre un moyen direct de mitiger ces risques — après qu’un modèle est formé et en cours d’utilisation.

Plutôt que de s’appuyer sur la réformation ou des correctifs de surface tels que le filtrage, l’apprentissage inverse de la machine permet de supprimer ciblément les comportements et les données problématiques des modèles déjà en production. Cette approche gagne en traction parmi les entreprises et les agences gouvernementales qui recherchent des solutions conformes et évolutives pour des applications à enjeux élevés.