Hirundo Raises $8M to Tackle AI Hallucinations with Machine Unlearning

Hirundo, das erste Startup, das sich auf Machine Unlearning spezialisiert hat, hat 8 Millionen Dollar an Seed-Finanzierung aufgebracht, um einige der drängendsten Herausforderungen im Bereich der künstlichen Intelligenz anzugehen: Halluzinationen, Voreingenommenheit und eingebettete Datenverwundbarkeiten. Die Runde wurde von Maverick Ventures Israel mit Beteiligung von SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND und Plug and Play Tech Center angeführt.

Mach AI vergessen: Das Versprechen von Machine Unlearning

Im Gegensatz zu herkömmlichen AI-Tools, die sich auf die Verfeinerung oder Filterung von AI-Ausgaben konzentrieren, ist Hirundos Kerninnovation Machine Unlearning – eine Technik, die es AI-Modellen ermöglicht, “zu vergessen”, bestimmte Kenntnisse oder Verhaltensweisen nach ihrer Ausbildung. Dieser Ansatz ermöglicht es Unternehmen, Halluzinationen, Voreingenommenheit, personenbezogene oder proprietäre Daten und feindliche Verwundbarkeiten aus bereitgestellten AI-Modellen zu entfernen, ohne sie von Grund auf neu auszubilden. Die Neuausbildung großer Modelle kann Wochen und Millionen von Dollar dauern; Hirundo bietet eine viel effizientere Alternative.

Hirundo vergleicht diesen Prozess mit AI-Neurochirurgie: Das Unternehmen identifiziert genau, wo in den Parametern eines Modells unerwünschte Ausgaben entstehen, und entfernt sie genau, während die Leistung erhalten bleibt. Diese bahnbrechende Technik ermöglicht es Organisationen, Modelle in Produktionsumgebungen zu beheben und AI mit viel größerer Zuversicht bereitzustellen.

Warum AI-Halluzinationen so gefährlich sind

AI-Halluzinationen beziehen sich auf die Neigung eines Modells, falsche oder irreführende Informationen zu generieren, die plausibel oder sogar faktisch klingen. Diese Halluzinationen sind besonders problematisch in Unternehmensumgebungen, in denen Entscheidungen auf der Grundlage falscher Informationen zu rechtlicher Haftung, Betriebsfehlern und Rufschädigung führen können. Studien haben gezeigt, dass 58 bis 82% der “Fakten”, die von AI für rechtliche Anfragen generiert werden, eine Art von Halluzination enthalten.

Trotz Bemühungen, Halluzinationen mit Schutzmechanismen oder Feinabstimmung zu minimieren, maskieren diese Methoden oft Probleme, anstatt sie zu beseitigen. Schutzmechanismen wirken wie Filter, und Feinabstimmung schafft es in der Regel nicht, die Ursache zu entfernen – insbesondere, wenn die Halluzination tief in den gelernten Gewichten des Modells verankert ist. Hirundo geht darüber hinaus, indem es das Verhalten oder die Kenntnisse tatsächlich aus dem Modell selbst entfernt.

Eine skalierbare Plattform für jeden AI-Stack

Hirundos Plattform ist für Flexibilität und Unternehmensbereitschaft konzipiert. Sie integriert sich mit generativen und nicht-generativen Systemen über eine breite Palette von Datentypen – natürliche Sprache, Vision, Radar, LiDAR, Tabellen, Sprache und Zeitreihen. Die Plattform erkennt automatisch falsch beschriftete Elemente, Ausreißer und Mehrdeutigkeiten in den Trainingsdaten. Sie ermöglicht es Benutzern, bestimmte fehlerhafte Ausgaben zu debuggen und sie zurückzuverfolgen zu fehlerhaften Trainingsdaten oder gelernten Verhaltensweisen, die sofort ungelernet werden können.

All dies wird ohne Änderung der Workflows erreicht. Hirundos SOC-2-zertifiziertes System kann über SaaS, Private Cloud (VPC) oder sogar air-gapped On-Premises ausgeführt werden, was es für sensible Umgebungen wie Finanzen, Gesundheitswesen und Verteidigung geeignet macht.

Nachgewiesener Einfluss auf Modelle

Das Unternehmen hat bereits starke Leistungsverbesserungen bei beliebten großen Sprachmodellen (LLM) nachgewiesen. In Tests mit Llama und DeepSeek erzielte Hirundo eine Reduzierung von Halluzinationen um 55%, eine Verringerung von Voreingenommenheit um 70% und eine Reduzierung von erfolgreichen Prompt-Injektionsangriffen um 85%. Diese Ergebnisse wurden mit unabhängigen Benchmarks wie HaluEval, PurpleLlama und Bias Benchmark Q&A verifiziert.

Während aktuelle Lösungen gut mit Open-Source-Modellen wie Llama, Mistral und Gemma funktionieren, erweitert Hirundo aktiv die Unterstützung für geschlossene Modelle wie ChatGPT und Claude. Dies macht ihre Technologie auf dem gesamten Spektrum von Unternehmens-LLM anwendbar.

Gründer mit akademischer und industrieller Tiefe

Hirundo wurde 2023 von einem Trio von Experten an der Schnittstelle zwischen Wissenschaft und Unternehmens-AI gegründet. CEO Ben Luria ist ein Rhodes-Stipendiat und ehemaliger Gastforscher an der Oxford University, der zuvor das Fintech-Startup Worqly gründete und das Non-Profit-Unternehmen ScholarsIL mitgründete, das die höhere Bildung unterstützt. Michael Leybovich, Hirundos CTO, ist ein ehemaliger Graduate-Forscher an der Technion und preisgekrönter R&D-Offizier bei Ofek324. Prof. Oded Shmueli, der Chief Scientist des Unternehmens, ist der ehemalige Dekan der Informatik an der Technion und hatte Forschungspositionen bei IBM, HP, AT&T (T ) und mehr.

Ihre kollektive Erfahrung umfasst grundlegende AI-Forschung, realen Einsatz und sichere Datenverwaltung – was sie einzigartig qualifiziert, die aktuelle Zuverlässigkeitskrise der AI-Industrie anzugehen.

Investoren unterstützen eine vertrauenswürdige AI-Zukunft

Investoren in dieser Runde sind mit Hirundos Vision einer vertrauenswürdigen, unternehmensbereiten AI verbunden. Yaron Carni, Gründer von Maverick Ventures Israel, betonte die dringende Notwendigkeit einer Plattform, die halluzinierte oder voreingenommene Intelligenz entfernen kann, bevor sie realen Schaden anrichtet. “Ohne die Entfernung von Halluzinationen oder voreingenommener Intelligenz aus AI enden wir damit, Ergebnisse zu verzerren und Misstrauen zu fördern”, sagte er. “Hirundo bietet eine Art von AI-Triage – Entfernung von Unwahrheiten oder Daten, die auf diskriminierenden Quellen basieren, und vollständige Umgestaltung der Möglichkeiten von AI.”

SuperSeeds Managing Partner, Mads Jensen, wiederholte diese Aussage: “Wir investieren in außergewöhnliche AI-Unternehmen, die Branchen vertikal transformieren, aber diese Transformation ist nur so mächtig, wie die Modelle selbst vertrauenswürdig sind. Hirundos Ansatz für Machine Unlearning adressiert eine kritische Lücke im AI-Entwicklungszyklus.”

Eine wachsende Herausforderung bei der AI-Implementierung angehen

Da AI-Systeme zunehmend in kritische Infrastrukturen integriert werden, werden Bedenken hinsichtlich Halluzinationen, Voreingenommenheit und eingebettete sensible Daten immer schwerer zu ignorieren. Diese Probleme bergen erhebliche Risiken in hochriskanten Umgebungen, von Finanzen bis hin zu Gesundheitswesen und Verteidigung.

Machine Unlearning wird als wichtiges Werkzeug in der Reaktion der AI-Industrie auf wachsende Bedenken hinsichtlich der Modellzuverlässigkeit und -sicherheit. Da Halluzinationen, eingebettete Voreingenommenheit und die Offenlegung sensibler Daten zunehmend das Vertrauen in bereitgestellte AI-Systeme untergraben, bietet Unlearning eine direkte Möglichkeit, diese Risiken zu mindern – nach der Ausbildung und im Einsatz eines Modells.

Anstatt auf Neuausbildung oder oberflächliche Korrekturen wie Filterung zu setzen, ermöglicht Machine Unlearning die gezielte Entfernung von problematischem Verhalten und Daten aus Modellen, die bereits in Produktion sind. Dieser Ansatz gewinnt bei Unternehmen und Regierungsbehörden, die nach skalierbaren, konformen Lösungen für hochriskante Anwendungen suchen, an Boden.