Hirundo Haalt $8 Miljoen Op Om AI-hallucinaties Te Bestrijden Met Machine-unlearning

Hirundo, het eerste startupbedrijf dat zich richt op machine-unlearning, heeft $8 miljoen aan seedfinanciering opgehaald om enkele van de meest dringende uitdagingen in kunstmatige intelligentie aan te pakken: hallucinaties, vooroordelen en ingebedde gegevenskwetsbaarheden. De ronde werd geleid door Maverick Ventures Israel met deelname van SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND en Plug and Play Tech Center.

AI Laten Vergeten: De Belofte Van Machine-unlearning

In tegenstelling tot traditionele AI-hulpmiddelen die zich richten op het verfijnen of filteren van AI-uitvoer, is Hirundo’s kerninnovatie machine-unlearning – een techniek die het mogelijk maakt voor AI-modellen om specifieke kennis of gedragingen te “vergeten” nadat ze al zijn getraind. Deze benadering stelt ondernemingen in staat om hallucinaties, vooroordelen, persoonlijke of vertrouwelijke gegevens en kwetsbaarheden voor aanvallen te verwijderen uit geïmplementeerde AI-modellen zonder ze opnieuw van scratch te trainen. Het opnieuw trainen van grote modellen kan weken en miljoenen dollars kosten; Hirundo biedt een veel efficiëntere alternatief.

Hirundo vergelijkt dit proces met AI-neurochirurgie: het bedrijf lokaliseert precies waar in een modelparameters ongewenste uitvoer ontstaat en verwijdert deze precies, terwijl de prestaties behouden blijven. Deze baanbrekende techniek stelt organisaties in staat om modellen in productieomgevingen te herstellen en AI met veel meer vertrouwen te implementeren.

Waarom AI-hallucinaties Zo Gevaarlijk Zijn

AI-hallucinaties verwijzen naar de neiging van een model om valse of misleidende informatie te genereren die plausibel of zelfs feitelijk klinkt. Deze hallucinaties zijn vooral problematisch in ondernemingsomgevingen, waar beslissingen op basis van onjuiste informatie kunnen leiden tot juridische aansprakelijkheid, operationele fouten en reputatieschade. Studies hebben aangetoond dat 58 tot 82% van de “feiten” die door AI voor juridische queries worden gegenereerd een soort hallucinatie bevatten.

Ondanks pogingen om hallucinaties te minimaliseren met behulp van beveiligingsmaatregelen of fijntuning, maskeren deze methoden vaak problemen in plaats van ze te elimineren. Beveiligingsmaatregelen fungeren als filters, en fijntuning faalt meestal om de rootoorzaken te verwijderen – vooral wanneer de hallucinatie diep in de geleerde gewichten van het model is ingebed. Hirundo gaat hier verder door het gedrag of de kennis daadwerkelijk uit het model te verwijderen.

Een Schaalbare Platform Voor Elke AI-Stack

Hirundo’s platform is gebouwd voor flexibiliteit en ondernemingsklare implementatie. Het integreert met zowel generatieve als niet-generatieve systemen over een breed scala aan gegevenstypen – natuurlijke taal, visie, radar, LiDAR, tabellarisch, spraak en tijdsreeks. Het platform detecteert automatisch onjuist gelabelde items, outliers en ambiguïteiten in trainingsgegevens. Vervolgens kunnen gebruikers specifieke foutieve uitvoer debuggen en deze terug traceren naar problematische trainingsgegevens of geleerde gedragingen, die onmiddellijk kunnen worden ongeleerd.

Dit alles gebeurt zonder de workflows te veranderen. Hirundo’s SOC-2-gecertificeerde systeem kan worden uitgevoerd via SaaS, private cloud (VPC) of zelfs air-gapped on-premises, waardoor het geschikt is voor gevoelige omgevingen zoals financiën, gezondheidszorg en defensie.

Aangetoonde Impact Over Modellen

Het bedrijf heeft al een sterke prestatieverbetering aangetoond over populaire grote taalmodellen (LLM’s). In tests met Llama en DeepSeek behaalde Hirundo een reductie van 55% in hallucinaties, 70% afname in vooroordelen en 85% reductie in succesvolle prompt-injectieaanvallen. Deze resultaten zijn geverifieerd met onafhankelijke benchmarks zoals HaluEval, PurpleLlama en Bias Benchmark Q&A.

Terwijl huidige oplossingen goed werken met open-source-modellen zoals Llama, Mistral en Gemma, breidt Hirundo actief de ondersteuning uit naar gated-modellen zoals ChatGPT en Claude. Dit maakt hun technologie toepasbaar over het volledige spectrum van ondernemings-LLM’s.

Opgericht Door Academici En Industrie-experts

Hirundo werd in 2023 opgericht door een trio van experts op het snijvlak van academische en ondernemings-AI. CEO Ben Luria is een Rhodes-beurs en voormalig bezoeker aan Oxford, die eerder fintech-startup Worqly oprichtte en non-profitorganisatie ScholarsIL mede-oprichtte, die hoger onderwijs ondersteunt. Michael Leybovich, Hirundo’s CTO, is een voormalig graduate-onderzoeker aan de Technion en award-winning R&D-officier bij Ofek324. Prof. Oded Shmueli, het bedrijf’s Chief Scientist, is de voormalige decaan van de afdeling Informatica aan de Technion en heeft onderzoeksposities gehad bij IBM, HP, AT&T (T ) en meer.

Hun collectieve ervaring omvat fundamenteel AI-onderzoek, werkelijke implementatie en beveiligde gegevensbeheer – waardoor ze uniek gekwalificeerd zijn om de huidige betrouwbaarheids crisis in de AI-industrie aan te pakken.

Investeerders Steunen Een Betrouwbaar AI-toekomst

Investeerders in deze ronde zijn afgestemd op Hirundo’s visie om betrouwbare, ondernemingsklare AI te bouwen. Yaron Carni, oprichter van Maverick Ventures Israel, benadrukte de dringende behoefte aan een platform dat hallucinaties of vooroordelen uit AI kan verwijderen voordat ze werkelijke schade aanrichten. “Zonder hallucinaties of vooroordelen uit AI te verwijderen, creëren we vertekende resultaten en moedigen we wantrouwen aan,” zei hij. “Hirundo biedt een soort AI-triage – het verwijderen van onwaarheden of gegevens die op discriminerende bronnen zijn gebaseerd en het volledig transformeren van de mogelijkheden van AI.”

SuperSeed’s Managing Partner, Mads Jensen, deelde deze mening: “We investeren in uitzonderlijke AI-bedrijven die industrieverticale transformatie aandrijven, maar deze transformatie is alleen zo krachtig als de modellen zelf betrouwbaar zijn. Hirundo’s benadering van machine-unlearning adresseert een kritieke kloof in de AI-ontwikkelingscyclus.”

Een Groeiende Uitdaging In AI-implementatie Aanpakken

Naarmate AI-systemen steeds meer worden geïntegreerd in kritieke infrastructuur, worden zorgen over hallucinaties, vooroordeel en ingebedde gevoelige gegevens steeds moeilijker te negeren. Deze problemen vormen aanzienlijke risico’s in high-stakes-omgevingen, van financiën tot gezondheidszorg en defensie.

Machine-unlearning ontwikkelt zich als een kritisch instrument in de reactie van de AI-industrie op groeiende zorgen over modelbetrouwbaarheid en -veiligheid. Naarmate hallucinaties, ingebedde vooroordelen en blootstelling van gevoelige gegevens het vertrouwen in geïmplementeerde AI-systemen steeds meer ondermijnen, biedt unlearning een directe manier om deze risico’s te mitigeren – na een model is getraind en in gebruik.

In plaats van te vertrouwen op opnieuw trainen of oppervlakkige oplossingen zoals filteren, stelt machine-unlearning een gerichte verwijdering van problematisch gedrag en gegevens uit modellen in productie mogelijk. Deze benadering wint aan populariteit onder ondernemingen en overheidsinstanties die schaalbare, compliant oplossingen zoeken voor high-stakes-toepassingen.