Hirundo Raises $8M för att tackla AI-hallucinationer med maskinell glömska

Hirundo, det första startup-företaget som är dedikerat till maskinell glömska, har samlat in 8 miljoner dollar i seed-finansiering för att tackla några av de mest pressande utmaningarna inom artificiell intelligens: hallucinationer, bias och inbäddade data-sårbarheter. Finansieringsrundan leddes av Maverick Ventures Israel med deltagande från SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND och Plug and Play Tech Center.

Att göra AI glömskt: Löftet om maskinell glömska

Till skillnad från traditionella AI-verktyg som fokuserar på att förbättra eller filtrera AI-utdata, är Hirundos kärninovation maskinell glömska – en teknik som tillåter AI-modeller att “glömma” specifik kunskap eller beteende efter att de har tränats. Denna metod möjliggör för företag att kirurgiskt avlägsna hallucinationer, bias, personliga eller proprietära data och adversariala sårbarheter från distribuerade AI-modeller utan att behöva träna om dem från scratch. Omträning av storskaliga modeller kan ta veckor och miljontals dollar; Hirundo erbjuder ett långt mer effektivt alternativ.

Hirundo liknar denna process vid AI-neurokirurgi: företaget identifierar exakt var i en modells parametrar oönskade utdata härrör och avlägsnar dem exakt, samtidigt som prestandan bevaras. Denna banbrytande teknik ger organisationer möjlighet att åtgärda modeller i produktionsmiljöer och distribuera AI med mycket större förtroende.

Varför AI-hallucinationer är så farliga

AI-hallucinationer refererar till en modells tendens att generera falsk eller vilseledande information som låter plausibel eller till och med faktisk. Dessa hallucinationer är särskilt problematiska i företagsmiljöer, där beslut baserade på felaktig information kan leda till rättsliga exponeringar, operativa fel och skador på ryktet. Studier har visat att 58 till 82% av “fakta” som genereras av AI för juridiska frågor innehåller någon form av hallucination.

Trots ansträngningar för att minimera hallucinationer med hjälp av skydd och finjustering, maskerar dessa metoder ofta problemen snarare än att eliminera dem. Skydd fungerar som filter, och finjustering misslyckas ofta med att avlägsna den bakomliggande orsaken – särskilt när hallucinationen är inbäddad djupt i modellens inlärda vikter. Hirundo går utöver detta genom att faktiskt avlägsna beteendet eller kunskapen från modellen själv.

En skalbar plattform för alla AI-staplar

Hirundos plattform är byggd för flexibilitet och företagsklassad distribution. Den integrerar med både generativa och icke-generativa system över en stor mängd datatyper – naturligt språk, syn, radar, LiDAR, tabell, tal och tids-serier. Plattformen upptäcker automatiskt felmärkta artiklar, utomstående och tvetydigheter i träningsdata. Den tillåter sedan användare att felsöka specifika felaktiga utdata och spåra dem tillbaka till problematiska träningsdata eller inlärda beteenden, som kan avlägsnas omedelbart.

Allt detta uppnås utan att ändra arbetsflöden. Hirundos SOC-2-certifierade system kan köras via SaaS, privat moln (VPC) eller till och med luftgapad på plats, vilket gör det lämpligt för känsliga miljöer som finans, hälsovård och försvar.

Demonstrerad påverkan över modeller

Företaget har redan visat starka prestandaförbättringar över populära stora språkmodeller (LLM). I tester med Llama och DeepSeek uppnådde Hirundo en 55% minskning av hallucinationer, 70% minskning av bias och 85% minskning av lyckade prompt-angrepp. Dessa resultat har verifierats med hjälp av oberoende benchmark-tester som HaluEval, PurpleLlama och Bias Benchmark Q&A.

Medan nuvarande lösningar fungerar bra med öppen källkodsmodeller som Llama, Mistral och Gemma, utökar Hirundo aktivt stöd till gated-modeller som ChatGPT och Claude. Detta gör deras teknik tillämplig över hela spektrumet av företags-LLM.

Grundare med akademisk och industriell djup

Hirundo grundades 2023 av en trio av experter vid skärningspunkten mellan akademi och företags-AI. VD Ben Luria är en Rhodes-stipendiat och tidigare gästforskare vid Oxford, som tidigare grundade fintech-startup-företaget Worqly och var medgrundare till ScholarsIL, en ideell organisation som stöder högre utbildning. Michael Leybovich, Hirundos CTO, är en tidigare doktorand vid Technion och en prisbelönt R&D-officer vid Ofek324. Prof. Oded Shmueli, företagets chefsforskare, är den tidigare dekanus för datavetenskap vid Technion och har haft forskningspositioner vid IBM, HP, AT&T (T ) och flera andra.

Deras kollektiva erfarenhet omfattar grundläggande AI-forskning, verklig distribution och säker datahantering – vilket gör dem unikt kvalificerade att tackla AI-branschens nuvarande tillförlitlighetskris.

Investerarstöd för en tillförlitlig AI-framtid

Investerarna i denna runda är i linje med Hirundos vision om att bygga tillförlitlig, företagsklar AI. Yaron Carni, grundare av Maverick Ventures Israel, noterade det brådskande behovet av en plattform som kan avlägsna hallucinerad eller partisk intelligens innan den orsakar verkliga skador. “Utan att avlägsna hallucinationer eller partisk intelligens från AI, slutar vi med att förvränga resultat och uppmuntra misstro,” sa han. “Hirundo erbjuder en form av AI-triage – avlägsnande av osanningar eller data byggda på diskriminerande källor och fullständigt omvandla möjligheterna för AI.”

SuperSeeds VD, Mads Jensen, ekade denna känsla: “Vi investerar i exceptionella AI-företag som omvandlar branschvertikaler, men denna omvandling är bara så kraftfull som modellerna själva är tillförlitliga. Hirundos tillvägagångssätt för maskinell glömska adresserar en kritisk lucka i AI-utvecklingslivscykeln.”

Att tackla en växande utmaning i AI-distribution

Medan AI-system alltmer integreras i kritisk infrastruktur, blir problemen med hallucinationer, bias och inbäddade känsliga data allt svårare att ignorera. Dessa problem utgör betydande risker i högriskmiljöer, från finans till hälsovård och försvar.

Maskinell glömska växer fram som ett kritiskt verktyg i AI-branschens svar på ökande problem med modelltillförlitlighet och säkerhet. Medan hallucinationer, inbäddad bias och exponering av känsliga data alltmer undergräver förtroendet för distribuerade AI-system, erbjuder avlägsnande en direkt metod för att mildra dessa risker – efter en modell har tränats och används.

Istället för att förlita sig på omträning eller ytmässiga lösningar som filtrering, möjliggör maskinell glömska avlägsnande av problematiska beteenden och data från modeller som redan är i produktion. Detta tillvägagångssätt vinner fart bland företag och myndigheter som söker skalbara, förenliga lösningar för högriskapplikationer.