Hirundo henter inn 8 millioner dollar for å takle AI-hallusinasjoner med maskinell glemsel

Hirundo, det første startup-selskapet dedikert til maskinell glemsel, har hentet inn 8 millioner dollar i seed-finansiering for å løse noen av de mest presserende utfordringene i kunstig intelligens: hallusinasjoner, bias og innbyggede datasårbarheter. Runden ble ledet av Maverick Ventures Israel med deltakelse fra SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND og Plug and Play Tech Center.

Lage AI glemme: Løftet om maskinell glemsel

I motsetning til tradisjonelle AI-verktøy som fokuserer på å forbedre eller filtere AI-utdata, er Hirundos kjerneinnovasjon maskinell glemsel – en teknikk som tillater AI-modeller å “glemme” bestemt kunnskap eller atferd etter at de allerede er trent. Dette tillater bedrifter å kirurgisk fjerne hallusinasjoner, bias, personlige eller proprietære data og adversarial sårbarheter fra distribuerte AI-modeller uten å måtte trene dem fra scratch. Å trene store modeller kan ta uker og millioner av dollar; Hirundo tilbyr et langt mer effektivt alternativ.

Hirundo likner denne prosessen med AI-nevrokirurgi: selskapet peker nøyaktig på hvor i en modells parametre uønskede utdata oppstår og fjerner dem nøyaktig, samtidig som de beholder ytelsen. Denne banebrytende teknikken gir organisasjonene mulighet til å kurere modeller i produksjonsmiljøer og distribuere AI med langt mer tillit.

Hvorfor AI-hallusinasjoner er så farlige

AI-hallusinasjoner refererer til en modells tendens til å generere falsk eller misvisende informasjon som høres plausibelt eller faktisk. Disse hallusinasjonene er spesielt problematiske i bedriftsmiljøer, hvor avgjørelser basert på feil informasjon kan føre til rettslig eksponering, operasjonelle feil og omdømmesskader. Studier har vist at 58 til 82% av “fakta” generert av AI for juridiske spørsmål inneholdt en type hallusinasjon.

Til tross for forsøk på å minimere hallusinasjoner ved hjelp av guardrails eller finjustering, maskerer disse metodene ofte problemene i stedet for å eliminere dem. Guardrails fungerer som filtre, og finjustering vanligvis ikke fjerner årsaken – spesielt når hallusinasjonen er innbygget i modellens lærte vekter. Hirundo går utenfor dette ved å faktisk fjerne atferden eller kunnskapen fra modellen selv.

En skalerbar plattform for enhver AI-stakk

Hirundos plattform er bygget for fleksibilitet og bedriftsklasse-distribusjon. Den integrerer med både generative og ikke-generative systemer over et bredt spekter av datatyper – naturlig språk, visjon, radar, LiDAR, tabell, tale og tidsserie. Plattformen detekterer automatisk feilmerkede elementer, outliers og tvetydigheter i treningdata. Den tillater deretter brukerne å feilsøke bestemte feilaktige utdata og spore dem tilbake til problematisk treningdata eller lærte atferd, som kan fjernes umiddelbart.

Dette oppnås uten å endre arbeidsflyten. Hirundos SOC-2-sertifiserte system kan kjøres via SaaS, privat sky (VPC) eller selv luftgap på stedet, noe som gjør det egnet for sensitive miljøer som finansielle tjenester, helsevesen og forsvar.

Demonstrert effekt på tvers av modeller

Selskapet har allerede demonstrert sterke forbedringer i populære store språkmodeller (LLM). I tester med Llama og DeepSeek, oppnådde Hirundo en 55% reduksjon i hallusinasjoner, 70% reduksjon i bias og 85% reduksjon i vellykkede prompt-angrepsforsøk. Disse resultater er verifisert ved hjelp av uavhengige benchmark-verktøy som HaluEval, PurpleLlama og Bias Benchmark Q&A.

Mens nåværende løsninger fungerer godt med åpne kildekodemodeller som Llama, Mistral og Gemma, utvider Hirundo aktivt støtten til gated-modeller som ChatGPT og Claude. Dette gjør deres teknologi anvendbar på hele spekteret av bedrifts-LLM-er.

Grundere med akademisk og industriell dybde

Hirundo ble grunnlagt i 2023 av en trio av eksperter i skjæringspunktet mellom akademia og bedrifts-AI. CEO Ben Luria er en Rhodes-stipendiat og tidligere gjesteforsker ved Oxford, som tidligere grunnla fintech-startup Worqly og medgrunnla ScholarsIL, en ideell organisasjon som støtter høyere utdanning. Michael Leybovich, Hirundos tekniske direktør, er en tidligere doktorgradsforsker ved Technion og prisvinnende FoU-offiser ved Ofek324. Prof. Oded Shmueli, selskapets chefsforsker, er tidligere dekan for datavitenskap ved Technion og har hatt forskningsstillinger ved IBM, HP, AT&T (T ) og mer.

Deres kollektive erfaring omfatter grunnleggende AI-forskning, virkelige implementeringer og sikker datamanagement – noe som gjør dem unikt kvalifisert til å løse AI-industriens nåværende pålitelighetskriser.

Investor-støtte for en pålitelig AI-fremtid

Investorer i denne runden er i linje med Hirundos visjon om å bygge pålitelige, bedriftsklasse-klare AI-løsninger. Yaron Carni, grunnlegger av Maverick Ventures Israel, noterte det presserende behovet for en plattform som kan fjerne hallucinerte eller biased intelligens før det forårsaker virkelige skader. “Uten å fjerne hallusinasjoner eller biased intelligens fra AI, ender vi opp med å forvrengle resultater og oppmuntre til mistillit,” sa han. “Hirundo tilbyr en type AI-triage – fjernelse av usannheter eller data bygget på diskriminerende kilder og fullstendig transformerer mulighetene for AI.”

SuperSeeds administrerende direktør, Mads Jensen, gjentok denne holdningen: “Vi investerer i unike AI-selskaper som transformerer industrielle vertikaler, men denne transformasjonen er bare like kraftig som modellene selv er pålitelige. Hirundos tilnærming til maskinell glemsel løser en kritisk lukket i AI-utviklingslivssyklusen.”

Løsning av en voksende utfordring i AI-distribusjon

Ettersom AI-systemer blir stadig mer integrert i kritisk infrastruktur, blir bekymringene om hallusinasjoner, bias og innbyggede sensitive data vanskeligere å ignorere. Disse problemene utgjør betydelige risikoer i høyrisikomiljøer, fra finansielle tjenester til helsevesen og forsvar.

Maskinell glemsel oppstår som et kritisk verktøy i AI-industriens respons på økende bekymring over modell-pålitelighet og sikkerhet. Ettersom hallusinasjoner, innbygget bias og eksponering av sensitive data stadig mer undergraver tillit til distribuerte AI-systemer, tilbyr glemsel en direkte måte å mildne disse risikoene – etter en modell er trent og i bruk.

I stedet for å stole på om-trening eller overfladiske fikser som filtering, muliggjør maskinell glemsel målrettet fjerning av problematiske atferd og data fra modeller som allerede er i produksjon. Denne tilnærmingen vinner terreng blant bedrifter og myndigheter som søker skalerbare, kompatible løsninger for høyrisiko-applikasjoner.