Hirundo hæver 8 millioner dollars for at tackle AI-hallucinationer med maskinlæring

Hirundo, det første startup, der er dedikeret til maskinlæring, har hævet 8 millioner dollars i seed-finansiering for at løse nogle af de mest presserende udfordringer i kunstig intelligens: hallucinationer, bias og indbyggede data-sårbarheder. Runden blev ledt af Maverick Ventures Israel med deltagelse fra SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND og Plug and Play Tech Center.

At gøre AI til at glemme: Løftet om maskinlæring

I modsætning til traditionelle AI-værktøjer, der fokuserer på at forfine eller filtrere AI-udgang, er Hirundos kerneinnovation maskinlæring – en teknik, der tillader AI-modeller at “glemme” bestemt viden eller adfærd efter, at de allerede er trænet. Denne tilgang muliggør, at virksomheder kan kirurgisk fjerne hallucinationer, bias, personlige eller fortrolige data og adversarial sårbarheder fra udviklede AI-modeller uden at skulle genoptræne dem fra scratch. Genoptræning af store modeller kan tage uger og millioner af dollars; Hirundo tilbyder en langt mere effektiv alternativ.

Hirundo ligner denne proces med AI-neurokirurgi: virksomheden lokaliserer præcis, hvor i en models parametre uønskede udgang kommer fra, og fjerner dem præcist, samtidig med at den bevarende ydeevnen. Denne banebrydende teknik giver organisationer mulighed for at løse modeller i produktionsmiljøer og udvikle AI med langt større tillid.

Hvorfor AI-hallucinationer er så farlige

AI-hallucinationer refererer til en models tendens til at generere falske eller misvisende information, der lyder plausibel eller endda faktisk. Disse hallucinationer er særligt problematiske i virksomheds-miljøer, hvor beslutninger baseret på forkert information kan føre til retslig eksponering, operationelle fejl og reputations-skade. Studier har vist, at 58 til 82% af “fakta” genereret af AI til juridiske forespørgsler indeholdt en eller anden form for hallucination.

Trods bestræbelser på at minimere hallucinationer ved hjælp af guardrails eller finjustering, maskerer disse metoder ofte problemer i stedet for at eliminere dem. Guardrails fungerer som filtre, og finjustering eliminerer typisk ikke årsagen – især når hallucinationen er indbygget dybt i modellens lærte vægte. Hirundo går ud over dette ved at fjerne adfærden eller viden fra modellen selv.

En skalerbar platform til enhver AI-stack

Hirundos platform er bygget til fleksibilitet og virksomheds-klar udvikling. Den integrerer med både generative og ikke-generative systemer på tværs af en bred vifte af data-typer – naturlig sprog, vision, radar, LiDAR, tabeller, tale og tids-serier. Platformen detekterer automatisk forkert mærkede elementer, outliers og tvetydigheder i træningsdata. Den tillader derefter brugere at fejlfinde bestemte fejludgang og spore dem tilbage til problematiske træningsdata eller lærte adfærd, som kan fjernes øjeblikkeligt.

Dette opnås uden at ændre arbejdsgange. Hirundos SOC-2-certificerede system kan køres via SaaS, privat cloud (VPC) eller endda air-gapped på stedet, hvilket gør det egnet til følsomme miljøer såsom finans, sundhed og forsvar.

Demonstreret impact på tværs af modeller

Virksomheden har allerede demonstreret stærke forbedringer på tværs af populære store sprog-modeller (LLM’er). I tests med Llama og DeepSeek opnåede Hirundo en 55% reduktion i hallucinationer, 70% reducering i bias og 85% reducering i succesfulde prompt-injektionsangreb. Disse resultater er blevet verificeret ved hjælp af uafhængige benchmarks såsom HaluEval, PurpleLlama og Bias Benchmark Q&A.

Mens nuværende løsninger fungerer godt med open-source-modeller som Llama, Mistral og Gemma, er Hirundo aktivt udvider support til gated-modeller som ChatGPT og Claude. Dette gør deres teknologi anvendelig på tværs af det fulde spektrum af virksomheds-LLM’er.

Stiftere med akademisk og industriel dybde

Hirundo blev grundlagt i 2023 af en trio af eksperter i skæringspunktet mellem akademik og virksomheds-AI. CEO Ben Luria er en Rhodes Scholar og tidligere gæsteforsker ved Oxford, der tidligere grundlagde fintech-startup Worqly og medstiftede ScholarsIL, en nonprofit, der støtter højere uddannelse. Michael Leybovich, Hirundos CTO, er en tidligere forsker ved Technion og prisvindende R&D-officer ved Ofek324. Prof. Oded Shmueli, virksomhedens Chief Scientist, er den tidligere dekan for datalogi ved Technion og har haft forskningsstillinger ved IBM, HP, AT&T (T ) og mere.

Deres kollektive erfaring spænder over grundlæggende AI-forskning, virkelyst udvikling og sikker datastyring – hvilket gør dem unikt kvalificerede til at løse AI-industriens nuværende pålidelighedskrise.

Investor-støtte til en troværdig AI-fremtid

Investorerne i denne runde er enige med Hirundos vision om at bygge troværdig, virksomheds-klar AI. Yaron Carni, grundlægger af Maverick Ventures Israel, bemærkede det presserende behov for en platform, der kan fjerne hallucineret eller biased intelligens, før det forårsager virkelyst skade. “Uden at fjerne hallucinationer eller biased intelligens fra AI, ender vi med at forvrænge resultater og opmuntre mistillid,” sagde han. “Hirundo tilbyder en form for AI-triage – fjernelse af usandheder eller data bygget på diskriminerende kilder og komplet omdannelse af AI-muligheder.”

SuperSeeds administrerende direktør, Mads Jensen, gentog denne holdning: “Vi investerer i exceptionelle AI-virksomheder, der transformerer industriel vertikale, men denne transformation er kun så stærk, som modellerne selv er troværdige. Hirundos tilgang til maskinlæring løser en kritisk lukket i AI-udviklingslivscyklussen.”

Løsning af en voksende udfordring i AI-udvikling

Da AI-systemer integreres i kritisk infrastruktur, bliver bekymringer om hallucinationer, bias og indbyggede følsomme data vanskeligere at ignorere. Disse problemer udgør betydelige risici i høj-stakes-miljøer, fra finans til sundhed og forsvar.

Maskinlæring er ved at blive en kritisk værktøj i AI-industriens respons på voksende bekymringer over model-pålidelighed og sikkerhed. Da hallucinationer, indbyggede bias og eksponering af følsomme data stadig mere undergraver tillid til udviklede AI-systemer, tilbyder maskinlæring en direkte måde at minimere disse risici på – efter en model er trænet og i brug.

I stedet for at stole på genoptræning eller overfladiske løsninger som filtrering, muliggør maskinlæring fjernelse af problematiske adfærd og data fra modeller, der allerede er i produktion. Denne tilgang er ved at vinde frem blandt virksomheder og regeringsinstitutioner, der søger skalerbare, overholdelige løsninger til høj-stakes-applikationer.