Hirundo Získala 8 Milionů USD Na Boj S AI Hallucinacemi Pomocí Machine Unlearning

Hirundo, první startup věnovaný machine unlearning, získal 8 milionů dolarů v rámci seed financování, aby řešil některé z nejpalčivějších problémů v oblasti umělé inteligence: hallucinace, bias a vložené zranitelnosti dat. kolo bylo vedené Maverick Ventures Israel s účastí SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND a Plug and Play Tech Center.

Přinutit AI Zapomenout: Slib Machine Unlearning

Na rozdíl od tradičních nástrojů AI, které se zaměřují na rafinování nebo filtrování výstupů AI, je jádrem inovace Hirundo machine unlearning—technika, která umožňuje modelům AI “zapomenout” na konkrétní znalosti nebo chování poté, co byly již vyškoleny. Tento přístup umožňuje podnikům chirurgicky odstranit hallucinace, bias, osobní nebo proprietární data a adversativní zranitelnosti z nasazených modelů AI bez nutnosti je znovu školit. Přeshkolování velkých modelů může trvat týdny a miliony dolarů; Hirundo nabízí mnohem efektivnější alternativu.

Hirundo přirovnává tento proces k AI neurochirurgii: společnost přesně určí, kde v parametrech modelu vznikají nežádoucí výstupy, a přesně je odstraní, přičemž zachovává výkon. Tato průlomová technika umožňuje organizacím odstranit modely v produkčních prostředích a nasadit AI s mnohem větší jistotou.

Proč Jsou AI Hallucinace Tak Nebezpečné

AI hallucinace se týkají tendence modelu generovat falešné nebo zavádějící informace, které znějí uvěřitelně nebo dokonce fakticky. Tyto hallucinace jsou especialmente problematické v podnikových prostředích, kde rozhodnutí založená na nesprávných informacích mohou vést k právnímu ohrožení, operačním chybám a poškození pověsti. Studie prokázaly, že 58 až 82 % “faktů” generovaných AI pro právní dotazyobsahovaly nějaký typ hallucinace.

Přes snahy minimalizovat hallucinace pomocí zábran nebo jemného ladění, tyto metody často maskují problémy místo jejich odstranění. Zábrany fungují jako filtry a jemné ladění obvykle nezřídí odstranění kořenové příčiny – zejména když je hallucinace hluboce zakódována v modelech. Hirundo jde za touto hranicí tím, že skutečně odstraňuje chování nebo znalosti z modelu.

Škálovatelná Platforma Pro Jakýkoli AI Stack

Platforma Hirundo je postavena pro flexibilitu a podnikové nasazení. Integruje se s generativními i negenerativními systémy napříč širokým spektrem typů dat – přirozený jazyk, vize, radar, LiDAR, tabulka, řeč a časová řada. Platforma automaticky detekuje chybně označené položky, outliery a ambivalence ve školicích datech. Pak umožňuje uživatelům ladit konkrétní chybné výstupy a sledovat je zpět k problémovým školicím datům nebo naučeným chováním, které lze okamžitě “zapomenout”.

To vše je dosaženo bez změny pracovních postupů. Systém Hirundo s certifikací SOC-2 lze spustit prostřednictvím SaaS, soukromého cloudu (VPC) nebo dokonce vzduchovým mezistem na místě, což z něj činí vhodný pro citlivé prostředí, jako je finance, zdravotnictví a obrana.

Prokázaný Dopad Na Modely

Společnost již prokázala silné zlepšení výkonu napříč populárními velkými jazykovými modely (LLM). V testech pomocí Llama a DeepSeek dosáhla Hirundo 55% snížení hallucinací, 70% snížení bias a 85% snížení úspěšných útoků na injekci příkazů. Tyto výsledky byly ověřeny nezávislými benchmarky, jako je HaluEval, PurpleLlama a Bias Benchmark Q&A.

Zatímco současné řešení funguje dobře s otevřenými modely, jako je Llama, Mistral a Gemma, Hirundo aktivně rozšiřuje podporu i pro uzavřené modely, jako je ChatGPT a Claude. To činí jejich technologii aplikovatelnou napříč plným spektrem podnikových LLM.

Zakladatelé S Akademickou A Průmyslovou Hloubkou

Hirundo byla založena v roce 2023 trojicí odborníků na průsečíku akademie a podnikové AI. CEO Ben Luria je Rhodes Scholar a bývalý hostující fellow na Oxfordské univerzitě, který dříve založil fintech startup Worqly a spoluzaložil ScholarsIL, neziskovou organizaci podporující vyšší vzdělávání. Michael Leybovich, CTO Hirundo, je bývalý absolventský výzkumník na Technionu a oceněný R&D důstojník v Ofek324. Prof. Oded Shmueli, hlavní vědec společnosti, je bývalý děkan počítačových věd na Technionu a zastával výzkumné pozice v IBM, HP, AT&T (T ) a dalších.

Jejich kolektivní zkušenosti sahají od základního AI výzkumu, přes reálné nasazení až po zabezpečené řízení dat, což z nich činí jedinečně kvalifikované pro řešení současné krize spolehlivosti AI.

Investorská Podpora Pro Důvěryhodnou AI Budoucnost

Investoři v tomto kole jsou seřazeni s vizi Hirundo budovat důvěryhodnou, podnikovou AI. Yaron Carni, zakladatel Maverick Ventures Israel, poznamenal naléhavou potřebu platformy, která může odstranit hallucinované nebo zaujaté inteligence, než způsobí reálné škody. “Bez odstranění hallucinací nebo zaujaté inteligence z AI, končíme tím, že deformujeme výsledky a podporujeme nedůvěru,” řekl. “Hirundo nabízí typ AI triáže – odstranění nepravd nebo dat postavených na diskriminačních zdrojích a kompletní transformace možností AI.”

Managing Partner SuperSeed, Mads Jensen, toto vyjádřil: “Investujeme do výjimečných AI společností, které transformují průmyslové vertikály, ale tato transformace je pouze tak silná, jako jsou modely samy o sobě důvěryhodné. Přístup Hirundo k machine unlearning řeší kritickou mezeru v životním cyklu vývoje AI.”

Řešení Rostoucí Výzvy V Nasazení AI

Jak jsou systémy AI stále více integrovány do kritické infrastruktury, obavy o hallucinace, bias a vložená citlivá data se stávají stále obtížněji ignorovatelnými. Tyto problémy představují významná rizika v prostředí s vysokými ставami, od financí po zdravotnictví a obranu.

Machine unlearning se stává kritickým nástrojem v reakci AI průmyslu na rostoucí obavy o spolehlivost a bezpečnost modelů. Jak hallucinace, vložený bias a expozice citlivých dat stále více podkopávají důvěru v nasazené systémy AI, unlearning nabízí přímý způsob, jak tyto rizika zmírnit – po školení modelu a během jeho použití.

Místo toho, aby se spoléhali na přeshkolování nebo povrchové opravy, jako je filtrování, machine unlearning umožňuje cílené odstranění problémového chování a dat z modelů, které jsou již v produkci. Tento přístup získává trakci mezi podniky a vládními agenturami, které hledají škálovatelná, kompatibilní řešení pro aplikace s vysokými ставami.