Hirundo pozyskał 8 milionów dolarów, aby rozwiązać problem halucynacji AI za pomocą maszynowego zapominania

Hirundo, pierwsza firma założona w celu maszynowego zapominania, pozyskała 8 milionów dolarów w ramach finansowania na etapie seed, aby rozwiązać niektóre z najpilniejszych wyzwań w dziedzinie sztucznej inteligencji: halucynacje, uprzedzenia i ukryte luki w zabezpieczeniach danych. Rundę tę poprowadziła Maverick Ventures Israel z udziałem SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND oraz Plug and Play Tech Center.

Robienie, aby AI zapomniało: Obietnica maszynowego zapominania

W przeciwieństwie do tradycyjnych narzędzi AI, które koncentrują się na udoskonalaniu lub filtrowaniu danych wyjściowych AI, podstawową innowacją Hirundo jest maszynowe zapominanie — technika, która pozwala modelom AI “zapomnieć” określoną wiedzę lub zachowania po tym, jak zostały już przeszkolone. Podejście to umożliwia przedsiębiorstwom chirurgiczne usunięcie halucynacji, uprzedzeń, danych osobowych lub poufnych oraz luk w zabezpieczeniach z wdrożonych modeli AI bez konieczności ponownego szkolenia ich od podstaw. Ponowne szkolenie dużych modeli może trwać tygodnie i kosztować miliony dolarów; Hirundo oferuje o wiele bardziej wydajną alternatywę.

Hirundo porównuje ten proces do neurochirurgii AI: firma precyzyjnie określa, skąd w parametrach modelu pochodzą niepożądane dane wyjściowe, i precyzyjnie je usuwa, zachowując przy tym wydajność. Ta przełomowa technika umożliwia organizacjom naprawę modeli w środowiskach produkcyjnych i wdrożenie AI z znacznie większą pewnością.

Dlaczego halucynacje AI są tak niebezpieczne

Halucynacje AI odnoszą się do tendencji modelu do generowania fałszywych lub mylących informacji, które brzmią prawdopodobnie lub wręcz faktualnie. Te halucynacje są szczególnie problematyczne w środowiskach przedsiębiorstw, gdzie decyzje oparte na nieprawidłowych informacjach mogą prowadzić do narażenia prawnego, błędów operacyjnych i uszczerbku na reputacji. Badania wykazały, że 58 do 82% “faktów” wygenerowanych przez AI dla zapytań prawnych zawierało jakiś rodzaj halucynacji.

Pomimo wysiłków, aby zminimalizować halucynacje za pomocą barier ochronnych lub dostrajania, metody te często maskują problemy, zamiast ich eliminować. Bariery ochronne działają jak filtry, a dostrajanie zwykle nie usuwa przyczyny — szczególnie gdy halucynacja jest głęboko zakodowana w nauczonych wagach modelu. Hirundo idzie dalej, usuwając zachowanie lub wiedzę z samego modelu.

Skalowalna platforma dla każdego stosu AI

Platforma Hirundo została zaprojektowana z myślą o elastyczności i wdrożeniu na poziomie przedsiębiorstw. Zintegrowała się z systemami generatywnymi i niegeneratywnymi w szerokim zakresie typów danych — języka naturalnego, wizji, radaru, LiDAR, tabelarycznych, mowy i czasowych. Platforma automatycznie wykrywa źle oznaczone elementy, odchylenia i niejasności w danych szkoleniowych. Następnie umożliwia użytkownikom debugowanie konkretnych błędnych danych wyjściowych i śledzenie ich do problematycznych danych szkoleniowych lub nauczonych zachowań, które mogą być zapomniane natychmiast.

Wszystko to osiągane jest bez zmiany przepływów pracy. Certyfikowany system SOC-2 Hirundo może być uruchomiony za pośrednictwem SaaS, prywatnego chmury (VPC) lub nawet w trybie odizolowanym na miejscu, co sprawia, że jest odpowiedni dla wrażliwych środowisk, takich jak finanse, opieka zdrowotna i obrona.

Udowodniony wpływ na modele

Firma już wykazała znaczną poprawę wyników w popularnych dużych modelach językowych (LLM). W testach z użyciem Llama i DeepSeek, Hirundo osiągnęła 55% redukcję halucynacji, 70% spadek uprzedzeń i 85% redukcję udanych ataków iniekcji podpowiedzi. Wyniki te zostały potwierdzone za pomocą niezależnych benchmarków, takich jak HaluEval, PurpleLlama i Bias Benchmark Q&A.

Podczas gdy obecne rozwiązania działają dobrze z modelami open-source, takimi jak Llama, Mistral i Gemma, Hirundo aktywnie rozszerza wsparcie na modele bramkowe, takie jak ChatGPT i Claude. To sprawia, że ich technologia jest stosowalna w całym spektrum przedsiębiorstw LLM.

Założyciele z akademicką i branżową głębią

Hirundo została założona w 2023 roku przez trio ekspertów na styku akademii i przedsiębiorstw AI. CEO Ben Luria jest stypendystą Rhodesa i byłym gościnnym wykładowcą w Oxfordzie, który wcześniej założył startup fintechowy Worqly i współzałożył ScholarsIL, organizację non-profit wspierającą wyższą edukację. Michael Leybovich, CTO Hirundo, jest byłym badaczem w Technionie i nagrodzonym oficerem R&D w Ofek324. Prof. Oded Shmueli, główny naukowiec firmy, jest byłym dziekanem Wydziału Informatyki w Technionie i zajmował stanowiska badawcze w IBM, HP, AT&T (T ) i innych.

Ich zbiorcze doświadczenie obejmuje podstawowe badania AI, rzeczywiste wdrożenie i bezpieczne zarządzanie danymi, co sprawia, że są unikalnie przygotowani do rozwiązania obecnego kryzysu niezawodności w branży AI.

Wsparcie inwestorów dla godnego zaufania przyszłości AI

Inwestorzy w tej rundzie są zgodni z wizją Hirundo dotyczącą budowy godnych zaufania, gotowych do wdrożenia przedsiębiorstw AI. Yaron Carni, założyciel Maverick Ventures Israel, zauważył pilną potrzebę platformy, która może usunąć halucynacje lub uprzedzenia z AI, zanim spowodują one szkody w świecie rzeczywistym. „Bez usunięcia halucynacji lub uprzedzeń z AI, kończymy z rozmytymi wynikami i zachęcamy do braku zaufania”, powiedział. „Hirundo oferuje rodzaj triażu AI — usuwając nieprawdę lub dane oparte na dyskryminujących źródłach i kompletnie przekształcając możliwości AI.”

Managing Partner SuperSeed, Mads Jensen, wyraził to samo zdanie: „Inwestujemy w wyjątkowe firmy AI, które transformują piony przemysłowe, ale ta transformacja jest tylko tak potężna, jak sama niezawodność modeli. Podejście Hirundo do maszynowego zapominania rozwiązuje krytyczną lukę w cyklu życia rozwoju AI.”

Rozwiązywanie rosnącego wyzwania w wdrożeniu AI

Ponieważ systemy AI są coraz bardziej integrowane z krytyczną infrastrukturą, obawy dotyczące halucynacji, uprzedzeń i ukrytych danych wrażliwych stają się coraz trudniejsze do ignorowania. Problemy te stanowią znaczne ryzyko w środowiskach o wysokim ryzyku, od finansów po opiekę zdrowotną i obronę.

Maszynowe zapominanie staje się kluczowym narzędziem w odpowiedzi branży AI na rosnące obawy dotyczące niezawodności i bezpieczeństwa modeli. Ponieważ halucynacje, uprzedzenia i narażenie na wrażliwe dane coraz bardziej podważają zaufanie do wdrożonych systemów AI, zapominanie oferuje bezpośredni sposób na złagodzenie tych ryzyk — po przeszkoleniu modelu i podczas jego użytkowania.

Zamiast polegać na ponownym szkoleniu lub powierzchownych naprawach, takich jak filtrowanie, maszynowe zapominanie umożliwia celowe usunięcie problematycznych zachowań i danych z modeli już w produkcji. Podejście to zyskuje na popularności wśród przedsiębiorstw i agencji rządowych, które szukają skalowalnych, zgodnych rozwiązań dla aplikacji o wysokim ryzyku.