Hirundo atrage 8 milioane de dolari pentru a aborda halucinațiile IA cu învățarea mașinilor

Hirundo, prima companie dedicată învățării mașinilor, a strâns 8 milioane de dolari în finanțare inițială pentru a aborda unele dintre cele mai presante provocări ale inteligenței artificiale: halucinații, prejudecăți și vulnerabilități ale datelor încorporate. Runda a fost condusă de Maverick Ventures Israel cu participarea lui SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND și Plug and Play Tech Center.

Făcând IA să uite: Promisiunea învățării mașinilor

În contrast cu instrumentele tradiționale de IA care se concentrează pe rafinarea sau filtrarea ieșirilor IA, inovația principală a lui Hirundo este învățarea mașinilor – o tehnică care permite modelelor IA să “uite” cunoștințe sau comportamente specifice după ce au fost antrenate. Acest abordare permite întreprinderilor să înlăture în mod chirurgical halucinații, prejudecăți, date personale sau cu caracter confidențial și vulnerabilități adversariale din modelele IA deja implementate, fără a fi nevoie de antrenarea lor de la zero. Retrainingul modelelor de mari dimensiuni poate dura săptămâni și milioane de dolari; Hirundo oferă o alternativă mult mai eficientă.

Hirundo compară acest proces cu neurochirurgia IA: compania identifică exact unde în parametrii modelului se află ieșirile nedorite și le înlătură cu precizie, păstrând în același timp performanța. Această tehnică revoluționară împuternicește organizațiile să remedieze modelele în medii de producție și să implementeze IA cu mult mai multă încredere.

De ce halucinațiile IA sunt atât de periculoase

Halucinațiile IA se referă la tendința modelului de a genera informații false sau înșelătoare care sună plauzibile sau chiar factuale. Aceste halucinații sunt deosebit de problematice în medii de întreprindere, unde deciziile bazate pe informații incorecte pot duce la expunere juridică, erori operaționale și daune reputaționale. Studii au arătat că 58 până la 82% din “fapte” generate de IA pentru întrebări juridice conțineau un tip de halucinație.

În ciuda eforturilor de a minimiza halucinațiile utilizând garduri de protecție sau reglarea fină, aceste metode adesea maschează problemele în loc de a le elimina. Gardurile de protecție acționează ca filtre, iar reglarea fină de obicei nu reușește să înlăture cauza principală – mai ales atunci când halucinația este încorporată profund în greutățile modelului. Hirundo merge dincolo de acest lucru, înlăturând în realitate comportamentul sau cunoștințele din modelul însuși.

O platformă scalabilă pentru orice stivă de IA

Platforma Hirundo este construită pentru flexibilitate și implementare la nivel de întreprindere. Integrează atât sisteme generative, cât și non-generative, pe o gamă largă de tipuri de date – limbaj natural, viziune, radar, LiDAR, tabular, vorbire și serie de timp. Platforma detectează automat articolele etichetate greșit, valorile extreme și ambiguitățile din datele de antrenare. Apoi, permite utilizatorilor să depaneze ieșiri defectuoase specifice și să le urmărească înapoi la date de antrenare problematice sau comportamente învățate, care pot fi uită imediat.

Toate acestea se realizează fără a schimba fluxurile de lucru. Sistemul certificat SOC-2 al lui Hirundo poate fi rulat prin SaaS, cloud privat (VPC) sau chiar într-un mediu izolat on-premises, făcându-l potrivit pentru medii sensibile, cum ar fi finanțe, sănătate și apărare.

Impact demonstrat pe modele

Compania a demonstrat deja îmbunătățiri puternice ale performanței pe modelele de limbaj mari (LLM). În testele utilizând Llama și DeepSeek, Hirundo a obținut o reducere de 55% a halucinațiilor, o scădere de 70% a prejudecăților și o reducere de 85% a atacurilor de injecție de prompte de succes. Aceste rezultate au fost verificate utilizând benchmark-uri independente, cum ar fi HaluEval, PurpleLlama și Bias Benchmark Q&A.

În timp ce soluțiile actuale funcționează bine cu modelele deschise, cum ar fi Llama, Mistral și Gemma, Hirundo este activ implicat în extinderea suportului pentru modele închise, cum ar fi ChatGPT și Claude. Acest lucru face tehnologia lor aplicabilă pe întregul spectru al modelelor LLM de întreprindere.

Fondatori cu adâncime academică și industrială

Hirundo a fost fondat în 2023 de un trio de experți la intersecția dintre academia și IA de întreprindere. CEO Ben Luria este un bursier Rhodes și fost bursier vizitator la Oxford, care anterior a fondat startup-ul fintech Worqly și a co-fondat ScholarsIL, o organizație non-profit care sprijină învățământul superior. Michael Leybovich, CTO al lui Hirundo, este un fost cercetător postuniversitar la Technion și ofițer de cercetare și dezvoltare premiat la Ofek324. Prof. Oded Shmueli, științificul șef al companiei, este fostul decan al Facultății de Informatică de la Technion și a deținut poziții de cercetare la IBM, HP, AT&T (T ) și multe altele.

Experiența lor colectivă acoperă cercetarea fundamentală de IA, implementarea în lumea reală și gestionarea securizată a datelor, făcându-i unici calificați pentru a aborda criza actuală de fiabilitate a industriei IA.

Sprijinul investitorilor pentru un viitor IA de încredere

Investitorii în această rundă sunt aliniați cu viziunea lui Hirundo de a construi o IA de încredere, gata pentru întreprinderi. Yaron Carni, fondatorul Maverick Ventures Israel, a subliniat nevoia urgentă de a avea o platformă care să poată înlătura inteligența halucinată sau încărcată cu prejudecăți din IA, înainte de a cauza daune în lumea reală. „Fără a înlătura halucinații sau inteligență încărcată cu prejudecăți din IA, ajungem să distorsionăm rezultatele și să încurajăm neîncrederea,” a spus el. „Hirundo oferă un tip de triaj IA – înlăturarea neadevărurilor sau a datelor construite pe surse discriminatorii și transformarea completă a posibilităților IA.”

Partenerul gestionar al SuperSeed, Mads Jensen, a exprimat același sentiment: „Investim în companii de IA excepționale care transformă verticalele industriale, dar această transformare este la fel de puternică pe cât sunt de încredere modelele însele. Abordarea lui Hirundo privind învățarea mașinilor adresează o lacună critică în ciclul de dezvoltare al IA.”

Abordarea unei provocări în creștere în implementarea IA

Pe măsură ce sistemele IA sunt integrate din ce în ce mai mult în infrastructura critică, îngrijorările legate de halucinații, prejudecăți și date sensibile încorporate devin din ce în ce mai greu de ignorat. Aceste probleme reprezintă riscuri semnificative în medii cu miză ridicată, de la finanțe la sănătate și apărare.

Învățarea mașinilor devine un instrument critic în răspunsul industriei IA la îngrijorările crescânde legate de fiabilitatea și securitatea modelului. Pe măsură ce halucinațiile, prejudecățile încorporate și expunerea datelor sensibile subminează din ce în ce mai mult încrederea în sistemele IA implementate, învățarea oferă o cale directă de a mitiga aceste riscuri – după ce un model a fost antrenat și utilizat.

În loc de a se baza pe reantrenare sau pe soluții de suprafață, cum ar fi filtrarea, învățarea mașinilor permite înlăturarea țintită a comportamentelor problematice și a datelor din modelele deja în producție. Acest abordare câștigă teren în rândul întreprinderilor și agențiilor guvernamentale care caută soluții scalabile și conforme pentru aplicații cu miză ridicată.