Hirundo raccoglie 8 milioni di dollari per affrontare le allucinazioni dell’IA con l’apprendimento della macchina

Hirundo, la prima startup dedicata all’apprendimento della macchina, ha raccolto 8 milioni di dollari in fondi di seed per affrontare alcune delle sfide più pressanti nell’intelligenza artificiale: le allucinazioni, i pregiudizi e le vulnerabilità dei dati incorporati. Il round è stato guidato da Maverick Ventures Israel con la partecipazione di SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND e Plug and Play Tech Center.

Far dimenticare all’IA: la promessa dell’apprendimento della macchina

A differenza degli strumenti di IA tradizionali che si concentrano sul raffinamento o sulla filtrazione dei risultati dell’IA, l’innovazione principale di Hirundo è l’apprendimento della macchina, una tecnica che consente ai modelli di IA di “dimenticare” conoscenze o comportamenti specifici dopo che sono stati addestrati. Questo approccio consente alle imprese di rimuovere chirurgicamente le allucinazioni, i pregiudizi, i dati personali o proprietari e le vulnerabilità avversarie dai modelli di IA già distribuiti senza doverli riaddestrare da zero. Riaddestrare modelli su larga scala può richiedere settimane e milioni di dollari; Hirundo offre un’alternativa molto più efficiente.

Hirundo paragona questo processo alla neurochirurgia dell’IA: l’azienda individua esattamente dove all’interno dei parametri di un modello si originano gli output indesiderati e li rimuove con precisione, preservando le prestazioni. Questa tecnica rivoluzionaria consente alle organizzazioni di risolvere i problemi dei modelli in produzione e di distribuire l’IA con molta maggiore fiducia.

Perché le allucinazioni dell’IA sono così pericolose

Le allucinazioni dell’IA si riferiscono alla tendenza di un modello a generare informazioni false o fuorvianti che sembrano plausibili o addirittura fattuali. Queste allucinazioni sono particolarmente problematiche negli ambienti aziendali, dove le decisioni basate su informazioni errate possono portare a esposizione legale, errori operativi e danni alla reputazione. Gli studi hanno dimostrato che il 58-82% dei “fatti” generati dall’IA per le query legali conteneva alcuni tipi di allucinazioni.

Nonostante gli sforzi per minimizzare le allucinazioni utilizzando barriere di protezione o affinando, questi metodi spesso mascherano i problemi invece di eliminarli. Le barriere di protezione agiscono come filtri e l’affinamento di solito non riesce a rimuovere la causa radice, soprattutto quando l’allucinazione è profondamente radicata nei pesi appresi del modello. Hirundo va oltre questo, rimuovendo effettivamente il comportamento o la conoscenza dal modello stesso.

Una piattaforma scalabile per qualsiasi stack di IA

La piattaforma di Hirundo è costruita per la flessibilità e la distribuzione aziendale. Si integra con sistemi generativi e non generativi in una vasta gamma di tipi di dati: linguaggio naturale, visione, radar, LiDAR, tabulare, parlato e temporale. La piattaforma rileva automaticamente gli elementi mal etichettati, gli outlier e le ambiguità nei dati di addestramento. Quindi consente agli utenti di eseguire il debug di output specifici difettosi e di rintracciarli fino ai dati di addestramento o ai comportamenti appresi problematici, che possono essere disimparati istantaneamente.

Tutto ciò è realizzato senza modificare i flussi di lavoro. Il sistema SOC-2 certificato di Hirundo può essere eseguito tramite SaaS, cloud privato (VPC) o anche in modalità air-gapped on-premises, rendendolo adatto per ambienti sensibili come finanza, sanità e difesa.

Impatto dimostrato su modelli

L’azienda ha già dimostrato miglioramenti delle prestazioni in modelli di linguaggio grandi (LLM). Nei test utilizzando Llama e DeepSeek, Hirundo ha raggiunto una riduzione del 55% delle allucinazioni, una diminuzione del 70% dei pregiudizi e una riduzione dell’85% degli attacchi di iniezione di prompt di successo. Questi risultati sono stati verificati utilizzando benchmark indipendenti come HaluEval, PurpleLlama e Bias Benchmark Q&A.

Mentre le soluzioni attuali funzionano bene con modelli open-source come Llama, Mistral e Gemma, Hirundo sta attivamente espandendo il supporto ai modelli chiusi come ChatGPT e Claude. Ciò rende la loro tecnologia applicabile in tutta la gamma di LLM aziendali.

Fondatori con profondità accademica e industriale

Hirundo è stata fondata nel 2023 da un trio di esperti all’incrocio tra accademia e IA aziendale. Il CEO Ben Luria è uno studioso Rhodes e un ex fellow visitatore a Oxford, che in precedenza ha fondato la startup di fintech Worqly e ha co-fondato ScholarsIL, un’organizzazione no-profit che sostiene l’istruzione superiore. Michael Leybovich, il CTO di Hirundo, è un ex ricercatore di dottorato al Technion e un ufficiale di R&D premiato presso Ofek324. Prof. Oded Shmueli, il Chief Scientist dell’azienda, è l’ex preside della Facoltà di Informatica al Technion e ha ricoperto posizioni di ricerca presso IBM, HP, AT&T (T ) e altre aziende.

La loro esperienza collettiva copre la ricerca di base sull’IA, la distribuzione nel mondo reale e la gestione dei dati sicuri, rendendoli unici nel loro genere per affrontare l’attuale crisi di affidabilità dell’industria dell’IA.

Sostegno degli investitori per un futuro dell’IA affidabile

Gli investitori in questo round sono allineati con la visione di Hirundo di costruire un’IA affidabile e pronta per le imprese. Yaron Carni, fondatore di Maverick Ventures Israel, ha notato l’urgente necessità di una piattaforma in grado di rimuovere l’intelligenza allucinata o distorta dall’IA prima che causi danni reali. “Senza rimuovere le allucinazioni o l’intelligenza distorta dall’IA, finiamo per distorcere i risultati e incoraggiare la sfiducia”, ha detto. “Hirundo offre una sorta di triage dell’IA, rimuovendo le falsità o i dati costruiti su fonti discriminatorie e trasformando completamente le possibilità dell’IA.”

Il socio gestore di SuperSeed, Mads Jensen, ha espresso lo stesso sentimento: “Investiamo in aziende di IA eccezionali che trasformano i settori verticali, ma questa trasformazione è solo così potente come i modelli stessi sono affidabili. L’approccio di Hirundo all’apprendimento della macchina affronta un gap critico nel ciclo di sviluppo dell’IA.”

Affrontare una sfida crescente nella distribuzione dell’IA

Mentre i sistemi di IA vengono sempre più integrati nelle infrastrutture critiche, le preoccupazioni relative alle allucinazioni, pregiudizi e dati sensibili incorporati stanno diventando sempre più difficili da ignorare. Questi problemi rappresentano rischi significativi in ambienti ad alto rischio, dalla finanza alla sanità e alla difesa.

L’apprendimento della macchina sta emergendo come uno strumento critico nella risposta dell’industria dell’IA alle crescenti preoccupazioni sulla sicurezza e l’affidabilità dei modelli. Mentre le allucinazioni, i pregiudizi incorporati e l’esposizione dei dati sensibili stanno sempre più minando la fiducia nei sistemi di IA distribuiti, l’apprendimento della macchina offre un modo diretto per mitigare questi rischi—dopo che un modello è stato addestrato e utilizzato.

Piuttosto che affidarsi al riaddestramento o a soluzioni di superficie come la filtrazione, l’apprendimento della macchina consente la rimozione mirata di comportamenti e dati problematici dai modelli già in produzione. Questo approccio sta guadagnando trazione tra le imprese e le agenzie governative che cercano soluzioni conformi e scalabili per applicazioni ad alto rischio.