Finanziamenti

Deep Cogito raccoglie $43M in Serie A per costruire il motore di post‑addestramento per IA auto‑migliorante

mm
Aggiungi Unite.AI alle tue fonti preferite su Google

Deep Cogito ha raccolto $43 milioni in Serie A mentre il laboratorio di IA di San Francisco mira a potenziare una parte sempre più importante dello stack dell’intelligenza artificiale: cosa succede dopo che un modello di base è già stato pre‑addestrato.

Il round è stato guidato da TQ Ventures, con la partecipazione di Benchmark, Nexus Venture Partners, Atreides Management, South Park Commons e della società di sicurezza cloud Zscaler, che è sia cliente sia investitore strategico. Il finanziamento porta il capitale totale di Deep Cogito a oltre $56 milioni.

Fondata da Drishan Arora e Dhruv Malrana, che in precedenza hanno lavorato sui prodotti AI Search di Google, tra cui AI Mode e AI Overviews, Deep Cogito scommette che i futuri miglioramenti dell’intelligenza artificiale deriveranno sempre più da algoritmi di apprendimento migliori e dal post‑addestramento, piuttosto che dal semplice aumento delle esecuzioni di pre‑addestramento.

Questo colloca l’azienda in una parte diversa della corsa all’IA rispetto ai laboratori focalizzati principalmente sulla costruzione di modelli di base sempre più grandi da zero.

Perché Deep Cogito scommette sul post‑addestramento

Pre‑addestramento è responsabile di fornire a un modello linguistico di grandi dimensioni una vasta base di conoscenza esponendolo a enormi quantità di dati. Il post‑addestramento, invece, definisce come quel modello si comporta, ragiona, segue le istruzioni, utilizza gli strumenti e svolge compiti specifici.

La tesi di Deep Cogito è che questa seconda fase abbia molto più margine di evoluzione.

La ricerca dell’azienda si concentra sull’apprendimento per rinforzo su larga scala e su metodi che consentono ai modelli di migliorare progressivamente le proprie capacità. Invece di trattare un modello pre‑addestrato come un prodotto quasi finito che richiede solo un allineamento aggiuntivo, Deep Cogito lo considera un punto di partenza le cui capacità sottostanti possono continuare a essere sviluppate.

Arora ha riassunto la distinzione nell’annunciare il round: “Il pre‑addestramento fornisce a un modello un’enorme quantità di conoscenza e capacità. Il post‑addestramento determina cosa quel modello può realmente diventare.”

Questo è particolarmente rilevante poiché l’economia del semplice scaling del pre‑addestramento sta diventando più impegnativa. Addestrare modelli di frontiera richiede dataset enormi, cluster GPU, infrastrutture energetiche e capitali. Un sistema di post‑addestramento sufficientemente efficace potrebbe estrarre sostanzialmente più intelligenza da un modello esistente senza ripetere l’intero processo.

Trasformare il ragionamento costoso in una migliore intuizione

Al centro della ricerca di Deep Cogito c’è Distillazione e Amplificazione Iterata (IDA), un approccio che l’azienda ha introdotto pubblicamente con la sua prima famiglia di modelli Cogito.

Il concetto è relativamente semplice anche se implementarlo su larga scala non lo è.

Durante la fase di amplificazione, a un modello viene fornita capacità computazionale aggiuntiva e tecniche che gli consentono di arrivare a una risposta più forte di quella che potrebbe generare immediatamente. Il miglioramento risultante viene poi distillato nuovamente nei parametri del modello. Quel modello aggiornato diventa il punto di partenza per un’altra iterazione.

Invece di richiedere al modello di eseguire un processo di ragionamento sempre più lungo ogni volta che incontra una domanda difficile, l’obiettivo è interiorizzare gradualmente parte di ciò che ha appreso durante quei passaggi di ragionamento più costosi dal punto di vista computazionale.

Deep Cogito descrive questo come il miglioramento dell’“intuizione” di un modello.

La distinzione potrebbe diventare importante per l’economia dell’inferenza. Catene di ragionamento lunghe possono migliorare l’accuratezza, ma aumentano anche il consumo di token, la latenza e il costo. Un modello che ha interiorizzato traiettorie di ragionamento migliori potrebbe raggiungere conclusioni simili con meno calcolo al momento dell’inferenza.

I modelli Cogito forniscono una prova pubblica dell’approccio

Deep Cogito ha utilizzato la sua famiglia di modelli a peso aperto Cogito come banco di prova per queste tecniche.

Le sue prime versioni spaziavano da 3 miliardi a 70 miliardi di parametri, prima che l’azienda espandesse la famiglia con modelli da 70 B, 109 B mixture‑of‑experts (MoE), 405 B e 671 B MoE.

Con Cogito v2, l’azienda ha riferito che il suo modello da 671 B produceva catene di ragionamento circa il 60 % più brevi rispetto a DeepSeek R1 0528, rimanendo competitivo su diverse valutazioni. Deep Cogito ha anche dichiarato di aver speso meno di $3,5 milioni in totale per addestrare otto modelli Cogito da 3 B a 671 B, sebbene le prestazioni di benchmark e i confronti di costo di addestramento non si traducano necessariamente direttamente in economia di produzione.

L’azienda ha continuato a perfezionare il sistema con Cogito v2.1 671 B, che utilizza un modello di base DeepSeek con licenza aperta che Deep Cogito ha poi post‑addestrato internamente. La sua release di ricerca v2.1 afferma che il modello utilizza la supervisione del processo durante il ragionamento, con un addestramento progettato per migliorare la capacità del modello di identificare percorsi di ragionamento produttivi anziché semplicemente incoraggiarlo a ragionare più a lungo.

Questo progresso è importante per l’argomentazione più ampia di Deep Cogito. L’azienda non ha bisogno di dimostrare di poter pre‑addestrare un modello di base migliore rispetto ai più grandi laboratori di IA. Deve dimostrare che il suo processo di post‑addestramento può trasformare costantemente modelli esistenti forti in modelli più capaci.

Zscaler indica l’opportunità per le imprese

L’altro lato del business consiste nell’applicare queste tecniche di post‑addestramento oltre i modelli Cogito rilasciati pubblicamente e portarli all’IA aziendale.

Invece di affidarsi esclusivamente a un modello di frontiera a scopo generale, le aziende possono potenzialmente addestrare modelli specializzati attorno ai propri dati proprietari, flussi di lavoro, criteri di valutazione e risultati desiderati.

Ciò può andare molto più in profondità rispetto alla generazione aumentata dal recupero (RAG), che tipicamente consente a un modello generale di accedere a informazioni aziendali esterne al momento dell’inferenza. L’approccio di Deep Cogito mira a cambiare il modello stesso addestrando capacità specifiche di dominio nei suoi pesi.

Zscaler fornisce un esempio precoce. L’azienda di cybersecurity è iniziata come cliente di Deep Cogito prima di partecipare alla Serie A. Le due aziende hanno anche collaborato su intelligence di sicurezza specializzate, con Deep Cogito che sostiene che le applicazioni di sicurezza possono beneficiare di modelli post‑addestrati sui dati e sui risultati di sicurezza propri dell’organizzazione.

La proposta più ampia per le imprese riguarda sia la specializzazione sia il controllo. La copertura del Wall Street Journal sul finanziamento osserva che Deep Cogito sta posizionando la sua tecnologia attorno a modelli che le aziende possono addestrare e possedere usando dati proprietari, invece di dipendere interamente da sistemi di frontiera chiusi.

Cosa finanzierà la Serie A da $43M

Deep Cogito prevede di utilizzare la Serie A per espandere la sua organizzazione di ricerca e ingegneria, aumentare l’infrastruttura di calcolo disponibile per l’addestramento su larga scala, sviluppare futuri modelli Cogito e collaborare con più imprese alla ricerca di modelli specializzati.

L’infrastruttura sarà probabilmente una parte particolarmente importante di tale espansione. I materiali di assunzione di Deep Cogito descrivono ricercatori che lavorano su nuovi algoritmi di apprendimento per rinforzo, pipeline di dati, valutazioni e infrastrutture distribuite mentre addestrano modelli che superano i 400 miliardi di parametri.

Il finanziamento quindi conferisce all’azienda una capacità notevolmente maggiore per testare se i miglioramenti dimostrati attraverso i suoi primi modelli continuano quando applica più calcolo e esegue più iterazioni del suo processo di post‑addestramento.

La più ampia implicazione: IA che apprende dal proprio ragionamento

L’importanza più grande del lavoro di Deep Cogito è la possibilità che lo sviluppo dell’IA possa spostarsi da sistemi addestrati principalmente su dati generati dall’uomo verso modelli che generano, valutano e interiorizzano sempre più i propri miglioramenti.

Approcci come la Distillazione e Amplificazione Iterata mirano a trasformare il ragionamento costoso in una capacità duratura. Un modello può utilizzare calcolo aggiuntivo per risolvere problemi più difficili, per poi distillare quei guadagni nei propri pesi, creando un punto di partenza più forte per il ciclo di addestramento successivo.

Nel tempo, ciò potrebbe produrre un ciclo di sviluppo di ragionare, valutare, apprendere e migliorare.

Esiste ancora un divario significativo tra il post‑addestramento iterativo e il vero auto‑miglioramento ricorsivo. I modelli hanno bisogno di valutazioni affidabili, obiettivi progettati con cura e salvaguardie contro il rafforzamento di errori. Ma anche versioni limitate di questo approccio potrebbero ridurre la dipendenza da esecuzioni di pre‑addestramento sempre più grandi e rendere più pratiche le IA specializzate addestrate su dati aziendali proprietari.

Se questa traiettoria continuerà, il vantaggio competitivo nell’IA potrebbe dipendere meno esclusivamente da chi possiede i cluster di calcolo più grandi e più da chi ha i modelli migliori nell’apprendere dalla propria esperienza.

Antoine è un leader visionario e socio fondatore di Unite.AI, guidato da una passione incrollabile per plasmare e promuovere il futuro dell'AI e della robotica. Un imprenditore seriale, crede che l'AI sarà così disruptiva per la società come l'elettricità, e spesso si lascia trasportare dall'entusiasmo per il potenziale delle tecnologie disruptive e dell'AGI.

Come futurista, è dedicato a esplorare come queste innovazioni plasmeranno il nostro mondo. Inoltre, è il fondatore di Securities.io, una piattaforma focalizzata sugli investimenti in tecnologie all'avanguardia che stanno ridefinendo il futuro e riplasmando interi settori.