Andreas Hellander, CEO e co-fondatore di Scaleout Systems – Serie di interviste

Andreas Hellander è il CEO e co-fondatore di Scaleout Systems, un’azienda che costruisce infrastrutture per l’intelligenza artificiale edge e l’apprendimento federato che addestra modelli su dati distribuiti e sensibili senza centralizzarli. La sua azienda ha lavorato con la NATO e primari difensori come BAE systems. Ha un dottorato in Informatica scientifica e un master in Ingegneria biotecnologica, ed è professore associato all’Università di Uppsala, dove ha costruito uno dei migliori gruppi di ricerca del Dipartimento di Tecnologia dell’informazione prima di fondare Scaleout.

Ha co-fondato Scaleout dopo anni di ricerca sulla computazione distribuita, l’infrastruttura cloud e la computazione scientifica all’Università di Uppsala. Qual è stato il momento in cui ha capito che l’apprendimento federato e l’intelligenza artificiale edge dovevano andare oltre l’ambito accademico e diventare una piattaforma commerciale?

Anni di ricerca su grandi sistemi distribuiti hanno reso una cosa sempre più chiara: man mano che l’apprendimento automatico iniziava a mostrare promesse reali in vari settori, applicarlo in modo responsabile richiedeva la risoluzione del problema dei dati per prima. Per molte organizzazioni, i dati più preziosi non possono essere centralizzati, sia per motivi normativi, pratici o di sicurezza. L’apprendimento federato è emerso come una risposta di ricerca a quella limitazione. Il nostro software di apprendimento federato è iniziato come un prototipo di ricerca all’Università di Uppsala e, a un certo punto, è diventato chiaro che il momento era giusto per portarlo oltre. L’infrastruttura per rendere l’apprendimento automatico sicuro e sicuro per i dati sensibili non esisteva in alcuna forma pronta per la produzione, e abbiamo sentito di essere ben posizionati per costruirla. Scaleout è stata fondata per farlo.

La partnership di Scaleout con AI Verse combina la generazione di dati di battaglia sintetici con l’apprendimento federato al livello tattico. Come vede questo cambiamento nel modo in cui vengono sviluppati i sistemi di intelligenza artificiale militari rispetto agli approcci tradizionali che si basano su set di dati centralizzati?

Tradizionalmente, l’approccio è stato quello di raccogliere immagini operative, spedirle centralmente, addestrare, ridistribuire. Ogni fase introduce un collo di bottiglia. Abbiamo collaborato con AI Verse, un’azienda di dati sintetici supportata dalla NATO, per rimuovere gran parte del primo ostacolo. La piattaforma GAIA di AI Verse genera immagini RGB e IR fotorealistiche e completamente annotate su richiesta, eliminando la necessità di raccolta sul campo, etichettatura manuale e lunghe attese. Scaleout rimuove l’ostacolo dell’addestramento dall’altra parte. Una volta distribuiti, i modelli migliorano continuamente dai dati live edge senza centralizzare nulla. L’effetto combinato è che le organizzazioni possono passare da nessun modello a un modello migliorato e schierato senza toccare mai i dati operativi restrittivi.

Una delle sfide più grandi nell’intelligenza artificiale difensiva è che le condizioni di battaglia si evolvono più velocemente dei cicli di addestramento. Come può aiutare l’apprendimento basato su edge a far adattare i sistemi militari a nuovi droni, veicoli e minacce senza aspettare un riaddestramento centralizzato?

La visione computerizzata per il counter-UAS e l’Intelligence, la Sorveglianza e la Ricognizione (ISR) oggi è comunemente addestrata centralmente, distribuita una volta e poi diventa obsoleta. Il riaddestramento centralizzato è un processo batch che coinvolge la raccolta di dati, l’etichettatura, il riaddestramento del modello, il test e la ridistribuzione. Quel ciclo dura settimane o mesi. Nel frattempo, i modelli di rilevamento si deteriorano man mano che le stagioni, i sensori, gli ambienti e le tattiche degli avversari cambiano.

Il learning basato su edge chiude il ciclo alla fonte. Ogni sito esegue il rilevamento in tempo reale sui flussi di sensori live mentre filtra contemporaneamente i frame più utili per l’addestramento tramite l’apprendimento attivo. Un nodo a terra in un poligono di prova che incontra un nuovo tipo di drone segnala le rilevazioni incerte, gli annotatori esaminano una coda curata piuttosto che terabyte di video grezzo, il fine-tuning locale viene eseguito sul posto e il modello migliorato viene riportato in produzione entro pochi giorni. L’apprendimento federato propaga poi quel miglioramento in tutti i siti.

Molti sistemi di intelligenza artificiale dipendono ancora pesantemente dall’infrastruttura cloud. Perché crede che il futuro dell’intelligenza artificiale difensiva si sposterà sempre più verso ambienti distribuiti e disconnessi piuttosto che verso architetture cloud centralizzate?

Ci sono tre motivi strutturali per questo. In primo luogo, i confini di classificazione significano che i dati dei sensori operativi spesso non possono lasciare il sito. In secondo luogo, gli ambienti contesi significano che il collegamento di rete non può essere assunto. E infine, un modello che richiede la connettività cloud per funzionare è un punto di guasto unico nell’ambiente in cui è più necessario. Queste non sono preferenze, sono limitazioni che disqualificano le architetture cloud-first prima ancora di iniziare.

I dati sintetici stanno diventando uno strumento importante per lo sviluppo dell’intelligenza artificiale. Nelle applicazioni difensive, dove la precisione può avere conseguenze di vita o di morte, quali sono i punti di forza e le limitazioni dell’uso di dati di battaglia sintetici per addestrare modelli di visione computerizzata?

I dati sintetici offrono diversi vantaggi importanti. Possono generare scenari impossibili o impraticabili da raccogliere sul campo, ad esempio classi di minacce rare, IR, condizioni avverse e geometrie esatte dei sensori. Eliminano anche l’etichettatura manuale, il rischio dei dati operativi e possono essere scalati immediatamente.

Allo stesso tempo, ci sono limitazioni. Il divario sintetico-reale è reale e varia per scenario. I dettagli fini che determinano la classificazione della minaccia potrebbero non trasferirsi a meno che la fedeltà della simulazione non sia alta. La posizione onesta è che i dati sintetici sono un meccanismo di avvio forte e colmano lacune che la raccolta sul campo non può strutturalmente coprire, ma non sostituiscono i dati operativi live per le prestazioni finali del modello. È per questo che la pipeline combina entrambi.

Scaleout ha trascorso anni sviluppando tecnologie di apprendimento federato che consentono alle organizzazioni di addestrare l’intelligenza artificiale senza spostare dati sensibili. Quali lezioni dai settori sanitario, industriale e altri regolamentati stanno ora dimostrando il loro valore nelle distribuzioni difensive?

Man mano che l’apprendimento automatico iniziava a essere applicato in settori regolamentati, è emerso un modello comune. I dati che avrebbero migliorato di più i modelli erano anche i dati che non potevano essere spostati.

Affrontare questo richiedeva più che algoritmi di alta qualità, richiedeva un’infrastruttura che rendesse l’apprendimento distribuito sicuro, verificabile e governabile. Quel lavoro ha portato alla luce l’importanza di tracce di audit rigorose, la sfida della qualità e della selezione dei dati quando non si può vedere l’intero set di dati centralmente e la questione se gli aggiornamenti del modello stessi potrebbero leakare informazioni sui dati di addestramento. Quest’ultima preoccupazione ha portato a LeakPro, il nostro framework di audit della privacy open-source. I problemi sottostanti dei dati sensibili, degli ambienti distribuiti e dei requisiti di governance si traducono direttamente nella difesa – anche se le limitazioni specifiche differiscono.

La NATO e le nazioni alleate si stanno concentrando sempre più sulla sovranità tecnologica. Crede che l’apprendimento federato diventerà una capacità strategica che consentirà alle nazioni alleate di collaborare allo sviluppo dell’intelligenza artificiale senza condividere dati operativi sensibili?

Sì, e questo sta già accadendo. Il programma FEDAIR sotto la NATO DIANA è un test diretto di whether le nazioni alleate possano migliorare congiuntamente la capacità di intelligenza artificiale condivisa senza scambiare dati sensoriali classificati. L’architettura risponde di sì. Ogni nazione addestra su propri dati, contribuisce agli aggiornamenti dei pesi a un punto di aggregazione condiviso e riceve un modello globale migliorato. Nessun dato grezzo attraversa i confini nazionali.

La sovranità qui significa più della protezione dei dati. Significa rimanere in pieno controllo del ciclo di vita dell’intelligenza artificiale con la capacità di distribuire qualsiasi modello su qualsiasi flusso di sensori e utilizzare i dati di cui si dispone per migliorare continuamente i modelli. Ciò richiede di resistere al lock-in, incluso l’infrastruttura in grado di funzionare in modalità di esclusione, la piena provenienza del modello e l’integrazione dei sensori neutri per il fornitore. Queste proprietà sono strutturali, non contrattuali, e quella distinzione conta nell’acquisto.

I sistemi di contrasto ai droni stanno emergendo come una delle applicazioni di intelligenza artificiale più importanti nella guerra moderna. Quali sono gli ostacoli tecnici che devono ancora essere superati prima che le piattaforme di contrasto ai droni basate sull’intelligenza artificiale possano funzionare in modo affidabile in ambienti di combattimento diversi e in rapida evoluzione?

Dal nostro punto di vista, le sfide tecniche nell’intelligenza artificiale di contrasto ai droni sembrano significative e sono probabilmente sottovalutate. Il paesaggio dei sensori da solo è complesso. Diverse modalità di sensori producono caratteristiche di dati diverse e un modello addestrato su uno potrebbe non trasferirsi pulito a un altro. La diversità delle minacce complica questo. La proliferazione di piattaforme commerciali a basso costo significa che la popolazione di oggetti che un sistema deve rilevare e classificare sta crescendo più velocemente di quanto la maggior parte dei set di dati di addestramento possa seguire.

Oltre alle sfide puramente tecniche dell’apprendimento automatico, c’è una domanda architettonica che sembra importante: chi possiede e controlla il modello e chi può aggiornarlo? I sistemi che dipendono da un modello chiuso di un fornitore e dal ciclo di aggiornamento ereditano i vincoli di quel fornitore. La capacità di adattare i modelli ai propri dati operativi, sulla propria infrastruttura, nel proprio tempo, sembra una condizione preliminare per prestazioni a lungo termine affidabili piuttosto che una funzione opzionale.

Man mano che la guerra coinvolge sempre più sistemi autonomi e processi decisionali assistiti dall’intelligenza artificiale, come dovrebbero le organizzazioni militari bilanciare l’apprendimento continuo sul campo con la necessità di affidabilità, prevedibilità e controllo umano?

La piattaforma è progettata come un sidecar per il comando e controllo esistente, non come un sostituto. Le rilevazioni alimentano il Tactical Assault Kit (TAK) e i sistemi di comando e controllo (C2) standard utilizzando formati di dati e protocolli standardizzati, consentendo loro di essere visualizzati e agiti all’interno dei flussi di lavoro operativi esistenti. L’intelligenza artificiale migliora la presa di decisione umana piuttosto che sostituirsi ad essa.

Sul lato del modello, continuo non significa incontrollato. Ogni aggiornamento viene convalidato contro una suite di benchmark prima della promozione, gli operatori approvano le versioni del modello prima della distribuzione della flotta e la distribuzione ombra consente a una nuova versione di funzionare in parallelo prima di sostituire la produzione. La traccia di audit registra quale versione è stata eseguita dove e cosa ha mostrato. Il ciclo di miglioramento è sistematico e governato, non automatico e incontrollato.

Guardando avanti di cinque anni, cosa distinguerà le architetture di intelligenza artificiale militare più avanzate da quelle attualmente in uso e quali tecnologie crede che avranno il maggior impatto sulle future capacità difensive?

La divisione attuale è tra sistemi che possono adattarsi sul campo e quelli che non possono. La maggior parte dei sistemi attualmente distribuiti è statica. In cinque anni, il differenziatore sarà quanto bene l’adattamento sia governato, quale versione di quale modello è stata eseguita su quale piattaforma, plasmata da quali dati, in quali condizioni e se quella catena possa essere verificata, convalidata e fidata dagli operatori e dagli acquisti.

Il learning automatico sottostante diventerà una commodity. L’infrastruttura per l’apprendimento continuo governato al livello edge, soprattutto attraverso le reti alleate in cui ogni nazione deve mantenere la sovranità sui propri dati, non lo sarà. Le nazioni e i programmi che costruiscono quell’infrastruttura ora avranno un vantaggio composto: modelli che continuano a migliorare dai dati operativi, sotto controllo nazionale, senza dipendere dal ciclo di aggiornamento di alcun fornitore o dalla disponibilità di alcun fornitore cloud.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Scaleout Systems.