Andreas Hellander, CEO și Co-Fondator al Scaleout Systems – Seria de Interviuri

Andreas Hellander este CEO și co-fondator al Scaleout Systems, o companie care construiește infrastructuri pentru inteligență artificială la margine și învățare federată, care antrenează modele pe date distribuite și sensibile, fără a le centraliza. Compania sa a lucrat cu NATO și cu principalele companii de apărare, cum ar fi BAE Systems. El deține un doctorat în calcul științific și un master în inginerie biotehnologică și este profesor asociat la Universitatea Uppsala, unde a creat una dintre cele mai bune grupuri de cercetare din cadrul Departamentului de Tehnologia Informației, înainte de a fonda Scaleout.

Ați co-fondat Scaleout după ani de cercetare în calcul distribuit, infrastructură de cloud și calcul științific la Universitatea Uppsala. Care a fost momentul în care ați realizat că învățarea federată și inteligența artificială la margine trebuie să treacă dincolo de academia și să devină o platformă comercială?

Anii de cercetare asupra sistemelor distribuite la scară largă au făcut una lucru din ce în ce mai clar: pe măsură ce inteligența artificială a început să arate promisiuni reale în diferite industrii, aplicarea ei în mod responsabil a necesitat rezolvarea problemei datelor mai întâi. Pentru multe organizații, cele mai valoroase date nu pot fi centralizate, fie din motive regulatorii, practice sau de securitate. Învățarea federată a apărut ca o reacție de cercetare la această constrângere. Software-ul nostru de învățare federată a început ca un prototip de cercetare la Universitatea Uppsala și, la un moment dat, a devenit clar că este momentul potrivit să mergem mai departe. Infrastructura pentru a face inteligența artificială sigură și securizată pentru date sensibile nu a existat în nicio formă gata de producție, și am simțit că suntem bine poziționați pentru a o construi. Scaleout a fost fondat pentru a face acest lucru.

Parteneriatul Scaleout cu AI Verse combină generarea de date sintetice de luptă cu învățarea federată la margine tactic. Cum vedeți schimbarea modului în care sistemele militare de inteligență artificială sunt dezvoltate în comparație cu abordările tradiționale care se bazează pe seturi de date centralizate?

În mod tradițional, abordarea a fost să se colecteze imagini operaționale, să se trimită central, să se antreneze, să se redeployeze. Fiecare etapă introduce o stenoză. Am colaborat cu AI Verse, o firmă de date sintetice sprijinită de NATO, pentru a elimina multe dintre primele obstacole. Platforma GAIA a AI Verse generează imagini fotorealistice, complet annotate, RGB și IR, la cerere, eliminând nevoia de colectare pe teren, etichetare manuală și timp de așteptare lung. Scaleout elimină stenoza de antrenament la celălalt capăt. Odată ce sunt distribuite, modelele se îmbunătățesc continuu din datele live de la margine, fără a centraliza nimic. Efectul combinat este că organizațiile pot trece de la un model inexistent la un model îmbunătățit și distribuit, fără a atinge niciodată datele operaționale restricționate.

Una dintre cele mai mari provocări în inteligența artificială pentru apărare este că condițiile de luptă evoluează mai repede decât ciclurile de antrenament. Cum poate învățarea la margine să ajute sistemele militare să se adapteze la noi drone, vehicule și amenințări fără a aștepta reantrenarea centralizată?

Inteligența artificială pentru contracararea sistemelor de luptă fără pilot și pentru supraveghere și recunoaștere actuală este antrenată în mod obișnuit în mod centralizat, distribuită o singură dată și apoi devine învechită. Retrainingul centralizat este un proces batch care implică colectarea de date, etichetarea, reantrenarea modelului, testarea și redeployarea. Acest ciclu durează săptămâni sau luni. Între timp, modelele de detectare se degradează pe măsură ce se schimbă sezoanele, senzorii, mediile și tactica adversarului.

Învățarea la margine închide bucla la sursă. Fiecare sit antrenează detectare în timp real pe fluxuri de senzori live, în timp ce filtrează în același timp cadrele cele mai utile pentru antrenament prin învățare activă. Un nod la sol de la un poligon de test care întâmpină un nou tip de dronă marchează detectările incerte, anotatorii examinează o coadă curată, în loc de terabiți de videoclipuri brute, fine-tuningul rulează local și modelul îmbunătățit este din nou în producție în câteva zile. Învățarea federată propagă apoi această îmbunătățire în toate siturile.

De ce credeți că viitorul inteligenței artificiale pentru apărare se va îndrepta tot mai mult către medii distribuite și desconectate, în loc de arhitecturi centralizate de cloud?

Există trei motive structurale pentru acest lucru. Primul, limitele de clasificare înseamnă că datele operaționale de la senzori nu pot părăsi situl. Al doilea, mediile contestate înseamnă că legătura de rețea nu poate fi presupusă. Și, în cele din urmă, un model care necesită conectivitate la cloud pentru a funcționa este un punct unic de eșec în exact mediul în care este cel mai necesar. Acestea nu sunt preferințe, ci constrângeri care califică arhitecturile orientate către cloud înainte de a începe.

Datele sintetice devin un instrument important pentru dezvoltarea inteligenței artificiale. În aplicațiile de apărare, unde acuratețea poate avea consecințe de viață și de moarte, care sunt avantajele și limitările utilizării datelor sintetice de luptă pentru a antrena modele de vedere computațională?

Datele sintetice oferă mai multe avantaje importante. Ele pot genera scenarii imposibile sau impractice de colectat pe teren, de exemplu, clase de amenințări rare, IR, condiții nefavorabile și geometrii exacte de senzori. Ele elimină, de asemenea, etichetarea manuală, riscul datelor operaționale și pot fi scalate imediat.

În același timp, există limitări. Decalajul dintre sintetic și real este real și variază în funcție de scenariu. Detaliile fine care determină clasificarea amenințărilor nu pot fi transferate, cu excepția cazului în care fidelitatea simulării este ridicată. Poziția onestă este că datele sintetice sunt un mecanism puternic de pornire și completează golurile pe care colectarea pe teren nu le poate umple structural, dar nu înlocuiesc datele operaționale live pentru performanța finală a modelului. De aceea, pipeline-ul combină ambele.

Scaleout a petrecut ani dezvoltând tehnologii de învățare federată care permit organizațiilor să antreneze inteligență artificială fără a muta date sensibile. Care sunt lecțiile din sănătate, inteligență artificială industrială și alte sectoare reglementate care se dovedesc a fi valoroase în deployarea pentru apărare?

Pe măsură ce inteligența artificială a început să fie aplicată în industrii reglementate, a apărut un model comun. Datele care ar fi putut îmbunătăți cel mai mult modelele erau și datele care nu puteau fi mutate.

Abordarea acestei provocări a necesitat mai mult decât algoritmi de înaltă calitate; a necesitat infrastructură care să facă învățarea distribuită sigură, auditabilă și guvernată. Ceea ce a adus la suprafață această muncă a fost importanța unor urme de audit riguroase, a provocării calității și selecției datelor atunci când nu puteți vedea setul de date complet central, și a întrebării dacă actualizările modelului în sine ar putea scurge informații despre datele de antrenament. Această ultimă preocupare a condus la LeakPro, cadrul nostru deschis de auditare a confidențialității. Problemele subiacente ale datelor sensibile, mediilor distribuite și cerințelor de guvernanță se traduc direct în apărare – chiar dacă constrângerile specifice diferă.

NATO și națiunile aliate se concentrează din ce în ce mai mult pe suveranitatea tehnologică. Credeți că învățarea federată va deveni o capacitate strategică care permite națiunilor aliate să colaboreze la dezvoltarea inteligenței artificiale fără a partaja date operaționale sensibile?

Da, și acest lucru se întâmplă deja. Programul FEDAIR în cadrul NATO DIANA este un test direct al faptului dacă națiunile aliate pot îmbunătăți în mod comun capacitatea de inteligență artificială fără a schimba date operaționale clasificate. Arhitectura răspunde: da. Fiecare națiune se antrenează pe propriile date, contribuie la actualizări de greutate la un punct de agregare comun și primește un model global îmbunătățit. Niciun date brute nu traversează granițele naționale.

Suveranitatea aici înseamnă mai mult decât protecția datelor. Înseamnă a rămâne în control deplin asupra ciclului de viață al inteligenței artificiale, cu capacitatea de a distribui orice model la orice flux de senzori și de a utiliza datele pe care le dețineți pentru a îmbunătăți continuu modelele. Acest lucru necesită rezistența la blocare, inclusiv infrastructura capabilă de a funcționa într-un mediu fără conexiune la internet, proveniența completă a modelului și integrarea senzorilor neutri din punct de vedere al furnizorului. Aceste proprietăți sunt structurale, nu contractuale, și această distincție contează în achiziții.

Sistemele de apărare anti-drone sunt în curs de a deveni una dintre cele mai importante aplicații ale inteligenței artificiale în războiul modern. Care sunt obstacolele tehnice care trebuie încă depășite înainte ca platformele anti-drone bazate pe inteligență artificială să poată funcționa în mod fiabil în medii de luptă diverse și în schimbare rapidă?

Din perspectiva noastră, provocările tehnice în inteligența artificială anti-drone par semnificative și sunt probabil subapreciate. Peisajul senzorilor singur este complex. Diferitele modalități de senzori produc caracteristici de date diferite, și un model antrenat pe unul poate nu se transferă curat la altul. Diversitatea amenințărilor compune această problemă. Proliferarea platformelor comerciale ieftine înseamnă că populația de obiecte pe care un sistem trebuie să le detecteze și să le clasifice se extinde mai repede decât majoritatea seturilor de antrenament pot urma.

În afara provocărilor pure de inteligență artificială, există o întrebare arhitecturală care pare importantă: cine deține și controlează modelul, și cine poate să-l actualizeze? Sistemele care depind de un model închis și de un ciclu de actualizare al unui furnizor moștenesc constrângerile acelui furnizor. Capacitatea de a adapta modele la datele operaționale proprii, pe infrastructura proprie, în propriul timp, pare a fi o precondiție pentru performanța fiabilă pe termen lung, mai degrabă decât o funcție opțională.

Pe măsură ce războiul implică din ce în ce mai mult sisteme autonome și luarea deciziilor asistată de inteligență artificială, cum ar trebui organizațiile militare să echilibreze învățarea continuă în teren cu nevoia de fiabilitate, previzibilitate și supraveghere umană?

Platforma este concepută ca o barcă laterală pentru sistemele de comandă și control existente, nu ca o înlocuire. Detectările alimentează Tactical Assault Kit (TAK) și sisteme standard de comandă și control (C2) utilizând formate de date standardizate și protocoale, permițându-le să fie vizualizate și acționate în cadrul fluxurilor de lucru operaționale existente. Inteligența artificială îmbunătățește luarea deciziilor umane, mai degrabă decât o înlocuiește.

Pe partea modelului, continuu nu înseamnă necontrolat. Fiecare actualizare este validată împotriva unui set de benchmark înainte de promovare, operatorii aprobă versiunile modelului înainte de a fi distribuite în flotă și deployarea paralelă permite unei noi versiuni să ruleze în paralel înainte de a înlocui producția. Urma de audit înregistrează care versiune a rulat unde și ce a arătat. Ciclul de îmbunătățire este sistematic și guvernat, nu automat și necontrolat.

Privind înainte cinci ani, ce va distinge arhitecturile militare de inteligență artificială cele mai avansate de cele care sunt implementate astăzi, și care tehnologii credeți că vor avea cel mai mare impact asupra capacităților de apărare viitoare?

Divizarea actuală este între sisteme care pot se adapta în teren și cele care nu pot. Majoritatea sistemelor implementate astăzi sunt statice. În cinci ani, diferențiatorul va fi cât de bine este guvernată adaptarea, care versiune a cărui model a rulat pe care platformă, modelat de care date, în ce condiții, și dacă această lanț poate fi auditat, validat și încredințat de operatori și de achiziții.

Inteligența artificială subiacentă se va commodifica. Infrastructura pentru învățarea continuă guvernată la margine, în special în rețelele aliate în care fiecare națiune trebuie să-și păstreze suveranitatea asupra propriilor date, nu va face acest lucru. Națiunile și programele care vor construi această infrastructură acum vor avea un avantaj care se va acumula: modele care se vor îmbunătăți continuu din datele operaționale, sub control național, fără a depinde de ciclul de actualizare al vreunui furnizor sau de disponibilitatea oricărui furnizor de cloud.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe despre Scaleout Systems ar trebui să viziteze Scaleout Systems.