Andreas Hellander, VD och medgrundare av Scaleout Systems – Intervjuerien

Andreas Hellander är VD och medgrundare av Scaleout Systems, ett företag som bygger infrastruktur för edge AI och federerat lärande som tränar modeller på distribuerad, känslig data utan att centralisera den. Hans företag har samarbetat med NATO och försvarsprimärer som BAE Systems. Han har en doktorsexamen i vetenskaplig datoranvändning och en masterexamen i bioteknik, och är associerad professor vid Uppsala universitet, där han byggde en av de främsta forskargrupperna vid institutionen för informationsteknologi innan han grundade Scaleout.

Du grundade Scaleout efter år av forskning i distribuerad datoranvändning, molninfrastruktur och vetenskaplig datoranvändning vid Uppsala universitet. Vilket var ögonblicket när du insåg att federerat lärande och edge AI behövde gå utöver akademin och bli en kommersiell plattform?

År av forskning om storskaliga distribuerade system gjorde en sak alltmer tydlig: när ML började visa verkligt löfte över branscher, krävde det ansvarsfullt att lösa dataproblemet först. För många organisationer kan den mest värdefulla datan inte centraliseras, antingen på grund av reglerings-, praktiska- eller säkerhetsskäl. Federerat lärande uppkom som en forskningsrespons på den begränsningen. Vår federerade lärprogramvara började som en forskningsprototyp vid Uppsala universitet och vid någon punkt blev det klart att timingen var rätt att ta det vidare. Infrastrukturen för att göra ML säker och säker för känslig data existerade inte i någon produktionsklar form, och vi kände att vi var väl positionerade för att bygga den. Scaleout grundades för att göra det.

Scaleouts samarbete med AI Verse kombinerar syntetisk stridsdatagenerering med federerat lärande vid den taktiska kanten. Hur ser du att detta kommer att förändra sättet militära AI-system utvecklas jämfört med traditionella metoder som förlitar sig på centraliserade datamängder?

Traditionellt har metoden varit att samla in operativ film, skicka den centraliserat, träna, omplacera. Varje stadium introducerar en flaskhals. Vi samarbetade med AI Verse, en NATO-backad syntetisk datafirma, för att ta bort mycket av den första hindern. AI Verses GAIA-plattform genererar fotorealistiska, fullständigt annoterade RGB- och IR-bilder på begäran, vilket tar bort behovet av fältinsamling, manuell märkning och långa väntetider. Scaleout tar bort träningsflaskhalsen i den andra änden. När den väl är distribuerad förbättras modellerna kontinuerligt från live edge-data utan att centralisera någonting. Den kombinerade effekten är att organisationer kan gå från ingen modell till en fältplacerad, förbättrad modell utan att någonsin röra vid begränsad operativ data.

En av de största utmaningarna inom försvars-AI är att stridsförhållanden utvecklas snabbare än träningscykler. Hur kan edge-baserat lärande hjälpa militära system att anpassa sig till nya drönare, fordon och hot utan att vänta på centraliserad omträning?

Datorseende för counter-UAS och ISR idag är vanligtvis tränat centraliserat, distribuerat en gång och sedan blir det föråldrat. Centraliserad omträning är en batchprocess som involverar datainsamling, märkning, omträning av modellen, testning och omplacering. Den cykeln tar veckor eller månader. Samtidigt försämras detekteringsmodellerna när säsonger, sensorer, miljöer och motståndarstrategier förändras.

Edge-baserat lärande stänger loopen vid källan. Varje plats kör realtidsdetektering på live sensorflöden medan den samtidigt filtrerar ut de mest användbara ramarna för träningsändamål via aktivt lärande. En marknod på en testbana som möter en ny drontyp flaggar osäkra detekteringar, annotatorer granskar en kuraterad kö istället för terabyte råvideo, lokal finjustering körs på plats och den förbättrade modellen är tillbaka i produktion inom dagar. Federerat lärande sprider sedan den förbättringen över alla platser.

Många AI-system är fortfarande beroende av molninfrastruktur. Varför tror du att framtiden för försvars-AI kommer att alltmer gå mot distribuerade och frånkopplade miljöer snarare än centraliserade molnarkitekturer?

Det finns tre strukturella skäl till detta. Först innebär klassificeringsgränser att operativ sensordata ofta inte kan lämna platsen. För det andra innebär kontrollerade miljöer att nätverkslänken inte kan antas. Och slutligen är en modell som kräver molnanslutning för att fungera en enda felkälla i exakt den miljö där den behövs som mest. Detta är inte preferenser, utan begränsningar som diskvalificerar molnbaserade arkitekturer innan de börjar.

Syntetisk data blir alltmer en viktig verktyg för AI-utveckling. I försvarsapplikationer, där noggrannhet kan ha livsavgörande konsekvenser, vad är styrkorna och begränsningarna med att använda syntetisk stridsdata för att träna datorseendemodeller?

Syntetisk data erbjuder flera viktiga fördelar. Den kan generera scenarier som är omöjliga eller opraktiska att samla in på fältet, till exempel sällsynta hotklasser, IR, ogynnsamma förhållanden och exakta sensorgeometrier. Den eliminerar också manuell märkning, operativ datarisiko och den kan skalas omedelbart.

Samtidigt finns det begränsningar. Klyftan mellan syntetisk och verklig data är verklig och varierar beroende på scenario. Fin detalj som bestämmer hotklassificering kan inte överföras om simulationsfideliteten inte är hög. Den ärliga positionen är att syntetisk data är en stark kallstartsmekanism och fyller luckor som fältinsamling strukturellt inte kan, men den ersätter inte live operativ data för slutgiltig modellprestanda. Därför kombinerar pipeline båda.

Scaleout har tillbringat år med att utveckla federerade lärteknologier som tillåter organisationer att träna AI utan att flytta känslig data. Vilka lärdomar från hälsovård, industriell AI och andra reglerade sektorer visar sig nu vara värdefulla i försvarsdistributioner?

När ML började tillämpas över reglerade branscher uppkom ett vanligt mönster. Den data som skulle förbättra modellerna mest var också den data som inte kunde flyttas.

Att hantera detta krävde mer än högkvalitativa algoritmer, det krävde infrastruktur som gjorde distribuerat lärande säkert, granskningsbart och styrbart. Det som detta arbete avslöjade var vikten av rigorösa granskningsloggar, utmaningen med datakvalitet och urval när man inte kan se den fullständiga datamängden centraliserat, och frågan om modelluppdateringar själva kan läcka information om träningsdata. Den sista oron ledde till LeakPro, vår öppen källkodssekretessgranskningsram. De underliggande problemen med känslig data, distribuerade miljöer och styrningskrav översätter direkt till försvar – även om de specifika begränsningarna skiljer sig.

NATO och allierade nationer fokuserar alltmer på teknologisk suveränitet. Ser du federerat lärande som en strategisk förmåga som tillåter allierade nationer att samarbeta om AI-utveckling utan att dela känslig operativ data?

Ja, och detta händer redan. FEDAIR-programmet under NATO DIANA är en direkt test av om allierade nationer kan gemensamt förbättra en gemensam AI-förmåga utan att utbyta klassificerad sensordata. Arkitekturens svar är ja. Varje nation tränar på sin egen data, bidrar med viktuppdateringar till en gemensam sammanställningspunkt och mottar en förbättrad global modell. Ingen rådata korsar nationella gränser.

Suveränitet här innebär mer än dataskydd. Det innebär att behålla full kontroll över AI-livet med möjligheten att distribuera vilken modell som helst till vilken sensorström som helst och använda den data man äger för att kontinuerligt förbättra modellerna. Det kräver att motstå inlåsning, inklusive luftgap-kapabel infrastruktur, full modellproveniens, och leverantörsneutral sensorintegration. Dessa egenskaper är strukturella, inte kontrakt, och den skillnaden är viktig i upphandling.

Counter-drone-system är en av de viktigaste AI-tillämpningarna i modern krigföring. Vilka tekniska hinder måste fortfarande övervinnas innan AI-styrda counter-drone-plattformar kan fungera tillförlitligt i olika och snabbt föränderliga stridsmiljöer?

Från vår synvinkel ser de tekniska utmaningarna i counter-drone-AI ut att vara betydande och är troligen underapplicerade. Sensorlandskapet är komplext. Olika sensormodaliteter producerar olika dataegenskaper, och en modell som tränats på en kan inte överföras renligt till en annan. Hotdiversitet förvärrar detta. Spridningen av billiga kommersiella plattformar innebär att populationen av objekt som systemet måste upptäcka och klassificera expanderar snabbare än de flesta träningsdata kan följa.

Förbi de rena ML-utmaningarna finns det en arkitektonisk fråga som verkar viktig: vem äger och kontrollerar modellen, och vem kan uppdatera den? System som förlitar sig på en leverantörs stängda modell och uppdateringscykel ärver den leverantörens begränsningar. Förmågan att anpassa modeller till den egna operativa datan, på den egna infrastrukturen, på den egna tidsplanen, verkar som en förutsättning för tillförlitlig långsiktig prestanda snarare än en valfri funktion.

När krigföring alltmer involverar autonoma system och AI-assisterat beslutsfattande, hur bör militära organisationer balansera kontinuerligt lärande i fält med behovet av tillförlitlighet, förutsägbarhet och mänsklig tillsyn?

Plattformen är utformad som en sidovagn till befintliga kommando- och kontrollsystem, inte som en ersättning. Detekteringar matas in i Tactical Assault Kit (TAK) och standardiserade kommando- och kontrollsystem (C2) med hjälp av standardiserade dataformat och protokoll, vilket möjliggör visualisering och agerande inom befintliga operativa arbetsflöden. AI förbättrar mänskligt beslutsfattande snarare än att ersätta det.

På modellsidan betyder kontinuerligt inte okontrollerat. Varje uppdatering valideras mot en benchmarksvit innan främjande, operatörer godkänner modellversioner innan flottdistribution och skuggdistribution låter en ny version köra parallellt innan den ersätter produktion. Granskningsloggen registrerar vilken version som kördes var och vad den visade. Förbättringscykeln är systematisk och styrd, inte automatisk och ostyrd.

Om fem år, vad kommer att skilja de mest avancerade militära AI-arkitekturerna från de som distribueras idag, och vilka teknologier tror du kommer att ha den största påverkan på framtida försvarsförmåga?

Den nuvarande klyftan är mellan system som kan anpassa sig i fält och de som inte kan. De flesta distribuerade system idag är statiska. Om fem år kommer differentieringen att vara hur väl anpassningen styrs, vilken version av vilken modell som kördes på vilken plattform, formad av vilken data, under vilka förhållanden, och om den kedjan kan granskas, valideras och lita på av operatörer och upphandling.

Den underliggande ML kommer att komma i kommersiell skala. Infrastrukturen för styrt, kontinuerligt lärande vid kanten, särskilt över allierade nätverk där varje nation måste behålla suveränitet över sin egen data, kommer inte att göra det. Nationerna och programmen som bygger den infrastrukturen nu kommer att ha en ackumulerad fördel: modeller som förbättras kontinuerligt från operativ data, under nationell kontroll, utan att bero på någon leverantörs uppdateringscykel eller någon molnleverantörs tillgänglighet.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Scaleout Systems.