Andreas Hellander, administrerende direktør og medstifter af Scaleout Systems – Interviewserie

Andreas Hellander er administrerende direktør og medstifter af Scaleout Systems, et firma, der bygger infrastruktur til edge AI og federeret læring, der træner modeller på distribuerede, følsomme data uden at centralisere dem. Hans firma har arbejdet med NATO og forsvarsprimes såsom BAE systems. Han har en ph.d. i videnskabelig regning og en kandidatuddannelse i bioteknologi, og er en associeret professor ved Uppsala Universitet, hvor han byggede et af de bedste forskningsgrupper på Institut for Informationsteknologi, før han startede Scaleout.

De co-foundede Scaleout efter år med forskning i distribueret regning, cloud-infrastruktur og videnskabelig regning på Uppsala Universitet. Hvornår var det øjeblik, hvor De forstod, at federeret læring og edge AI behøvede at gå ud over akademiet og blive en kommerciel platform?

År med forskning i store distribuerede systemer gjorde én ting mere og mere klart: Da ML begyndte at vise rigtig potentiale på tværs af brancher, krævede det at løse data-problemet først. For mange organisationer kan den mest værdifulde data simpelthen ikke centraliseres, enten på grund af reguleringer, praktiske eller sikkerhedsgrunde. Federeret læring opstod som en forskningsrespons på denne begrænsning. vores federeret læring software startede som en forskningsprototype på Uppsala Universitet, og på et tidspunkt blev det klart, at timingen var rigtig til at tage det videre. Infrastrukturen til at gøre ML sikker og sikret for følsomme data eksisterede ikke i nogen produktionsklar form, og vi følte, at vi var godt positioneret til at bygge det. Scaleout blev grundlagt for at gøre det.

Scaleouts samarbejde med AI Verse kombinerer syntetisk slagmarkedsdata-generering med federeret læring på den taktiske kant. Hvordan ser De på, at dette ændrer måden, hvorpå militære AI-systemer udvikles i forhold til traditionelle tilgange, der afhænger af centraliserede datasæt?

Traditionelt har tilgangen været at indsamle operationelle optagelser, sende dem centraliseret, træne og genudsende. Hver fase introducerer en flaskehals. Vi samarbejdede med AI Verse, en NATO-støttet syntetisk data-firma, for at fjerne meget af den første hindring. AI Verses GAIA-platform genererer fotorealistiske, fuldt annoterede Rød, Grøn, Blå (RGB) og Infrarød (IR) billeder på krav, og fjerner behovet for feltindsamling, manuel mærkning og lange ventetider. Scaleout fjerner træningsflaskehalsen i den anden ende. Når modellerne er deployet, forbedres de kontinuerligt fra live kantdata uden at centralisere noget. Den kombinerede effekt er, at organisationer kan gå fra ingen model til en udsendt, forbedret model uden at røre følsomme operationelle data.

En af de største udfordringer i forsvars-AI er, at slagmarkedsbetingelser udvikler sig hurtigere end træningscykler. Hvordan kan kant-baseret læring hjælpe militære systemer med at tilpasse sig nye droner, køretøjer og trusler uden at vente på centraliseret gen-træning?

Computer vision til mod-droner og efterretning, overvågning og rekognoscering (ISR) i dag er ofte trænet centraliseret, udsendt én gang og derefter blevet gammel. Centraliseret gen-træning er en batch-proces, der indebærer indsamling af data, mærkning, gen-træning af modellen, test og derefter gen-udsendelse. Denne cyklus tager uger eller måneder. Imens forringes detectionsmodeller, da sæsoner, sensorer, miljøer og fjendtlige taktikker ændrer sig.

Kant-baseret læring lukker cirklen på stedet. Hver lokalitet kører realtids-detection på live sensor-datastrømme, samtidig med at de filtrerer ud de mest nyttige rammer til træning via aktiv læring. En jordnod på en testbane, der møder en ny dron-type, markerer usikre detectioner, mærkere gennemgår en kurateret kø og lokale fin-justeringer kører på stedet, og den forbedrede model er tilbage i produktion inden for dage. Federeret læring propagerer derefter denne forbedring på tværs af alle lokaliteter.

Mange AI-systemer afhænger stadig tungt af cloud-infrastruktur. Hvorfor tror De, at fremtidens forsvars-AI vil gå mere mod distribuerede og frakoblet miljøer end centraliserede cloud-arkitekturer?

Der er tre strukturelle grunde til dette. Først betyder klassificeringsgrænser, at operationelle sensor-data ofte ikke kan forlade stedet. Anden, kontrollerede miljøer betyder, at netværksforbindelsen ikke kan antages. Og endelig er en model, der kræver cloud-forbindelse for at fungere, et enkelt fejlpoint i netop den miljø, hvor den er mest nødvendig. Disse er ikke præferencer, men begrænsninger, der diskvalificerer cloud-først-arkitekturer, før de starter.

Syntetisk data bliver en vigtig værktøj til AI-udvikling. I forsvarsapplikationer, hvor nøjagtighed kan have liv eller død som konsekvens, hvad er styrkerne og begrænsningerne ved at bruge syntetisk slagmarkedsdata til at træne computer vision-modeller?

Syntetisk data tilbyder flere vigtige fordele. Den kan generere scenarier, der er umulige eller upraktiske at indsamle i felten, f.eks. sjældne trusselklasser, IR, ugunstige betingelser og præcise sensor-geometrier. Den eliminerer også manuel mærkning, operationel data-risiko og kan skaleres øjeblikkeligt.

På samme tid er der begrænsninger. Den syntetiske-til-reelle-lucke er reel og varierer med scenariet. Fine detaljer, der bestemmer trusselklassificering, kan ikke overføres, medmindre simulations-fideliteten er høj. Den ærlige position er, at syntetisk data er en stærk kold-start-mekanisme og fylder huller, som feltindsamling strukturelt ikke kan, men det erstatter ikke live operationelle data til endelig model-præstation. Det er derfor, pipeline-kombinationen kombinerer begge.

Scaleout har brugt år på at udvikle federeret læringsteknologier, der tillader organisationer at træne AI uden at flytte følsomme data. Hvad lærer af erfaringer fra sundhedssektoren, industri-AI og andre regulerede sektorer er nu beviseligt værdifulde i forsvars-udvikling?

Da ML begyndte at blive anvendt på tværs af reguleringer, opstod et mønster. De data, der ville forbedre modellerne mest, var også de data, der ikke kunne flyttes.

At imødekomme dette krævede mere end høj kvalitets-algoritmer; det krævede infrastruktur, der gjorde distribueret læring sikker, gennemskuelig og styret. Det, som dette arbejde afdækkede, var vigtigheden af strenge revisions-spor, udfordringen ved data-kvalitet og udvælgelse, når man ikke kan se det fulde datasæt centraliseret, og spørgsmålet om, hvorvidt model-opdateringer selv kunne lække information om træningsdata. Den sidste bekymring førte til LeakPro, vores open-source privatlivs-revisions-ramme. De underliggende problemer med følsomme data, distribuerede miljøer og styre-krav oversætter direkte til forsvar – selv om de specifikke begrænsninger forskellige.

NATO og allierede nationer fokuserer mere og mere på teknologisk suverænitet. Ser De på, at federeret læring bliver en strategisk kapacitet, der tillader allierede nationer at samarbejde om AI-udvikling uden at dele følsomme operationelle data?

Ja, og det sker allerede. FEDAIR-programmet under NATO DIANA er en direkte test af, om allierede nationer kan fælles udvikle AI-kapacitet uden at udveksle klassificerede sensor-data. Arkitekturens svar er ja. Hver nation træner på sine egne data, bidrager med vægt-opdateringer til en fælles aggregationspunkt og modtager en forbedret global model. Ingen rå data krydser nationale grænser.

Suverænitet her betyder mere end data-beskyttelse. Det betyder at forblive i fuld kontrol over AI-livscyklussen med muligheden for at udsende enhver model til enhver sensor-strøm og bruge de data, man ejer, til kontinuerligt at forbedre modellerne. Det kræver at modstå låsning, herunder luft-lukket kapabel infrastruktur, fuld model-proveniens og leverandør-neutral sensor-integration. Disse egenskaber er strukturelle, ikke kontraktuelle, og den forskel betyder noget i indkøb.

Mod-droner-systemer opstår som en af de vigtigste AI-applikationer i moderne krigsførelse. Hvad tekniske hindringer skal endnu overvindes, før AI-drevne mod-droner-platforme kan fungere pålideligt på tværs af diverse og hurtigt skiftende kampmiljøer?

Set fra vores synspunkt ser de tekniske udfordringer i mod-droner-AI ud som betydelige og er sandsynligvis underestimeret. Sensor-landskabet alene er komplekst. Forskellige sensor-modaliteter producerer forskellige data-karakteristika, og en model, der er trænet på én, kan ikke overføres ren til en anden. Trussel-diversitet forstærker dette. Spredningen af billige kommercielle platforme betyder, at populationen af objekter, et system skal kunne detektere og klassificere, udvikler sig hurtigere, end de fleste trænings-sæt kan følge.

Ud over de rene ML-udfordringer er der en arkitektonisk spørgsmål, der synes vigtigt: Hvem ejer og kontrollerer modellen, og hvem kan opdatere den? Systemer, der afhænger af en leverandørs lukkede model og opdateringscyklus, arver den leverandørs begrænsninger. Evnen til at tilpasse modeller til egne operationelle data, på egen infrastruktur, på egen tidslinje, synes at være en forudsætning for pålidelig langsigtede præstationer snarere end en valgfri funktion.

Da krigsførelse mere og mere involverer autonome systemer og AI-assisteret beslutningstagning, hvordan skal militære organisationer balancere kontinuerlig læring i felten med behovet for pålidelighed, forudsigelighed og menneskelig oversigt?

Platformen er designet som en sidevogn til eksisterende kommando- og kontrol, ikke en erstatning. Detections føder ind i Tactical Assault Kit (TAK) og standard Command and Control (C2)-systemer ved hjælp af standardiserede data-formatter og protokoller, hvilket muliggør, at de kan visualiseres og handles inden for eksisterende operationelle arbejdsgange. AI-forbedrer menneskelig beslutningstagning snarere end at erstatte den.

På modellens side betyder kontinuerligt ikke ukontrolleret. Hver opdatering valideres mod en benchmark-sæt, før forfremmelse, operatører godkender model-versioner, før flåde-udsendelse, og skygge-udsendelse lader en ny version køre parallelt, før den erstatter produktion. Revisions-spor optager, hvilken version kørte hvor og hvad den viste. Forbedrings-cyklen er systematisk og styret, ikke automatisk og ukontrolleret.

Set fem år frem, hvad vil skille de mest avancerede militære AI-arkitekturer fra dem, der udvikles i dag, og hvilke teknologier tror De vil have den største indvirkning på fremtidige forsvars-kapaciteter?

Den nuværende skillelinje er mellem systemer, der kan tilpasse sig i felten, og dem, der ikke kan. De fleste udsendte systemer i dag er statiske. Om fem år vil differentiatorn være, hvor godt tilpasning styres, hvilken version af hvilken model kørte på hvilken platform, formet af hvilke data, under hvilke betingelser, og om den kæde kan revisioneres, valideres og tillides af operatører og indkøb.

Den underliggende ML vil kommodificeres. Infrastrukturen for styret, kontinuerlig læring på kanten, især på tværs af allierede netværk, hvor hver nation må fastholde suverænitet over sine egne data, vil ikke. De nationer og programmer, der bygger denne infrastruktur nu, vil have en sammensat fordel: modeller, der forbedres kontinuerligt fra operationelle data, under national kontrol, uden at afhænge af nogen leverandørs opdateringscyklus eller nogen cloud-leverandørs tilgængelighed.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Scaleout Systems.