Andreas Hellander, CEO og medgrunnlegger av Scaleout Systems – Intervju-serie

Andreas Hellander er CEO og medgrunnlegger av Scaleout Systems, et selskap som bygger infrastruktur for edge AI og føderert læring som trener modeller på distribuert, sensitiv data uten å sentralisere den. Hans selskap har arbeidet med NATO og forsvarsaktører som BAE Systems. Han har en PhD i vitenskapelig regning og en MSc i bioteknologiingeniør, og er en assosiert professor ved Uppsala Universitet, hvor han bygget ett av de beste forskningsgruppene ved Institutt for informasjonsteknologi før han grunnla Scaleout.

DU grunnla Scaleout etter år med forskning på distribuert regning, sky-infrastruktur og vitenskapelig regning ved Uppsala Universitet. Hva var øyeblikket da du innsett at føderert læring og edge AI måtte gå utenfor akademia og bli et kommersielt plattform?

År med forskning på store distribuerte systemer gjorde en ting stadig mer klart: da ML begynte å vise virkelig løfte over industrier, krevde det å bruke det ansvarlig å løse dataproblemet først. For mange organisasjoner kan den mest verdifulle dataen ikke sentraliseres, enten det er av regulering, praktiske eller sikkerhetsmessige årsaker. Føderert læring oppstod som en forskningsrespons på denne begrensningen. Vår fødererte læring programvare startet som en forskningsprototyp ved Uppsala Universitet og på et tidspunkt ble det klart at tiden var rett til å ta det videre. Infrastrukturen for å gjøre ML trygg og sikker for sensitiv data eksisterte ikke i noen produksjonsklar form, og vi følte at vi var godt posisjonert til å bygge det. Scaleout ble grunnlagt for å gjøre det.

Scaleouts samarbeid med AI Verse kombinerer syntetisk slagmarkedsdata-generering med føderert læring på den taktiske kanten. Hvordan ser du på hvordan dette endrer måten militære AI-systemer utvikles sammenlignet med tradisjonelle tilnærminger som avhenger av sentraliserte datasett?

Tradisjonelt har tilnærmingen vært å samle inn operasjonell film, sende den sentralt, trene, gjøre om igjen. Hver fase introduserer en flaskehals. Vi samarbeidet med AI Verse, en NATO-støttet syntetisk data-firma, for å fjerne mye av den første hindringen. AI Verses GAIA-plattform genererer fotorealistiske, fullt annoterte Rød, Grønn, Blå (RGB) og infrarød (IR) bilder på forespørsel, og fjerner behovet for feltinnsamling, manuell annotering og lange ventetider. Scaleout fjerner treningsflaskehalsen på den andre siden. Når den er deployet, forbedrer modellene seg kontinuerlig fra live kantdata uten å sentralisere noe. Den kombinerte effekten er at organisasjoner kan gå fra ingen modell til en feltet, forbedret modell uten å berøre begrenset operasjonell data.

En av de største utfordringene i forsvars-AI er at slagmarkedsforhold utvikler seg raskere enn treningscykler. Hvordan kan kant-basert læring hjelpe militære systemer til å tilpasse seg nye droner, kjøretøy og trusler uten å vente på sentralisert om-trening?

Datamaskin-syn for mot-UAS og Intelligence, Surveillance, and Reconnaissance (ISR) i dag er vanligvis trent sentralt, deployet en gang og deretter blir gammel. Sentralisert om-trening er en batch-prosess som innebærer å samle inn data, annotere det, trene modellen, teste den og deretter deploye den på nytt. Denne syklusen tar uker eller måneder. I mellomtiden forringes deteksjonsmodellene når sesonger, sensorer, miljø og motstander-taktikker endrer seg.

Kant-basert læring lukker løkken på kilden. Hver sted kjører sanntids-deteksjon på live sensor-strømmer samtidig som den filterer ut de mest nyttige rammer for trening via aktiv læring. En bakke-node på en testbane som møter en ny drone-type flagger usikre deteksjoner, annotatorer gjennomgår en kurert kø og lokal fin-justering kjører på stedet, og den forbedrede modellen er tilbake i produksjon innen dager. Føderert læring propagerer deretter denne forbedringen over alle steder.

Mange AI-systemer er fortsatt avhengige av sky-infrastruktur. Hvorfor tror du at fremtiden for forsvars-AI vil gå mot distribuerte og frakoblete miljøer fremfor sentraliserte sky-arkitekturer?

Det er tre strukturelle årsaker til dette. Først betyr klassifiserings-grensene at operasjonell sensor-data ofte ikke kan forlate stedet. For det andre betyr kontesterte miljøer at nettverks-forbindelsen ikke kan antas. Og til slutt er en modell som krever sky-tilkobling for å fungere en enkelt feil-kilde i nettopp den miljøen den er mest nødvendig. Disse er ikke preferanser, de er begrensninger som diskvalifiserer sky-først-arkitekturer før de starter.

Syntetisk data blir en viktig verktøy for AI-utvikling. I forsvars-applikasjoner, hvor nøyaktighet kan ha liv-eller-død-konsekvenser, hva er styrkene og begrensningene ved å bruke syntetisk slagmarkeds-data til å trene datamaskin-syn-modeller?

Syntetisk data tilbyr flere viktige fordeler. Den kan generere scenarier som er umulige eller upraktiske å samle inn på feltet, for eksempel sjeldne trussel-klasser, IR, ugunstige forhold og nøyaktige sensor-geometrier. Den eliminerer også manuell annotering, operasjonell data-risiko og den kan skaleres umiddelbart.

På samme tid er det begrensninger. Den syntetiske-til-reelle gapet er reelt og varierer med scenario. Fin detalj som bestemmer trussel-klassifisering kan ikke overføres med mindre simulerings-trofastheten er høy. Den ærlige posisjonen er at syntetisk data er en sterk kald-start-mekanisme og fyller hull som felt-innsamling strukturelt ikke kan, men den erstatter ikke live operasjonell data for endelig modell-ytelse. Derfor kombinerer pipeline både.

Scaleout har brukt år på å utvikle fødererte læringsteknologier som tillater organisasjoner å trene AI uten å flytte sensitiv data. Hva lærdommer fra helse, industriell AI og andre regulerte sektorer er nå bevist verdifulle i forsvars-utplasseringer?

Da ML begynte å bli brukt over regulerte industrier, oppstod en felles mønster. Dataene som ville mest forbedre modellene var også de dataene som ikke kunne flyttes.

Å håndtere dette krevde mer enn høykvalitets-algoritmer, det krevde infrastruktur som gjorde distribuert læring trygg, auditerbar og styrt. Det som arbeidet avdekket var viktigheten av strenge audit-spor, utfordringen med data-kvalitet og valg når du ikke kan se det fulle datasett sentralt, og spørsmålet om hvorvidt modell-oppdateringer selv kunne lekke informasjon om trening-data. Den siste bekymringen ledet til LeakPro, vår åpne kilde-privatitets-audit-ramme. De underliggende problemene med sensitiv data, distribuerte miljøer og styrt-krav oversetter direkte til forsvar – selv om de spesifikke begrensningene forskjeller.

NATO og allierte nasjoner fokuserer stadig mer på teknologisk suverenitet. Ser du på føderert læring som en strategisk evne som tillater allierte nasjoner å samarbeide om AI-utvikling uten å dele sensitiv operasjonell data?

Ja, og dette skjer allerede. FEDAIR-programmet under NATO DIANA er en direkte test på om allierte nasjoner kan felles forbedre AI-evne uten å bytte klassifisert sensor-data. Arkitekturens svar er ja. Hver nasjon trener på sin egen data, bidrar med vekt-oppdateringer til en felles aggregasjons-punkt, og mottar en forbedret global modell. Ingen rå-data krysser nasjonale grenser.

Suverenitet her betyr mer enn data-beskyttelse. Det betyr å forbli i full kontroll over AI-livssyklusen med evnen til å deploye enhver modell til enhver sensor-strøm og bruke dataene du eier til å kontinuerlig forbedre dine modeller. Det krever å motstå lås-inn, inkludert luft-lukket kapabel infrastruktur, full modell-proveniens, og leverandør-nøytral sensor-integrasjon. Disse egenskapene er strukturelle, ikke kontraktuelle, og den distinksjonen betyr noe i innkjøp.

Counter-drone-systemer oppstår som en av de viktigste AI-applikasjonene i moderne krigføring. Hva tekniske hindringer må fortsatt overvinnes før AI-drevne counter-drone-plattformer kan fungere pålitelig over diverse og raskt endrende kamp-miljøer?

Fra vår synsvinkel ser de tekniske utfordringene i counter-drone-AI ut som betydelige og er sannsynligvis underverdiert. Sensor-landskapet alene er komplekst. Forskjellige sensor-modaler produserer forskjellige data-egenskaper, og en modell trent på en kan ikke overføres ren til en annen. Trussel-mangfold kompenserer dette. Spredningen av lav-kostnads kommersielle plattformer betyr at populasjonen av objekter et system må detektere og klassifisere utvider seg raskere enn de fleste trenings-datasett kan følge.

Forbi de rene ML-utfordringene, er det en arkitektonisk spørsmål som ser viktig ut: hvem eier og kontrollerer modellen, og hvem kan oppdatere den? Systemer som avhenger av en leverandørs lukkede modell og oppdaterings-syklus arver den leverandørens begrensninger. Evnen til å tilpasse modeller til din egen operasjonell data, på din egen infrastruktur, på din egen tidslinje, ser ut som en forutsetning for pålitelig lang-tids-ytelse fremfor en valgfri funksjon.

Som krigføring stadig mer involverer autonome systemer og AI-assistert beslutning, hvordan bør militære organisasjoner balansere kontinuerlig læring i feltet med behovet for pålitelighet, forutsigbarhet og menneskelig tilsyn?

Plattformen er designet som en sidevogn til eksisterende kommando- og kontroll, ikke en erstatning. Deteksjoner matet inn i Tactical Assault Kit (TAK) og standard Command and Control (C2)-systemer ved hjelp av standardiserte data-formater og protokoller, muliggjør dem å visualiseres og handles innen eksisterende operative arbeidsflyter. AI-en forbedrer menneskelig beslutning fremfor å erstatte den.

På modell-siden betyr kontinuerlig ikke ukontrollert. Hver oppdatering valideres mot en benchmark-suite før fremme, operatører godkjenner modell-versjoner før flåte-deployering og skygge-deployering lar en ny versjon kjøre parallelt før den erstatter produksjon. Audit-spor registrerer hvilken versjon kjørte hvor og hva den viste. Forbedrings-syklusen er systematisk og styrt, ikke automatisk og ukontrollert.

Om fem år, hva vil skille de mest avanserte militære AI-arkitekturer fra de som deployes i dag, og hvilke teknologier tror du vil ha størst innvirkning på fremtidige forsvars-evner?

Den nåværende skillet er mellom systemer som kan tilpasse seg i feltet og de som ikke kan. De fleste deployede systemer i dag er statiske. Om fem år vil differensieren være hvor godt tilpasningen er styrt, hvilken versjon av hvilken modell kjørte på hvilken plattform, formet av hvilke data, under hvilke forhold, og om den kjeden kan auditeres, valideres og tillites av operatører og innkjøp.

Den underliggende ML vil kommodisere. Infrastrukturen for styrt, kontinuerlig læring på kanten, spesielt over allierte nettverk hvor hver nasjon må forbli i full kontroll over sin egen data, vil ikke. Nasjonene og programmene som bygger denne infrastrukturen nå vil ha en sammensatt fordel: modeller som forbedrer seg kontinuerlig fra operasjonell data, under nasjonal kontroll, uten å avhenge av noen leverandørs oppdaterings-syklus eller noen sky-tilgjengelighet.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke Scaleout Systems.