Andreas Hellander, CEO en mede-oprichter van Scaleout Systems – Interview Series

Andreas Hellander is de CEO en mede-oprichter van Scaleout Systems, een bedrijf dat infrastructuur bouwt voor edge AI en gefedereerd leren dat modellen traint op gedistribueerde, gevoelige data zonder deze te centraliseren. Zijn bedrijf heeft samengewerkt met de NAVO en defensiebedrijven zoals BAE Systems. Hij heeft een PhD in Wetenschappelijk Rekenen en een MSc in Biotechnologie, en is een associate professor aan de Universiteit van Uppsala, waar hij een van de toponderzoeksgroepen aan het Departement Informatietechnologie opbouwde voordat hij Scaleout oprichtte.

U hebt Scaleout opgericht na jaren van onderzoek naar gedistribueerde computing, cloud-infrastructuur en wetenschappelijk rekenen aan de Universiteit van Uppsala. Wat was het moment waarop u besefte dat gefedereerd leren en edge AI verder moesten gaan dan de academische wereld en een commercieel platform moesten worden?

Jaren van onderzoek naar grote schaalbare gedistribueerde systemen maakten één ding steeds duidelijker: toen ML echt beloften begon te laten zien in verschillende industrieën, was het noodzakelijk om het dataprobleem eerst op te lossen. Voor veel organisaties kan de meest waardevolle data eenvoudigweg niet worden gecentraliseerd, ofwel vanwege regelgevings-, praktische- of veiligheidsredenen. Gefedereerd leren ontstond als een onderzoeksreactie op die beperking. Onze gefedereerde leersoftware begon als een onderzoeksprototype aan de Universiteit van Uppsala en op een gegeven moment werd het duidelijk dat de timing goed was om het verder te ontwikkelen. De infrastructuur om ML veilig en beveiligd te maken voor gevoelige data bestond niet in enige productieklare vorm, en we voelden ons goed gepositioneerd om het te bouwen. Scaleout werd opgericht om dat te doen.

De samenwerking van Scaleout met AI Verse combineert synthetische slagveldgegeensgeneratie met gefedereerd leren op het tactische niveau. Hoe ziet u dit veranderen in de manier waarop militaire AI-systemen worden ontwikkeld in vergelijking met traditionele benaderingen die afhankelijk zijn van gecentraliseerde datasets?

Traditioneel is de aanpak geweest om operationele beelden te verzamelen, centraal te verzenden, te trainen en opnieuw te implementeren. Elke fase introduceert een bottleneck. We zijn een partnership aangegaan met AI Verse, een door de NAVO gesteunde synthetische datmafirma, om een groot deel van het eerste obstakel te verwijderen. De GAIA-platform van AI Verse genereert fotorealistische, volledig geannoteerde RGB- en IR-beelden op aanvraag, waardoor de noodzaak voor veldverzameling, handmatige labeling en lange wachttijden wordt verwijderd. Scaleout verwijdert de trainingsbottleneck aan het andere einde. Zodra deze is geïmplementeerd, worden modellen continu verbeterd vanuit live edge-data zonder iets te centraliseren. Het gecombineerde effect is dat organisaties van geen model naar een geïmplementeerd, verbeterd model kunnen gaan zonder ooit aan te raken van beperkte operationele data.

Een van de grootste uitdagingen in defensie-AI is dat slagveldomstandigheden sneller evolueren dan trainingscycli. Hoe kan edge-gebaseerd leren militaire systemen helpen om aan te passen aan nieuwe drones, voertuigen en bedreigingen zonder te wachten op centrale hertraining?

Computerzien voor counter-UAS en ISR wordt vandaag meestal centraal getraind, één keer geïmplementeerd en vervolgens verouderd. Centrale hertraining is een batchproces dat het verzamelen van data, labelen, opnieuw trainen van het model, testen en opnieuw implementeren omvat. Die cyclus duurt weken of maanden. Ondertussen verslechteren detectiemodellen naarmate seizoenen, sensoren, omgevingen en tactieken van tegenstanders veranderen.

Edge-gebaseerd leren sluit de lus aan de bron. Elk terrein voert real-time detectie uit op live sensorfeeds en filtert tegelijkertijd de meest bruikbare frames voor training via actief leren. Een grondstation op een testbaan dat een nieuwe drone-variant tegenkomt, markeert de onzekere detecties, annotators bekijken een gecureerde wachtrij in plaats van terabytes aan ruwe video, lokale fijnafstelling wordt uitgevoerd op de site en het verbeterde model wordt binnen enkele dagen opnieuw in productie genomen. Gefedereerd leren zorgt vervolgens voor de verspreiding van die verbetering naar alle terreinen.

Veel AI-systemen zijn nog steeds afhankelijk van cloud-infrastructuur. Waarom denkt u dat de toekomst van defensie-AI steeds meer zal bewegen naar gedistribueerde en losgekoppelde omgevingen in plaats van gecentraliseerde cloud-architecturen?

Er zijn drie structurele redenen voor dit. Ten eerste betekenen classificatiegrenzen dat operationele sensordata vaak de site niet mogen verlaten. Ten tweede betekenen betwiste omgevingen dat de netwerkverbinding niet kan worden verondersteld. En ten slotte is een model dat cloudconnectiviteit vereist om te functioneren een enkel punt van falen in precies de omgeving waarin het het meest nodig is. Dit zijn geen voorkeuren, maar beperkingen die cloud-architecturen diskwalificeren voordat ze beginnen.

Synthetische data wordt een belangrijk instrument voor AI-ontwikkeling. In defensie-toepassingen, waar nauwkeurigheid levensbelangrijke gevolgen kan hebben, wat zijn de sterke en zwakke punten van het gebruik van synthetische slagveldgegeens voor het trainen van computerzienmodellen?

Synthetische data biedt verschillende belangrijke voordelen. Het kan scenario’s genereren die onmogelijk of onpraktisch zijn om in het veld te verzamelen, zoals zeldzame bedreigingsklassen, IR, nadelige omstandigheden en exacte sensorgeometrieën. Het elimineert ook handmatig labelen, operationeel datarisico en kan onmiddellijk worden geschaald.

Er zijn echter ook beperkingen. De synthetische-naar-reële kloof is echt en varieert per scenario. Fijne details die de dreigingsclassificatie bepalen, kunnen niet overgedragen worden tenzij de simulatiefideliteit hoog is. De eerlijke positie is dat synthetische data een sterk mechanisme is om te beginnen en gaten te vullen die veldverzameling structureel niet kan, maar het vervangt geen live operationele data voor de uiteindelijke modelprestaties. Daarom combineert de pipeline beide.

Scaleout heeft jaren doorgebracht met het ontwikkelen van gefedereerde leertechnologieën die organisaties in staat stellen om AI te trainen zonder gevoelige data te verplaatsen. Wat zijn de lessen uit de zorg, industriële AI en andere gereguleerde sectoren die nu waardevol blijken te zijn in defensie-implentaties?

Toen ML begon te worden toegepast in gereguleerde industrieën, ontstond een gemeenschappelijk patroon. De data die modellen het meest zou verbeteren, was ook de data die niet kon worden verplaatst.

Het aanpakken van dat probleem vereiste meer dan hoge kwaliteit algoritmes; het vereiste infrastructuur die gedistribueerde leer veilig, controleerbaar en beheersbaar maakte. Wat dat werk aan het licht bracht, was de belangrijkheid van strenge audittrails, de uitdaging van dataselectie en -kwaliteit wanneer u de volledige dataset centraal niet kunt zien, en de vraag of modelupdates zelf informatie over trainingsdata zouden kunnen lekken. Die laatste zorg leidde tot LeakPro, ons open-source privacy-auditkader. De onderliggende problemen van gevoelige data, gedistribueerde omgevingen en governancevereisten vertalen zich rechtstreeks naar defensie – zelfs als de specifieke beperkingen verschillen.

De NAVO en geallieerde landen zijn steeds meer gefocust op technologische soevereiniteit. Ziet u gefedereerd leren als een strategische capaciteit die geallieerde landen in staat stelt om samen te werken aan AI-ontwikkeling zonder gevoelige operationele data te delen?

Ja, en dit gebeurt al. Het FEDAIR-programma onder de NAVO DIANA is een directe test of geallieerde landen gezamenlijk hun gedeelde AI-capaciteit kunnen verbeteren zonder klassieke sensorgegevens uit te wisselen. Het antwoord van de architectuur is ja. Elk land traint op zijn eigen data, draagt gewichtsupdates bij aan een gedeelde aggregatiepunt en ontvangt een verbeterd globaal model. Geen ruwe data overschrijdt nationale grenzen.

Souvereiniteit hier betekent meer dan databeveiliging. Het betekent volledige controle houden over de AI-levenscyclus met de mogelijkheid om elk model te implementeren op elke sensorstroom en de data die u bezit te gebruiken om uw modellen continu te verbeteren. Dat vereist het weerstaan van vendor-lock-in, inclusief luchtgaping, volledige modelherkomst, en vendorneutrale sensorintegratie. Die eigenschappen zijn structureel, niet contractueel, en dat onderscheid is van belang in inkoop.

Counter-drone-systemen ontwikkelen zich als een van de belangrijkste AI-toepassingen in de moderne oorlogvoering. Wat zijn de technische hindernissen die nog moeten worden overwonnen voordat AI-gestuurde counter-drone-platforms betrouwbaar kunnen functioneren in diverse en snel veranderende gevechtsomgevingen?

Vanuit ons perspectief zien de technische uitdagingen in counter-drone-AI er significant en mogelijk ondergewaardeerd uit. Het sensorenlandschap alleen al is complex. Verschillende sensormodaliteiten produceren verschillende dataproperties, en een model getraind op de ene kan niet schoon overgedragen worden naar de andere. De diversiteit van bedreigingen verergert dit. De verspreiding van goedkope commerciële platforms betekent dat de populatie van objecten die een systeem moet detecteren en classificeren, sneller groeit dan de meeste trainingsdatasets kunnen volgen.

Behalve de pure ML-uitdagingen is er een architecturale vraag die belangrijk lijkt: wie bezit en controleert het model, en wie kan het updaten? Systemen die afhankelijk zijn van een vendors gesloten model en updatecyclus erven de beperkingen van die vendor. De mogelijkheid om modellen aan te passen aan uw eigen operationele data, op uw eigen infrastructuur, op uw eigen tijdschema, lijkt een voorwaarde voor betrouwbare langetermijnprestaties in plaats van een optionele functie.

Naarmate de oorlogvoering steeds meer autonome systemen en AI-gestuurde besluitvorming omvat, hoe moeten militaire organisaties het continue leren in het veld in evenwicht brengen met de behoefte aan betrouwbaarheid, voorspelbaarheid en menselijke toezicht?

Het platform is ontworpen als een zijspoor van bestaande commando- en controlesystemen, niet als vervanging. Detecties voeden in Tactical Assault Kit (TAK) en standaard Command and Control (C2)-systemen met behulp van gestandaardiseerde gegevensformaten en -protocollen, waardoor ze kunnen worden visualiseerd en opgenomen in bestaande operationele workflows. De AI verhoogt de menselijke besluitvorming in plaats van het te vervangen.

Op modelniveau betekent continu niet ongecontroleerd. Elke update wordt geverifieerd tegen een benchmarksuite voordat deze wordt gepromoveerd, operators keuren modelversies goed voordat ze in productie worden genomen en schaduwimplementatie laat een nieuwe versie in parallel lopen voordat deze de productieversie vervangt. De audittrail registreert welke versie waar liep en wat het liet zien. De verbeteringscyclus is systematisch en gereguleerd, niet automatisch en ongecontroleerd.

Als we vooruitkijken naar de komende vijf jaar, wat zal het verschil zijn tussen de meest geavanceerde militaire AI-architecturen en die welke vandaag worden geïmplementeerd, en welke technologieën denkt u dat de grootste impact zullen hebben op toekomstige defensiecapaciteiten?

Het huidige onderscheid is tussen systemen die in het veld kunnen worden aangepast en diegene die dat niet kunnen. De meeste geïmplementeerde systemen vandaag zijn statisch. Over vijf jaar zal de differentiator zijn hoe goed aanpassing wordt gereguleerd, welke versie van welk model op welk platform draait, gevormd door welke data, onder welke omstandigheden, en of die keten kan worden geauditeerd, geverifieerd en vertrouwd door operators en inkoop. De onderliggende ML zal worden gecommodificeerd. De infrastructuur voor gereguleerd, continu leren aan de rand, vooral over geallieerde netwerken waar elk land zijn soevereiniteit over zijn eigen data moet behouden, zal dat niet. De landen en programma’s die die infrastructuur nu bouwen, zullen een cumulatief voordeel hebben: modellen die continu worden verbeterd vanuit operationele data, onder nationale controle, zonder afhankelijk te zijn van de updatecyclus van een vendor of de beschikbaarheid van een cloudprovider.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Scaleout Systems bezoeken.