Andreas Hellander, CEO a spoluzakladatel Scaleout Systems – Interview Series

Andreas Hellander je CEO a spoluzakladatel Scaleout Systems, společnosti, která buduje infrastrukturu pro edge AI a federated learning, která trénuje modely na distribuovaných, citlivých datech bez jejich centralizace. Jeho společnost spolupracovala s NATO a obrannými společnostmi, jako je BAE systems. Má doktorát z vědeckého výpočtu a magisterský titul z biotechnologického inženýrství a je asistentem profesora na Univerzitě v Uppsale, kde vybudoval jednu z nejlepších výzkumných skupin na oddělení informačních technologií, než založil Scaleout.

Vy jste založili Scaleout po letech výzkumu v distribuovaných výpočtech, cloudové infrastruktuře a vědeckém výpočtu na Univerzitě v Uppsale. Jaký byl ten moment, kdy jste si uvědomil, že federated learning a edge AI potřebují jít za hranice akademie a stát se komerční platformou?

Roky výzkumu velkých distribuovaných systémů ukázaly, že s rostoucím potenciálem strojového učení je třeba řešit problém s daty. Pro mnoho organizací nelze nejcenější data centralizovat, a to z regulatorních, praktických nebo bezpečnostních důvodů. Federated learning se stal výzkumnou odpovědí na tuto omezení. Naše software pro federated learning začal jako výzkumný prototyp na Univerzitě v Uppsale a v určitém okamžiku bylo jasné, že je čas jít dál. Infrastruktura pro bezpečné a zabezpečené strojové učení pro citlivá data neexistovala v žádné produkční podobě, a cítili jsme, že jsme dobře vybaveni k jejímu vybudování. Scaleout byl založen za tímto účelem.

Partnerství Scaleout s AI Verse kombinuje syntetickou generaci dat bitev s federated learningem na taktické hraně. Jak vidíte změnu ve vývoji vojenských systémů AI ve srovnání s tradičními přístupy, které spoléhají na centralizované datové sady?

Tradičně se postupovalo tak, že se sbíraly operační záběry, odesílaly se centralizovaně, trénovaly a nasazovaly. Každá fáze představuje úzké místo. Spolupracovali jsme s AI Verse, firmou syntetických dat podporovanou NATO, abychom odstranili většinu prvních překážek. Platforma GAIA od AI Verse generuje fotorealistické, plně anotované RGB a IR snímky na vyžádání, čímž se odstraňuje potřeba terénního sběru, ručního označování a dlouhých čekacích dob. Scaleout odstraňuje úzké místo při tréninku na druhé straně. Jakmile je nasazen, modely se neustále zlepšují z živých dat na hraně bez centralizace. Kombinovaný efekt spočívá v tom, že organizace mohou jít od nuly k nasazenému, zlepšujícímu se modelu bez dotyku omezených operačních dat.

Jednou z největších výzev v obranném AI je, že bitevní podmínky se vyvíjejí rychleji než tréninkové cykly. Jak může edge-based learning pomoci vojenským systémům přizpůsobit se novým dronům, vozidlům a hrozbám bez čekání na centralizované přeškolování?

Počítačové vidění pro protidronovou obranu a zpravodajství dnes thường trénuje centralizovaně, nasazuje se jednou a poté zastarává. Centralizované přeškolování je dávkový proces, který zahrnuje sběr dat, označování, přeškolování modelu, testování a opětovné nasazení. Tento cyklus trvá týdny nebo měsíce. Mezitím se modely detekce zhoršují, jak se mění roční období, senzory, prostředí a taktika protivníka.

Edge-based learning uzavírá smyčku na místě. Každá lokalita běží reálné detekční operace na živých senzorových tocích a současně filtrování nejvhodnějších snímků pro trénink prostřednictvím aktivního učení. Zázemní uzel na testovacím polygonu, který se setká s novým typem dronu, označí nejistá zjištění, anotátoři přezkoumají kurátorskou frontu místo terabajtů surových videí, lokální jemné ladění běží na místě a vylepšený model se vrátí do produkce do několika dnů. Federated learning poté propaguje toto zlepšení napříč všemi lokalitami.

Mnohé AI systémy stále silně závisí na cloudové infrastruktuře. Proč věříte, že budoucnost obranného AI bude stále více směřovat k distribuovaným a odpojeným prostředím, spíše než k centralizovaným cloudovým architekturám?

<p Existují tři strukturální důvody pro toto. První je, že hranice klasifikace znamenají, že operační senzorová data často nemohou opustit lokalitu. Druhý je, že sporná prostředí znamenají, že síťové spojení nelze předpokládat. A konečně, model, který vyžaduje cloudové připojení pro fungování, je jediným bodem selhání v přesně tom prostředí, kde je nejvíce potřebný. Tyto nejsou preference, ale omezení, která diskvalifikují cloud-first architektury, než začnou.

Syntetická data se stávají důležitým nástrojem pro vývoj AI. V obranných aplikacích, kde přesnost může mít životní nebo smrtelné důsledky, jaké jsou silné a slabé stránky použití syntetických bitevních dat pro trénink modelů počítačového vidění?

Syntetická data nabízejí několik důležitých výhod. Mohou generovat scénáře, které jsou nemožné nebo nepraktické shromáždit v terénu, například vzácné třídy hrozeb, IR, nepříznivé podmínky a přesné geometrie senzorů. Také eliminují ruční označování, riziko operačních dat a mohou být škálována okamžitě.

Zároveň existují omezení. Mezera mezi syntetickými a reálnými daty je skutečná a se liší podle scénáře. Jemné detaily, které určují klasifikaci hrozeb, nemusí být přeneseny, pokud není vysoká věrnost simulace. Učený postoj je, že syntetická data jsou silným mechanismem pro zahájení a vyplňují mezery, které terénní sběr nemůže strukturálně vyplnit, ale nenahrazují živá operační data pro konečnou výkonnost modelu. Proto je pipeline kombinuje.

Scaleout strávil roky vývoje technologií federated learningu, které umožňují organizacím trénovat AI bez pohybu citlivých dat. Jaké zkušenosti z oblasti zdravotnictví, průmyslového AI a dalších regulovaných sektorů se nyní ukazují jako cenné v nasazení obrany?

Jakmile se strojové učení začalo aplikovat napříč regulovanými průmysly, objevila se společná vzorce. Data, která by nejvíce zlepšila modely, byla také data, která nemohla být přesunuta.

Vyřešení tohoto problému vyžadovalo více než jen kvalitní algoritmy, vyžadovalo infrastrukturu, která by učinila distribuované učení bezpečným, auditovatelným a říditelným. Tato práce odhalila důležitost přísných auditních stop, výzvu výběru a kvality dat, když nelze centrálně vidět celou datovou sadu, a otázku, zda aktualizace modelů samy o sobě mohou prozrazovat informace o trénovacích datech. Tato poslední obava vedla k naší open-source frameworku pro audit soukromí LeakPro. Základní problémy citlivých dat, distribuovaných prostředí a požadavků na řízení se přímo překládají do obrany – i když konkrétní omezení se liší.

NATO a spojenecké národy se stále více zaměřují na technologickou suverenitu. Vidíte federated learning jako strategickou schopnost, která umožňuje spojeneckým národům spolupracovat na vývoji AI bez sdílení citlivých operačních dat?

Ano, a to se již děje. Program FEDAIR v rámci NATO DIANA je přímým testem, zda spojenecké národy mohou společně zlepšit sdílenou schopnost AI bez výměny klasifikovaných senzorových dat. Architektura odpovídá ano. Každá země trénuje na svých vlastních datech, přispívá aktualizacemi modelu do sdíleného agregovaného bodu a obdrží vylepšený globální model. Žádná surová data nepřesahují národní hranice.

Suverenita zde znamená více než ochranu dat. Znamená to zůstat plně ve správě životního cyklu AI s možností nasadit jakýkoli model do libovolného senzorového toku a použít data, která vlastníte, pro nepřetržité zlepšování vašich modelů. To vyžaduje odpor proti uzamčení, včetně infrastruktury schopné fungovat v režimu vzduchové mezery, plné prokazatelnosti modelu a dodavatelsky neutrální integraci senzorů. Tyto vlastnosti jsou strukturální, nikoli smluvní, a tento rozdíl má význam v nákupu.

Protidronové systémy se objevují jako jedna z nejvýznamnějších aplikací AI v moderní válce. Jaké technické překážky je ještě třeba překonat, aby AI poháněné protidronové platformy mohly spolehlivě fungovat v různých a rychle se měnících bojových prostředích?

Z našeho pohledu vypadají technické výzvy v protidronovém AI značné a pravděpodobně jsou podceňovány. Krajina senzorů je sama o sobě složitá. Různé senzorové modality produkují různé datové charakteristiky a model trénovaný na jedné nemusí přejít čistě na jinou. Diverzita hrozeb tento problém zhoršuje. Šíření low-cost komerčních platforem znamená, že populace objektů, které systém potřebuje detekovat a klasifikovat, se rozšiřuje rychleji, než většina trénovacích dat může následovat.

Mimo čistě technické výzvy AI existuje architektonická otázka, která se zdá důležitá: kdo vlastní a kontroluje model a kdo ho může aktualizovat? Systémy, které závisí na uzavřených modelech a aktualizačním cyklu dodavatele, dědí omezení dodavatele. Schopnost přizpůsobit modely vlastním operačním datům, na vlastní infrastruktuře, ve vlastním časovém rámci, se zdá být podmínkou pro spolehlivý dlouhodobý výkon, spíše než volitelnou funkcí.

Jak vojenské organizace měly vyvážit nepřetržité učení v terénu s potřebou spolehlivosti, předvídatelnosti a lidského dohledu, když se válka stále více účastní autonomních systémů a AI asistovaných rozhodování?

Platforma je navržena jako doplněk stávajícího velení a řízení, ne jako náhrada. Zjištění se přivádějí do Taktického útočného kitu (TAK) a standardních systémů velení a řízení (C2) pomocí standardizovaných formátů a protokolů, což umožňuje jejich vizualizaci a provedení v rámci stávajících operačních pracovních postupů. AI zlepšuje lidské rozhodování, spíše než ho nahrazuje.

Na straně modelu není nepřetržité učení nekontrolovatelné. Každá aktualizace je ověřena proti benchmarkové sadě, než je povýšena, operátoři schvalují verze modelu před nasazením do flotily a stínové nasazení umožňuje novou verzi běžet paralelně, než nahradí produkci. Auditní stopa zaznamenává, která verze běžela kde a co ukázala. Zlepšovací cyklus je systematický a řízený, ne automatický a nekontrolovaný.

Pohledem do budoucnosti o pět let, co bude odlišovat nej pokročilejší vojenské architektury AI od těch, které se nasazují dnes, a které technologie, podle vás, budou mít největší dopad na budoucí obranné schopnosti?

Současný rozdíl spočívá v tom, zda systémy mohou přizpůsobit v terénu. Většina nasazených systémů dnes je statická. Za pět let bude rozlišovacím faktorem, jak je přizpůsobení řízeno, která verze kterého modelu běžela na které platformě, formovaná jakými daty, za jakých podmínek a zda lze tuto posloupnost audovat, ověřit a důvěřovat operátory a nákupu.

Základní strojové učení se stane komoditou. Infrastruktura pro řízené, nepřetržité učení na hraně, zejména napříč spojeneckými sítěmi, kde každá země musí zachovat suverenitu nad svými vlastními daty, nebude. Národy a programy, které nyní budují tuto infrastrukturu, budou mít komparativní výhodu: modely, které se budou neustále zlepšovat z operačních dat, pod národní kontrolou, bez závislosti na aktualizačním cyklu žádného dodavatele nebo dostupnosti žádného cloudového poskytovatele.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Scaleout Systems.