Andreas Hellander, CEO i współzałożyciel Scaleout Systems – seria wywiadów

Andreas Hellander jest CEO i współzałożycielem Scaleout Systems, firmy budującej infrastrukturę dla sztucznej inteligencji na krawędzi i federacyjnego uczenia, które trenuje modele na rozproszonych, wrażliwych danych bez centralizacji. Jego firma współpracowała z NATO i firmami zbrojeniowymi, takimi jak BAE systems. Posiada tytuł doktora w dziedzinie obliczeń naukowych i magistra inżynierii biotechnologicznej, a także jest profesorem nadzwyczajnym na Uniwersytecie w Uppsali, gdzie zbudował jeden z najlepszych zespołów badawczych w Wydziale Informatyki przed założeniem Scaleout.

Po latach badań nad rozproszonymi systemami obliczeniowymi, infrastrukturą chmury i obliczeniami naukowymi na Uniwersytecie w Uppsali, jaki był moment, w którym zrozumiał Pan, że federacyjne uczenie i sztuczna inteligencja na krawędzi muszą wyjść poza środowisko akademickie i stać się platformą komercyjną?

Latami badań nad dużymi systemami rozproszonymi stało się coraz bardziej jasne, że gdy sztuczna inteligencja zaczęła pokazywać prawdziwą obietnicę w różnych branżach, odpowiedzialne jej zastosowanie wymagało rozwiązania problemu danych. Dla wielu organizacji najcenniejsze dane po prostu nie mogą być scentralizowane, czy to z powodów regulacyjnych, praktycznych czy bezpieczeństwa. Federacyjne uczenie się pojawiło się jako odpowiedź badawcza na to ograniczenie. Nasze oprogramowanie do federacyjnego uczenia się zaczęło się jako prototyp badawczy na Uniwersytecie w Uppsali i w pewnym momencie stało się jasne, że czas był odpowiedni, aby pójść dalej. Infrastruktura, aby uczynić sztuczną inteligencję bezpieczną i bezpieczną dla wrażliwych danych, nie istniała w żadnej produkcyjnej formie, i czuliśmy, że jesteśmy dobrze przygotowani do jej zbudowania. Scaleout został założony, aby to zrobić.

Partnerstwo Scaleout z AI Verse łączy syntetyczną generację danych pola walki z federacyjnym uczeniem się na krawędzi taktycznej. Jak Pan widzi, jak to zmieni sposób, w jaki systemy sztucznej inteligencji wojskowej są rozwijane w porównaniu z tradycyjnymi podejściami, które polegają na scentralizowanych zestawach danych?

Tradycyjnie podejście polegało na zbieraniu materiałów operacyjnych, wysyłaniu ich do centrum, trenowaniu, ponownym rozmieszczeniu. Każdy etap wprowadza wąskie gardło. Współpracowaliśmy z AI Verse, firmą syntetycznych danych wspieraną przez NATO, aby usunąć wiele z pierwszych przeszkód. Platforma GAIA AI Verse generuje fotorealistyczne, w pełni opatrzonych adnotacjami dane RGB i IR na żądanie, eliminując potrzebę zbierania danych w terenie, ręcznego oznaczania i długich czasów oczekiwania. Scaleout usuwa wąskie gardło szkoleniowe na drugim końcu. Po wdrożeniu modele są stale ulepszane z danych na żywo na krawędzi bez centralizacji czegokolwiek. Połączony efekt polega na tym, że organizacje mogą przejść od braku modelu do wdrożonego, ulepszanego modelu bez dotyku ograniczonych danych operacyjnych.

Jednym z największych wyzwań w sztucznej inteligencji wojskowej jest to, że warunki pola walki ewoluują szybciej niż cykle szkoleniowe. Jak uczenie się na krawędzi może pomóc systemom wojskowym adaptować się do nowych dronów, pojazdów i zagrożeń bez oczekiwania na scentralizowane ponowne szkolenie?

Widzenie komputerowe dla counter-UAS i rozpoznania today jest powszechnie trenowane centralnie, wdrożone raz i potem staje się nieświeże. Scentralizowane ponowne szkolenie jest procesem wsadowym, który obejmuje zbieranie danych, oznaczanie ich, ponowne trenowanie modelu, testowanie go i ponowne wdrożenie. Ten cykl trwa tygodnie lub miesiące. Tymczasem modele wykrywania ulegają degradacji, gdy pory roku, sensory, środowiska i taktyka przeciwnika się zmieniają.

Uczenie się na krawędzi zamyka pętlę u źródła. Każdy obiekt uruchamia wykrywanie w czasie rzeczywistym na żywych strumieniach sensorycznych, jednocześnie filtrowaniu najbardziej przydatnych klatek do szkolenia za pomocą aktywnego uczenia się. Węzły naziemne na poligonie, które napotykają nowy typ drona, oznaczają niepewne wykrycia, anotatorzy przeglądają wyselekcjonowaną kolejkę zamiast terabajtów surowego wideo, lokalne dokształcanie odbywa się na miejscu, a ulepszony model jest ponownie wdrożony w ciągu kilku dni. Następnie federacyjne uczenie się propaguje to ulepszenie we wszystkich miejscach.

Wiele systemów sztucznej inteligencji nadal opiera się na infrastrukturze chmury. Dlaczego Pan uważa, że przyszłość sztucznej inteligencji wojskowej będzie coraz bardziej przechodzić w kierunku rozproszonych i odłączonych środowisk, a nie scentralizowanych architektur chmury?

Istnieją trzy strukturalne powody. Po pierwsze, granice klasyfikacji oznaczają, że operacyjne dane sensoryczne często nie mogą opuścić miejsca. Po drugie, środowiska sporne oznaczają, że nie można założyć połączenia sieciowego. Wreszcie, model, który wymaga połączenia z chmurą, aby działać, jest punktem awaryjnym w środowisku, w którym jest najbardziej potrzebny. Nie są to preferencje, są to ograniczenia, które dyskwalifikują architektury chmury-pierwsze, zanim się zaczną.

Dane syntetyczne stają się coraz ważniejszym narzędziem dla rozwoju sztucznej inteligencji. W aplikacjach wojskowych, gdzie dokładność może mieć konsekwencje życia lub śmierci, jakie są zalety i ograniczenia korzystania z syntetycznych danych pola walki do trenowania modeli widzenia komputerowego?

Dane syntetyczne oferują kilka ważnych zalet. Mogą generować scenariusze, które są niemożliwe lub niewykonalne do zebrania w terenie, na przykład rzadkie klasy zagrożeń, IR, niekorzystne warunki i dokładne geometrie sensorów. Eliminują również ręczne oznaczanie, ryzyko danych operacyjnych i mogą być skalowane natychmiast.

Jednocześnie istnieją ograniczenia. Przepaść między syntetycznymi a rzeczywistymi danymi jest realna i różni się w zależności od scenariusza. Drobiazgowy szczegół, który określa klasyfikację zagrożeń, może nie przenosić się, chyba że wierność symulacji jest wysoka. Szczera pozycja jest taka, że dane syntetyczne są silnym mechanizmem startowym i wypełniają luki, których nie może wypełnić zebranie danych w terenie, ale nie zastępują danych operacyjnych na żywo dla ostatecznej wydajności modelu. Dlatego potok łączy oba.

Scaleout spędził lata rozwijając technologie federacyjnego uczenia się, które pozwalają organizacjom trenować sztuczną inteligencję bez przenoszenia wrażliwych danych. Jakie lekcje z ochrony zdrowia, przemysłowej sztucznej inteligencji i innych regulowanych sektorów są teraz przydatne w wdrożeniach wojskowych?

Gdy sztuczna inteligencja zaczęła być stosowana w różnych regulowanych branżach, pojawił się wspólny wzorzec. Dane, które najbardziej poprawiłyby modele, były również danymi, które nie mogły być przeniesione.

Rozwiązanie tego wymagało więcej niż tylko wysokiej jakości algorytmów, wymagało infrastruktury, która uczyniłaby rozproszone uczenie się bezpiecznym, audytowalnym i zarządzalnym. To, co ta praca ujawniła, to znaczenie rygorystycznych śladów audytowych, wyzwania jakości i selekcji danych, gdy nie można zobaczyć pełnego zestawu danych centralnie, oraz pytanie, czy same aktualizacje modelu mogą ujawniać informacje o danych szkoleniowych. To ostatnie pytanie doprowadziło do LeakPro, naszego otwartego frameworku audytu prywatności. Podstawowe problemy wrażliwych danych, rozproszonych środowisk i wymagań zarządzania przekładają się bezpośrednio na obronę – nawet jeśli konkretny zestaw ograniczeń się różni.

NATO i sojusznicze państwa coraz bardziej koncentrują się na suwerenności technologicznej. Czy Pan widzi federacyjne uczenie się jako strategiczną zdolność, która pozwoli sojuszniczym państwom na współpracę w rozwoju sztucznej inteligencji bez udostępniania wrażliwych danych operacyjnych?

Tak, i to już się dzieje. Program FEDAIR w ramach NATO DIANA jest bezpośrednim testem, czy sojusznicze państwa mogą wspólnie ulepszać wspólną zdolność sztucznej inteligencji bez wymiany klasyfikowanych danych sensorycznych. Architektura odpowiada twierdząco. Każde państwo trenuje na własnych danych, przekazuje aktualizacje wag do wspólnego punktu agregacji i otrzymuje ulepszony globalny model. Żadne surowe dane nie przekraczają granic państwowych.

Suwerenność oznacza tu więcej niż ochronę danych. Oznacza pozostanie w pełnej kontroli nad cyklem życia sztucznej inteligencji z możliwością wdrożenia dowolnego modelu do dowolnego strumienia sensorycznego i użycia danych, które się posiada, do ciągłego ulepszania modeli. Wymaga to oporu przed uzależnieniem, w tym infrastrukturą zdolną do pracy w trybie odłączonym, pełną pochodzenie modelu i neutralną integrację sensorów. Te właściwości są strukturalne, a nie umowne, i ta różnica ma znaczenie w zakupach.

Systemy przeciwdronowe stają się jednym z najważniejszych zastosowań sztucznej inteligencji w nowoczesnej wojnie. Jakie techniczne przeszkody nadal muszą być pokonane, zanim platformy sztucznej inteligencji przeciwdronowej będą mogły działać niezawodnie w różnych i szybko zmieniających się środowiskach walki?

Z naszego punktu widzenia techniczne wyzwania w sztucznej inteligencji przeciwdronowej wydają się znaczące i są prawdopodobnie niedoceniane. Krajobraz sensoryczny jest sam w sobie złożony. Różne modality sensoryczne produkują różne cechy danych, a model trenowany na jednej może nie przenieść się czysto do innej. Różnorodność zagrożeń powoduje, że populacja obiektów, które system musi wykryć i sklasyfikować, rośnie szybciej niż większość zestawów danych szkoleniowych może za nią nadążyć.

Ponadto istnieje pytanie architektoniczne, które wydaje się ważne: kto jest właścicielem i kontroluje model, i kto może go zaktualizować? Systemy, które zależą od zamkniętego modelu i cyklu aktualizacji dostawcy, dziedziczą ograniczenia tego dostawcy. Możliwość adaptacji modeli do własnych danych operacyjnych, na własnej infrastrukturze, we własnym czasie, wydaje się warunkiem wstępnym dla niezawodnego długoterminowego działania, a nie opcjonalną funkcją.

W miarę jak wojna coraz bardziej angażuje autonomiczne systemy i sztuczną inteligencję wspomagającą podejmowanie decyzji, jak organizacje wojskowe powinny balansować ciągłe uczenie się w terenie z potrzebą niezawodności, przewidywalności i nadzoru ludzkiego?

Platforma jest zaprojektowana jako boczny wagon do istniejącego systemu dowodzenia i kontroli, a nie jako jego zastępstwo. Wykrycia są wprowadzane do Tactical Assault Kit (TAK) i standardowych systemów dowodzenia i kontroli (C2) przy użyciu standardowych formatów danych i protokołów, umożliwiając ich wizualizację i działanie w ramach istniejących workflow operacyjnych. Sztuczna inteligencja ulepsza podejmowanie decyzji przez ludzi, zamiast zastępować je.

Jeśli chodzi o model, ciągłe nie oznacza niekontrolowane. Każda aktualizacja jest walidowana wobec zestawu benchmarkowego przed promocją, operatorzy zatwierdzają wersje modelu przed wdrożeniem floty, a wdrożenie cieni umożliwia nowej wersji działanie równolegle przed zastąpieniem produkcji. Ślad audytowy rejestruje, jaka wersja działała gdzie i co wykazała. Cykl ulepszania jest systematyczny i zarządzany, a nie automatyczny i niekontrolowany.

Spójrzmy pięć lat do przodu. Co będzie odróżniać najbardziej zaawansowane architektury sztucznej inteligencji wojskowej od tych, które są wdrożone dzisiaj, a które technologie będą miały największy wpływ na przyszłe zdolności obronne?

Obecna różnica polega na tym, czy systemy mogą adaptować się w terenie, czy nie. Większość wdrożonych systemów dzisiaj jest statyczna. W ciągu pięciu lat różnicą będzie, jak dobrze adaptacja jest zarządzana, jaka wersja którego modelu działała na którym platformie, ukształtowana przez jakie dane, w jakich warunkach, i czy ta seria może być audytowana, zwalidowana i zaufana przez operatorów i kupujących.

Podstawowa sztuczna inteligencja zostanie skomercjalizowana. Infrastruktura dla zarządzanego, ciągłego uczenia się na krawędzi, zwłaszcza w sieciach sojuszniczych, gdzie każde państwo musi zachować suwerenność nad własnymi danymi, nie zostanie skomercjalizowana. Państwa i programy, które zbudują tę infrastrukturę teraz, będą miały przewagę kumulatywną: modele, które będą się stale ulepszać z danych operacyjnych, pod kontrolą narodową, bez zależności od cyklu aktualizacji jakiegokolwiek dostawcy lub dostępności jakiegokolwiek dostawcy chmury.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Scaleout Systems.