Andreas Hellander, CEO und Mitgründer von Scaleout Systems – Interview-Serie

Andreas Hellander ist der CEO und Mitgründer von Scaleout Systems, einem Unternehmen, das Infrastruktur für Edge-AI und verteiltes Lernen entwickelt, um Modelle auf verteilten, sensiblen Daten ohne Zentralisierung zu trainieren. Sein Unternehmen hat mit NATO und Verteidigungsprimärunternehmen wie BAE Systems zusammengearbeitet. Er hält einen PhD in Wissenschaftlichem Rechnen und einen MSc in Biotechnologieingenieurwesen und ist assoziierter Professor an der Universität Uppsala, wo er eine der führenden Forschungsgruppen am Department of Information Technology aufbaute, bevor er Scaleout gründete.

Sie haben Scaleout nach Jahren der Forschung in verteiltem Rechnen, Cloud-Infrastruktur und wissenschaftlichem Rechnen an der Universität Uppsala gegründet. Was war der Moment, in dem Sie erkannten, dass verteiltes Lernen und Edge-AI über die akademische Forschung hinausgehen und zu einem kommerziellen Angebot werden mussten?

Die Jahre der Forschung an großen verteilten Systemen machten eines immer deutlicher: Als ML in verschiedenen Branchen echte Versprechen zeigte, war es notwendig, das Datenproblem zuerst zu lösen. Viele Organisationen können ihre wertvollsten Daten aus regulatorischen, praktischen oder Sicherheitsgründen nicht zentralisieren. Verteiltes Lernen entstand als Forschungsantwort auf diese Einschränkung. Unsere Software für verteiltes Lernen begann als Forschungsprototyp an der Universität Uppsala, und zu einem bestimmten Zeitpunkt wurde klar, dass der Zeitpunkt gekommen war, sie weiterzuentwickeln. Die Infrastruktur, um ML sicher und zuverlässig für sensible Daten zu machen, existierte in keiner produktionsreifen Form, und wir fühlten uns gut positioniert, sie aufzubauen. Scaleout wurde gegründet, um dies zu tun.

Die Partnerschaft von Scaleout mit AI Verse kombiniert synthetische Schlachtfeld-Datengenerierung mit verteiltem Lernen am taktischen Rand. Wie sehen Sie dies als Veränderung der Art und Weise, wie militärische KI-Systeme im Vergleich zu herkömmlichen Ansätzen entwickelt werden, die auf zentralisierten Datensätzen basieren?

Traditionell wurde der Ansatz verfolgt, operative Aufnahmen zu sammeln, sie zentral zu versenden, zu trainieren und neu zu verteilen. Jede Phase stellt ein Hindernis dar. Wir haben uns mit AI Verse, einem von der NATO unterstützten Unternehmen für synthetische Daten, zusammengetan, um ein großes Hindernis zu beseitigen. AI Verses GAIA-Plattform generiert photorealistische, vollständig annotierte RGB- und IR-Bilder auf Anfrage, wodurch die Notwendigkeit für Feldsammlung, manuelle Annotation und lange Wartezeiten entfällt. Scaleout entfernt die Trainingsflasche am anderen Ende. Sobald die Modelle bereitgestellt werden, verbessern sie sich kontinuierlich von Live-Daten am Rand ohne etwas zu zentralisieren. Der kombinierte Effekt ist, dass Organisationen von keinem Modell zu einem bereitgestellten, verbesserten Modell kommen können, ohne jemals sensible operative Daten zu berühren.

Eines der größten Herausforderungen bei der Verteidigungs-KI ist, dass sich Schlachtfeldbedingungen schneller entwickeln als Trainingszyklen. Wie kann Edge-basiertes Lernen militärische Systeme helfen, sich an neue Drohnen, Fahrzeuge und Bedrohungen anzupassen, ohne auf zentrale Neuschulung warten zu müssen?

Computer-Vision für Gegen-UAS und ISR wird heute häufig zentral trainiert, einmal bereitgestellt und dann veraltet. Zentrale Neuschulung ist ein Batch-Prozess, der das Sammeln von Daten, das Annotieren, das Neuschulen des Modells, das Testen und das erneute Bereitstellen umfasst. Dieser Zyklus dauert Wochen oder Monate. Währenddessen veralten Erkennungsmodelle, da sich Jahreszeiten, Sensoren, Umgebungen und Taktiken der Gegner ändern.

Edge-basiertes Lernen schließt die Schleife an der Quelle. Jeder Standort führt Echtzeit-Erkennung auf Live-Sensor-Feeds durch und filtert gleichzeitig die nützlichsten Frames für das Training über aktives Lernen. Ein Boden-Knoten auf einem Testgelände, der auf eine neue Drohnenart trifft, markiert die unsicheren Erkennungen, Annotatoren überprüfen eine kuratierte Warteschlange anstelle von Terabyte Rohvideo, lokales Feintuning läuft vor Ort, und das verbesserte Modell ist innerhalb von Tagen wieder in Produktion. Verteiltes Lernen verbreitet dann diese Verbesserung über alle Standorte.

Viele KI-Systeme sind noch stark von Cloud-Infrastruktur abhängig. Warum glauben Sie, dass die Zukunft der Verteidigungs-KI zunehmend auf verteilte und nicht verbundene Umgebungen und nicht auf zentrale Cloud-Architekturen umstellen wird?

Es gibt drei strukturelle Gründe dafür. Erstens bedeuten Klassifizierungsgrenzen, dass operative Sensordaten oft den Standort nicht verlassen können. Zweitens bedeuten umkämpfte Umgebungen, dass die Netzwerkverbindung nicht angenommen werden kann. Und drittens ist ein Modell, das Cloud-Verbindung erfordert, um zu funktionieren, ein einzelner Fehlerpunkt in genau der Umgebung, in der es am meisten benötigt wird. Dies sind keine Präferenzen, sondern Einschränkungen, die Cloud-erste Architekturen von Anfang an disqualifizieren.

Synthetische Daten werden zu einem wichtigen Werkzeug für die KI-Entwicklung. In Verteidigungsanwendungen, in denen die Genauigkeit lebensrettende Konsequenzen haben kann, was sind die Stärken und Einschränkungen der Verwendung von synthetischen Schlachtfeld-Daten zum Trainieren von Computer-Vision-Modellen?

Synthetische Daten bieten mehrere wichtige Vorteile. Sie können Szenarien generieren, die im Feld unmöglich oder unpraktisch zu sammeln sind, beispielsweise seltene Bedrohungsarten, IR, ungünstige Bedingungen und exakte Sensorgeometrien. Sie eliminieren auch manuelle Annotation, operationale Datenrisiken und können sofort skaliert werden.

Es gibt jedoch auch Einschränkungen. Die synthetische-zu-reale Lücke ist real und variiert je nach Szenario. Feine Details, die die Bedrohungs-Klassifizierung bestimmen, können nicht übertragen werden, es sei denn, die Simulations-Treue ist hoch. Die ehrliche Position ist, dass synthetische Daten ein starkes Kaltstart-Mechanismus sind und Lücken füllen, die Feldsammlung strukturell nicht kann, aber sie ersetzen nicht Live-Operationale Daten für die endgültige Modellleistung. Deshalb kombiniert die Pipeline beides.

Scaleout hat Jahre damit verbracht, verteilte Lern-Technologien zu entwickeln, die es Organisationen ermöglichen, KI ohne Bewegung sensibler Daten zu trainieren. Welche Lektionen aus dem Gesundheitswesen, der industriellen KI und anderen regulierten Branchen sind nun in Verteidigungseinsätzen wertvoll?

Als ML in verschiedenen regulierten Branchen angewendet wurde, entstand ein gemeinsames Muster. Die Daten, die die Modelle am meisten verbessern würden, waren auch die Daten, die nicht bewegt werden konnten.

Die Lösung dieses Problems erforderte mehr als hochwertige Algorithmen, es erforderte eine Infrastruktur, die verteiltes Lernen sicher, überprüfbar und regierbar machte. Diese Arbeit hat die Bedeutung von strengen Prüfspuren, der Herausforderung von Datenqualität und -auswahl, wenn man das gesamte zentrale Datenset nicht sehen kann, und die Frage, ob Modell-Updates selbst Informationen über die Trainingsdaten leaken könnten, hervorgehoben. Letztere Sorge führte zu LeakPro, unserem Open-Source-Privatsphäre-Prüfrahmen. Die zugrunde liegenden Probleme von sensiblen Daten, verteilten Umgebungen und Regulierungsanforderungen übersetzen sich direkt in die Verteidigung – auch wenn die spezifischen Einschränkungen unterschiedlich sind.

NATO und verbündete Nationen konzentrieren sich zunehmend auf technologische Souveränität. Sehen Sie verteiltes Lernen als strategische Fähigkeit, die es verbündeten Nationen ermöglicht, bei der KI-Entwicklung zusammenzuarbeiten, ohne sensible operative Daten auszutauschen?

Ja, und das geschieht bereits. Das FEDAIR-Programm im Rahmen von NATO DIANA ist ein direkter Test, ob verbündete Nationen gemeinsam ihre KI-Fähigkeiten verbessern können, ohne klassifizierte Sensordaten auszutauschen. Die Architektur antwortet mit Ja. Jede Nation trainiert auf ihren eigenen Daten, trägt Gewichts-Updates zu einem gemeinsamen Aggregationspunkt bei und erhält ein verbessertes globales Modell. Keine Rohdaten überqueren nationale Grenzen.

Souveränität bedeutet hier mehr als nur Datenschutz. Es bedeutet, die volle Kontrolle über den KI-Lebenszyklus zu behalten, mit der Fähigkeit, jedes Modell auf jeden Sensor-Stream zu bereitstellen und die Daten, die man besitzt, zu nutzen, um die Modelle kontinuierlich zu verbessern. Dazu gehört es, Vendor-Lock-in zu widerstehen, einschließlich luftgekoppelter Infrastruktur, vollständiger Modell-Herkunft, und vendor-unabhängiger Sensor-Integration. Diese Eigenschaften sind strukturell, nicht vertraglich, und diese Unterscheidung ist wichtig bei der Beschaffung.

Gegen-Drohnen-Systeme sind zu einer der wichtigsten KI-Anwendungen in der modernen Kriegsführung geworden. Welche technischen Hürden müssen noch überwunden werden, bevor KI-gesteuerte Gegen-Drohnen-Plattformen zuverlässig in diversen und sich schnell ändernden Kampfumgebungen operieren können?

Aus unserer Sicht sind die technischen Herausforderungen bei der Gegen-Drohnen-KI erheblich und werden wahrscheinlich unterschätzt. Die Sensor-Landschaft allein ist komplex. Verschiedene Sensor-Modalitäten produzieren unterschiedliche Datenmerkmale, und ein Modell, das auf einem trainiert wurde, überträgt sich möglicherweise nicht sauber auf ein anderes. Die Bedrohungs-Vielfalt verschärft dies. Die Verbreitung von Low-Cost-Commercial-Plattformen bedeutet, dass die Objekt-Population, die ein System erkennen und klassifizieren muss, schneller wächst, als die meisten Trainings-Datensätze folgen können.

Abgesehen von den reinen ML-Herausforderungen gibt es eine architektonische Frage, die wichtig zu sein scheint: Wer besitzt und kontrolliert das Modell, und wer kann es aktualisieren? Systeme, die von einem Vendor-Modell und einem Aktualisierungszyklus abhängig sind, erben die Einschränkungen dieses Vendors. Die Fähigkeit, Modelle an die eigenen operativen Daten, auf der eigenen Infrastruktur, auf dem eigenen Zeitplan anzupassen, scheint eine Voraussetzung für zuverlässige Langzeitleistung zu sein, anstatt ein optionales Feature.

Da der Krieg immer mehr autonome Systeme und KI-gesteuerte Entscheidungsfindung beinhaltet, wie sollten militärische Organisationen kontinuierliches Lernen im Feld mit der Notwendigkeit von Zuverlässigkeit, Vorhersehbarkeit und menschlicher Aufsicht in Einklang bringen?

Die Plattform ist als Sidecar zu bestehenden Befehls- und Kontrollsystemen konzipiert, nicht als Ersatz. Erkennungen werden in TAK und standardmäßige C2-Systeme unter Verwendung standardisierter Datenformate und Protokolle eingespeist, um sie innerhalb bestehender operativer Workflows visualisieren und darauf reagieren zu können. Die KI verbessert die menschliche Entscheidungsfindung, anstatt sie zu ersetzen.

Auf der Modellseite bedeutet kontinuierlich nicht unkontrolliert. Jedes Update wird gegen einen Benchmark-Set validiert, bevor es befördert wird, Operatoren genehmigen Modellversionen vor der Flotten-Bereitstellung, und Schatten-Bereitstellung ermöglicht es, eine neue Version parallel zu laufen, bevor sie die Produktion ersetzt. Die Prüfspur zeichnet auf, welche Version wo lief und was sie zeigte. Der Verbesserungszyklus ist systematisch und reglementiert, nicht automatisch und unkontrolliert.

Blicken Sie fünf Jahre voraus, was wird die fortschrittlichsten militärischen KI-Architekturen von denen unterscheiden, die heute bereitgestellt werden, und welche Technologien glauben Sie, werden den größten Einfluss auf die zukünftigen Verteidigungsfähigkeiten haben?

Der aktuelle Unterschied liegt zwischen Systemen, die sich im Feld anpassen können, und denen, die es nicht können. Die meisten heute bereitgestellten Systeme sind statisch. In fünf Jahren wird der Unterschied darin liegen, wie gut die Anpassung geregelt ist, welche Version von welchem Modell auf welcher Plattform lief, von welchen Daten geformt wurde, unter welchen Bedingungen und ob diese Kette überprüfbar, validierbar und für Operatoren und Beschaffung vertrauenswürdig ist.

Das zugrunde liegende ML wird kommerzialisiert. Die Infrastruktur für geregelter, kontinuierlicher Lernen am Rand, insbesondere über verbündete Netzwerke, in denen jede Nation die Souveränität über ihre eigenen Daten behalten muss, wird nicht. Die Nationen und Programme, die diese Infrastruktur jetzt aufbauen, werden einen kumulativen Vorteil haben: Modelle, die sich kontinuierlich von operativen Daten verbessern, unter nationaler Kontrolle, ohne von einem Vendor-Update-Zyklus oder einer Cloud-Provider-Verfügbarkeit abhängig zu sein.

Vielen Dank für das großartige Interview, Leser, die mehr erfahren möchten, sollten Scaleout Systems besuchen.