Andreas Hellander, Scaleout Systems의 CEO 및 공동 창립자 – 인터뷰 시리즈

Andreas Hellander는 Scaleout Systems의 CEO이자 공동 창립자로, 에지 AI 및 분산 학습을 위한 인프라를 구축하는 회사입니다. 그의 회사에서는 NATO와 BAE 시스템스 gibi 방위 산업의 주요 기업들과 협력했습니다. 그는 과학 컴퓨팅 박사 학위와 생물 기술 공학 석사 학위를 가지고 있으며, 업살라 대학교의 정보 기술 부서에서 최고의 연구 그룹 중 하나를 구축하기 전에 부교수로 재직했습니다.

당신은 업살라 대학교에서 분산 컴퓨팅, 클라우드 인프라, 과학 컴퓨팅에 대한 연구를 통해 Scaleout을 공동 창립했습니다. 학계를 넘어서 상업적 플랫폼으로 발전시킬 필요성을 느꼈던 순간은 언제였나요?

대규모 분산 시스템에 대한 연구를 통해 하나의 사실이 점점 더 명확해졌습니다. 다양한 산업에서 기계 학습이 실질적인 약속을 보여주기 시작했지만, 그 전에 데이터 문제를 해결해야 했습니다. 많은 조직에서는 가장 가치 있는 데이터를 중앙화할 수 없습니다. 분산 학습은 이러한 제약에 대한 연구적 대응으로 등장했습니다. 우리의 분산 학습 소프트웨어는 업살라 대학교에서 연구 프로토タイプ로 시작되었으며, 어느 시점에 이를 더 발전시킬 때가 되었다는 것을 알게 되었습니다. 안전하고 보안이 된 민감한 데이터를 위한 기계 학습 인프라는 생산 준비된 형태로 존재하지 않았으며, 이를 구축하기 위해 Scaleout을 설립했습니다.

Scaleout과 AI Verse의 파트너십은 에지에서 분산 학습을 통해 합성 전장 데이터 생성을 결합합니다. 전통적인 중앙 집중식 데이터셋에 의존하는 방식과 비교하여 군사 AI 시스템의 개발 방식을 어떻게 바꿀 수 있을까요?

전통적인 접근 방식은 작전 영상을 수집하여 중앙에 보내고, 훈련시키고, 재배치하는 것입니다. 각 단계에서 병목 현상이 발생합니다. 우리는 첫 번째 장애물을 제거하기 위해 NATO 지원의 합성 데이터 회사인 AI Verse와 파트너십을 맺었습니다. AI Verse의 GAIA 플랫폼은 주문형으로 포토리얼리스틱하고 완전히 주석이 달린 RGB 및 IR 이미지 데이터를 생성하여 현장 수집, 수동 주석, 오랜 대기 시간의 필요성을 제거합니다. Scaleout은 다른 끝에서 훈련 병목 현상을 제거합니다. 배포된 후, 모델은 중앙 집중식으로 아무 것도 이동하지 않고 라이브 에지 데이터에서 지속적으로 개선됩니다. 결합된 효과는 조직이 제한된 작전 데이터를 건드리지 않고 모델이 없는 상태에서 필드에 배치된 개선된 모델로 갈 수 있다는 것입니다.

군사용 AI의 가장 큰 도전 중 하나는 전장 환경이 훈련 주기보다 더 빠르게 진화한다는 것입니다. 에지 기반 학습은 새로운 무인기, 차량, 위협에 대응하기 위해 중앙 집중식 재훈련을 기다리지 않고 군사 시스템을 어떻게 적응시킬 수 있을까요?

현재 컴퓨터 비전은 중앙에서 훈련되고一度 배포되며, 그 후로陳腐화됩니다. 중앙 집중식 재훈련은 배치 프로세스로, 데이터 수집, 주석, 모델 재훈련, 테스트, 재배치를 포함합니다. 이 주기는 수주 또는 수개월이 걸릴 수 있습니다. 그 동안 탐지 모델은 계절, 센서, 환경, 적의 전술이 변경됨에 따라陳腐화됩니다.

에지 기반 학습은 출처에서 루프를 닫습니다. 각 사이트에서는 실시간으로 센서 피드를 통해 탐지를 수행하는 동시에 훈련을 위한 가장 유용한 프레임을 필터링합니다. 테스트 장비의 지상 노드에서 새로운 무인기를 발견하면, 불확실한 탐지를 플래그하고, 주석자가 큐를 검토하며, 현지 세분화가 실행되고, 개선된 모델은 며칠 내에 생산에 다시 투입됩니다. 분산 학습은 그러면 그 개선을 모든 사이트에 전파합니다.

많은 AI 시스템은 여전히 클라우드 인프라에 크게 의존합니다. 방위용 AI의 미래는 중앙 집중식 클라우드 아키텍처보다 분산 및 분리된 환경으로 이동할 것이라고 믿는 이유는 무엇인가요?

세 가지 구조적인 이유가 있습니다. 첫째, 분류 경계로 인해 작전 센서 데이터가 종종 사이트를 떠날 수 없습니다. 둘째,争議 환경으로 인해 네트워크 링크가 가정될 수 없습니다. 마지막으로, 클라우드 연결이 필요하여 작동하는 모델은 정확히 필요로 하는 환경에서 단일 실패 지점입니다. 이는 선호도보다는 제약입니다.

합성 데이터는 AI 개발을 위한 중요한 도구가 되고 있습니다. 방위 응용 분야에서 정확도가 생명과 죽음의 결과를 가질 수 있는 경우, 컴퓨터 비전 모델을 훈련시키기 위한 합성 전장 데이터의 강점과 제한은 무엇인가요?

합성 데이터는 몇 가지 중요한 이점을 제공합니다. 현장에서 수집하기 어려운 시나리오를 생성할 수 있으며, 예를 들어, 희귀한 위협 클래스, 적외선, 부정적인 조건 및 정확한 센서 기하학입니다. 또한 수동 주석을 제거하고, 작전 데이터 위험을 제거하며, 즉시 확장할 수 있습니다.

동시에 제한이 있습니다. 합성-실제 간격은 실제이며 시나리오에 따라 다르며, 위협 분류를 결정하는 세부 사항이 전달되지 않을 수 있습니다. 합성 데이터는 강력한 초기 메커니즘으로 작동하며, 현장 수집이 구조적으로 할 수 없는 간격을 메우며, 최종 모델 성능을 위한 라이브 작전 데이터를 대체하지는 않습니다. 따라서 파이프라인은 둘 다를 결합합니다.

Scaleout은 민감한 데이터를 이동하지 않고 AI를 훈련시키는 분산 학습 기술을 개발해 왔습니다. 지금까지 의료, 산업용 AI, 기타 규제 분야에서 얻은 교훈은 방위 분야에서 어떤 가치를 가지고 있나요?

기계 학습이 규제된 산업에 적용되기 시작했을 때, 공통된 패턴이 나타났습니다. 모델을 가장 개선할 수 있는 데이터는 중앙화할 수 없는 데이터였습니다.

이를 해결하기 위해 높은 품질의 알고리즘만으로는 충분하지 않았습니다. 분산 학습을 안전하고 감사 가능하며, 거버넌스할 수 있는 인프라가 필요했습니다. 이 작업은 엄격한 감사 추적의 중요성, 중앙 집중식으로 전체 데이터 세트를 볼 수 없을 때 데이터 품질 및 선택의 어려움, 모델 업데이트가 훈련 데이터에 대한 정보를 누출할 수 있는지에 대한 질문을 강조했습니다. 마지막 우려는 우리의 오픈 소스 개인 정보 감사 프레임워크인 LeakPro를 개발하게 되었습니다. 민감한 데이터, 분산 환경, 거버넌스 요구 사항의 기본 문제는 방위 분야로 직접 번역되며, 특정 제약은 다를 수 있습니다.

NATO와 동맹국은 기술 주권에 점점 더 초점을 맞추고 있습니다. 분산 학습이 동맹국이 민감한 작전 데이터를 공유하지 않고 AI 개발을 공동으로 협력할 수 있는 전략적 능력이 될 수 있다고 생각하시나요?

예, 이미 vậy입니다. NATO의 DIANA 하에 있는 FEDAIR 프로그램은 동맹국이 분류된 센서 데이터를 교환하지 않고 공동 AI 능력을 개선할 수 있는지의 직접적인 테스트입니다. 아키텍처의 대답은 예입니다. 각 국가에서는 자신의 데이터로 훈련하고, 공동 집계 지점에 가중치 업데이트를 기여하며, 개선된 전역 모델을 받습니다. 원시 데이터는 국경을 건너지 않습니다.

주권은 여기서 데이터 보호를 의미하는 것보다 더 많은 것을 의미합니다. 모델 생명 주기 전체에 걸쳐 완전한 제어를 유지하는 것을 의미하며, 자신의 데이터를 사용하여 모델을 지속적으로 개선할 수 있으며, 어떤 벤더의 업데이트 주기나 클라우드 제공자의 가용성에도 의존하지 않는 것을 의미합니다. 이러한 속성은 계약적이지 않으며, 조달에서 차이가 있습니다.

반무인기 시스템은 현대전에서 가장 중요한 AI 응용 분야 중 하나로 등장하고 있습니다. 반무인기 AI 플랫폼이 다양한 전투 환경에서 신뢰성 있게 작동하기 위해 기술적으로 아직 극복해야 할 난제는 무엇인가요?

우리의 관점에서, 반무인기 AI의 기술적 도전은重大하며, 아마도 과소평가되고 있습니다. 센서 풍경만으로도 복잡합니다. 서로 다른 센서 모달리티는 서로 다른 데이터 특성을 생성하며, 하나의 모델이 다른 모델로 깨끗하게 전환되지 않을 수 있습니다. 위협 다양성은 이를 복합합니다. 저렴한 상업용 플랫폼의 확산으로 인해 시스템이 탐지하고 분류해야 하는 객체의 인구는 대부분의 훈련 데이터셋이 따라갈 수 없을 만큼 빠르게 확장하고 있습니다.

순수한 기계 학습 도전을 넘어서, 중요한 구조적인 질문이 있습니다. 모델을 소유하고 제어하는 것은 누구이며,誰が 업데이트할 수 있나요? 벤더의 폐쇄적 모델과 업데이트 주기에 의존하는 시스템은 해당 벤더의 제약을 물려받습니다. 자신의 작전 데이터, 자신의 인프라, 자신의 시간표에 따라 모델을 적응시킬 수 있는 능력은 신뢰할 수 있는 장기적인 성능의 전제 조건으로 보입니다.

전쟁이 점점 더 자율 시스템과 AI 지원 의사 결정으로 진행됨에 따라, 군사 조직은 현장에서 지속적인 학습과 신뢰성, 예측 가능성, 인간의 감독 필요성 사이에서 어떻게 균형을 유지해야 합니까?

플랫폼은 기존의 명령 및 제어와 함께 설계되었습니다. 탐지는 TAK 및 표준 C2 시스템에 표준화된 데이터 형식과 프로토콜을 사용하여 시각화되고 작동할 수 있도록 합니다. AI는 인간의 의사 결정 능력을 강화하는 것이지, 대체하는 것이 아닙니다.

모델 측면에서 지속적인 것은 제어되지 않는다는 것을 의미하지 않습니다. 모든 업데이트는 승격 전에 벤치마크 스위트에 대해 검증되며, 운영자는 모델 버전을 승인하기 전에 승격되며, 그림자 배포를 통해 새로운 버전이 생산에 대체되기 전에 병렬로 실행할 수 있습니다. 감사 추적기록은 어느 버전이 어디서 실행되었으며, 무엇을 보여주었는지 기록합니다. 개선 주기는 체계적이며 거버넌스화되어 있으며, 자동적이지도, 무제어도 아닙니다.

5년 후를 내다보면, 현재 배포되는 것과 비교하여 가장 발전된 군사용 AI 아키텍처를 구별하는 것은 무엇이며, 미래의 방위 능력에 가장 큰 영향을 미칠 기술은 무엇이라고 생각하시나요?

현재의 구별은 필드에서 적응할 수 있는 시스템과 그렇지 못한 시스템 사이에 있습니다. 대부분의 배포된 시스템은 정적입니다. 5년 후에는 필드에서 어떻게 적응하는지에 대한 거버넌스가 구별점이 될 것입니다. 어느 버전의 모델이 어느 플랫폼에서, 어느 데이터에 의해, 어느 조건에서 실행되었으며, 그 체인이 운영자와 조달에 의해 감사, 검증, 신뢰될 수 있는지에 따라 달라집니다.

기본적인 기계 학습은 일반화될 것입니다. 에지에서 지속적인 학습을 위한 거버넌스화된 인프라는, 특히 동맹 네트워크에서 각 국가가 자신의 데이터에 대한 주권을 유지해야 하는 경우, 그렇지 않을 것입니다. 지금 이 인프라를 구축하는 국가와 프로그램은 누적된 이점을 가질 것입니다. 작전 데이터, 국가의 통제 하에, 어떤 벤더의 업데이트 주기나 클라우드 제공자의 가용성에도 의존하지 않고 지속적으로 개선되는 모델입니다.

감사합니다. 더 많은 정보를 원하는 독자는 Scaleout Systems를 방문하십시오.