Андреас Хелландер, генеральный директор и сооснователь Scaleout Systems – Интервью

Андреас Хелландер является генеральным директором и сооснователем Scaleout Systems, компании, которая строит инфраструктуру для краевой ИИ и федеративного обучения, которая обучает модели на распределенных, чувствительных данных без их централизации. Его компания работала с НАТО и оборонными компаниями, такими как BAE Systems. Он имеет степень доктора философии в области научных вычислений и степень магистра в области биотехнологической инженерии и является доцентом Уппсальского университета, где он создал одну из лучших исследовательских групп на факультете информационных технологий до основания Scaleout.

Вы основали Scaleout после лет исследований в области распределенных вычислений, облачной инфраструктуры и научных вычислений в Уппсальском университете. Какой был момент, когда вы поняли, что федеративное обучение и краевой ИИ должны выйти за рамки академии и стать коммерческой платформой?

Годы исследований крупномасштабных распределенных систем сделали одно ясным: когда ИИ начал показывать реальные перспективы в различных отраслях, применение его требовало решения проблемы данных. Для многих организаций наиболее ценные данные просто не могут быть централизованы, будь то по регуляторным, практическим или безопасным причинам. Федеративное обучение возникло как исследовательский ответ на это ограничение. Наше программное обеспечение для федеративного обучения началось как исследовательский прототип в Уппсальском университете, и в какой-то момент стало ясно, что время было подходящим, чтобы его развить. Инфраструктура для того, чтобы сделать ИИ безопасным и безопасным для чувствительных данных, не существовала в какой-либо производственной форме, и мы чувствовали, что мы хорошо позиционированы, чтобы ее построить. Scaleout был основан для этого.

Партнерство Scaleout с AI Verse объединяет синтетическую генерацию данных поля боя с федеративным обучением на тактическом крае. Как вы видите, что это изменит способ разработки военных систем ИИ по сравнению с традиционными подходами, которые полагаются на централизованные наборы данных?

Традиционно подход заключался в сборе оперативных кадров, отправке их в центр, обучении и повторной развертке. Каждый этап вводит узкое место. Мы сотрудничаем с AI Verse, фирмой НАТО по синтетическим данным, чтобы устранить большую часть первого препятствия. Платформа GAIA AI Verse генерирует фотографически реалистичные, полностью аннотированные RGB- и ИК-изображения по требованию, устраняя необходимость сбора данных в поле, ручной маркировки и длительных ожиданий. Scaleout устраняет узкое место обучения на другом конце. Как только развернут, модели улучшаются непрерывно из живых краевых данных без централизации чего-либо. Объединенный эффект заключается в том, что организации могут перейти от отсутствия модели к развернутой, улучшающейся модели без прикосновения к ограниченным оперативным данным.

Одной из самых больших проблем в оборонном ИИ является то, что условия боя развиваются быстрее, чем циклы обучения. Как краевое обучение может помочь военным системам адаптироваться к новым беспилотникам, транспортным средствам и угрозам без ожидания централизованного повторного обучения?

Компьютерное зрение для противодействия БПЛА и ИСР сегодня обычно обучается централизованно, развертывается один раз и затем становится неактуальным. Централизованное повторное обучение является пакетным процессом, который включает сбор данных, маркировку, повторное обучение модели, тестирование и повторное развертывание. Этот цикл занимает недели или месяцы. Тем временем модели обнаружения ухудшаются, поскольку меняются сезоны, датчики, среды и тактика противника.

Краевое обучение закрывает цикл в источнике. Каждый сайт выполняет реальное обнаружение на живых потоках датчиков, одновременно фильтруя наиболее полезные кадры для обучения посредством активного обучения. Наземный узел на испытательном полигоне, который встречает новый тип беспилотника, помечает неопределенные обнаружения, аннотаторы просматривают отредактированную очередь вместо терабайт сырого видео, локальное тонкое настройка запускается на сайте, и улучшенная модель возвращается в производство в течение нескольких дней. Федеративное обучение затем распространяет это улучшение на все сайты.

Многие системы ИИ все еще сильно зависят от облачной инфраструктуры. Почему вы считаете, что будущее оборонного ИИ будет все больше смещаться в сторону распределенных и отключенных сред, а не централизованных облачных архитектур?

Есть три структурных причины для этого. Во-первых, границы классификации означают, что оперативные данные датчиков часто не могут покинуть сайт. Во-вторых, спорные среды означают, что сетевая связь не может быть предположена. И, наконец, модель, которая требует облачной подключения для функционирования, является единой точкой отказа именно в той среде, где она наиболее необходима. Это не предпочтения, это ограничения, которые дисквалифицируют облачные архитектуры до начала.

Синтетические данные становятся важным инструментом для разработки ИИ. В оборонных приложениях, где точность может иметь последствия для жизни или смерти, какие есть сильные и слабые стороны использования синтетических данных поля боя для обучения моделей компьютерного зрения?

Синтетические данные предлагают несколько важных преимуществ. Они могут генерировать сценарии, которые невозможно или нецелесообразно собрать в поле, например, редкие классы угроз, ИК, неблагоприятные условия и точные геометрии датчиков. Они также устраняют ручную маркировку, риск оперативных данных и могут быть масштабированы немедленно.

В то же время есть ограничения. Разрыв между синтетическими и реальными данными является реальным и варьируется в зависимости от сценария. Детали, которые определяют классификацию угроз, могут не передаваться, если фидельность симуляции не высока. Честная позиция заключается в том, что синтетические данные являются сильным механизмом холодного запуска и заполняют пробелы, которые сбор данных в поле не может структурно заполнить, но они не заменяют живые оперативные данные для окончательной производительности модели. Поэтому конвейер объединяет оба.

Scaleout потратил годы на разработку технологий федеративного обучения, которые позволяют организациям обучать ИИ без перемещения чувствительных данных. Какие уроки из здравоохранения, промышленного ИИ и других регулируемых секторов теперь оказываются ценными в оборонных развертываниях?

Когда ИИ начал применяться в различных регулируемых отраслях, возникла общая закономерность. Данные, которые наиболее улучшали модели, также были данными, которые не могли быть перемещены.

Решение этой проблемы требовало более чем высококачественных алгоритмов, оно требовало инфраструктуры, которая сделала распределенное обучение безопасным, аудиторным и управляемым. Эта работа показала важность строгих аудиторских следов, проблемы качества и выбора данных, когда вы не можете видеть полный набор данных централизованно, и вопроса о том, могут ли обновления моделей сами по себе утечь информацию о данных обучения. Последняя проблема привела к созданию LeakPro, нашей открытой рамки аудита конфиденциальности. Основные проблемы чувствительных данных, распределенных сред и требований управления напрямую переводятся в оборону – даже если конкретные ограничения различаются.

НАТО и союзные страны все больше фокусируются на технологической суверенности. Видите ли вы федеративное обучение как стратегическую способность, которая позволяет союзным странам сотрудничать в разработке ИИ без обмена чувствительными оперативными данными?

Да, и это уже происходит. Программа FEDAIR в рамках НАТО DIANA является прямым тестом того, могут ли союзные страны совместно улучшить общую способность ИИ без обмена классифицированными данными датчиков. Архитектура отвечает на это положительно. Каждая страна обучает на своих собственных данных, вносит вклад в общие обновления весов и получает улучшенную глобальную модель. Никакие сырые данные не пересекают национальные границы.

Суверенитет здесь означает больше, чем защита данных. Это означает сохранение полного контроля над жизненным циклом ИИ с возможностью развертывания любой модели на любой поток датчиков и использованием данных, которые вы владеете, для непрерывного улучшения ваших моделей. Для этого необходимо сопротивляться блокировке, включая инфраструктуру, способную работать в режиме воздушного зазора, полную прозрачность модели и нейтральную интеграцию датчиков. Эти свойства являются структурными, а не договорными, и это различие имеет значение в закупках.

Системы противодействия беспилотникам становятся одной из наиболее важных приложений ИИ в современной войне. Какие технические препятствия еще необходимо преодолеть, прежде чем платформы ИИ, противодействующие беспилотникам, смогут работать надежно в различных и быстро меняющихся боевых средах?

С нашей точки зрения, технические проблемы в ИИ, противодействующем беспилотникам, выглядят значительными и, вероятно, недооцененными. Ландшафт датчиков сам по себе сложен. Различные модальности датчиков производят разные характеристики данных, и модель, обученная на одном, может не передаваться чисто на другой. Разнообразие угроз усугубляет это. Распространение низкозатратных коммерческих платформ означает, что популяция объектов, которые система должна обнаружить и классифицировать, расширяется быстрее, чем большинство наборов данных для обучения могут следовать.

Помимо чистых проблем ИИ есть архитектурный вопрос, который кажется важным: кто владеет и контролирует модель, и кто может ее обновить? Системы, которые полагаются на закрытую модель и цикл обновления поставщика, наследуют ограничения этого поставщика. Способность адаптировать модели к вашим собственным оперативным данным, на вашей собственной инфраструктуре, по вашему собственному графику, кажется предварительным условием для надежной долгосрочной производительности, а не необязательной функцией.

Когда война все больше включает в себя автономные системы и ИИ-ассистированное принятие решений, как военные организации должны сбалансировать непрерывное обучение в поле с необходимостью надежности, предсказуемости и человеческого надзора?

Платформа разработана как бок о бок с существующим командованием и контролем, а не как замена. Обнаружения подают в Tactical Assault Kit (TAK) и стандартные системы командования и контроля (C2) с использованием стандартизированных форматов и протоколов данных, что позволяет им визуализировать и действовать в рамках существующих оперативных рабочих процессов. ИИ улучшает человеческое принятие решений, а не заменяет его.

На стороне модели непрерывное не означает неконтролируемое. Каждое обновление проверяется на наборе эталонных тестов перед продвижением, операторы одобряют версии модели перед развертыванием в флот, а тень развертывания позволяет новой версии работать параллельно перед заменой производственной. Аудиторский след записывает, какая версия запускалась где и что она показала. Цикл улучшения является систематическим и управляемым, а не автоматическим и неконтролируемым.

Оглядываясь вперед на пять лет, что будет отличать наиболее передовые военные архитектуры ИИ от тех, которые развертываются сегодня, и какие технологии, по вашему мнению, окажут наибольшее влияние на будущие оборонные возможности?

Текущий разрыв заключается между системами, которые могут адаптироваться в поле, и теми, которые не могут. Большинство развернутых систем сегодня являются статичными. Через пять лет различiator будет тем, насколько хорошо адаптация управляется, какой версии какой модели запускалась на какой платформе, сформированной какими данными, в каких условиях, и может ли эта цепочка быть проанализирована, проверена и доверена операторами и закупками.

Основной ИИ будет коммодитизирован. Инфраструктура для управляемого, непрерывного обучения на крае, особенно в союзных сетях, где каждая страна должна сохранять суверенитет над своими данными, не будет. Страны и программы, которые строят эту инфраструктуру сейчас, будут иметь нарастающее преимущество: модели, которые будут улучшаться из оперативных данных, под национальным контролем, без зависимости от цикла обновления какого-либо поставщика или доступности какого-либо облачного провайдера.

Благодарим за отличное интервью, читатели, которые хотят узнать больше, должны посетить Scaleout Systems.