Андреас Гелландер, генеральний директор і співзасновник Scaleout Systems – Серія інтерв’ю

Андреас Гелландер є генеральним директором і співзасновником Scaleout Systems, компанії, яка будує інфраструктуру для країв штучного інтелекту та федеративного навчання, яке тренує моделі на розподілених, чутливих даних без централізації. Його компанія працювала з НАТО та оборонними компаніями, такими як BAE Systems. Він має ступінь доктора філософії з наукових обчислень та ступінь магістра біотехнологічної інженерії, і є асоційованим професором Університету Уппсали, де він створив одну з найкращих дослідницьких груп на факультеті інформаційних технологій перед заснуванням Scaleout.

Ви заснували Scaleout після років досліджень у сфері розподілених обчислень, інфраструктури хмарних обчислень та наукових обчислень в Університеті Уппсали. Який був момент, коли ви зрозуміли, що федеративне навчання та краєві штучний інтелект повинні вийти за межі академії та стати комерційною платформою?

Роки досліджень великомасштабних розподілених систем зробили одну річ все більш очевидною: коли штучний інтелект почав показувати реальні перспективи в різних галузях, застосування його у відповідальний спосіб вимагало вирішення проблеми даних. Для багатьох організацій найцінніші дані просто не можуть бути централізовані, незалежно від того, чи це пов’язано з нормативними, практичними чи безпековими причинами. Федеративне навчання виникло як дослідницька відповідь на цю обмеження. Наше програмне забезпечення для федеративного навчання почалося як дослідницький прототип в Університеті Уппсали, і в якийсь момент стало зрозуміло, що час прийшов, щоб вийти далі. Інфраструктура для того, щоб зробити штучний інтелект безпечним і безпечним для чутливих даних, не існувала в жодній виробничій формі, і ми відчували, що ми добре розташовані, щоб побудувати її. Scaleout був заснований для цього.

Партнерство Scaleout з AI Verse поєднує синтетичне поколення даних поля бою з федеративним навчанням на тактичному рівні. Як ви бачите, це зміниє розвиток військових систем штучного інтелекту порівняно з традиційними підходами, які покладаються на централізовані набори даних?

Традиційно підхід полягав у тому, щоб зібрати оперативні кадри, відправити їх централізовано, тренувати, знову розгорнути. Кожна стадія вводить пляшку. Ми партнерували з AI Verse, фірмою з синтетичних даних, підтримуваною НАТО, щоб усунути більшу частину першої перешкоди. Платформа GAIA AI Verse генерує фотореалістичні, повністю анотовані дані RGB і ІЧ на вимогу, усуваючи потребу у польовому зборі, ручному маркуванні та тривалих очікуваннях. Scaleout усуває пляшку тренування на іншому кінці. Як тільки розгорнуті, моделі безперервно покращуються з даних країв без централізації чогось. Комбінований ефект полягає в тому, що організації можуть перейти від відсутності моделі до розгорнутого, покращеного моделі без дотику до обмежених оперативних даних.

Однією з найбільших проблем у сфері оборонного штучного інтелекту є те, що умови поля бою розвиваються швидше, ніж цикли тренування. Як навчання на краях може допомогти військовим системам адаптуватися до нових безпілотників, транспортних засобів та загроз без очікування централізованого повторного тренування?

Комп’ютерне зірання для протидії безпілотникам та розвідці сьогодні зазвичай тренується централізовано, розгортається один раз, а потім застаріває. Централізоване повторне тренування – це пакетний процес, який включає збір даних, маркування їх, повторне тренування моделі, тестування її, а потім повторне розгортання. Цикл триває тижні або місяці. Тим часом моделі виявлення погіршуються, оскільки сезони, сенсори, середовища та тактика противника змінюються.

Навчання на краях закриває цикл в джерелі. Кожна станція проводить реальне виявлення на живих потоках сенсорів, одночасно фільтруючи найкорисніші кадри для тренування через активне навчання. Наземна станція на випробувальному полі, яка зустрічає новий тип безпілотника, позначає невизначені виявлення, анотатори переглядають відібраний рядок, а не терабайти сирого відео, локальне тонке налаштування відбувається на місці, а покращена модель повертається до виробництва впродовж днів. Федеративне навчання потім поширює це покращення на всі станції.

Багато систем штучного інтелекту все ще сильно залежать від інфраструктури хмарних обчислень. Чому ви вважаєте, що майбутнє оборонного штучного інтелекту все більше буде переходити до розподілених та відключених середовищ, а не до централізованих хмарних архітектур?

Є три структурні причини для цього. По-перше, кордони класифікації означають, що оперативні дані сенсорів часто не можуть покинути місце. По-друге, спірні середовища означають, що мережевий зв’язок не може бути прийнятий як належне. І, нарешті, модель, яка вимагає хмарної підключення для функціонування, є одною точкою відмови саме в тому середовищі, де вона найбільш потрібна. Це не переваги, а обмеження, які дискваліфікують архітектури, орієнтовані на хмару, ще до того, як вони починаються.

Синтетичні дані стають важливим інструментом для розвитку штучного інтелекту. У сфері оборонних застосунків, де точність може мати життєво важливі наслідки, які є сильними та обмеженнями використання синтетичних даних поля бою для тренування моделей комп’ютерного зірання?

Синтетичні дані пропонують кілька важливих переваг. Вони можуть генерувати сценарії, які неможливо або недоцільно зібрати на полі, наприклад, рідкісні загрози, ІЧ, несприятливі умови та точні геометрії сенсорів. Вони також усувають ручне маркування, ризик оперативних даних та можуть бути масштабовані негайно.

Одночасно існують обмеження. Пропуск між синтетикою та реальністю є реальним і варіюється залежно від сценарію. Деталі, які визначають класифікацію загроз, можуть не передаватися, якщо не має високої вірогідності симуляції. Чесна позиція полягає в тому, що синтетичні дані є сильним механізмом холодного старту та заповнюють пробіли, які польовий збір структури не може, але вони не замінюють живі оперативні дані для остатньої продуктивності моделі. Тому трубопровід поєднує обидва.

Scaleout витратив роки на розвиток технологій федеративного навчання, які дозволяють організаціям тренувати штучний інтелект без переміщення чутливих даних. Які уроки з охорони здоров’я, промислового штучного інтелекту та інших регульованих секторів тепер доводять свою цінність у сфері оборонних розгортань?

Когда штучний інтелект почав застосовуватися в різних галузях, з’явився спільний шаблон. Дані, які найбільш покращували моделі, були також даними, які не могли бути переміщені.

Для вирішення цієї проблеми було потрібно більше, ніж високоякісні алгоритми, було потрібно інфраструктура, яка зробила розподілене навчання безпечним, аудитованим та керованим. Та робота показала важливість суворих аудитних слідів, складності даних та вибору даних, коли ви не можете бачити весь центральний набір даних, та питання про те, чи оновлення моделі можуть витікати інформацію про тренувальні дані. Остання проблема привела до розробки нашої відкритої системи аудиту конфіденційності LeakPro. Підосновні проблеми чутливих даних, розподілених середовищ та вимог керування перекладаються напряму на оборону – навіть якщо конкретні обмеження відрізняються.

НАТО та союзні країни все більше зосереджені на технологічній суверенності. Чи бачите ви федеративне навчання як стратегічну можливість, яка дозволить союзним країнам співпрацювати в розвитку штучного інтелекту без обміну чутливими оперативними даними?

Так, і це вже відбувається. Програма FEDAIR під керівництвом НАТО DIANA є прямим тестом того, чи можуть союзні країни спільно покращувати загальну здатність штучного інтелекту без обміну класифікованими оперативними даними сенсорів. Архітектура відповідає на це питання позитивно. Кожна країна тренує на своїх даних, вносить оновлення ваг до спільної точки агрегації та отримує покращену глобальну модель. Жодні сирі дані не перетинають національні кордони.

Суверенітет тут означає більше, ніж захист даних. Це означає перебування під повним контролем життєвого циклу штучного інтелекту з можливістю розгортання будь-якої моделі на будь-якому потоці сенсорів та використання даних, які ви володієте, для безперервного покращення ваших моделей. Це вимагає опору локу, включаючи інфраструктуру, здатну працювати в повітряному просторі, повну довідковість моделі та нейтральну щодо постачальника інтеграцію сенсорів. Ці властивості є структурними, а не контрактними, і ця відмінність має значення при закупівлях.

Системи протидії безпілотникам стають однією з найважливіших застосунків штучного інтелекту в сучасній війні. Які технічні перешкоди все ще потрібно подолати, перш ніж платформи штучного інтелекту протидії безпілотникам зможуть працювати надійно в різних та швидко змінюваних бойових середовищах?

З нашої точки зору, технічні виклики в штучному інтелекті протидії безпілотникам виглядають суттєвими та, ймовірно, недооціненими. Сама сенсорна картина є складною. Різні модальності сенсорів створюють різні характеристики даних, і модель, тренована на одному, може не передаватися чисто до іншого. Розмаїття загроз посилює цю проблему. Поширення низьковитратних комерційних платформ означає, що населення об’єктів, які система повинна виявити та класифікувати, розширюється швидше, ніж більшість тренувальних наборів даних можуть слідувати.

Поза чистими проблемами штучного інтелекту існує архітектурне питання, яке здається важливим: хто володіє та контролює модель, і хто може оновити її? Системи, які залежать від закритої моделі постачальника та циклу оновлення, успадковують обмеження постачальника. Можливість адаптувати моделі до ваших власних оперативних даних, на вашій власній інфраструктурі, на вашій власній часовій шкалі, здається передумовою для надійної тривалої продуктивності, а не необов’язковою функцією.

Когда війна все більше включає автономні системи та штучний інтелект, який допомагає у прийнятті рішень, як військові організації повинні балансувати безперервне навчання на полі з потребою у надійності, передбачуваності та людському нагляді?

Платформа розроблена як доповнення до існуючих систем командування та контролю, а не як заміна. Виявлення подаються до тактичної системи атаки (TAK) та стандартних систем командування та контролю (C2) за допомогою стандартизованих форматів даних та протоколів, що дозволяє візуалізувати та діяти в рамках існуючих оперативних робочих процесів. Штучний інтелект покращує людське прийняття рішень, а не замінює його.

На стороні моделі безперервне означає не неконтрольоване. Кожне оновлення валідується проти бенчмарк-сюїти перед промоцією, оператори схвалюють версії моделей перед розгортанням у флоті, а тіньове розгортання дозволяє новій версії працювати паралельно, перш ніж замінити виробництво. Аудитний слід записує, яка версія працювала де та що вона показала. Цикл покращення є систематичним та керованим, а не автоматичним та неконтрольованим.

Оглядаючи вперед на п’ять років, які особливості відрізнять найрозвинутіші військові архітектури штучного інтелекту від тих, які розгортаються сьогодні, та які технології, на вашу думку, матимуть найбільший вплив на майбутні оборонні можливості?

Поточна відмінність полягає в тому, що системи можуть адаптуватися на полі, а які ні. Більшість розгорнутих систем сьогодні статичні. За п’ять років розрізняльною ознакою буде те, як добре адаптація керується, яка версія якої моделі працювала на якій платформі, сформована якими даними, під якими умовами, та чи цей ланцюг може бути проаналізований, валідований та довіряний операторами та закупівлями.

Підосновний штучний інтелект буде комодитизований. Інфраструктура для керованого, безперервного навчання на краях, особливо через союзні мережі, де кожна країна повинна зберегти суверенітет над своїми власними даними, не буде. Країни та програми, які будують цю інфраструктуру зараз, будуть мати компаундовану перевагу: моделі, які продовжують покращуватися з оперативних даних, під національним контролем, без залежності від циклу оновлення будь-якого постачальника або доступності будь-якого хмарного постачальника.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Scaleout Systems.