Andreas Hellander, CEO e Co-Fundador da Scaleout Systems – Série de Entrevistas

Andreas Hellander é o CEO e co-fundador da Scaleout Systems, uma empresa que constrói infraestrutura para inteligência artificial de borda e aprendizado federado que treina modelos em dados distribuídos e sensíveis sem centralizá-los. Sua empresa trabalhou com a OTAN e empresas de defesa como BAE Systems. Ele possui um PhD em Computação Científica e um MSc em Engenharia de Biotecnologia, e é Professor Associado na Universidade de Uppsala, onde construiu um dos principais grupos de pesquisa no Departamento de Tecnologia da Informação antes de fundar a Scaleout.

Você co-fundou a Scaleout após anos de pesquisa em computação distribuída, infraestrutura de nuvem e computação científica na Universidade de Uppsala. Qual foi o momento em que você percebeu que o aprendizado federado e a inteligência artificial de borda precisavam ir além da academia e se tornar uma plataforma comercial?

Anos de pesquisa em sistemas distribuídos em larga escala tornaram uma coisa cada vez mais clara: à medida que a inteligência artificial começou a mostrar promessa real em várias indústrias, aplicá-la de forma responsável exigia resolver o problema dos dados primeiro. Para muitas organizações, os dados mais valiosos simplesmente não podem ser centralizados, seja por razões regulamentares, práticas ou de segurança. O aprendizado federado surgiu como uma resposta de pesquisa a essa restrição. Nosso software de aprendizado federado começou como um protótipo de pesquisa na Universidade de Uppsala e, em algum momento, ficou claro que o momento era adequado para levá-lo adiante. A infraestrutura para tornar a inteligência artificial segura e segura para dados sensíveis não existia em nenhuma forma pronta para produção, e sentimos que estávamos bem posicionados para construí-la. A Scaleout foi fundada para fazer isso.

A parceria da Scaleout com a AI Verse combina a geração de dados de campo de batalha sintéticos com aprendizado federado na borda tática. Como você vê isso mudando a forma como os sistemas de inteligência artificial militares são desenvolvidos em comparação com as abordagens tradicionais que dependem de conjuntos de dados centralizados?

Tradionalmente, a abordagem tem sido coletar imagens operacionais, enviá-las centralmente, treinar e reimplantar. Cada etapa introduz um gargalo. Nós nos associamos à AI Verse, uma empresa de dados sintéticos apoiada pela OTAN, para remover grande parte do primeiro obstáculo. A plataforma GAIA da AI Verse gera imagens fotorealistas, totalmente anotadas, em RGB e IR, por demanda, removendo a necessidade de coleta de campo, marcação manual e longos tempos de espera. A Scaleout remove o gargalo de treinamento na outra extremidade. Uma vez implantados, os modelos melhoram continuamente a partir de dados de borda ao vivo sem centralizar nada. O efeito combinado é que as organizações podem ir de nenhum modelo para um modelo implantado e em melhoria sem tocar em dados operacionais restritos.

Uma das maiores desafios na inteligência artificial de defesa é que as condições de batalha evoluem mais rápido do que os ciclos de treinamento. Como o aprendizado baseado em borda pode ajudar os sistemas militares a se adaptarem a novos drones, veículos e ameaças sem esperar por retreinamento centralizado?

A visão computacional para contra-UAS e ISR hoje é comumente treinada centralmente, implantada uma vez e, em seguida, se torna obsoleta. O retreinamento centralizado é um processo em lote que envolve coletar dados, rotulá-los, retreinar o modelo, testá-lo e, em seguida, reimplantá-lo. Esse ciclo leva semanas ou meses. Enquanto isso, os modelos de detecção se deterioram à medida que as estações, sensores, ambientes e táticas de adversários mudam.

O aprendizado baseado em borda fecha o ciclo na fonte. Cada site executa detecção em tempo real em feeds de sensores ao vivo, enquanto simultaneamente filtra os quadros mais úteis para treinamento por meio do aprendizado ativo. Um nó de solo em uma faixa de teste que encontra um novo tipo de drone marca as detecções incertas, os anotadores revisam uma fila curada em vez de terabytes de vídeo bruto, o ajuste fino local é executado no local e o modelo aprimorado é colocado em produção dentro de dias. O aprendizado federado, em seguida, propaga essa melhoria em todos os sites.

Muitos sistemas de inteligência artificial ainda dependem fortemente de infraestrutura de nuvem. Por que você acredita que o futuro da inteligência artificial de defesa se moverá cada vez mais em direção a ambientes distribuídos e desconectados em vez de arquiteturas de nuvem centralizadas?

Há três razões estruturais para isso. Primeiro, as fronteiras de classificação significam que os dados de sensores operacionais muitas vezes não podem deixar o local. Em segundo lugar, os ambientes contestados significam que o link de rede não pode ser assumido. E, finalmente, um modelo que exige conectividade de nuvem para funcionar é um ponto de falha único exatamente no ambiente em que é mais necessário. Essas não são preferências, são restrições que desqualificam as arquiteturas de nuvem em primeiro lugar antes que elas comecem.

Os dados sintéticos estão se tornando uma ferramenta importante para o desenvolvimento de inteligência artificial. Em aplicações de defesa, onde a precisão pode ter consequências de vida ou morte, quais são as forças e limitações de usar dados de campo de batalha sintéticos para treinar modelos de visão computacional?

Os dados sintéticos oferecem várias vantagens importantes. Eles podem gerar cenários impossíveis ou impraticáveis de coletar no campo, por exemplo, classes de ameaças raras, IR, condições adversas e geometrias de sensor exatas. Eles também eliminam a marcação manual, o risco de dados operacionais e podem ser escalados imediatamente.

No entanto, há limitações. A lacuna entre sintético e real é real e varia por cenário. O detalhe fino que determina a classificação de ameaças pode não ser transferido a menos que a fidelidade da simulação seja alta. A posição honesta é que os dados sintéticos são um mecanismo de inicialização forte e preenchem lacunas que a coleta de campo não pode, estruturalmente, mas não substituem dados operacionais ao vivo para o desempenho final do modelo. É por isso que o pipeline combina ambos.

A Scaleout passou anos desenvolvendo tecnologias de aprendizado federado que permitem que as organizações treinem inteligência artificial sem mover dados sensíveis. Quais lições de setores regulamentados, como saúde, inteligência artificial industrial e outros, agora estão se provando valiosas em implantações de defesa?

À medida que a inteligência artificial começou a ser aplicada em indústrias regulamentadas, um padrão comum surgiu. Os dados que mais melhorariam os modelos também eram os dados que não podiam ser movidos.

Abordar isso exigia mais do que algoritmos de alta qualidade; exigia infraestrutura que tornasse o aprendizado distribuído seguro, auditável e governável. O que esse trabalho revelou foi a importância de rastros de auditoria rigorosos, o desafio da seleção e qualidade de dados quando você não pode ver o conjunto de dados completo centralmente e a questão de se as atualizações do modelo poderiam vazar informações sobre os dados de treinamento. Essa última preocupação levou ao LeakPro, nossa estrutura de auditoria de privacidade de código aberto. Os problemas subjacentes de dados sensíveis, ambientes distribuídos e requisitos de governança se traduzem diretamente para a defesa – mesmo que as restrições específicas sejam diferentes.

A OTAN e as nações aliadas estão cada vez mais se concentrando na soberania tecnológica. Você vê o aprendizado federado se tornando uma capacidade estratégica que permite que as nações aliadas colaborem no desenvolvimento de inteligência artificial sem compartilhar dados operacionais sensíveis?

Sim, e isso já está acontecendo. O programa FEDAIR sob a DIANA da OTAN é um teste direto de se as nações aliadas podem melhorar conjuntamente a capacidade de inteligência artificial compartilhada sem trocar dados de sensores classificados. A arquitetura responde que sim. Cada nação treina em seus próprios dados, contribui com atualizações de peso para um ponto de agregação compartilhado e recebe um modelo global aprimorado. Nenhum dado bruto cru cruza fronteiras nacionais.

A soberania aqui significa mais do que proteção de dados. Significa permanecer em controle total do ciclo de vida de inteligência artificial, com a capacidade de implantar qualquer modelo em qualquer fluxo de sensor e usar os dados que você possui para melhorar continuamente seus modelos. Isso exige resistir ao bloqueio, incluindo infraestrutura capaz de funcionar em ambientes isolados, provênencia de modelo completa e integração de sensor neutra em termos de fornecedor. Essas propriedades são estruturais, não contratuais, e essa distinção importa na compra.

Sistemas de contra-drones estão surgindo como uma das aplicações de inteligência artificial mais importantes na guerra moderna. Quais desafios técnicos ainda precisam ser superados antes que as plataformas de contra-drones movidas por inteligência artificial possam operar de forma confiável em ambientes de combate diversificados e em rápida mudança?

Do nosso ponto de vista, os desafios técnicos na inteligência artificial de contra-drones parecem significativos e provavelmente subestimados. O cenário de sensores sozinho é complexo. Diferentes modalidades de sensores produzem características de dados diferentes, e um modelo treinado em um pode não transferir limpo para outro. A diversidade de ameaças complica isso. A proliferação de plataformas comerciais de baixo custo significa que a população de objetos que um sistema precisa detectar e classificar está se expandindo mais rápido do que a maioria dos conjuntos de dados de treinamento pode seguir.

Além dos desafios puros de inteligência artificial, há uma questão arquitetônica que parece importante: quem possui e controla o modelo, e quem pode atualizá-lo? Sistemas que dependem de um modelo fechado de um fornecedor e seu ciclo de atualização herdam as restrições desse fornecedor. A capacidade de adaptar modelos aos dados operacionais, na própria infraestrutura, no próprio cronograma, parece uma pré-condição para desempenho confiável a longo prazo, e não uma característica opcional.

À medida que a guerra cada vez mais envolve sistemas autônomos e tomada de decisão assistida por inteligência artificial, como as organizações militares devem equilibrar o aprendizado contínuo no campo com a necessidade de confiabilidade, previsibilidade e supervisão humana?

A plataforma é projetada como um sidecar para o comando e controle existente, e não como um substituto. As detecções são alimentadas no Tactical Assault Kit (TAK) e nos sistemas de comando e controle (C2) padrão, usando formatos e protocolos de dados padronizados, permitindo que sejam visualizados e agidos dentro dos fluxos de trabalho operacionais existentes. A inteligência artificial melhora a tomada de decisão humana, em vez de substituí-la.

Do lado do modelo, contínuo não significa descontrolado. Cada atualização é validada contra uma suíte de benchmarks antes da promoção, os operadores aprovam as versões do modelo antes da implantação da frota e a implantação de sombra permite que uma nova versão execute em paralelo antes de substituir a versão de produção. O registro de auditoria registra qual versão foi executada onde e o que mostrou. O ciclo de melhoria é sistemático e governado, não automático e sem controle.

Olhando para a frente, cinco anos, o que distinguirá as arquiteturas de inteligência artificial militares mais avançadas daquelas que estão sendo implantadas hoje, e quais tecnologias você acredita que terão o maior impacto nas capacidades de defesa futuras?

A divisão atual é entre sistemas que podem se adaptar no campo e aqueles que não podem. A maioria dos sistemas implantados hoje é estática. Em cinco anos, o diferenciador será como a adaptação é governada, qual versão de qual modelo foi executada em qual plataforma, moldada por quais dados, sob quais condições, e se essa cadeia pode ser auditada, validada e confiada por operadores e compradores.

A inteligência artificial subjacente se tornará uma commodity. A infraestrutura para aprendizado contínuo governado na borda, especialmente em redes aliadas onde cada nação deve manter a soberania sobre seus próprios dados, não. As nações e programas que construírem essa infraestrutura agora terão uma vantagem composta: modelos que continuam a melhorar a partir de dados operacionais, sob controle nacional, sem depender do ciclo de atualização de nenhum fornecedor ou da disponibilidade de nenhum provedor de nuvem.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Scaleout Systems.