AI federale e militare degli USA: nuova piattaforma offre convalida e accreditamento degli algoritmi

Una startup con un consiglio consultivo composto da ex luminari militari del governo ha lanciato una nuova piattaforma progettata per valutare la sicurezza e la distribuibilità delle applicazioni AI. Si dice che i primi adottanti del sistema includano l’U.S. Air Force e il Department of Homeland Security.

La piattaforma si chiama VESPR, di CalypsoAI, fondata nel 2018, con sede nella Silicon Valley, a Dublino e una sede ufficialmente ‘non divulgata’ in Virginia – terraferma della CIA a Langley.

VESPR è un sistema di gestione del rischio dei modelli (MRM) progettato per facilitare un sistema di accreditamento federale conforme per gli algoritmi distribuiti. Offre sia un ambiente GUI in stile dashboard intuitivo, sia un’interfaccia CLI per un utilizzo più avanzato.

Clicca per ingrandire.

VESPR si basa sugli standard di convalida, verifica e accreditamento del machine learning di CalypsoAI, e include librerie di apprendimento automatico avversario create a mano. Offre inoltre routine di stress‑testing automatizzate per potenziali algoritmi distribuibili.

Task Force per le Risorse di Ricerca sull’Intelligenza Artificiale Nazionale

Il tempismo del rilascio potrebbe essere collegato al lancio di ieri da parte dell’amministrazione Biden di una nuova Task Force per le Risorse di Ricerca sull’Intelligenza Artificiale Nazionale, un organismo concepito per fungere da comitato consultivo federale ai sensi del National AI Initiative Act del 2020.

La pressione sta aumentando negli USA e in tutto il mondo affinché vengano introdotti standard normativi significativi per i sistemi di machine learning, soprattutto in ambiti mission‑critical come le infrastrutture chiave e l’uso militare. Poiché i sistemi di ML sono ancora in una fase formativa e progrediscono rapidamente, rappresentano una risorsa relativamente instabile e spesso controversa, dalla quale è ora essenziale identificare algoritmi analitici replicabili e affidabili – se ciò risulta possibile.

Ad aprile CalypsoAI ha pubblicato il suo sostegno al Endless Frontiers Act, una proposta di legge del Congresso volta a riformare il finanziamento della scienza di fronte alla crescente eminenza della Cina come potenza AI, sebbene la legge sia stata infine attenuata al Senato.

Validazione per l’AI federale

Secondo il comunicato stampa di VESPR, le aree coperte dal quadro includono la visione artificiale e l’elaborazione del linguaggio naturale (NLP).

CalypsoAI afferma che VESPR è stato creato ‘con contributi critici da parte dei clienti della sicurezza nazionale esistenti e nato da anni di ricerca finanziata in modo indipendente sul machine learning avversario’.

Le immagini del sistema viste in un video promozionale (vedi fine articolo) sembrano includere routine di rilevamento e/o simulazione per avvelenamento dei dati e iniezione di rumore, fornendo simulazioni delle azioni di potenziali aggressori sui sistemi distribuiti.

Clicca per ingrandire.

Il sistema sembra utilizzare dati storici di azioni nazionali e straniere. Le classi di bersaglio presenti includono ‘Protesti’ e ‘Sommosse’, oltre a quelle meno chiare ‘Sviluppi strategici’. Anche gli incidenti di terrorismo nazionale sembrano essere inclusi nei database di riferimento del sistema, con ‘Violenza contro i civili’ come un’altra classe di bersaglio disponibile. Altre classi disponibili includono ‘Battaglie’ e ‘Esplosioni/Violenza remota’.

Clicca per ingrandire.

Il sistema sembra consentire la protezione delle caratteristiche in una sezione di configurazione ‘gestione BIAS’, apparentemente progettata per combattere l’overfitting o per evitare l’eliminazione indesiderata di eventi anomali minori che potrebbero interessare un’analisi. Nel video, VESPR elabora dati storici tabulari relativi all’\”Ucraina\”.

Al di là di questo iniziale blitz promozionale, non è probabile (forse per progettazione) che sentiremo molto altro su questo prodotto SaaS rivolto al governo, qualunque sia il suo andamento; condivide il nome con una catena di caffè, un’app di incontri sociali e un album in streaming, ed è costantemente superato nei risultati classificati dal modello chimico VSEPR.

CalypsoAI ha ricevuto $13 million in finanziamento Serie A da Paladin Capital Venture Group nel luglio 2020. Altri investitori includono 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners e Pallas Ventures.

In un post sul blog del sito aziendale, il fondatore di CalypsoAI Neil Serebryany, che ha svolto lavori di ricerca non specificati presso il Department of Defense nel 2018, afferma che l’azienda è stata fondata come possibile soluzione alla paura dei governi di distribuire sistemi algoritmici avanzati in un clima non regolamentato:

‘La ragione principale di questa paura dei progetti AI, che porta al loro abbandono all’interno del Governo, sembra prosaica, ma è in realtà piuttosto complessa. Venivano abbandonati a causa di una mancanza di garanzia di qualità […] i modelli AI non possono essere valutati allo stesso modo dei tradizionali modelli software. Ciò è dovuto alla natura intrinseca della struttura del modello e ai modi altamente complessi in cui possono fallire. In assenza di un meccanismo per valutare questi sistemi non deterministici in modo deterministico e verificabile, le organizzazioni all’interno del governo non erano in grado di valutare la cosiddetta ‘qualità’ dei modelli AI rispetto a un benchmark. Questo ha generato la paura che potessero fallire, malfunzionare o essere hackerati da un avversario nel momento in cui sono più necessari, ad esempio in combattimento, in volo o durante una complessa procedura medica.’

Consiglio consultivo

Un mese prima del round di investimento, l’azienda ha creato un National Security Advisory Board includendo Tony DeMartino, ex assistente del Segretario alla Difesa Jim Mattis e ora socio fondatore della società di consulenza strategica con sede a Washington Pallas Advisors; l’ex Principal Deputy Under Secretary of Defense for Intelligence (sotto il Presidente Trump) Kari Bingen; l’ex Associate Deputy Director for CIA Digital Innovation Sean Roche, un precedente specialista di cyber‑intelligence in quell’organizzazione; e Michael Molino, ex Executive Vice President dello sviluppo aziendale presso ASRC Federal, che fornisce capacità di consulenza, ricerca e migrazione tecnica per una serie di servizi federali critici.

Secondo il comunicato:

‘VESPR fornisce capacità avanzate di test AI con un flusso di lavoro semplificato per garantire che ogni algoritmo di machine learning messo in produzione sia stato verificato come sicuro. VESPR offre una sicurezza e una garanzia senza pari a una varietà di sistemi AI, dalla visione artificiale all’elaborazione del linguaggio naturale. Il processo VESPR assicura test, valutazione, verifica e convalida (TEVV) lungo l’intero ciclo di vita sicuro del machine learning (SMLC), dalla fase di ricerca e sviluppo fino al deployment del modello. Il risultato finale è costituito da sistemi AI che forniscono monitoraggio e reporting accurati e completi sulle capacità, vulnerabilità e prestazioni del modello.’

Aggiornato alle 11:07 AM EST per riflettere che Michael Molino non lavora più presso ASRC Federal, un’errata nell’articolo originale.

Aggiornato al 28 gennaio 2024 per rimuovere il video YouTube rotto.