AI federale e militare degli Stati Uniti: la nuova piattaforma offre la convalida e l'accreditamento degli algoritmi

Una startup che comprende un comitato consultivo di ex luminari militari del governo ha rilasciato una nuova piattaforma progettata per valutare la sicurezza e la dispiegabilità delle applicazioni AI. Si dice che i primi ad adottare il sistema includano la US Air Force e il Department of Homeland Security.

La piattaforma si chiama VESPR, da CalypsoAI, fondata nel 2018, con quartier generale nella Silicon Valley, Dublino, e una sede ufficialmente 'non rivelata' in Virginia – terraferma per la CIA a Langley.

VESPR è un sistema di gestione del rischio modello (MRM) progettato per facilitare un sistema di accreditamento conforme a livello federale per gli algoritmi implementati. Offre sia un ambiente GUI in stile dashboard intuitivo che un'interfaccia CLI per un utilizzo più avanzato.

Clicca per ingrandire. Fonte: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR si basa sugli standard di convalida, verifica e accreditamento del machine learning di CalypsoAI e presenta librerie di machine learning contraddittori realizzate a mano. Offre inoltre routine di stress test automatizzate per potenziali algoritmi implementabili.

Task force nazionale per la ricerca sull'intelligenza artificiale

La tempistica del rilascio potrebbe riguardare quella di ieri lanciare dall'amministrazione Biden di una nuova task force nazionale per la ricerca sull'intelligenza artificiale, un organismo progettato per fungere da comitato consultivo federale ai sensi del Congresso Legge sull'iniziativa nazionale sull'IA del 2020.

La pressione è aumentata negli Stati Uniti e in tutto il mondo per standard normativi significativi per i sistemi di apprendimento automatico, non da ultimo in aree mission-critical come le infrastrutture chiave e l'uso militare. Poiché i sistemi ML stanno ancora attraversando una fase formativa e un rapido tasso di progresso, rappresentano una risorsa relativamente instabile e spesso controversa da cui è ora essenziale identificare algoritmi analitici replicabili e affidabili, se ciò si rivela possibile.

Ad aprile CalypsoAI ha pubblicato il suo supporto al Legge sulle frontiere infinite, un disegno di legge del Congresso progettato per riformare il finanziamento della scienza di fronte alla crescente eminenza della Cina come potenza dell'IA, sebbene l'atto alla fine sia stato annacquato in sede di Senato.

Convalida per l'IA federale

Secondo il comunicato stampa di VESPR, le aree coperte dal quadro includono la visione artificiale e l'elaborazione del linguaggio naturale (NLP).

CalypsoAI afferma che VESPR è stato creato "con il contributo critico dei clienti della sicurezza nazionale esistenti e nato da anni di ricerca finanziata in modo indipendente sull'apprendimento automatico adversarial".

Le immagini del sistema viste in un video promozionale (vedere la fine dell'articolo) sembrano includere routine di rilevamento e/o simulazione per l'avvelenamento dei dati e l'iniezione di rumore, fornendo simulazioni per le azioni di potenziali aggressori ai sistemi implementati.

Clicca per ingrandire.

Il sistema sembra utilizzare dati storici di azioni nazionali e straniere. Le classi target presenti includono "Proteste" e "Rivolte", oltre ai meno chiari "Sviluppi strategici". Anche gli episodi di terrorismo nazionale sembrano essere inclusi nei database di riferimento del sistema, con "Violenza contro i civili" un'altra classe di obiettivi disponibile. Altre classi di obiettivi disponibili includono "Battaglie" ed "Esplosioni/Violenza a distanza".

Clicca per ingrandire.

Il sistema sembra consentire la protezione delle funzionalità in una sezione di configurazione "gestione BIAS", apparentemente progettata per combattere l'overfitting o per evitare l'eliminazione indesiderata di eventi anomali minori che potrebbero essere di interesse in una routine analitica. Nel video, VESPR sta elaborando dati storici tabulari su "Ucraina".

Al di là di questo blitz promozionale iniziale, non è probabile (forse in base alla progettazione) che sentiremo molto di più su questo prodotto SaaS rivolto al governo, comunque vada; condivide il nome con un franchising di bar, un'app di social dating e un album in streaming, ed è inesorabilmente respinto nei risultati classificati dal modello di chimica VSEPR.

CalypsoAI ricevuto $13 milioni nella raccolta fondi di serie A da Paladin Capital Venture Group nel luglio 0f 2020. Altri investitori incluso 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners e Pallas Ventures.

In un post sul blog sul sito dell'azienda, il fondatore di CalypsoAI, Neil Serebryany, che ha intrapreso un lavoro di ricerca non specificato presso il Dipartimento della Difesa nel 2018, afferma che l'azienda è stata fondata come possibile soluzione alla paura dei governi di implementare sistemi algoritmici avanzati in un clima non regolamentato :

"La ragione principale di questa paura dei progetti di intelligenza artificiale, che li ha portati ad essere abbandonati all'interno del governo, sembra banale, ma in realtà è piuttosto complessa. Sono stati abbandonati a causa della mancanza di garanzia della qualità […] I modelli di intelligenza artificiale non possono essere valutati allo stesso modo dei modelli software tradizionali. Ciò è dovuto alla natura sottostante della struttura del modello e ai modi altamente complessi in cui possono fallire. In mancanza di un meccanismo per valutare questi sistemi non deterministici in modo deterministico e verificabile, le organizzazioni all'interno del governo non sono state in grado di valutare la cosiddetta "qualità" dei modelli di intelligenza artificiale rispetto a un benchmark. Ciò ha portato a temere che potessero fallire, funzionare male o essere violati da un avversario nel momento in cui sono maggiormente necessari, ad esempio in combattimento, in volo o durante una complessa procedura medica. '

Advisory Board

Un mese prima del round di investimento, la società ha creato un comitato consultivo per la sicurezza nazionale incluso Toni De Martino, ex assistente del segretario alla Difesa Jim Mattis, e ora socio fondatore della società di consulenza strategica Pallas Advisors con sede a Washington; ex vice sottosegretario principale alla Difesa per l'intelligence (sotto il presidente Trump) Kari Bingen; ex vicedirettore associato per l'innovazione digitale della CIA Sean Roche, un ex specialista di cyber-intelligence in quell'organizzazione; E Michele Molino, ex vicepresidente esecutivo dello sviluppo aziendale presso ASRC Federal, che fornisce capacità di consulenza, ricerca e migrazione tecnica in una gamma di servizi federali critici.

Secondo il comunicato:

'VESPR offre funzionalità di test AI avanzate con un flusso di lavoro semplificato per garantire che ogni algoritmo di apprendimento automatico messo in produzione sia stato verificato sicuro. VESPR fornisce sicurezza e garanzia senza pari a una varietà di sistemi di intelligenza artificiale, dalla visione artificiale all'elaborazione del linguaggio naturale. Il processo VESPR garantisce test, valutazione, verifica e convalida (TEVV) durante l'intero ciclo di vita sicuro dell'apprendimento automatico (SMLC), dalla fase di ricerca e sviluppo fino alla distribuzione del modello. Il risultato finale sono sistemi di intelligenza artificiale che forniscono monitoraggio e report accurati e completi su capacità, vulnerabilità e prestazioni del modello.'

Aggiornato alle 11:07 EST per indicare che Michael Molino non lavora più all'ASRC Federal, un errore nell'articolo originale.

Aggiornato il 1° gennaio 28 per rimuovere i video YouTube danneggiati.