USA’s føderale og militære AI: Ny platform tilbyder algoritmevalidering og akkreditering

En startup, der har et rådgivende board bestående af tidligere fremtrædende militære embedsmænd fra regeringen, har lanceret en ny platform designet til at evaluere sikkerheden og implementerbarheden af AI‑applikationer. Det siges, at de tidlige brugere af systemet omfatter USA’s luftvåben og Department of Homeland Security.

Platformen hedder VESPR, fra CalypsoAI, grundlagt i 2018, med hovedkontor i Silicon Valley, Dublin og en officielt ‘ikke offentliggjort’ placering i Virginia – terra firma for CIA i Langley.

VESPR er et model‑risikostyringssystem (MRM), designet til at muliggøre et føderalt overensstemmende akkrediteringssystem for implementerede algoritmer. Det tilbyder både et brugervenligt dashboard‑lignende GUI‑miljø og en CLI‑grænseflade til mere avanceret brug.

Click to enlarge.

VESPR er bygget på CalypsoAI’s standarder for validering, verifikation og akkreditering af maskinlæring, og indeholder håndlavede biblioteker til adversarial maskinlæring. Det tilbyder også automatiserede stresstest‑rutiner for potentielle implementerbare algoritmer.

Nationalt arbejdsgruppe for kunstig intelligens‑forskningsressourcer

Udgivelsens timing kan relateres til gårsdagens lancering af en ny National Artificial Intelligence Research Resource Task Force af Biden‑administrationen, en enhed designet til at fungere som et føderalt rådgivende udvalg i henhold til Kongressens National AI Initiative Act fra 2020.

Presset er stigende på USA og globalt for meningsfulde reguleringsstandarder for maskinlæringssystemer, især inden for mission‑kritiske områder som kritisk infrastruktur og militær anvendelse. Da ML‑systemer stadig befinder sig i en formativ fase med hurtig udvikling, udgør de en relativt ustabil og ofte kontroversiel ressource, hvor det nu er afgørende at identificere reproducerbare og pålidelige analytiske algoritmer – hvis det overhovedet er muligt.

I april udgav CalypsoAI sin støtte til Endless Frontiers Act, et kongreslovforslag designet til at reformere videnskabsfinansiering i lyset af Kinas voksende fremtræden som AI‑magt, selvom lovforslaget til sidst blev udvandet i Senatet.

Validering for føderal AI

Ifølge VESPR‑pressen dækker rammeværket områder som computer vision og naturlig sprogbehandling (NLP).

CalypsoAI hævder, at VESPR blev skabt ‘med kritisk input fra eksisterende nationale sikkerhedskunder og opstået efter års uafhængigt finansieret forskning i adversarial maskinlæring’.

Billeder af systemet, der ses i en promotionsvideo (se artikelens slutning), ser ud til at indeholde detekterings‑ og/eller simuleringsrutiner for dataforgiftning og støjindsprøjtning, som leverer simulationer af potentielle angriberes handlinger mod implementerede systemer.

Click to enlarge.

Systemet ser ud til at anvende historiske data fra både nationale og udenlandske handlinger. Målklasserne omfatter ‘Protester’ og ‘Uroligheder’, ud over den mindre klare ‘Strategiske udviklinger’. Nationale terrorhændelser ser også ud til at være inkluderet i systemets reference‑databaser, med ‘Vold mod civile’ som en anden tilgængelig målklasse. Andre tilgængelige målklasser omfatter ‘Kampe’ og ‘Eksplosioner/Fjernvold’.

Click to enlarge.

Systemet ser ud til at muliggøre beskyttelse af funktioner i en “BIAS management”‑sektion af konfigurationen, tilsyneladende designet til at bekæmpe overfitting eller undgå uønsket fjernelse af mindre udligger‑begivenheder, som kan være af interesse i en analytisk rutine. I videoen behandler VESPR tabelbaserede historiske data om ‘Ukraine’.

Udover denne indledende promotionskamp er det sandsynligvis ikke (måske med vilje), at vi vil høre meget mere om dette regeringsrettede SaaS‑produkt, uanset hvordan det klarer sig; det deler sit navn med en kaffebar‑kæde, en social dating‑app og et streaming‑album, og bliver ubønhørligt overhalet i rangerede resultater af VSEPR‑kemimodellen.

CalypsoAI modtog 13 millioner dollars i Serie‑A‑finansiering fra Paladin Capital Venture Group i juli 2020. Andre investorer omfattede 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners og Pallas Ventures.

I et blogindlæg på virksomhedens hjemmeside udtaler CalypsoAI’s grundlægger Neil Serebryany, som udførte uspecificeret forskningsarbejde ved Department of Defense i 2018, at virksomheden blev grundlagt som en mulig løsning på regeringernes frygt for at implementere avancerede algoritmiske systemer i et ureguleret klima:

‘Den primære årsag til denne frygt for AI‑projekter, som fører til, at de opgives inden for regeringen, lyder prosaisk, men er faktisk ret kompleks. De blev opgivet på grund af mangel på kvalitetssikring […] AI‑modeller kan ikke vurderes på samme måde som traditionelle softwaremodeller. Dette skyldes den underliggende karakter af modelstrukturen og de yderst komplekse måder, hvorpå de kan fejle. Uden et mekanisme til at vurdere disse ikke‑deterministiske systemer på en deterministisk, auditabel måde, kunne organisationer inden for regeringen ikke vurdere den såkaldte ‘kvalitet’ af AI‑modeller mod et benchmark. Dette førte til frygt for, at de kunne fejle, kunne fungere forkert, eller kunne blive hacket af en modstander på det tidspunkt, de er mest nødvendige, for eksempel i kamp, under flyvning eller under en kompleks medicinsk procedure.’

Rådgivende bestyrelse

En måned før investeringsrunden oprettede virksomheden et National Security Advisory Board, der inkluderer Tony DeMartino, en tidligere hjælper for forsvarsminister Jim Mattis og nu grundlæggerpartner i det Washington‑baserede strategiske rådgivningsfirma Pallas Advisors; den tidligere Principal Deputy Under Secretary of Defense for Intelligence (under præsident Trump) Kari Bingen; den tidligere Associate Deputy Director for CIA Digital Innovation Sean Roche, en tidligere cyber‑intelligencespecialist i den organisation; og Michael Molino, tidligere Executive Vice President for corporate development hos ASRC Federal, som leverer rådgivning, forskning og teknisk migrationskapacitet på tværs af en række kritiske føderale tjenester.

Ifølge udgivelsen:

‘VESPR leverer avancerede AI‑testkapaciteter med en strømlinet arbejdsgang for at sikre, at hver maskinlæringsalgoritme, der bringes i produktion, er blevet verificeret som sikker. VESPR giver enestående sikkerhed og tryghed til en række AI‑systemer, fra computer vision til naturlig sprogbehandling. VESPR‑processen sikrer test, evaluering, verifikation og validering (TEVV) gennem hele den sikre maskinlæringslivscyklus (SMLC), fra forsknings‑ og udviklingsfasen til modelimplementering. Det endelige resultat er AI‑systemer, der leverer præcis og omfattende overvågning og rapportering af modellens kapabiliteter, sårbarheder og ydeevne.’

Opdateret 11:07 AM EST for at afspejle, at Michael Molino ikke længere arbejder hos ASRC Federal, en rettelse i den oprindelige artikel.

Opdateret 28. januar 2024 for at fjerne defekt YouTube‑video.