VS Federaal en Militair AI: Nieuw Platform Biedt Algoritmevalidatie en Accreditatie

Een startup met een adviesraad van voormalige regerings- en militaire prominenten heeft een nieuw platform gelanceerd dat is ontworpen om de beveiliging en inzetbaarheid van AI-toepassingen te evalueren. Vroege gebruikers van het systeem zijn onder andere de Amerikaanse luchtmacht en het ministerie van Binnenlandse Veiligheid.

Het platform heet VESPR, van CalypsoAI, opgericht in 2018, met hoofdkantoren in Silicon Valley, Dublin en een officieel ‘niet bekendgemaakte’ locatie in Virginia – terra firma voor de CIA in Langley.

VESPR is een modelrisicobeheersysteem (MRM) dat is ontworpen om een federaal-compliant systeem van accreditatie voor geïmplementeerde algoritmen te faciliteren. Het biedt zowel een gebruikersvriendelijke dashboard-omgeving als een CLI-interface voor geavanceerd gebruik.

Klik om te vergroten. Bron: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR is gebaseerd op CalypsoAI’s machine learning-validatie-, verificatie- en accreditatiestandaarden en beschikt over handgemaakte adversarial machine learning-bibliotheken. Het biedt ook geautomatiseerde stresstests voor potentiële inzetbare algoritmen.

Nationale Kunstmatige Intelligentie Onderzoeksbron Taakkracht

De timing van de release kan verband houden met de lancering van gisteren door de regering-Biden van een nieuwe Nationale Kunstmatige Intelligentie Onderzoeksbron Taakkracht, een orgaan dat dient als een federaal adviescomité overeenkomstig het Congres Nationale AI-initiatiefwet van 2020.

Er is druk op de VS en de rest van de wereld om betekenisvolle regelgevende standaarden voor machine learning-systemen, niet in de laatste plaats in kritieke gebieden zoals cruciale infrastructuur en militair gebruik. Aangezien ML-systemen nog steeds in een formatieve fase verkeren en een snelle vooruitgang kennen, vertegenwoordigen ze een relatief instabiel en vaak omstreden hulpmiddel waaruit het nu essentieel is om herhaalbare en betrouwbare analytische algoritmen te identificeren – als dit mogelijk blijkt te zijn.

In april heeft CalypsoAI zijn steun betuigd voor de Endless Frontiers Act, een congreswet die is ontworpen om de wetenschappelijke financiering te hervormen in het licht van China’s groeiende eminente positie als AI-macht, hoewel de wet uiteindelijk is afgezwakt in de Senaat.

Validatie voor Federaal AI

Volgens het VESPR-persbericht omvatten de door het kader gedekte gebieden computerzicht en natuurlijke taalverwerking (NLP).

CalypsoAI beweert dat VESPR is gemaakt ‘met kritische input van bestaande nationale veiligheidsklanten en geboren uit jaren van onafhankelijk gefinancierd onderzoek naar adversarial machine learning’.

Beelden van het systeem, gezien in een promotionele video (zie het einde van het artikel), lijken detectie- en/of simuleringsroutines voor datapoisoning en ruisinjectie te omvatten, waarmee simulaties worden geboden voor de acties van potentiële aanvallers op geïmplementeerde systemen.

Klik om te vergroten.

Het systeem lijkt historische gegevens van nationale en buitenlandse acties te gebruiken. De doelklassen die worden weergegeven, zijn onder andere ‘Protesten’ en ‘Rellen’, evenals de minder duidelijke ‘Strategische ontwikkelingen’. Nationale terreuraanslagen lijken ook te zijn opgenomen in de referentiedatabases van het systeem, met ‘Geweld tegen burgers’ als een andere beschikbare doelklasse. Andere beschikbare doelklassen zijn onder andere ‘Slagen’ en ‘Explosies/Verre Geweld’.

Klik om te vergroten.

Het systeem lijkt het mogelijk te maken om functies te beschermen in een ‘BIAS-beheer’-sectie van de configuratie, die blijkbaar is ontworpen om overfitting te bestrijden of om de ongewenste eliminatie van kleine outlier-gebeurtenissen te voorkomen die van interesse kunnen zijn in een analytische routine. In de video verwerkt VESPR tabulaire historische gegevens over ‘Oekraïne’.

Verder dan deze initiële promotionele blitz is het niet waarschijnlijk (misschien met opzet) dat we nog veel meer over dit overheidsgerichte SaaS-product zullen horen, ongeacht hoe het presteert; het deelt zijn naam met een koffiebar-franchise, een sociale dating-app en een streaming-album, en wordt meedogenloos teruggedrongen in gerangschikte resultaten door het VSEPR-chemiemodel.

CalypsoAI ontving $13 miljoen in Series A-financiering van Paladin Capital Venture Group in juli 2020. Andere investeerders omvatten 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners en Pallas Ventures.

In een blogpost op de website van het bedrijf zegt de oprichter van CalypsoAI, Neil Serebryany, die ongespecificeerd onderzoekswerk heeft gedaan bij het ministerie van Defensie in 2018, dat het bedrijf is opgericht als een mogelijke oplossing voor de angst van regeringen om geavanceerde algoritmische systemen in te zetten in een ongereguleerde klimaat:

‘De primaire reden voor deze angst voor AI-projecten, waardoor ze worden stopgezet binnen de regering, klinkt saai, maar is eigenlijk vrij complex. Ze werden stopgezet vanwege een gebrek aan kwaliteitsborging […] AI-modellen kunnen niet op dezelfde manier worden beoordeeld als traditionele softwaremodellen. Dit komt door de onderliggende aard van de modelstructuur en de zeer complexe manieren waarop ze kunnen falen. Zonder een mechanisme om deze niet-deterministische systemen op een deterministische, auditable manier te beoordelen, konden organisaties binnen de regering de zogenaamde ‘kwaliteit’ van AI-modellen niet beoordelen tegen een benchmark. Dit leidde tot angst dat ze konden falen, konden mislukken of konden worden gehackt door een tegenstander op het moment dat ze het meest nodig zijn, bijvoorbeeld in gevecht, in de lucht of tijdens een complexe medische procedure. ‘

Adviesraad

Een maand voor de investeringsronde creëerde het bedrijf een Nationale Veiligheidsadviesraad met Tony DeMartino, een voormalig medewerker van minister van Defensie Jim Mattis, en nu een oprichter van het in Washington gevestigde strategische adviesbureau Pallas Advisors; voormalig plaatsvervangend onderminister van Defensie voor Inlichtingen (onder president Trump) Kari Bingen; voormalig adjunct-directeur voor CIA Digitale Innovatie Sean Roche, een voormalig cyberinlichtingenspecialist in die organisatie; en Michael Molino, voormalig uitvoerend vice-president van corporate development bij ASRC Federal, dat advies-, onderzoeks- en technische migratiecapaciteiten biedt voor een breed scala aan kritieke federale diensten.

Volgens het persbericht:

‘VESPR biedt geavanceerde AI-testcapaciteiten met een gestroomlijnde workflow om ervoor te zorgen dat elk machine learning-algoritme dat in productie wordt genomen, is geverifieerd als beveiligd. VESPR biedt ongeëvenaarde beveiliging en zekerheid voor een breed scala aan AI-systemen, van computerzicht tot natuurlijke taalverwerking. Het VESPR-proces garandeert testen, evaluatie, verificatie en validatie (TEVV) gedurende de hele beveiligde machine learning-levenscyclus (SMLC), van de onderzoeks- en ontwikkelingsfase tot modelimplementatie. Het eindresultaat zijn AI-systemen die nauwkeurige en uitgebreide monitoring en rapportage over modelcapaciteiten, kwetsbaarheden en prestaties bieden.’

Bijgewerkt 11:07 AM EST om aan te geven dat Michael Molino niet langer werkt bij ASRC Federal, een errata in het oorspronkelijke artikel.

Bijgewerkt 1 januari 28, 2024 om de gebroken YouTube-video te verwijderen.