US Federální a vojenský AI: Nová platforma nabízí validaci a akreditaci algoritmů

Startup, který má poradní radu bývalých vládních vojenských osobností, vydal novou platformu navrženou pro hodnocení bezpečnosti a nasaditelnosti aplikací AI. Ranými uživateli systému se mají stát US Air Force a Ministerstvo vnitřní bezpečnosti.

Platforma se jmenuje VESPR, od CalypsoAI, založené v roce 2018, se sídlem v Silicon Valley, Dublinu a oficiálně “nespecifikované” lokalitě ve Virginii – terra firma pro CIA v Langley.

VESPR je systém pro řízení modelového rizika (MRM) navržen tak, aby usnadnil federálně kompatibilní systém akreditace nasazených algoritmů. Nabízí jak uživatelsky přívětivý dashboardový GUI prostředí, tak i CLI rozhraní pro pokročilejší použití.

Kliknutím zvětšíte. Source: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR je založen na validačních, verifikačních a akreditačních standardech strojového učení CalypsoAI a nabízí ručně vytvořené knihovny adversního strojového učení. Nabízí také automatizované testovací rutiny pro potenciálně nasaditelné algoritmy.

Národní umělá inteligence výzkumná zdrojová úloha

Čas vydání může souviset se včerejším spuštěním Bidenovou administrativou nové Národní umělá inteligence výzkumná zdrojová úloha, orgán navržený jako federální poradenský výbor podle Kongresu Národní AI iniciativy zákona z roku 2020.

Tlak na USA a na celý svět roste, aby byly stanoveny smysluplné regulační normy pro systémy strojového učení, zejména v kritických oblastech, jako je klíčová infrastruktura a vojenské použití. Protože systémy ML jsou stále ve formativní fázi a procházejí rychlým tempem pokroku, představují relativně nestabilní a často kontroverzní zdroj, z něhož je nyní nezbytné identifikovat replikovatelné a spolehlivé analytické algoritmy – pokud je to možné.

V dubnu CalypsoAI zveřejnilo podporu Endless Frontiers Act, kongresového zákona navrženého k reformě financování vědy v souvislosti s rostoucí prominencí Číny jako AI moci, i když byl akt nakonec oslaben ve fázi Senátu.

Validace pro federální AI

Podle tiskové zprávy VESPR zahrnuje oblasti, jako je počítačové vidění a zpracování přirozeného jazyka (NLP).

CalypsoAI tvrdí, že VESPR byl vytvořen “s kritickými příspěvky od stávajících zákazníků národní bezpečnosti a zrozený z let nezávisle financovaného výzkumu do adversního strojového učení”.

Obrázky systému viditelné v propagačním videu (viz konec článku) zahrnují detekční a/nebo simulační rutiny pro otrávení dat a injekci šumu, poskytující simulace pro akce potenciálních útočníků na nasazené systémy.

Kliknutím zvětšíte.

Systém parece využívat historická data národní i zahraniční akce. Cílové třídy zahrnují “Protesty” a “Povstání”, kromě méně jasné “Strategického rozvoje”. Národní teroristické incidenty také zdají být zahrnuty do referenčních databází systému, s “Násilím proti civilistům” jako další dostupnou cílovou třídou. Další dostupné cílové třídy zahrnují “Bitvy” a “Exploze/Vzdálené násilí”.

Kliknutím zvětšíte.

Systém parece umožňovat ochranu funkcí v části konfigurace “BIAS management”, zřejmě navrženém pro boj proti přeučení nebo pro zabránění nežádoucí eliminaci menšinových odlehlých událostí, které mohou být zajímavé v analytické rutině. Ve videu VESPR zpracovává tabulková historická data o “Ukrajině”.

Mimo tuto počáteční propagační kampaň je nepravděpodobné (možná záměrně), že uslyšíme více o tomto vládním SaaS produktu, bez ohledu na to, jak se mu daří; sdílí své jméno s kavárnou, sociálním datovacím aplikací a streamovacím albem, a je neúprosně poražen v řazených výsledcích VSEPR chemickým modelem.

CalypsoAI získalo 13 milionů dolarů v Series A financování od Paladin Capital Venture Group v červenci 2020. Další investoři zahrnovali 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners a Pallas Ventures.

V blogovém příspěvku na webu společnosti CalypsoAI zakladatel Neil Serebryany, který provedl neurčenou výzkumnou práci na Ministerstvu obrany v roce 2018, uvádí, že společnost byla založena jako možná řešení strachu vlád z nasazení pokročilých algoritmických systémů v neřízeném klimatu:

‘Hlavní důvod tohoto strachu z AI projektů, vedoucí k jejich opuštění uvnitř vlády, zní prozaicky, ale je ve skutečnosti bastante komplexní. Byly opuštěny kvůli nedostatku kvalitního zajištění […] AI modely nemohou být hodnoceny stejným způsobem jako tradiční software modely. To je způsobeno základním charakterem modelové struktury a vysoce komplexními způsoby, kterými mohou selhat. Chybí mechanismus pro hodnocení těchto nerozhodnutých systémů deterministickým, auditablem způsobem, organizace uvnitř vlády nebyly schopny hodnotit takzvanou “kvalitu” AI modelů proti benchmarku. To vedlo k strachu, že by mohly selhat, mohli být hacknuti nepřítelem v době, kdy jsou nejvíce potřeba, například v boji, během letu nebo během komplexního lékařského zákroku. ‘

Poradní rada

Měsíc před investiční rundou společnost vytvořila Národní bezpečnostní poradenskou radu včetně Tony DeMartino, bývalého asistenta ministra obrany Jima Mattise, a nyní zakládajícího partnera washingtonské strategické poradenské firmy Pallas Advisors; bývalého zástupce ministra obrany pro zpravodajství (pod prezidentem Trumpem) Kari Bingen; bývalého asociálního zástupce ředitele CIA pro digitální inovace Sean Roche, bývalého specialistu kybernetické inteligence v této organizaci; a Michael Molino, bývalého výkonného viceprezidenta pro rozvoj podnikání ve firmě ASRC Federal, která poskytuje poradenské, výzkumné a technické migrace schopností napříč řadou kritických federálních služeb.

Podle vydání:

‘VESPR poskytuje pokročilé testovací schopnosti AI s proudovým pracovním postupem, aby zajistil, že každý strojový učení algoritmus nasazený do produkce byl ověřen jako zabezpečený. VESPR poskytuje bezprecedentní zabezpečení a jistotu různým AI systémům, od počítačového vidění po zpracování přirozeného jazyka. Proces VESPR zajišťuje testování, hodnocení, verifikaci a validaci (TEVV) po celou zabezpečenou životnost strojového učení (SMLC), od fáze výzkumu a vývoje až po nasazení modelu. Výsledkem jsou AI systémy, které poskytují přesné a komplexní monitorování a hlášení o schopnostech modelu, zranitelnosti a výkonu.’

Aktualizováno 11:07 EST, aby se odrazilo, že Michael Molino již nepracuje pro ASRC Federal, errata v původním článku.

Aktualizováno 1. ledna 2024, aby se odstranilo rozbité YouTube video.