Amerykański federalny i wojskowy AI: nowa platforma oferuje walidację i akredytację algorytmów

Startup, który posiada radę doradczą złożoną z byłych luminarzy rządowych i wojskowych, wydał nową platformę zaprojektowaną do oceny bezpieczeństwa i wdrożenia aplikacji AI. Wczesnymi użytkownikami systemu mają być Siły Powietrzne USA i Departament Bezpieczeństwa Krajowego.

Platforma nazywa się VESPR, pochodzi z CalypsoAI, założonej w 2018 roku, z siedzibą w Dolinie Krzemowej, Dublinie i nieujawnionym miejscu w Wirginii – terra firma dla CIA w Langley.

VESPR jest systemem zarządzania ryzykiem modelu (MRM) zaprojektowanym w celu ułatwienia systemu akredytacji zgodnego z wymogami federalnymi dla wdrożonych algorytmów. Oferuje zarówno przyjazne dla użytkownika środowisko GUI, jak i interfejs CLI dla zaawansowanego użytku.

Kliknij, aby powiększyć. Źródło: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR oparty jest na standardach walidacji, weryfikacji i akredytacji uczenia maszynowego CalypsoAI i zawiera biblioteki sztucznej inteligencji opracowane ręcznie. Oferuje również automatyczne rutyny testowania obciążeniowego dla potencjalnych algorytmów wdrożonych.

Narodowy Zespół Zadaniowy ds. Badań nad Sztuczną Inteligencją

Czas wydania platformy może być związany z wczorajszym uruchomieniem przez administrację Bidena nowego Narodowego Zespołu Zadaniowego ds. Badań nad Sztuczną Inteligencją, który ma służyć jako federalny komitet doradczy zgodnie z Narodowym Aktem Inicjatywy AI z 2020 roku.

Rosnące jest ciśnienie na USA i na całym świecie, aby wprowadzić znaczące standardy regulacyjne dla systemów uczenia maszynowego, nie tylko w obszarach takich jak infrastruktura kluczowa i użycie wojskowe. Ponieważ systemy ML są jeszcze w fazie formacyjnej i rozwijają się w szybkim tempie, reprezentują one relatywnie niestabilny i często kontrowersyjny środek, z którego teraz jest niezbędne wyodrębnienie replikowalnych i niezawodnych algorytmów analitycznych – jeśli jest to możliwe.

W kwietniu CalypsoAI opublikowało swoje poparcie dla Akt Endless Frontiers, projektu ustawy mającej na celu reformę finansowania nauki w obliczu rosnącej potęgi Chin jako potęgi AI, chociaż akt ten został ostatecznie osłabiony na etapie Senatu.

Walidacja dla federalnego AI

Zgodnie z komunikatem prasowym VESPR, obszary objęte tym systemem obejmują widzenie komputerowe i przetwarzanie języka naturalnego (NLP).

CalypsoAI twierdzi, że VESPR został stworzony “z krytycznymi wprowadzeniami od istniejących klientów bezpieczeństwa narodowego i powstał z wieloletnich, niezależnie finansowanych badań nad sztuczną inteligencją przeciwną”.

Obrazy systemu widoczne w promocyjnym filmie (patrz koniec artykułu) wydają się zawierać rutyny wykrywania i/lub symulacji dla zatrucia danych i wstrzyknięcia szumu, zapewniając symulacje działań potencjalnych atakujących wdrożone systemy.

Kliknij, aby powiększyć.

System wydaje się wykorzystywać historyczne dane krajowe oraz zagraniczne. Klasy docelowe obejmują “Protesty” i “Zamieszki”, a także mniej jasne “Rozwój strategiczny”. Incydenty terrorystyczne w kraju również wydają się być uwzględnione w bazach danych systemu, z “Przemocą wobec cywilów” jako inną dostępną klasą docelową. Inne dostępne klasy docelowe obejmują “Bitwy” i “Eksplozje / Przemoc na odległość”.

Kliknij, aby powiększyć.

System wydaje się pozwalać na ochronę funkcji w sekcji “Zarządzanie BIAS” konfiguracji, wydaje się być zaprojektowanym w celu walki z nadmiernym dopasowaniem lub uniknięciem niepożądanego wyeliminowania mniejszych zdarzeń odstających, które mogą być interesujące w rutynie analitycznej. W filmie VESPR przetwarza dane tabelaryczne o historii “Ukrainy”.

Poza tą pierwszą promocyjną kampanią, nie jest prawdopodobne (może celowo), że usłyszymy więcej o tym produkcie SaaS skierowanym do rządu; dzieli on swoją nazwę z kawiarnią, aplikacją randkową i albumem streamingowym i jest bezlitośnie bijany z powrotem w wynikach rankingowych przez model chemii VSEPR.

CalypsoAI otrzymało 13 milionów dolarów w ramach finansowania serii A od Paladin Capital Venture Group w lipcu 2020 roku. Inni inwestorzy obejmowali 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners i Pallas Ventures.

W poście na blogu na stronie firmy, założyciel CalypsoAI, Neil Serebryany, który prowadził nieokreśloną pracę badawczą w Departamencie Obrony w 2018 roku, stwierdził, że firma została założona jako możliwe rozwiązanie strachu rządów przed wdrożeniem zaawansowanych systemów algorytmicznych w nieuregulowanym klimacie:

‘Główny powód tego strachu przed projektami AI, prowadzący do ich porzucenia wewnątrz rządu, brzmi prozaicznie, ale jest naprawdę dość złożony. Były porzucane z powodu braku gwarancji jakości […] Modele AI nie mogą być oceniane w ten sam sposób, co tradycyjne modele oprogramowania. Jest to spowodowane podstawową naturą struktury modelu i skomplikowanymi sposobami, w jakie mogą one zawieść. Brak mechanizmu do oceny tych nieokreślonych systemów w sposób deterministyczny, audytowy, organizacje wewnątrz rządu nie były w stanie ocenić tak zwanej “jakości” modeli AI w stosunku do punktu odniesienia. To prowadziło do strachu, że mogą one zawieść, mogą zawieść lub mogą zostać zhackowane przez przeciwnika w momencie, gdy są one potrzebne najbardziej, na przykład w boju, w locie lub podczas złożonej procedury medycznej. ‘

Rada Doradcza

Miesiąc przed rundą inwestycyjną, firma utworzyła Narodową Radę Doradczą ds. Bezpieczeństwa Narodowego, w skład której weszli Tony DeMartino, były asystent sekretarza obrony Jima Mattisa, a obecnie współzałożyciel firmy doradczej Pallas Advisors; były zastępca sekretarza obrony ds. wywiadu (w czasach prezydenta Trumpa) Kari Bingen; były zastępca dyrektora CIA ds. innowacji cyfrowej Sean Roche, były specjalista wywiadu cybernetycznego w tej organizacji; oraz Michael Molino, były wiceprezes ds. rozwoju korporacyjnego w ASRC Federal, który świadczy usługi doradcze, badawcze i techniczne w zakresie migracji w różnych kluczowych usługach federalnych.

Zgodnie z komunikatem prasowym:

‘VESPR zapewnia zaawansowane możliwości testowania AI z uproszczonym przepływem pracy, aby zapewnić, że każdy algorytm uczenia maszynowego wprowadzony do produkcji został zweryfikowany pod względem bezpieczeństwa. VESPR zapewnia niezrównaną bezpieczeństwo i gwarancję różnorodnych systemów AI, od widzenia komputerowego po przetwarzanie języka naturalnego. Proces VESPR zapewnia testowanie, ocenę, weryfikację i walidację (TEVV) w całym bezpiecznym cyklu życia uczenia maszynowego (SMLC), od fazy badań i rozwoju do wdrożenia modelu. Efektem końcowym są systemy AI, które zapewniają dokładne i kompleksowe monitorowanie i raportowanie o możliwościach modelu, słabościach i wydajności.’

Zaktualizowano 11:07 AM EST, aby odzwierciedlić, że Michael Molino nie pracuje już w ASRC Federal, błąd w oryginalnym artykule.

Zaktualizowano 1 stycznia 2024 r., aby usunąć złamany film wideo na YouTube.