US‑Bundes‑ und Militär‑KI: Neue Plattform bietet Algorithmus‑Validierung und Akkreditierung

Ein Startup, das einen Beirat aus ehemaligen militärischen Größen der Regierung hat, hat eine neue Plattform veröffentlicht, die dazu dient, die Sicherheit und Einsatzfähigkeit von KI‑Anwendungen zu bewerten. Frühe Anwender des Systems sollen die US‑Air Force und das Department of Homeland Security sein.

Die Plattform heißt VESPR, von CalypsoAI, gegründet 2018, mit Hauptsitz im Silicon Valley, Dublin und einem offiziell „nicht genannten“ Standort in Virginia – Territorium der CIA in Langley.

VESPR ist ein Model‑Risk‑Management‑System (MRM), das ein bundeskonformes Akkreditierungssystem für eingesetzte Algorithmen ermöglichen soll. Es bietet sowohl eine benutzerfreundliche Dashboard‑GUI‑Umgebung als auch eine CLI‑Schnittstelle für fortgeschrittene Nutzung.

Click to enlarge.

VESPR basiert auf den Validierungs-, Verifizierungs‑ und Akkreditierungsstandards für maschinelles Lernen von CalypsoAI und enthält eigens erstellte Bibliotheken für adversariales maschinelles Lernen. Außerdem bietet es automatisierte Stresstest‑Routinen für potenziell einsetzbare Algorithmen.

Nationaler Aufgaben­stab für KI‑Forschungsressourcen

Der Zeitpunkt der Veröffentlichung könnte mit dem gestrigen Start der Biden‑Administration einer neuen Nationalen Arbeitsgruppe für KI‑Forschungsressourcen zusammenhängen, einem Gremium, das als Bundes‑Beratungsausschuss gemäß dem National AI Initiative Act von 2020 des Kongresses dienen soll.

Der Druck auf die USA und weltweit steigt, sinnvolle Regulierungsstandards für maschinelle Lernsysteme zu schaffen, insbesondere in missionskritischen Bereichen wie kritischer Infrastruktur und militärischer Nutzung. Da ML‑Systeme sich noch in einer prägenden Phase befinden und sich rasant weiterentwickeln, stellen sie eine relativ instabile und häufig umstrittene Ressource dar, aus der es nun entscheidend ist, reproduzierbare und zuverlässige analytische Algorithmen zu identifizieren – sofern dies überhaupt möglich ist.

Im April veröffentlichte CalypsoAI seine Unterstützung des Endless Frontiers Act, eines Kongressgesetzes, das die Wissenschaftsfinanzierung angesichts des wachsenden Einflusses Chinas als KI‑Macht reformieren soll, wobei das Gesetz letztlich im Senat verwässert wurde.

Validierung für föderale KI

Laut der VESPR‑Pressemitteilung umfassen die vom Rahmenwerk abgedeckten Bereiche Computer Vision und Natural Language Processing (NLP).

CalypsoAI behauptet, VESPR sei ‘mit kritischem Input von bestehenden Kunden aus der nationalen Sicherheit entstanden und aus jahrelanger, unabhängig finanzierter Forschung im Bereich adversariales maschinelles Lernen hervorgegangen’.

Bilder des Systems, die in einem Werbevideo (siehe Ende des Artikels) zu sehen sind, scheinen Erkennungs‑ und/oder Simulationsroutinen für Datenvergiftung und Rauscheinbringung zu enthalten, die Simulationen der Aktionen potenzieller Angreifer auf eingesetzte Systeme bereitstellen.

Click to enlarge.

Das System scheint historische Daten nationaler sowie ausländischer Aktivitäten zu nutzen. Zu den Zielklassen gehören ‘Proteste’ und ‘Unruhen’, zusätzlich zu den weniger klaren ‘Strategischen Entwicklungen’. Nationale Terrorismusvorfälle scheinen ebenfalls in den Referenzdatenbanken des Systems enthalten zu sein, wobei ‘Gewalt gegen Zivilisten’ eine weitere verfügbare Zielklasse ist. Weitere Zielklassen umfassen ‘Schlachten’ und ‘Explosionen/Ferngewalt’.

Click to enlarge.

Das System scheint die Absicherung von Merkmalen in einem Abschnitt zur ‘BIAS‑Verwaltung’ der Konfiguration zu ermöglichen, offenbar um Overfitting zu bekämpfen oder die unerwünschte Eliminierung kleiner Ausreißerereignisse, die für analytische Routinen von Interesse sein könnten, zu vermeiden. Im Video verarbeitet VESPR tabellarische historische Daten zu ‘Ukraine’.

Abgesehen von diesem ersten Werbeauftritt ist es unwahrscheinlich (vielleicht beabsichtigt), dass wir noch viel mehr über dieses auf die Regierung ausgerichtete SaaS‑Produkt erfahren, egal wie es sich schlägt; es teilt seinen Namen mit einer Kaffee‑Bar‑Kette, einer sozialen Dating‑App und einem Streaming‑Album und wird in den Rankings unablässig vom VSEPR‑Chemie‑Modell übertroffen.

CalypsoAI erhielt im Juli 2020 13 Millionen $ in einer Series‑A‑Finanzierungsrunde von der Paladin Capital Venture Group. Weitere Investoren umfassten 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners und Pallas Ventures.

In einem Blogbeitrag auf der Unternehmenswebsite erklärt CalypsoAIs Gründer Neil Serebryany, der 2018 nicht näher bezeichnete Forschungsarbeiten beim Department of Defense durchführte, dass das Unternehmen als mögliche Lösung für die Angst der Regierungen gegründet wurde, fortschrittliche algorithmische Systeme in einem unregulierten Umfeld einzusetzen:

‘Der Hauptgrund für diese Angst vor KI‑Projekten, die dazu führte, dass sie innerhalb der Regierung aufgegeben wurden, klingt banal, ist aber tatsächlich recht komplex. Sie wurden wegen fehlender Qualitätssicherung […] KI‑Modelle können nicht auf dieselbe Weise bewertet werden wie herkömmliche Softwaremodelle. Dies liegt an der zugrunde liegenden Struktur der Modelle und den hochkomplexen Arten, wie sie versagen können. Ohne einen Mechanismus, diese nicht‑deterministischen Systeme auf deterministische, prüfbare Weise zu bewerten, konnten Regierungsorganisationen die sogenannte „Qualität“ von KI‑Modellen nicht gegen einen Benchmark prüfen. Das führte zu der Befürchtung, dass sie ausfallen, Fehlfunktionen zeigen oder von einem Gegner gehackt werden könnten, gerade dann, wenn sie am dringendsten benötigt werden, zum Beispiel im Kampf, im Flug oder während eines komplexen medizinischen Eingriffs.’

Beratungsgremium

Ein Monat vor der Finanzierungsrunde gründete das Unternehmen ein National Security Advisory Board, dem unter anderem Tony DeMartino, ein ehemaliger Assistent von Verteidigungsminister Jim Mattis und heute Gründungspartner der in Washington ansässigen Strategieberatungsfirma Pallas Advisors, Kari Bingen, ehemalige Principal Deputy Under Secretary of Defense for Intelligence (unter Präsident Trump), Sean Roche, ehemaliger Associate Deputy Director für CIA Digital Innovation und früherer Cyber‑Intelligenz‑Spezialist in dieser Organisation, sowie Michael Molino, ehemaliger Executive Vice President für Unternehmensentwicklung bei ASRC Federal, das Beratungs‑, Forschungs‑ und technische Migrationsfähigkeiten für eine Reihe kritischer Bundesdienste bereitstellt.

Laut der Mitteilung:

‘VESPR bietet fortschrittliche KI‑Testmöglichkeiten mit einem optimierten Workflow, um sicherzustellen, dass jeder in die Produktion gehende Machine‑Learning‑Algorithmus verifiziert sicher ist. VESPR liefert unvergleichliche Sicherheit und Gewährleistung für eine Vielzahl von KI‑Systemen, von Computer Vision bis Natural Language Processing. Der VESPR‑Prozess gewährleistet Test, Bewertung, Verifizierung und Validierung (TEVV) über den gesamten sicheren Machine‑Learning‑Lebenszyklus (SMLC), von der Forschungs‑ und Entwicklungsphase bis zur Modellbereitstellung. Das Endergebnis sind KI‑Systeme, die eine genaue und umfassende Überwachung und Berichterstattung über Modellfähigkeiten, Schwachstellen und Leistung bieten.’

Aktualisiert 11:07 AM EST, um widerzuspiegeln, dass Michael Molino nicht mehr bei ASRC Federal arbeitet, ein Erratum im Originalartikel.

Aktualisiert 1January 28, 2024, um das defekte YouTube‑Video zu entfernen.