米国連邦政府および軍事用AI: 新しいプラットフォームがアルゴリズムの検証と認定を提供

元政府軍の高官が参加するアドバイザリーボードを持つスタートアップが、AIアプリケーションのセキュリティと展開可能性を評価するために設計された新しいプラットフォームをリリースしました。システムの初期導入者は、米国空軍と国土安全保障省であると言われています。

プラットフォームは、CalypsoAIによって2018年に設立され、シリコンバレー、ダブリン、バージニア州の「非公開」ロケーション（CIAのラングレーの本部がある場所）に本社を置くVESPRです。

VESPRは、連邦政府の規制に準拠した展開されたアルゴリズムの認定システムを容易にするために設計されたモデルリスクマネジメント（MRM）システムです。ユーザーフレンドリなダッシュボードスタイルのGUI環境と、より高度な使用のためのCLIインターフェースの両方を提供します。

拡大するにはクリックしてください。 Source: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPRは、CalypsoAIのマシンラーニングの検証、検証、認定基準に基づいており、手作りのアドバーサリアルマシンラーニングライブラリを特徴としています。また、潜在的に展開可能なアルゴリズムの自動ストレステストルーチンも提供します。

国家人工知能研究リソースタスクフォース

リリースのタイミングは、バイデン政権による新しい国家人工知能研究リソースタスクフォースの立ち上げに関連している可能性があります。これは、国会の国家AIイニシアチブ法2020に基づく連邦アドバイザリーコミッティとして機能することを目的としています。

米国と世界中で、マシンラーニングシステムに対する有意義な規制基準の必要性が高まっています。特に、重要なインフラストラクチャや軍事使用などのミッションクリティカルな領域では、MLシステムはまだ形成段階にあり、急速な進歩を遂げているため、比較的不安定で頻繁に論争の的となるため、信頼性の高い分析アルゴリズムを特定することが不可欠です。

4月、CalypsoAIは、中国のAIパワーの成長に対処するために科学基金を改革することを目的としたEndless Frontiers Actを支持したことを発表しました。ただし、この法案は最終的に上院で水を引かれました。

連邦AIの検証

VESPRのプレスリリースによると、プラットフォームでカバーされる領域には、コンピュータビジョンと自然言語処理（NLP）が含まれます。

CalypsoAIによると、VESPRは、既存の国家安全保障顧客からの重要な入力と、対抗的なマシンラーニングに関する独立して資金提供された研究の結果から生まれたものです。

システムの画像は、プロモーションビデオ（記事の末尾参照）では、データポイズニングやノイズ注入の検出および/またはシミュレーションルーチンを含み、展開されたシステムに対する潜在的な攻撃者のアクションのシミュレーションを提供するように見えます。

拡大するにはクリックしてください。

システムは、国および外国の歴史的なデータを利用しているようです。ターゲットクラスには、「抗議活動」や「暴動」などのほか、「戦略的発展」などの不明なものも含まれています。国家テロ事件もシステムの参照データベースに含まれているようです。また、「民間人への暴力」などの他のターゲットクラスも利用可能です。

拡大するにはクリックしてください。

システムは、「BIAS管理」のセクションで機能を保護できるように見えます。これは、過剰適合を避けたり、分析ルーチンで関心がある可能性のあるマイナーな外れ値イベントの削除を避けるために設計されているようです。ビデオでは、VESPRは「ウクライナ」についての歴史的なタブデータを処理しています。

この初期のプロモーション攻撃の後、政府向けのSaaS製品であるこの製品について、どのように進むかについては、多くの情報が得られそうにありません。ただし、VESPRはコーヒーバー・フランチャイズ、ソーシャル・デーティング・アプリ、ストリーミングアルバムと名前が同じであり、VSEPR化学モデルによって検索結果で常に後ろに押されます。

CalypsoAIは、2020年7月にPaladin Capital Venture Groupから1300万ドルのシリーズA資金調達を受けました。その他の投資家には、8VC、Lockheed Martin Ventures、Manta Ray Ventures、Frontline Ventures、Lightspeed Venture Partners、Pallas Venturesが含まれます。

CalypsoAIの創設者であるNeil Serebryanyは、会社のブログ投稿で、同社は、政府が高度なアルゴリズムシステムを規制されていない環境で展開することに対する恐怖に対する潜在的な解決策として設立されたと述べています。

‘政府内のAIプロジェクトが放棄される主な理由は、ありふれたように聞こえるかもしれませんが、実際にはかなり複雑です。彼らは品質保証の欠如のために放棄されました。AIモデルは、従来のソフトウェアモデルと同じ方法で評価することはできません。これは、モデル構造の根底にある性質と、非常に複雑な方法で失敗する可能性があるためです。非決定的なシステムを決定的な、監査可能な方法で評価するメカニズムが不足しているため、政府内の組織は、AIモデルの「品質」をベンチマークに対して評価することができませんでした。これにより、モデルの信頼性が低下し、故障したり、機能しなかったり、または必要なときに（たとえば、戦闘中、飛行中、または複雑な医療処置中）敵によってハックされたりする可能性があるという恐怖が生じました。 ‘

アドバイザリーボード

投資ラウンドの1ヶ月前に、同社は、ジム・マティス国防長官の元補佐官であり、現在はワシントンD.C.に拠点を置く戦略諮問会社Pallas Advisorsの共同創設者であるトニー・デマルティノ（Tony DeMartino）を含む国家安全保障アドバイザリーボードを設立しました。トランプ政権下での国防総省情報部門の元副次官カリ・ビンゲン（Kari Bingen）、CIAのデジタルイノベーション部門の元アソシエイトディレクターであるショーン・ローチ（Sean Roche）、ASRC Federalの元エグゼクティブ・バイス・プレジデントであるマイケル・モリノ（Michael Molino）も参加しています。

リリースによると：

‘VESPRは、ストリーミングされたワークフローで高度なAIテスト機能を提供し、生産に投入されるすべてのマシンラーニングアルゴリズムがセキュアであることを保証します。VESPRは、コンピュータビジョンから自然言語処理まで、さまざまなAIシステムに無例のセキュリティと保証を提供します。VESPRプロセスは、研究開発段階からモデル展開まで、セキュアマシンラーニングライフサイクル（SMLC）全体で、テスト、評価、検証、検証（TEVV）を実行します。結果は、モデル機能、脆弱性、パフォーマンスについて正確で包括的な監視と報告を提供するAIシステムです。 ‘

11:07 AM ESTに更新して、Michael MolinoがASRC Federalを退職したことを反映しました。元の記事の誤りです。

2024年1月28日に更新して、壊れたYouTubeビデオを削除しました。