AI Federal dan Militer AS: Platform Baru Menawarkan Validasi dan Akreditasi Algoritma

Startup yang menampilkan dewan penasihat mantan tokoh militer pemerintah telah merilis platform baru yang dirancang untuk mengevaluasi keamanan dan penerapan aplikasi AI. Pengadopsi awal sistem dikatakan termasuk Angkatan Udara AS dan Departemen Keamanan Dalam Negeri.

Platform ini disebut VESPR, dari CalypsoAI, didirikan pada tahun 2018, dengan kantor pusat di Silicon Valley, Dublin, dan lokasi yang 'dirahasiakan' secara resmi di Virginia – wilayah yang sah bagi CIA di Langley.

VESPR adalah model sistem manajemen risiko (MRM) yang dirancang untuk memfasilitasi sistem akreditasi yang sesuai dengan federal untuk algoritme yang diterapkan. Ini menawarkan lingkungan GUI gaya dasbor yang ramah pengguna, dan antarmuka CLI untuk penggunaan lebih lanjut.

Klik untuk memperbesar. Sumber: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR didasarkan pada standar validasi, verifikasi, dan akreditasi pembelajaran mesin CalypsoAI, serta dilengkapi pustaka pembelajaran mesin adversarial yang dirancang khusus. VESPR juga menawarkan rutinitas uji stres otomatis untuk algoritma potensial yang dapat diterapkan.

Satuan Tugas Sumber Daya Penelitian Kecerdasan Buatan Nasional

Waktu perilisannya mungkin berhubungan dengan kemarin jalankan oleh pemerintahan Biden dari Gugus Tugas Sumber Daya Penelitian Kecerdasan Buatan Nasional yang baru, sebuah badan yang dirancang untuk berfungsi sebagai komite penasihat federal sesuai dengan keputusan Kongres Undang-Undang Inisiatif AI Nasional tahun 2020.

Tekanan telah meningkat di AS, dan di seluruh dunia, untuk standar peraturan yang berarti untuk sistem pembelajaran mesin, tidak terkecuali di area kritis misi seperti infrastruktur utama dan penggunaan militer. Karena sistem ML masih dalam tahap formatif dan tingkat kemajuan yang cepat, sistem ML menunjukkan jalan keluar yang relatif tidak stabil dan seringkali kontroversial, yang darinya sekarang penting untuk mengidentifikasi algoritme analitik yang dapat direplikasi dan andal – jika hal ini terbukti memungkinkan.

Pada bulan April CalypsoAI memposting dukungannya terhadap Undang-Undang Perbatasan Tanpa Akhir, sebuah rancangan undang-undang kongres yang dirancang untuk mereformasi pendanaan sains dalam menghadapi meningkatnya keunggulan Tiongkok sebagai kekuatan AI, meskipun undang-undang tersebut pada akhirnya disiram di panggung Senat.

Validasi Untuk Federal AI

Menurut siaran pers VESPR, area yang dicakup oleh kerangka kerja ini mencakup visi komputer dan pemrosesan bahasa alami (NLP).

CalypsoAI mengklaim bahwa VESPR diciptakan 'dengan masukan penting dari pelanggan keamanan nasional yang ada dan lahir dari penelitian yang didanai secara independen selama bertahun-tahun dalam pembelajaran mesin yang bersifat adversarial'.

Gambar sistem yang terlihat di video promosi (lihat akhir artikel) tampaknya mencakup rutinitas deteksi dan/atau simulasi untuk peracunan data dan injeksi derau, menyediakan simulasi untuk tindakan penyerang potensial ke sistem yang diterapkan.

Klik untuk memperbesar.

Sistem ini tampaknya memanfaatkan data historis aksi nasional maupun asing. Kelas target yang ditampilkan meliputi 'Protes' dan 'Kerusuhan', di samping 'Perkembangan Strategis' yang kurang jelas. Insiden terorisme nasional juga tampaknya dimasukkan dalam basis data referensi sistem, dengan 'Kekerasan terhadap warga sipil' sebagai kelas target lain yang tersedia. Kelas target lain yang tersedia meliputi 'Pertempuran' dan 'Ledakan/Kekerasan Jarak Jauh'.

Klik untuk memperbesar.

Sistem ini tampaknya memungkinkan perlindungan fitur di bagian "manajemen BIAS" dari konfigurasi, yang tampaknya dirancang untuk mengatasi overfitting atau untuk menghindari eliminasi kejadian outlier minor yang tidak diinginkan yang mungkin penting dalam rutinitas analitis. Dalam video tersebut, VESPR sedang memproses data historis tabular tentang 'Ukraina'.

Di luar gempuran promosi awal ini, sepertinya tidak mungkin (mungkin sengaja) kita akan mendengar lebih banyak lagi tentang produk SaaS yang berhadapan dengan pemerintah ini, terlepas dari bagaimana pun kinerjanya; produk ini memiliki nama yang sama dengan waralaba kedai kopi, aplikasi kencan sosial, dan album streaming, dan terus-menerus kalah telak dalam hasil pemeringkatan oleh model kimia VSEPR.

CalypsoAI diterima $ 13 juta dalam penggalangan dana Seri A dari Paladin Capital Venture Group pada 0 Juli 2020. Investor lainnya termasuk 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners, dan Pallas Ventures.

Dalam sebuah postingan blog di situs perusahaan, pendiri CalypsoAI, Neil Serebryany, yang melakukan penelitian yang tidak disebutkan secara rinci di Departemen Pertahanan pada tahun 2018, menyatakan bahwa perusahaan tersebut didirikan sebagai solusi yang mungkin untuk mengatasi ketakutan pemerintah dalam menerapkan sistem algoritmik canggih di lingkungan yang tidak diatur:

'Alasan utama ketakutan terhadap proyek AI ini, yang menyebabkan mereka ditinggalkan di dalam Pemerintahan, terdengar membosankan, tetapi sebenarnya cukup rumit. Mereka ditinggalkan karena kurangnya jaminan kualitas […] Model AI tidak dapat dinilai dengan cara yang sama seperti model perangkat lunak tradisional. Hal ini disebabkan sifat yang mendasari struktur model dan cara yang sangat kompleks di mana mereka bisa gagal. Kurangnya mekanisme untuk menilai sistem non-deterministik ini dengan cara yang deterministik dan dapat diaudit, organisasi di dalam pemerintahan tidak dapat menilai apa yang disebut 'kualitas' model AI terhadap tolok ukur. Hal ini menimbulkan ketakutan bahwa mereka dapat gagal, dapat mengalami kegagalan fungsi, atau dapat diretas oleh musuh pada saat yang paling dibutuhkan misalnya dalam pertempuran, dalam penerbangan, atau selama prosedur medis yang rumit. '

Dewan Penasehat

Sebulan sebelum putaran investasi, perusahaan membentuk Dewan Penasihat Keamanan Nasional termasuk Tony DeMartino, mantan ajudan Menteri Pertahanan Jim Mattis, dan sekarang menjadi mitra pendiri firma penasihat strategis Pallas Advisors yang berbasis di Washington; mantan Wakil Utama Wakil Menteri Pertahanan bidang Intelijen (di bawah Presiden Trump) Kari Bingen; mantan Associate Deputy Director untuk CIA Digital Innovation Sean Roche, mantan spesialis intelijen dunia maya di organisasi tersebut; Dan Michael Molino, mantan Wakil Presiden Eksekutif pengembangan perusahaan di ASRC Federal, yang menyediakan kemampuan konsultasi, penelitian, dan migrasi teknis di berbagai layanan federal yang kritis.

Menurut rilis:

VESPR menyediakan kemampuan pengujian AI tingkat lanjut dengan alur kerja yang efisien untuk memastikan setiap algoritma pembelajaran mesin yang diterapkan dalam produksi telah diverifikasi keamanannya. VESPR memberikan keamanan dan jaminan yang tak tertandingi untuk berbagai sistem AI, mulai dari visi komputer hingga pemrosesan bahasa alami. Proses VESPR memastikan pengujian, evaluasi, verifikasi, dan validasi (TEVV) di seluruh siklus hidup pembelajaran mesin (SMLC) yang aman, mulai dari fase penelitian dan pengembangan hingga penerapan model. Hasil akhirnya adalah sistem AI yang menyediakan pemantauan dan pelaporan yang akurat dan komprehensif mengenai kapabilitas, kerentanan, dan kinerja model.

Diperbarui 11:07 EST untuk mencerminkan bahwa Michael Molino tidak lagi bekerja di ASRC Federal, sebuah kesalahan dalam artikel asli.

Diperbarui 1 28 Januari 2024 untuk menghapus video YouTube yang rusak.