AI Federal dan Militer AS: Platform Baru Menawarkan Validasi dan Akreditasi Algoritma

Sebuah startup yang memiliki dewan penasihat yang terdiri dari tokoh militer pemerintah terdahulu telah meluncurkan platform baru yang dirancang untuk mengevaluasi keamanan dan kelayakan penerapan aplikasi AI. Pengguna awal sistem ini dikabarkan meliputi Angkatan Udara AS dan Departemen Keamanan Dalam Negeri.

Platform ini disebut VESPR, dari CalypsoAI, yang didirikan pada 2018, dengan kantor pusat di Silicon Valley, Dublin, dan lokasi resmi yang ‘tidak diungkapkan’ di Virginia — wilayah daratan CIA di Langley.

VESPR adalah sistem manajemen risiko model (MRM) yang dirancang untuk memfasilitasi sistem akreditasi yang sesuai dengan peraturan federal bagi algoritma yang diterapkan. Sistem ini menyediakan antarmuka GUI bergaya dasbor yang ramah pengguna, serta antarmuka CLI untuk penggunaan yang lebih lanjutan.

Click to enlarge.

VESPR dibangun di atas standar validasi, verifikasi, dan akreditasi pembelajaran mesin milik CalypsoAI, serta menyertakan perpustakaan pembelajaran mesin adversarial yang dibuat secara khusus. Sistem ini juga menyediakan rutinitas pengujian stres otomatis untuk algoritma yang berpotensi dapat diterapkan.

Kelompok Tugas Sumber Daya Penelitian Kecerdasan Buatan Nasional

Waktu peluncuran ini mungkin terkait dengan peluncuran kemarin oleh pemerintahan Biden atas Kelompok Tugas Sumber Daya Penelitian Kecerdasan Buatan Nasional, sebuah badan yang dirancang untuk berfungsi sebagai komite penasihat federal sesuai dengan Undang‑Undang Inisiatif AI Nasional 2020 yang disahkan Kongres.

Tekanan terus meningkat di AS, dan di seluruh dunia, untuk standar regulasi yang bermakna bagi sistem pembelajaran mesin, terutama di bidang-bidang kritis seperti infrastruktur penting dan penggunaan militer. Karena sistem ML masih berada dalam tahap pembentukan dan berkembang dengan cepat, mereka menjadi sumber yang relatif tidak stabil dan sering kontroversial, sehingga kini penting untuk mengidentifikasi algoritma analitis yang dapat direplikasi dan dapat diandalkan — jika hal itu memungkinkan.

Pada bulan April, CalypsoAI menyatakan dukungannya terhadap Endless Frontiers Act, sebuah RUU Kongres yang dirancang untuk mereformasi pendanaan ilmu pengetahuan menghadapi meningkatnya keunggulan China sebagai kekuatan AI, meskipun RUU tersebut pada akhirnya dilemahkan pada tahap Senat.

Validasi untuk AI Federal

Menurut siaran pers VESPR, area yang dicakup oleh kerangka kerja ini meliputi visi komputer dan pemrosesan bahasa alami (NLP).

CalypsoAI mengklaim bahwa VESPR dibuat ‘dengan masukan kritis dari pelanggan keamanan nasional yang sudah ada dan lahir dari bertahun‑tahun penelitian independen yang didanai tentang pembelajaran mesin adversarial’.

Gambar sistem yang terlihat dalam video promosi (lihat akhir artikel) tampaknya mencakup rutinitas deteksi dan/atau simulasi untuk pencemaran data dan penyuntikan kebisingan, menyediakan simulasi tindakan penyerang potensial terhadap sistem yang diterapkan.

Click to enlarge.

Sistem ini tampaknya memanfaatkan data historis baik dari aksi nasional maupun asing. Kelas target yang ditampilkan meliputi ‘Protests’ dan ‘Riots’, selain ‘Strategic developments’ yang kurang jelas. Insiden terorisme nasional juga tampaknya termasuk dalam basis data referensi sistem, dengan ‘Violence against civilians’ sebagai kelas target lain yang tersedia. Kelas target lain yang tersedia meliputi ‘Battles’ dan ‘Explosions/Remote Violence’.

Click to enlarge.

Sistem ini tampaknya memungkinkan perlindungan fitur dalam bagian “BIAS management” pada konfigurasi, yang tampaknya dirancang untuk melawan overfitting atau menghindari penghapusan tidak diinginkan dari peristiwa outlier kecil yang mungkin menarik dalam rutinitas analitis. Dalam video, VESPR memproses data historis berbentuk tabel tentang ‘Ukraine’.

Di luar gelombang promosi awal ini, kemungkinan (mungkin memang sengaja) kita tidak akan mendengar lebih banyak tentang produk SaaS yang ditujukan untuk pemerintah ini, apapun performanya; namanya sama dengan waralaba kedai kopi, aplikasi kencan sosial, dan album streaming, dan terus-menerus kalah dalam peringkat hasil oleh model kimia VSEPR.

CalypsoAI menerima $13 juta dalam pendanaan Seri A dari Paladin Capital Venture Group pada Juli 2020. Investor lain termasuk 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners, dan Pallas Ventures.

Dalam sebuah posting blog di situs perusahaan, pendiri CalypsoAI Neil Serebryany, yang melakukan pekerjaan riset tidak spesifik di Departemen Pertahanan pada 2018, menyatakan bahwa perusahaan didirikan sebagai solusi potensial atas ketakutan pemerintah dalam menerapkan sistem algoritma canggih dalam iklim yang tidak diatur:

‘Alasan utama ketakutan terhadap proyek AI ini, yang menyebabkan proyek‑proyek tersebut ditinggalkan di dalam Pemerintah, terdengar prosaik, namun sebenarnya cukup kompleks. Mereka ditinggalkan karena kurangnya jaminan kualitas […] Model AI tidak dapat dievaluasi dengan cara yang sama seperti model perangkat lunak tradisional. Hal ini disebabkan oleh sifat mendasar struktur model dan cara yang sangat kompleks di mana model dapat gagal. Tanpa mekanisme untuk menilai sistem non‑deterministik ini secara deterministik dan dapat diaudit, organisasi di dalam pemerintah tidak dapat menilai apa yang disebut ‘kualitas’ model AI terhadap tolok ukur. Hal ini menimbulkan ketakutan bahwa model tersebut dapat gagal, mengalami malfungsi, atau dapat diretas oleh lawan pada saat paling dibutuhkan, misalnya dalam pertempuran, penerbangan, atau selama prosedur medis yang kompleks.’

Dewan Penasihat

Sebulan sebelum putaran investasi, perusahaan membentuk Dewan Penasihat Keamanan Nasional yang mencakup Tony DeMartino, mantan asisten Sekretaris Pertahanan Jim Mattis, dan kini mitra pendiri firma penasihat strategis berbasis Washington, Pallas Advisors; mantan Principal Deputy Under Secretary of Defense for Intelligence (di bawah Presiden Trump) Kari Bingen; mantan Associate Deputy Director for CIA Digital Innovation Sean Roche, mantan spesialis intelijen siber di organisasi tersebut; serta Michael Molino, mantan Executive Vice President pengembangan korporat di ASRC Federal, yang menyediakan kemampuan penasihat, riset, dan migrasi teknis di berbagai layanan federal kritis.

Menurut rilis:

‘VESPR menyediakan kemampuan pengujian AI tingkat lanjut dengan alur kerja yang disederhanakan untuk memastikan setiap algoritma pembelajaran mesin yang diproduksi telah diverifikasi keamanannya. VESPR memberikan keamanan dan jaminan yang tak tertandingi bagi berbagai sistem AI, mulai dari visi komputer hingga pemrosesan bahasa alami. Proses VESPR memastikan pengujian, evaluasi, verifikasi, dan validasi (TEVV) sepanjang siklus hidup pembelajaran mesin yang aman (SMLC), dari fase riset dan pengembangan hingga penerapan model. Hasil akhirnya adalah sistem AI yang memberikan pemantauan dan pelaporan yang akurat serta komprehensif tentang kemampuan model, kerentanan, dan kinerjanya.’

Diperbarui 11:07 AM EST untuk mencerminkan bahwa Michael Molino tidak lagi bekerja di ASRC Federal, sebuah errata dalam artikel asli.

Diperbarui 1January 28, 2024 untuk menghapus video YouTube yang rusak.