ABD Federal ve Askeri AI: Yeni Platform Algoritma Doğrulama ve Akreditasyon Sunuyor

Eski hükümet ve askeri liderlerden oluşan danışma kuruluna sahip bir startup, AI uygulamalarının güvenliği ve dağıtımını değerlendirmek için tasarlanmış yeni bir platform çıkardı. Sistemin erken benimseyicileri arasında ABD Hava Kuvvetleri ve İç Güvenlik Bakanlığı’nın olduğu söyleniyor.

Platform, CalypsoAI’den VESPR olarak adlandırılıyor ve 2018 yılında kurulmuş, Silicon Valley, Dublin ve Virginia’da (CIA’nın Langley’deki merkezinin bulunduğu terra firma) resmi olarak “belirtilmeyen” bir konumda bulunan merkezleri bulunan bir şirket tarafından geliştirilmiştir.

VESPR, dağıtılan algoritmalar için federal olarak uyumlu bir akreditasyon sistemini kolaylaştırmak için tasarlanmış bir model risk yönetimi (MRM) sistemidir. Hem kullanıcı dostu bir.dashboard-stil GUI ortamı, hem de daha gelişmiş kullanımlar için bir CLI arabirimi sunar.

Büyütmek için tıklayın. Kaynak: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR, CalypsoAI’nin makine öğrenimi doğrulama, doğrulama ve akreditasyon standartlarına dayanmaktadır ve el ile hazırlanmış düşman makine öğrenimi kütüphanelerini içerir. Ayrıca, potansiyel olarak dağıtılabilecek algoritmalar için otomatik stres testi rutinleri sunar.

Ulusal Yapay Zeka Araştırma Kaynakları Görev Gücü

Çıkarılma zamanı, Biden yönetimi tarafından dün başlatılan yeni Ulusal Yapay Zeka Araştırma Kaynakları Görev Gücü ile ilgili olabilir, bu görev gücü, Kongre’nin 2020 Ulusal AI Girişimi Yasası uyarınca federal bir danışma komitesi olarak görev yapmak üzere tasarlanmıştır.

ABD’de ve dünyada, özellikle kritik altyapı ve askeri kullanım gibi alanlarda, makine öğrenimi sistemleri için anlamlı düzenleyici standartlar için baskı artmaktadır. Makine öğrenimi sistemleri hala oluşum aşamasındadır ve hızlı bir ilerleme hızına sahiptir, bu nedenle bunlar, şimdi tekrarlanabilir ve güvenilir analitik algoritmalarını tanımlamak için nispeten kararsız ve sık sık tartışmalı bir kaynak olarak temsil etmektedir – eğer bu mümkün olursa.

Nisan ayında CalypsoAI, Sonsuz Sınırlar Yasası‘nı desteklediğini açıkladı, bu yasa, Çin’in AI gücü olarak büyümesi karşısında bilim finansmanını reform etmeye yönelik bir kongre yasasıdır, ancak yasa sonunda Senato aşamasında sulandırıldı.

Federal AI için Doğrulama

VESPR basın açıklamasına göre, çerçevenin kapsadığı alanlar arasında bilgisayar görme ve doğal dil işleme (NLP) bulunmaktadır.

CalypsoAI, VESPR’un mevcut ulusal güvenlik müşterilerinden kritik girdi ile ve düşman makine öğrenimi üzerine bağımsız olarak finanse edilen yıllarca süren araştırmalardan doğduğunu iddia etmektedir.

Sistem görüntüleri, bir tanıtım videosunda (makale sonunda) görüldüğü gibi, veri zehirlenmesi ve gürültü enjeksiyonu için algılama ve/veya simülasyon rutinlerini içeriyor gibi görünmektedir ve dağıtılan sistemlere potansiyel saldırganların eylemleri için simülasyonlar sunmaktadır.

Büyütmek için tıklayın.

Sistem, ulusal ve yabancı eylemlerin tarihi verilerini kullanıyor gibi görünüyor. Hedef sınıflar arasında ‘Protestolar’ ve ‘İsyanlar’ yer alıyor ve ayrıca daha az açık ‘Stratejik gelişmeler’ de bulunmaktadır. Ulusal terörizm olayları da sistemin referans veritabanlarının bir parçası gibi görünüyor ve ‘Sivillere karşı şiddetin’ başka bir kullanılabilir hedef sınıfı. Diğer kullanılabilir hedef sınıfları arasında ‘Çatışmalar’ ve ‘Patlamalar/Uzaktan Şiddet’ bulunmaktadır.

Büyütmek için tıklayın.

Sistem, bir ‘Önyargı yönetimi’ bölümünde özelliklerin korunmasına izin veriyor gibi görünüyor, bu da apparent olarak aşırı uyumu önlemek veya analitik bir rutinde ilgi çekici olabilecek küçük outsider olaylarının istenmeyen şekilde ortadan kaldırılmasını önlemek için tasarlanmış gibi görünüyor. Videoda, VESPR, ‘Ukrayna’ hakkında tarihi tablo verilerini işliyor.

Bu ilk tanıtım saldırısından sonra, bu hükümete yönelik SaaS ürününden muhtemelen (muhtemelen tasarlandığı gibi) çok fazla şey duymayacağız; adı bir kahve barı franchise’ı, bir sosyal flört uygulaması ve bir akış albümü ile paylaşıyor ve VSEPR kimya modeli tarafından sürekli olarak sıralanan sonuçlarda geri itiliyor.

CalypsoAI, Temmuz 2020’de Paladin Capital Venture Group’tan 13 milyon dolarlık Series A finansmanını aldı. Diğer yatırımcılar arasında 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners ve Pallas Ventures yer aldı.

Şirket sitesindeki bir blog yazısında, CalypsoAI’nin kurucusu Neil Serebryany, 2018 yılında Savunma Bakanlığı’nda belirsiz araştırma çalışmaları yaptığı belirtildi ve şirketin, hükümetlerin gelişmiş algoritmik sistemleri düzenlenmemiş bir ortamda dağıtmaktan korkmaları sorununa olası bir çözüm olarak kurulduğunu belirtti:

‘AI projelerinden korkmanın birincil nedeni, hükümet içinde terk edilmelerine yol açıyor, basittir ama aslında khá karmaşıktır. Bunlar, bir mekanizma olmaması nedeniyle terk ediliyorlardı. kalite güvence… AI modelleri geleneksel yazılım modelleri gibi değerlendirilemez. Bu, model yapısının temel doğası ve başarısız olma şekillerinin yüksek karmaşıklığından kaynaklanmaktadır. Belirsiz sistemleri deterministik, denetlenebilir bir şekilde değerlendirebilecek bir mekanizma olmadan, hükümet içindeki organizasyonlar, AI modellerinin ‘kalitesini’ bir standart karşılaştırmasına göre değerlendiremediler. Bu, başarısız olabilecekleri, arızalanabileceği veya bir düşman tarafından en çok ihtiyaç duydukları anda – örneğin savaşta, uçuşta veya karmaşık bir tıbbi prosedür sırasında – hacklenebileceği korkusuna yol açtı.’

Danışma Kurulu

Şirket, bir ay önce, Savunma Bakanı Jim Mattis’in eski yardımcısı ve şimdi Washington merkezli stratejik danışmanlık firması Pallas Advisors’ın kurucu ortağı Tony DeMartino; eski Başkan Trump’ın altında Savunma Bakanlığı İstihbaratından Sorumlu Başkan Yardımcısı Kari Bingen; eski CIA Dijital İnovasyon Birimi Başkanı Sean Roche, bu organizasyonda eski bir siber istihbarat uzmanı; ve Michael Molino, ASRC Federal’in eski İcra Kurulu Başkan Yardımcısı, kritik federal hizmetler boyunca danışmanlık, araştırma ve teknik göç yetenekleri sunan bir şirket.

Basın açıklamasına göre:

‘VESPR, üretim aşamasına alınan her makine öğrenimi algoritmasının güvenli olduğunu doğrulayan gelişmiş AI test yetenekleri sunar. VESPR, bilgisayar görme ve doğal dil işleme dahil çeşitli AI sistemlerine eşsiz güvenlik ve güvence sağlar. VESPR süreci, araştırma ve geliştirme aşamasından model dağıtımı aşamasına kadar güvenli makine öğrenimi yaşam döngüsü (SMLC) boyunca test, değerlendirme, doğrulama ve doğrulama (TEVV) sağlar. Sonuç, model kapasiteleri, zayıflıkları ve performansı hakkında doğru ve kapsamlı izleme ve raporlama sağlayan AI sistemleridir.’

11:07 AM EST’de güncellendi, Michael Molino’nun artık ASRC Federal’de çalışmadığına ilişkin hatayı yansıtmak için.

28 Ocak 2024’te güncellendi, kırık YouTube videosunu kaldırmak için.