ABD Federal ve Askeri AI: Yeni Platform Algoritma Doğrulama ve Akreditasyon Sunuyor

Eski hükümet ve askeri önde gelen isimlerden oluşan bir danışma kurulu bulunan bir girişim, AI uygulamalarının güvenliğini ve dağıtılabilirliğini değerlendirmek için tasarlanmış yeni bir platform yayınladı. Sisteminin erken benimseyenleri arasında ABD Hava Kuvvetleri ve İç Güvenlik Bakanlığı olduğu söyleniyor.

Platform VESPR olarak adlandırılıyor, CalypsoAI tarafından 2018 yılında kurulan, Silikon Vadisi, Dublin ve Virginia’da resmi olarak ‘gizli’ bir konuma sahip (CIA’nın Langley’deki kara sahası) merkez ofisleri bulunuyor.

VESPR, dağıtılan algoritmalar için federal uyumlu bir akreditasyon sistemi kolaylaştırmak amacıyla tasarlanmış bir model risk yönetimi (MRM) sistemidir. Hem kullanıcı dostu bir kontrol paneli tarzı GUI ortamı hem de daha ileri kullanım için bir CLI arayüzü sunar.

Büyütmek için tıklayın.

VESPR, CalypsoAI’nin makine öğrenimi doğrulama, doğrulama ve akreditasyon standartları üzerine kuruludur ve el yapımı adversarial makine öğrenimi kütüphanelerine sahiptir. Ayrıca potansiyel dağıtılabilir algoritmalar için otomatik stres testi rutinleri sunar.

Ulusal Yapay Zeka Araştırma Kaynakları Görev Gücü

Yayın zamanlaması, dün Biden yönetiminin yeni Ulusal Yapay Zeka Araştırma Kaynakları Görev Gücü’nün lansmanıyla ilgili olabilir; bu kuruluş, Kongre’nin 2020 Ulusal AI Girişimi Yasası’na göre federal bir danışma komitesi olarak hizmet vermek üzere tasarlanmıştır.

ABD’ye ve dünya genelinde makine öğrenimi sistemleri için anlamlı düzenleyici standartlar talebi artıyor; özellikle kritik altyapı ve askeri kullanım gibi görev‑kritik alanlarda bu durum daha belirgin. ML sistemleri hâlâ şekillenme aşamasında ve hızlı bir ilerleme hızı gösterdiği için, nispeten istikrarsız ve sıkça tartışmalı bir kaynak oluşturuyorlar; bu yüzden tekrarlanabilir ve güvenilir analitik algoritmaların belirlenmesi artık zorunlu (bu mümkün olursa).

Nisan ayında CalypsoAI, Çin’in AI gücü olarak artan etkisine yanıt olarak bilim fonlamasını reforme etmeyi amaçlayan Endless Frontiers Act’i desteklediğini duyurdu; ancak yasa Senato aşamasında zayıflatıldı.

Federal AI için Doğrulama

VESPR basın bültenine göre, çerçeve kapsamında bilgisayarlı görme ve doğal dil işleme (NLP) gibi alanlar yer alıyor.

CalypsoAI, VESPR’nin ‘mevcut ulusal güvenlik müşterilerinin kritik girdileriyle ve yıllarca bağımsız finanse edilen adversarial makine öğrenimi araştırmalarının bir sonucu olarak’ oluşturulduğunu iddia ediyor.

Promosyon videosunda (makalenin sonunda) görülen sistem görüntüleri, veri zehirlemesi ve gürültü enjeksiyonu için tespit ve/veya simülasyon rutinlerini içeriyor gibi görünüyor; bu da dağıtılan sistemlere yönelik potansiyel saldırganların eylemlerinin simülasyonlarını sağlıyor.

Büyütmek için tıklayın.

Sistem, ulusal ve yabancı eylemlerin tarihsel verilerini kullandığı izleniyor. Hedef sınıflar arasında ‘Protestolar’ ve ‘İsyanlar’ bulunurken, daha belirsiz ‘Stratejik gelişmeler’ de yer alıyor. Ulusal terör olayları da sistemin referans veri tabanına dahil edilmiş gibi görünüyor; ‘Sivillere yönelik şiddet’ başka bir hedef sınıfı. Diğer mevcut hedef sınıflar arasında ‘Çatışmalar’ ve ‘Patlamalar/Uzak Şiddet’ yer alıyor.

Büyütmek için tıklayın.

Sistem, aşırı uyumu önlemek veya analitik rutinlerde ilgi çekebilecek küçük aykırı olayların istenmeyen şekilde elenmesini engellemek amacıyla ‘BIAS yönetimi’ adlı bir yapılandırma bölümüyle özellik korumasına izin veriyor gibi görünüyor. Videoda VESPR, ‘Ukrayna’ ile ilgili tablo şeklindeki tarihsel verileri işliyor.

Bu ilk tanıtım kampanyasının ötesinde, (belki de tasarım gereği) bu hükümet odaklı SaaS ürünü hakkında daha fazla bilgi almayacağız; ismi bir kahve barı zinciri, bir sosyal buluşma uygulaması ve bir akış albümüyle paylaşılıyor ve VSEPR kimya modeli tarafından sıralama sonuçlarında sürekli geride bırakılıyor.

CalypsoAI, Temmuz 2020’de Paladin Capital Venture Group’tan 13 milyon $ tutarında Seri A fonlaması aldı. Diğer yatırımcılar arasında 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners ve Pallas Ventures yer alıyor.

Şirket sitesindeki bir blog gönderisinde, 2018’de Savunma Bakanlığı’nda belirtilmemiş araştırma çalışmaları yapan CalypsoAI kurucusu Neil Serebryany, şirketin düzenlenmemiş bir ortamda gelişmiş algoritmik sistemlerin dağıtımına yönelik hükümetlerin korkusuna olası bir çözüm olarak kurulduğunu belirtiyor:

‘AI projelerine yönelik bu temel korkunun nedeni, hükümet içinde bu projelerin terk edilmesine yol açan bir durum gibi görünüyor, ancak aslında oldukça karmaşık. Kalite güvencesi eksikliği nedeniyle terk ediliyorlar […] AI modelleri, geleneksel yazılım modelleri gibi değerlendirilemez. Bu, model yapısının temel doğası ve karmaşık başarısızlık yolları nedeniyle. Bu deterministik olmayan sistemleri deterministik, denetlenebilir bir şekilde değerlendirecek bir mekanizma eksikliği, hükümet içindeki organizasyonların AI modellerinin ‘kalitesini’ bir kıyaslama karşısında ölçmesini engelliyordu. Bu da, özellikle savaş, uçuş veya karmaşık bir tıbbi prosedür gibi en çok ihtiyaç duyulan anlarda, modellerin başarısız olabileceği, arızalanabileceği ya da bir düşman tarafından hacklenebileceği korkusuna yol açtı.’

Danışma Kurulu

Yatırım turundan bir ay önce, şirket Washington merkezli stratejik danışmanlık firması Pallas Advisors’ın kurucu ortağı ve eski Savunma Bakanı Jim Mattis’in asistanı Tony DeMartino, eski Başkan Trump döneminde Savunma Bakanlığı İstihbarat Müsteşarı Yardımcısı Kari Bingen, CIA Dijital Yenilikten Sorumlu Eski Yardımcı Direktör Sean Roche ve ASRC Federal’in eski Kurumsal Gelişim Başkan Yardımcısı Michael Molino gibi isimleri içeren bir Ulusal Güvenlik Danışma Kurulu oluşturdu.

Basına göre:

‘VESPR, üretime alınan her makine öğrenimi algoritmasının güvenli bir şekilde doğrulanmasını sağlamak için akıcı bir iş akışıyla gelişmiş AI test yetenekleri sunar. VESPR, bilgisayarlı görmeden doğal dil işlemeye kadar çeşitli AI sistemlerine benzeri görülmemiş bir güvenlik ve teminat sağlar. VESPR süreci, araştırma ve geliştirme aşamasından model dağıtımına kadar güvenli makine öğrenimi yaşam döngüsü (SMLC) boyunca test, değerlendirme, doğrulama ve doğrulama (TEVV) sağlar. Sonuç, model yetenekleri, güvenlik açıkları ve performans hakkında doğru ve kapsamlı izleme ve raporlama sunan AI sistemleridir.’

Güncellendi: 11:07 AM EST – Michael Molino’un artık ASRC Federal’de çalışmadığını yansıtmak için, orijinal makaledeki bir hatadır.

Güncellendi: 1January 28, 2024 – kırık YouTube videosunu kaldırmak için.