Федеральна та військова штучна інтелект США: Нова платформа пропонує валідацию алгоритмів та акредитацію

Стартап, який має дорадчу раду з колишніх урядових військових діячів, випустив нову платформу, призначену для оцінки безпеки та розгортання застосунків штучної інтелекту. Серед перших користувачів системи – Повітряні сили США та Міністерство національної безпеки.

Платформа називається VESPR, від CalypsoAI, заснованої у 2018 році, з головним офісом у Кремнієвій долині, Дубліні та офіційно “не розкритому” місці у Вірджинії – території для ЦРУ у Ленглі.

VESPR – це система управління ризиками моделей (MRM), призначена для полегшення федерально-відповідальної системи акредитації розгорнутих алгоритмів. Вона пропонує як зручне середовище графічного інтерфейсу користувача (GUI), так і інтерфейс командної строки (CLI) для більш просунутого використання.

Натисніть, щоб збільшити. Джерело: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR заснована на стандартах валідації, верифікації та акредитації машинного навчання CalypsoAI і пропонує бібліотеки штучної інтелекту, створені вручну. Вона також пропонує автоматичні процедури тестування на витривалість для потенційно розгорнутих алгоритмів.

Національна дослідницька група ресурсів штучної інтелекту

Час випуску платформи може бути пов’язаний із вчорашнім запуском адміністрації Байдена нової Національної дослідницької групи ресурсів штучної інтелекту, органу, призначеного для виконання функцій федерального консультативного комітету згідно з Національним законом про штучну інтелекту 2020 року.

На США та весь світ зростає тиск щодо введення суттєвих регуляторних стандартів для систем машинного навчання, особливо в таких критичних галузях, як ключова інфраструктура та військове використання. Оскільки системи машинного навчання ще перебувають на стадії формування та швидкого прогресу, вони представляють відносно нестабільний і часто суперечливий засіб, з якого тепер необхідно визначити повторювані та надійні аналітичні алгоритми – якщо це виявиться можливим.

У квітні CalypsoAI висловила підтримку Закону про безкінечні кордони, законопроєкту Конгресу, призначеного для реформи фінансування науки у зв’язку з зростаючою могутністю Китаю як потужності штучної інтелекту, хоча законопроєкт був у кінцевому підсумку змішаний на стадії Сенату.

Валідация для федеральної штучної інтелекту

За даними прес-релізу VESPR, області, які охоплює платформа, включають комп’ютерне зір та обробку природної мови (NLP).

CalypsoAI стверджує, що VESPR була створена “з критичним внеском існуючих національних безпекових клієнтів та народжена з років незалежно профінансованих досліджень щодо протидії машинному навчанню”.

Зображення системи, побачені у промо-відео (див. кінець статті), здається, включають процедури виявлення та/або моделювання для отруєння даних та ін’єкції шуму, забезпечуючи моделювання дій потенційних нападників на розгорнуті системи.

Натисніть, щоб збільшити.

Система, здається, використовує історичні дані національного, а також іноземного походження. Цільові класи включають “Протести” та “Бунти”, а також менш зрозумілі “Стратегічні розробки”. Національні інциденти тероризму також, здається, включаються до системних баз даних посилань, з “Насильством проти цивільних” іншим доступним цільовим класом. Інші доступні цільові класи включають “Битви” та “Вибухи/Віддалене насильство”.

Натисніть, щоб збільшити.

Система, здається, дозволяє захистити функції в розділі “Управління упередженістю” конфігурації, який, очевидно, призначений для боротьби з надмірним підгоном або уникнення небажаного виключення незначних аутлієрних подій, які можуть бути цікавими в аналітичній процедурі. У відео VESPR обробляє табличні історичні дані про “Україну”.

Поза цим початковим промо-бліцом, малоймовірно (можливо, за задумом), що ми почуємо щось більше про цю урядову продукцію SaaS, як би вона не вдалася; вона розділяє свою назву з кав’ярнею, соціальним додатком знакомств та стримінговим альбомом, і безжалісно відкидається в рейтингових результатах моделлю хімії VSEPR.

CalypsoAI отримала 13 мільйонів доларів у рамках фінансування серії А від Paladin Capital Venture Group у липні 2020 року. Інші інвестори включали 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners та Pallas Ventures.

У блог-пості на сайті компанії засновник CalypsoAI Ніл Серебряний, який проводив невизначену дослідницьку роботу у Міністерстві оборони у 2018 році, заявляє, що компанія була заснована як можливе рішення страху урядів розгортати просунуті алгоритмічні системи в нерегульованому кліматі:

‘Основна причина цього страху перед проєктами штучної інтелекту, що призводить до їх відмови всередині Уряду, звучить банально, але насправді досить складно. Вони були відмовлені через відсутність гарантій якості […] Моделі штучної інтелекту не можуть бути оцінені тим же способом, що й традиційні програмні моделі. Це відбувається через основну природу структури моделі та висококомплексних способів, якими вони можуть вийти з ладу. Без механізму оцінки цих недетермінованих систем у детермінованому, аудитному порядку організації всередині уряду не могли оцінити так звану “якість” моделей штучної інтелекту за певним стандартом. Це призвело до страху, що вони можуть вийти з ладу, можуть неправильно працювати або можуть бути зламані противником у той момент, коли вони найбільш потрібні, наприклад, у бою, у польоті або під час складної медичної процедури. ‘

Дорадча рада

За місяць до раунду інвестицій компанія створила Національну раду з національної безпеки, до складу якої увійшли Тоні ДеМартіно, колишній помічник міністра оборони Джима Мэттіса, а тепер засновник стратегічної консультативної фірми Pallas Advisors; колишній заступник міністра оборони з питань розвідки (при президенті Трампі) Карі Бінген; колишній заступник директора ЦРУ з цифрових інновацій Шон Роуч, колишній фахівець з кіберрозвідки в цій організації; і Майкл Моліно, колишній виконавчий віце-президент з корпоративного розвитку в ASRC Federal, який забезпечує консультативні, дослідницькі та технічні можливості в галузі критичних федеральних послуг.

За даними прес-релізу:

‘VESPR пропонує просунуті можливості тестування штучної інтелекту з оптимізованим робочим процесом, щоб забезпечити, що кожен алгоритм машинного навчання, введений у виробництво, був перевірений на безпеку. VESPR пропонує неперевершену безпеку та гарантію різним системам штучної інтелекту, від комп’ютерного зору до обробки природної мови. Процес VESPR забезпечує тестування, оцінку, верифікацію та валідацию (TEVV) протягом усього циклу життя безпечного машинного навчання (SMLC), від фази дослідження та розробки до розгортання моделі. Результатом є системи штучної інтелекту, які забезпечують точне та повне моніторинг та звітність про можливості моделі, уразливості та продуктивність.’

Оновлено 11:07 ранку за східним часом, щоб відобразити, що Майкл Моліно більше не працює в ASRC Federal, помилка в оригінальній статті.

Оновлено 1 січня 28, 2024 року, щоб видалити розбитий відеоролик YouTube.