Техническая консультативная группа выступает за ограничения использования ИИ в Пентагоне

Пентагон明确表示, что он намерен大量 инвестировать в искусственный интеллект, заявив, что ИИ сделает вооруженные силы США более мощными и устойчивыми к возможным угрозам национальной безопасности. Как сообщает Engadget, в прошлый четверг Совет инноваций в области обороны представил ряд предложенных этических руководств по использованию ИИ в вооруженных силах. Список предложений включает стратегии по предотвращению непреднамеренных предубеждений и управляемого ИИ, который будет иметь аварийные процедуры остановки, предотвращающие причинение ненужного вреда.

Wired сообщает, что Совет инноваций в области обороны был создан администрацией Обамы для руководства Пентагоном в приобретении опыта и талантов отрасли технологий. В настоящее время советом руководит бывший генеральный директор Google (GOOGL ) Эрик Шмидт. Недавно департаменту было поручено установить руководства для этической реализации ИИ в военных проектах. В четверг совет опубликовал свои рекомендации и руководства для рассмотрения. В отчете отмечается, что время для серьезных обсуждений об использовании ИИ в военном контексте настало, прежде чем какое-либо серьезное происшествие потребует этого.

Согласно Artificial Intelligence News, бывший военный чиновник недавно заявил, что Пентагон отстает в использовании ИИ. Пентагон стремится восполнить это различие и объявил разработку и расширение ИИ в вооруженных силах национальным приоритетом. Этики ИИ обеспокоены тем, что в спешке Пентагона стать лидером в ИИ, системы ИИ могут быть использованы неэтичным образом. Хотя различные независимые советы по этике ИИ сделали свои собственные предложения, Совет инноваций в области обороны предложил как минимум пять принципов, которых должны придерживаться военные при разработке и реализации систем ИИ.

Первый принцип, предложенный советом, заключается в том, что люди всегда должны быть ответственны за использование, развертывание и результаты любой платформы искусственного интеллекта, используемой в военном контексте. Это напоминает политику 2012 года, которая требовала, чтобы люди были частью процесса принятия решений, когда могла быть использована летальная сила. Есть несколько других принципов в списке, которые предоставляют общую рекомендацию, такую как обеспечение того, что системы ИИ всегда разрабатываются инженерами, которые понимают и тщательно документируют свои программы. Другой принцип рекомендует, что военные системы ИИ всегда должны быть протестированы на их надежность. Эти рекомендации кажутся общим смыслом, но совет хочет подчеркнуть их важность.

Другие принципы в списке связаны с контролем предубеждений в алгоритмах ИИ и способностью ИИ обнаруживать, если может быть причинен непреднамеренный вред, и автоматически отключаться. Руководства указывают, что если будет причинен ненужный вред, ИИ должен быть способен отключиться и передать управление человеческому оператору. Проект принципов также рекомендует, что вывод ИИ должен быть отслеживаемым, чтобы аналитики могли видеть, что привело к принятию ИИ определенного решения.

Набор рекомендаций, представленный советом, подчеркивает две разные идеи. Принципы отражают тот факт, что ИИ будет важен для будущего военных операций, но что большая часть ИИ все еще зависит от человеческого управления и принятия решений.

Хотя Пентагон не обязан принимать рекомендации совета, кажется, что Пентагон относится к рекомендациям серьезно. Как сообщает Wired, директор Центра объединенного искусственного интеллекта, генерал-лейтенант Джек Шанахан, заявил, что рекомендации совета помогут Пентагону “соблюдать высшие этические стандарты, изложенные в стратегии ИИ Министерства обороны, а также использовать сильную историю вооруженных сил США по применению строгих испытаний и стандартов для технологических инноваций”.

Технологическая отрасль в целом остается осторожной в отношении использования ИИ в создании военного оборудования и программного обеспечения. Сотрудники Microsoft (MSFT ) и Google протестовали против сотрудничества с военными структурами, а Google最近 отказался продлить контракт, который имел их вклад в проект Maven. Несколько генеральных директоров, ученых и инженеров также подписали обещание не “участвовать в разработке, производстве, торговле или использовании смертоносных автономных военных средств”. Если Пентагон примет рекомендации, предложенные советом, это может сделать технологическую отрасль более готовой к сотрудничеству в проектах, хотя только время покажет.