Технічна консультативна група пропонує обмеження використання штучного інтелекту Пентагоном

Пентагон висловив намір інвестувати значні кошти в штучний інтелект, заявивши, що штучний інтелект зробить військові сили США більш потужними і стійкими до можливих загроз національній безпеці. За повідомленням Engadget, минулого четверга Defense Innovation Board висунув ряд пропозицій щодо етичних керівних принципів використання штучного інтелекту в військових цілях. Список пропозицій включає стратегії уникнення непередбачуваної упередженості та керованого штучного інтелекту, який би мав процедури аварійної зупинки, щоб запобігти шкоди.

Wired повідомляє, що Defense Innovation Board був створений адміністрацією Обами для надання Пентагону досвіду та талантів технологічної промисловості. Наразі головою ради є колишній генеральний директор Google (GOOGL ) Ерік Шмідт. Відділ нещодавно отримав завдання встановити керівні принципи для етичної реалізації штучного інтелекту в військових проєктах. У четвер рада опублікувала свої рекомендації та керівні принципи для розгляду. У звіті зазначається, що час для серйозної дискусії про використання штучного інтелекту в військовому контексті настав, перш ніж якийсь серйозний інцидент вимагатиме цього.

За даними Artificial Intelligence News, колишній військовий чиновник недавно заявив, що Пентагон відстає у використанні штучного інтелекту. Пентагон намагається виправити це й оголосив розвиток та розширення штучного інтелекту в військових цілях національним пріоритетом. Етики штучного інтелекту стурбовані, що в поспіху Пентагону стати лідером у сфері штучного інтелекту системи штучного інтелекту можуть бути використані неетичним чином. Хоча різні незалежні ради з етики штучного інтелекту висунули自己的 пропозиції, Defense Innovation Board запропонував принаймні п’ять принципів, яких військові повинні слідувати під час розробки та впровадження систем штучного інтелекту.

Перший принцип, запропонований радою, полягає в тому, що люди повинні завжди бути відповідальними за використання, розгортання та результати будь-якої платформи штучного інтелекту, використовуваної в військовому контексті. Це нагадує політику 2012 року, яка вимагала, щоб люди були частиною процесу прийняття рішень, коли могла бути використана летальна сила. Є ряд інших принципів, які надають загальні поради, наприклад, те, що системи штучного інтелекту повинні бути створені інженерами, які розуміють і докладно документують свої програми. Інший принцип радить, щоб військові системи штучного інтелекту завжди проходили перевірку на надійність. Ці керівні принципи здаються очевидними, але рада хоче підкреслити їхню важливість.

Інші принципи в списку стосуються контролю упередженості алгоритмів штучного інтелекту та здатності систем штучного інтелекту виявляти, чи може бути завдано непередбачувану шкоду, та автоматично вимкнутися. Керівні принципи зазначають, що якщо буде завдано непередбачувану шкоду, система штучного інтелекту повинна мати можливість вимкнутися та передати управління людині. Проект принципів також рекомендує, щоб висновки систем штучного інтелекту були відстежувані, щоб аналітики могли побачити, що призвело до прийняття певного рішення системою штучного інтелекту.

Набір рекомендацій, висунутих радою, підкреслює дві різні ідеї. Принципи відображають той факт, що штучний інтелект буде невід’ємною частиною майбутніх військових операцій, але що багато систем штучного інтелекту все ще залежать від людського управління та прийняття рішень.

Хоча Пентагон не зобов’язаний приймати рекомендації ради, здається, що Пентагон серйозно ставиться до цих рекомендацій. За повідомленням Wired, директор Центру штучного інтелекту, генерал-лейтенант Джек Шанахан, заявив, що рекомендації ради допоможуть Пентагону “зберігати найвищі етичні стандарти, як це передбачено в стратегії штучного інтелекту Міністерства оборони, одночасно зберігаючи сильну традицію застосування суворих тестів і стандартів для технологічних інновацій у військових силах США”.

Технологічна промисловість як ціле залишається обережною щодо використання штучного інтелекту у створенні військової техніки та програмного забезпечення. Працівники Microsoft (MSFT ) і Google протестували проти співпраці з військовими структурами, а Google недавно вирішив не продовжувати контракт, який мав його внесок у проєкт Maven. Багато керівників компаній, вчених та інженерів також підписали обіцянку не брати участь у “розробці, виробництві, торгівлі чи використанні летальних автономних зброї”. Якщо Пентагон прийме керівні принципи, запропоновані радою, це може зробити технологічну промисловість більш схильною до співпраці над проєктами, хоча тільки час покаже.