Google створила нову програму Explainable AI для підвищення прозорості та зручності налагодження

Нещодавно Google (GOOGL ) оголосила про створення нової хмарної платформи, призначеної для надання інформації про те, як програма штучного інтелекту приймає рішення, що полегшує налагодження програми та підвищує прозорість. Як повідомляє The Register, хмарна платформа називається Explainable AI, і це значна спроба Google інвестувати в пояснюваність штучного інтелекту.

Штучні нейронні мережі використовуються в багатьох, можливо більшості, великих систем штучного інтелекту, які використовуються сьогодні. Нейронні мережі, які керують великими додатками штучного інтелекту, можуть бути надзвичайно складними і великими, і чим складніша система, тим складніше зрозуміти, чому було прийнято певне рішення. Як пояснює Google у своєму білому папері, коли системи штучного інтелекту стають потужнішими, вони також стають складнішими і тому складніше налагоджувати. Прозорість також втрачається, коли це відбувається, що означає, що алгоритми з упередженнями можуть бути важкими для виявлення та виправлення.

Той факт, що причина поведінки складних систем так складно інтерпретувати, часто має серйозні наслідки. Крім того, що це робить боротьбу з упередженнями штучного інтелекту складнішою, це також робить надзвичайно складним розрізняти помилкові кореляції та дійсно важливі кореляції.

Багато компаній і дослідницьких груп досліджують, як вирішити проблему “чорної скриньки” штучного інтелекту і створити систему, яка адекватно пояснює, чому були прийняті певні рішення штучним інтелектом. Платформа Explainable AI від Google представляє свою власну спробу вирішити цю проблему. Explainable AI складається з трьох різних інструментів. Перший інструмент – система, яка описує, які функції були вибрані штучним інтелектом, і також відображає атрибутний бал, який представляє кількість впливу певної функції на остаточний прогноз. Звіт Google про інструмент надає приклад прогнозування тривалості велосипедної поїздки на основі таких змінних, як кількість опадів, поточна температура, день тижня і час початку. Після того, як мережа приймає рішення, надається зворотний зв’язок, який відображає, які функції мали найбільший вплив на прогноз.

Як цей інструмент надає такий зворотний зв’язок у випадку з даними зображень? У цьому випадку інструмент створює наложення, яке виділяє області зображення, які мали найбільший вплив на прийняте рішення.

Іншим інструментом у наборі є інструмент “Що-якщо”, який відображає потенційні коливання продуктивності моделі при маніпулюванні окремими атрибутами. Нарешті, останній інструмент дозволяє налаштувати надання зразкових результатів людським рецензентам за певним графіком.

Доктор Ендрю Мур, головний науковий співробітник Google з питань штучного інтелекту і машинного навчання, описав натхнення для проекту. Мур пояснив, що близько п’яти років тому академічне співтовариство почало турбуватися про шкідливі побічні продукти використання штучного інтелекту, і Google хотіла забезпечити, щоб їхні системи використовувалися тільки етичним чином. Мур описав інцидент, коли компанія намагалася розробити комп’ютерну програму для попередження будівельників про те, що хтось не носить шолом, але вони стали турбуватися, що моніторинг може бути надто далекосяжним і стати делюдизаційним. Мур сказав, що подібна причина спонукала Google не випускати загальний API розпізнавання облич, оскільки компанія хотіла мати більше контролю над тим, як використовується їхня технологія, і забезпечити, щоб вона використовувалася тільки етичним чином.

Мур також підкреслив, чому так важливо, щоб рішення штучного інтелекту були пояснювані:

“Якщо у вас є критично важлива система безпеки або соціально важлива річ, яка може мати непередбачені наслідки, якщо ви думаєте, що ваша модель зробила помилку, вам потрібно бути能够 діагностувати її. Ми хочемо пояснити, що таке пояснюваність і чого вона не може зробити. Це не панацея.