Дослідники розробили інструмент “DeepTrust” для підвищення довіри до штучного інтелекту

Безпека та довіра до штучного інтелекту (ШІ) є одним з найбільших аспектів цієї технології. Постійно вдосконалюються та працюють над цим найкращі експерти у різних галузях, і це буде важливо для повної реалізації ШІ у суспільстві.

Частина цієї нової роботи проводиться в Університеті Південної Каліфорнії, де дослідники USC Viterbi Engineering розробили новий інструмент, здатний генерувати автоматичні індикатори для визначення достовірності алгоритмів ШІ у даних та прогнозах.

Дослідження було опубліковано у Frontiers in Artificial Intelligence, під назвою “Є надія після всього: кількісна оцінка думок та довіри до нейронних мереж”. Авторами статті є Мінґсі Ченґ, Шахін Назаріан та Пол Богдан з групи кіберфізичних систем Університету Південної Каліфорнії.

Довіра до нейронних мереж

Одним з найбільших завдань у цій галузі є отримання прогнозів від нейронних мереж, яким можна довіряти. У багатьох випадках це заважає повній реалізації технологій, що залежать від ШІ.

Наприклад, автономні транспортні засоби повинні діяти незалежно та приймати точні рішення на автопілоті. їм потрібно бути здатними приймати ці рішення дуже швидко, розшифровуючи та розпізнавючи об’єкти на дорозі. Це дуже важливо, особливо у ситуаціях, коли технологія повинна розрізнити різницю між ямою на дорозі, іншим об’єктом або живою істотою.

Інші ситуації включають рішення автономного транспортного засобу щодо дій, коли інший транспортний засувається йому назустріч, і найскладніше рішення – чи треба автономному транспортному засобу вирішувати, whom він повинен вдарити, якщо він сприймає інший транспортний засіб, об’єкт або живу істоту.

Все це означає, що ми покладаємо величезну довіру до можливостей програмного забезпечення автономного транспортного засобу приймати правильне рішення за долю секунди. Це стає ще складніше, коли є суперечлива інформація від різних датчиків, таких як комп’ютерне зір або лідар.

Ведучий автор Мінґсі Ченґ вирішив зайнятися цим проєктом після того, як подумав: “Навіть люди можуть бути невпевнені у певних ситуаціях прийняття рішень. У випадках, коли є суперечлива інформація, чому машини не можуть сказати нам, коли вони не знають?”

DeepTrust

Інструмент, створений дослідниками, називається DeepTrust, і він здатний кількісно оцінювати рівень невизначеності, згідно з Полом Богданом, доцентом кафедри електротехніки та комп’ютерних наук.

Команда витратила майже два роки на розвиток DeepTrust, головним чином використовуючи суб’єктивну логіку для оцінки нейронних мереж. У одному з прикладів роботи інструменту він能够 проаналізувати опитування президентських виборів 2016 року та передбачити, що існує більша похибка для перемоги Гілларі Клінтон.

Інструмент DeepTrust також полегшує перевірку надійності алгоритмів ШІ, які зазвичай тренуються на мільйонах даних. Інший спосіб зробити це – незалежно перевірити кожен з цих даних, щоб перевірити точність, що є дуже тривалим завданням.

Згідно з дослідниками, архітектура цих систем нейронних мереж є більш точною, і точність та довіра можуть бути максимізовані одночасно.

“На нашу думку, не існує моделі чи інструменту для кількісної оцінки довіри до глибокого навчання, штучного інтелекту та машинного навчання. Це перший підхід і відкриває нові напрямки досліджень”, – каже Богдан.

Богдан також вважає, що DeepTrust може допомогти просунути ШІ вперед до точки, коли він стане “свідомим та адаптивним”.