Представляємо новий рівень прозорості за допомогою штучного інтелекту – лідери думок

Від Балакрішни Д Р, старшого віце-президента, керівника напрямку послуг – Енергетика, Комунікації, Послуги та штучний інтелект і автоматизація послуг, в Infosys.

9 січня 2020 року Всесвітня організація охорони здоров’я повідомила громадськість про спалах коронавірусу в Китаї. За три дні до цього Центри з контролю та профілактики захворювань у США повідомили про це. Однак канадська платформа моніторингу охорони здоров’я вчасно повідомила про спалах своїм клієнтам уже 31 грудня 2019 року! Ця платформа, BlueDot, використовує алгоритми, засновані на штучному інтелекті, які аналізують іноземні новинні джерела, мережі захворювань тварин і рослин, а також офіційні заяви, щоб надавати клієнтам попередження про небезпечні зони, такі як Ухань.

За останні кілька років штучний інтелект став ключевим джерелом трансформації, порушення та конкурентної переваги в сучасній швидкозмінній економіці. Від відстеження епідемій до оборони, охорони здоров’я, автономних транспортних засобів і всього іншого штучний інтелект набуває широкого поширення. PwC прогнозує, що штучний інтелект може додати до 15,7 трильйонів доларів до світової економіки в 2030 році при поточному темпі зростання.

Однак, незважаючи на всі надії, які штучний інтелект приносить, він все ще ставить нерозумілі питання щодо прозорості та довіри. Потрібно зрозуміти, передбачити та довіряти здатності штучного інтелекту приймати рішення, особливо в тих областях, які критичні для життя, смерті та особистого добробуту.

У невідомість

Коли автоматизовані системи прийняття рішень були вперше введені для підтримки прийняття рішень, вони dựaалися на ручних правилах. Хоча це робило їх легкими для інтерпретації та зміни їх поведінки, вони не були масштабованими. Моделі, засновані на машинному навчанні, з’явилися для задоволення останньої потреби; їм не потрібно було людського втручання, і вони могли навчатися з даних – чим більше, тим краще. Хоча моделі глибокого навчання не мають рівних у своїй моделюванні здатності та області застосування, той факт, що ці моделі в основному є чорними скриньками, ставить тривожні питання щодо їхньої правдивості, довіри та упередженості в контексті їхнього широкого використання.

Наразі немає прямого механізму для відстеження розуміння, яке використовується глибокими моделями навчання. З моделями машинного навчання, які мають чорну скриньку, основним видом пояснюваності є пост-хок пояснювання, що означає, що пояснення виводяться з природи та властивостей виводів, згенерованих моделлю. Ранні спроби витягнути правила з нейронних мереж (як раніше називалося глибоке навчання) зараз не проводяться, оскільки мережі стали надто великими та різноманітними для витягування правил. Тому існує термінова потреба ввести інтерпретованість та прозорість у саму тканину моделювання штучного інтелекту.

Вихід з ночі, вступ у світло

Ця проблема створила потребу в прозорості машинного навчання, яка призвела до зростання пояснюваного штучного інтелекту, або XAI. Він спрямований на вирішення основних проблем, які заважають нам повністю довіряти прийняттю рішень штучним інтелектом — включаючи упередженість та прозорість. Ця нова галузь штучного інтелекту забезпечує підзвітність, щоб гарантувати, що штучний інтелект приносить користь суспільству з кращими результатами для всіх учасників.

XAI буде критично важливим для допомоги в боротьбі з упередженістю, властивою системам та алгоритмам штучного інтелекту, які програмуються людьми, чиї походження та досвід непередбачувано призводять до створення систем штучного інтелекту, які демонструють упередженість. Небажані упередженості, такі як дискримінація проти певної національності чи етнічної групи, можуть з’явитися, оскільки система надає значення цьому на основі реальних даних. Наприклад, може бути виявлено, що типові боржники з кредитами належать до певної етнічної групи, однак реалізація будь-якої обмежувальної політики на основі цього може бути проти справедливих практик. Помилкові дані також можуть бути причиною упередженості. Наприклад, якщо певний сканер розпізнавання обличчя є неточним 5% часу через колір обличчя чи освітлення, це може привести до упередженості. Останньо, якщо ваша вибірка даних не є справжнім представленням усієї популяції, упередженість є неминучою.

XAI спрямований на вирішення того, як чорні скриньки рішень систем штучного інтелекту приймаються. Він оглядає та намагається зрозуміти кроки та моделі, залучені до прийняття рішень. Він відповідає на такі важливі питання, як: Чому система штучного інтелекту зробила певний прогноз чи рішення? Чому система штучного інтелекту не зробила чогось іншого? Коли система штучного інтелекту вдалося чи зазнала невдачі? Коли системи штучного інтелекту надають достатню впевненість у прийнятті рішень, щоб вам можна було довіряти, і як система штучного інтелекту може виправити помилки?

Пояснюваний, передбачуваний і відстежуваний штучний інтелект

Один із способів досягнення пояснюваності в системах штучного інтелекту полягає в тому, щоб використовувати алгоритми машинного навчання, які є внутрішньо пояснювальними. Наприклад, простіші форми машинного навчання, такі як дерева рішень, баєсівські класифікатори та інші алгоритми, які мають певну кількість відстежуваності та прозорості у своєму прийнятті рішень. Вони можуть надати необхідну видимість для критичних систем штучного інтелекту без суттєвої втрати продуктивності чи точності.

Відзначаючи потребу у забезпеченні пояснюваності для глибокого навчання та інших більш складних алгоритмічних підходів, Управління перспективних дослідницьких проектів Міністерства оборони США (DARPA) проводить зусилля з створення пояснюваних рішень штучного інтелекту через ряд фінансових дослідницьких ініціатив. DARPA описує пояснюваність штучного інтелекту у трьох частинах, які включають: точність прогнозування, що означає, що моделі пояснюють, як висновки приймаються для поліпшення прийняття рішень у майбутньому; розуміння рішень та довіра з боку людей та операторів, а також огляд та відстежування дій, здійснених системами штучного інтелекту.

Відстежування дозволить людям входити в цикли прийняття рішень штучного інтелекту та мати можливість зупинити або контролювати його завдання, коли це необхідно. Система штучного інтелекту не тільки повинна виконувати певне завдання чи приймати рішення, але також надавати прозорий звіт про те, чому вона прийняла певні рішення з відповідним обґрунтуванням.

Стандартизація алгоритмів або навіть підходів XAI зараз не можлива, але можливо стандартизувати рівні прозорості/рівні пояснюваності. Організації зі стандартизації намагаються досягти спільних стандартних розумінь цих рівнів прозорості для полегшення спілкування між кінцевими користувачами та постачальниками технологій.

Когда уряди, установи, підприємства та загальна громадськість починають залежати від систем, заснованих на штучному інтелекті, здобуття їхньої довіри через яснішу прозорість процесу прийняття рішень буде фундаментальним. Запуск першої глобальної конференції, присвяченої виключно XAI, Міжнародної спільної конференції з штучного інтелекту: Семінар з пояснюваним штучним інтелектом, є подальшим доказом того, що епоха XAI настав.