Як компанії можуть створити відповідальну та прозору штучну інтелект – Лідери думок

Від Еріка Патерностера, генерального директора Infosys Public Services

Сундар Пічаї, генеральний директор компанії Alphabet, батьківської компанії Google, описав розвиток штучної інтелекту як “більше глибокий, ніж вогонь або електрика”, і COVID-19 привів свіжу терміновість у звільненні цієї технології. Застосування штучної інтелекту тепер твердо в центрі уваги, поліпшуючи лікування COVID, відстежуючи потенційних носіїв COVID та розгортаючи чат-боти в режимі реального часу для користувачів рітейл-вебсайтів. Ці застосування показали, що штучна інтелект покращує стійкість бізнесу та приносить користь ширшому суспільству.

Отже, поряд з “хмарною рідністю”, слоганом останнього кварталу може бути “перехід на штучну інтелекту”, термін, який фахівці галузі вважають справжнім навіть після закінчення COVID. Для багатьох фірм обіцянка нижчих витрат (наприклад, алгоритмів ланцюга постачання, які збігаються з попитом) та гідних підвищень продуктивності (наприклад, коли банки використовують перевірку документів та ідентифікації в режимі реального часу) просто занадто хороша, щоб її ігнорувати.

Чому перехід на штучну інтелекту?

У переході на штучну інтелекту підприємство використовує штучну інтелекту як Північну зірку, працюючи над тим, щоб використовувати її не тільки розумно, але й у спосіб, який впливає на рішення, прийняті людьми, процесами та системами у масштабі. Це налаштовує організації на зміну динаміки між працівниками, партнерами та клієнтами. Це дозволяє їм швидко змінювати напрямок та задовольняти зміщені вимоги, створюючи довгострокову конкурентну перевагу.

Але не всі фірми знаходяться на одному рівні зрілості штучної інтелекту. Є деякі, яких можна назвати “традиційною групою штучної інтелекту”, або H1. Ці фірми, які мають менше досвіду та інвестицій, зазвичай використовують класичні алгоритми, такі як наївний баєс, який існує вже 250 років, або випадковий ліс (розроблений Тіном Камом Хо у 1995 році), щоб доповнити фрагментовану інтелектуальність у існуючих системах. Таке використання штучної інтелекту суворо засноване на правилах і досить жорстке, не маючи можливості узагальнювати з правил, які вони відкривають. Потім є “група глибокого навчання”, або H2. Ці фірми приймають більш складну штучну інтелекту, включаючи нейронні машини перекладу та транскрипційні системи, щоб видобувати розмовні інсайти. Такі системи мають більше влади, але не можуть легко пояснити, чому вони роблять те, що роблять. Вони також не мають прозорості. Для цих двох груп штучна інтелекту, яку вони використовують, часто не є довіреною або надійною і може приймати упереджене рішення, яке приносить фірмі негативну увагу з боку державних органів, регуляторів та загальної громадськості.

Ці фірми повинні зробити кроки зараз, щоб перенести свої реалізації штучної інтелекту на крок далі – до третього табору (H3), де штучна інтелекту є самонавчальною та генеративною. На цьому етапі системи штучної інтелекту є напів監督ованими або навіть несупервізованими. Вони є прозорими та досягають “здорового глузду” через навчання на декількох завданнях. Ці системи доставляють багату інтелектуальність та забезпечують дії в режимі реального часу. Це робиться завдяки добре керованій, керованій штучній інтелекту, яка є інтерпретовною та пояснюваною на всіх етапах.

Як працювати над більш відповідальною та прозорою штучною інтелектом

Штучна інтелект усе частіше використовується для керування школами, робочими місцями та іншими громадськими підприємствами. У цих умовах важливо, щоб штучна інтелект була справедливою та прозорою. Однак, оскільки суспільство проходить через цей вибух прийняття штучної інтелекту, регуляторні органи надають обмежену допомогу щодо розвитку та розгортання технологій штучної інтелекту. Отже, компаніям потрібно взяти на себе лідерство. Широка технологічна галузь повинна використовувати фінансові ресурси та людський капітал, перетворюючи початкові реалізації фрагментованої штучної інтелекту на ефективні, творчі, відповідальні та прозорі інтелектуальні екосистеми. Щоб перейти в це простір, фірми повинні зробити наступні чотири речі:

• Залишити людей у циклі: Моделі штучної інтелекту часто розроблені для роботи незалежно від людей. Однак людський елемент є важливим у багатьох випадках. Люди повинні переглядати рішення та уникати упереджень та помилок, які часто зіштовхуються з проектами штучної інтелекту. Два випадки використання включають виявлення шахрайства та випадки, коли залучені правоохоронні органи. Ми рекомендуємо фірмам наймати спеціалістів штучної інтелекту повільно, але послідовно з часом, щоб отримати перевагу у своєму шляху штучної інтелекту.
• Видалити упереджене дані: Несуперечливі дані є критичною передумовою для створення надійних, справедливих та недискримінаційних моделей штучної інтелекту. Щоб зрозуміти його значення, штучна інтелект використовується для короткого списку резюме та кредитного скорингу банками, і вона навіть увійшла до деяких судових систем. У цьому ландшафті неконтрольовані упередження мали дуже реальні наслідки.
• Забезпечити, щоб рішення були пояснювані: Ця функція була висвітлена багатьма великими новинними виданнями, і справедливо. XAI допомагає пояснити, чому система штучної інтелекту прийняла певне рішення. Вона розкриває, які функції глибокого навчання моделі використовувалися більше, ніж інші, для здійснення свого прогнозу або гіпотези. Знання про важливість функцій та можливість виправдати, як приймаються рішення, є важливим для випадків використання, таких як автономні транспортні засоби та комп’ютерне зір, яке використовується у медичних біопсіях.
• Надійно відтворювати результати: Загальна необхідність у дослідницьких проектах, моделі штучної інтелекту повинні бути послідовними при наданні прогнозів з часом. Такі моделі не повинні бути фазованими, коли їм представляються нові дані.

Ці чотири речі створять прозорі, інтелектуальні екосистеми, рухаючись до того, що ми називаємо “живою корпорацією”. Тут безупереджене, пояснюване рішення приймається майже в режимі реального часу, з цією цією корпорацією, яка діє як чутливий організм, керований людьми. Прочитайте білень Інституту знань Infosys, щоб дізнатися більше.