Пріоритизація довіри до штучного інтелекту

Залежність суспільства від застосунків штучного інтелекту (ШІ) та машинного навчання (МЛ) продовжує зростати, змінюючи спосіб споживання інформації. Від чат-ботів, які працюють за допомогою ШІ, до синтезу інформації, створеного за допомогою великих мовних моделей (LLM), суспільство має доступ до більшої кількості інформації та глибших знань, ніж будь-коли раніше. Однак, оскільки технологічні компанії спішать впроваджувати ШІ у свій ланцюг цінності, виникає критичне питання. Чи можна нам довіряти виходам рішень штучного інтелекту?

Чи можна нам довіряти виходам штучного інтелекту без кількісної оцінки невизначеності

Для певного входу модель могла б згенерувати багато інших виходів, які мають однакову ймовірність. Це могло б бути пов’язано з недостатньою кількістю навчальних даних, варіаціями навчальних даних або іншими причинами. Під час розгортання моделей організації можуть використовувати кількісну оцінку невизначеності, щоб надати своїм кінцевим користувачам чітке розуміння того, наскільки вони повинні довіряти виходу моделі ШІ/МЛ. Кількісна оцінка невизначеності – це процес оцінки тих інших виходів, які могли б бути.

Представіть собі модель, яка передбачає температуру завтра. Модель могла б згенерувати вихід 21ºC, але кількісна оцінка невизначеності, застосована до цього виходу, могла б вказати, що модель могла б згенерувати виходи 12 ºC, 15 ºC або 16 ºC; знаючи це, наскільки ми тепер довіряємо простому прогнозу 20 ºC? Незважаючи на свій потенціал для створення довіри або поради обережності, багато організацій вирішують пропустити кількісну оцінку невизначеності через додаткову роботу, яку їм потрібно виконати для її впровадження, а також через вимоги до обчислювальних ресурсів та швидкості висновку.

Системи з людиною в циклі, такі як системи медичної діагностики та прогнозування, включають людей у процес прийняття рішень. Довіряючи сліпо даним штучного інтелекту в галузі охорони здоров’я, медичні працівники ризикують неправильно діагностувати пацієнта, що потенційно може привести до поганих результатів лікування – або навіть гірше. Кількісна оцінка невизначеності може дозволити медичним працівникам бачити, кількісно, коли вони можуть довіряти виходам ШІ та коли вони повинні ставитися до певних прогнозів з обережністю. Аналогічно, у повністю автоматизованій системі, такій як самохідний автомобіль, вихід моделі для оцінки відстані до перешкоди міг би привести до аварії, яку можна було б уникнути за наявності кількісної оцінки невизначеності відстані.

Виклик використання методів Монте-Карло для створення довіри до моделей ШІ/МЛ

Методи Монте-Карло, розроблені під час Манхеттенського проекту, – це надійний спосіб виконання кількісної оцінки невизначеності. Вони включають повторне виконання алгоритмів з дещо різними входами, поки подальші ітерації не нададуть майже жодної додаткової інформації у виходах; коли процес досягає такого стану, кажуть, що він збігся. Одним з недоліків методів Монте-Карло є те, що вони зазвичай повільні та обчислювально інтенсивні, що вимагає багатьох повторень своїх складових обчислень, щоб отримати збіглий вихід, і мають вбудовану мінливість серед цих виходів. Оскільки методи Монте-Карло використовують виходи генераторів випадкових чисел як одну зі своїх ключових будівельних блоків, навіть якщо ви запускаєте Монте-Карло з багатьма внутрішніми повтореннями, результати, які ви отримуєте, змінюються, коли ви повторюєте процес з ідентичними параметрами.

Шлях вперед до довіри до моделей ШІ/МЛ

На відміну від традиційних серверів та прискорювачів ШІ, новий клас обчислювальних платформ розробляється для прямої обробки емпіричних розподілів ймовірності так само, як традиційні обчислювальні платформи обробляють цілі числа та числа з рухомою комою. Розгортаючи свої моделі ШІ на цих платформах, організації можуть автоматизувати впровадження кількісної оцінки невизначеності для своїх попередньо натренованих моделей та також прискорити інші види обчислювальних завдань, які традиційно використовували методи Монте-Карло, такі як обчислення VaR у фінансах. Зокрема, для сценарію VaR ця нова генерація платформ дозволяє організаціям працювати з емпіричними розподілами, побудованими безпосередньо з реальних ринкових даних, а не наближають ці розподіли зразками, згенерованими генераторами випадкових чисел, для більш точних аналізів та швидших результатів.

Недавні прориви в обчислювальній техніці суттєво знизили бар’єри для кількісної оцінки невизначеності. Недавня стаття, опублікована моїми колегами та мною у семінарі “Машинне навчання з новими парадигмами обчислень” на NeurIPS 2024, підкреслює, як платформа наступної генерації, розроблена нами, дозволила виконувати аналіз кількісної оцінки невизначеності більш ніж у 100 разів швидше порівняно з традиційними аналізами, заснованими на Монте-Карло, на високопродуктивному сервері Intel Xeon. Такі досягнення дозволяють організаціям, які розгортають рішення ШІ, легко впроваджувати кількісну оцінку невизначеності та виконувати її з низькими накладними витратами.

Майбутнє довіри до моделей ШІ/МЛ залежить від наступної генерації обчислень

Під час інтеграції організаційами все більшої кількості рішень ШІ у суспільство довіра до моделей ШІ/МЛ стане головним пріоритетом. Підприємства вже не можуть дозволити собі пропустити впровадження засобів у свої розгортання моделей ШІ, які б дозволяли споживачам знати, коли слід ставитися до певних виходів моделей ШІ з скептицизмом. Попит на таку пояснюваність та кількісну оцінку невизначеності очевидний, оскільки приблизно три з чотирьох людей вказують, що вони були б більш схильні довіряти системі ШІ, якщо були б відповідні механізми забезпечення.

Нові технології обчислень роблять все легше для впровадження та розгортання кількісної оцінки невизначеності. Хоча промисловість та регулюючі органи займаються іншими проблемами, пов’язаними з розгортанням ШІ у суспільстві, є хоча б можливість створити довіру, якої потребують люди, роблячи кількісну оцінку невизначеності нормою у розгортаннях ШІ.