Взаємодія людини та машини: проблема “останньої милі”, яка стримує розвиток корпоративного штучного інтелекту

До недавнього часу розмови у раді керівників навколо штучного інтелекту зосереджувалися на самих моделях. Чи точний їхній вивід? Наскільки чистими були дані для навчання? Як ми можемо зменшити упередженість? Чи під контролем залишаються галюцинації? Ці питання все ще мають значення, звичайно, але вивід вже не єдина річ, на яку звертають увагу ради директорів та акціонери. Натомість вони ставляться до чогось, що значно важче виміряти – чи системи штучного інтелекту справді працюють з людьми так ефективно, як це можливо у щоденних взаємодіях.

Це частково пояснює, чому IBM недавно зіткнулася з пропозицією акціонера, яка вимагала більшої прозорості щодо того, як компанія керує упередженістю штучного інтелекту та його керуванням. Пропозиція зосередилася конкретно на мінімізації упередженості, але широким висновком було те, що оскільки штучний інтелект стає все більш глибоко інтегрованим у процеси прийняття рішень, його оцінюють за операційною відповідальністю та вимірюваними бізнес-результатами, а не за базовим рівнем можливостей.

Що я бачу у розмовах з підприємствами, то це те, що дуже мало людей все ще дискутують про те, чи самі моделі здатні виконувати свою роботу. Більшість організацій вже знають, що ці системи можуть генерувати вивід, автоматизувати робочі процеси та надавати інформацію з надзвичайною швидкістю. Трудніше питання полягає в тому, чи все це послідовно покращує результати всередині бізнесу. Чи працівники дійсно використовують ці системи значимим чином? Чи вони довіряють рекомендаціям, які вони отримують? Чи рішення стають яснішими, швидшими чи більш послідовними? Чи організації просто генерують більше контенту, більше аналізу та більше шуму без зміни того, як люди працюють? Пропуск між можливостями штучного інтелекту та прийняттям людиною є тим, що я називаю “останньою миля” корпоративного штучного інтелекту. Це місце, де збігаються ROI, довіра, відповідальність та операційна послідовність, і це місце, де багато розгортань починають застрявати.

Можливості не є вузьким місцем – людський контекст є

Сама пропозиція акціонера IBM зосередилася на упередженості, знайомій та зростаючій проблемі в галузі. Резолюція закликала IBM надати додаткову звітність про методи, які компанія використовує для виявлення та мінімізації упередженості у своїх моделях штучного інтелекту, включаючи потенційні ризики, пов’язані з цими зусиллями з мінімізації. IBM заперечила, стверджуючи, що більша частина цієї інформації вже公開 доступна через карти моделей, документацію з керування, звітність про прозорість та матеріали, надані в Фонд прозорості моделей Стенфордського університету. Більшість спостерігачів визнали, що IBM зробила більше, ніж багато постачальників, для операціоналізації відповідальних практик штучного інтелекту, водночас визнаючи, що керування та упередженість залишаються нерозв’язаними викликами галузі.

Що цікаво мені, то це не те, чи відповідь IBM була правильною чи неправильною. Це те, що вся ця ситуація говорить про те, куди рухаються розмови про корпоративний штучний інтелект. Ради директорів у великих масштабах перейшли у нову фазу оцінки штучного інтелекту, зосереджену на якості рішень, операційному впливі, довірі працівників та довгостроковому прийнятті всередині бізнесу.

Це місце, де перспектива нейробіології приводить мене до іншого висновку, ніж більша частина поточної розмови про корпоративний штучний інтелект. Люди не є раціональними машинами з входом та виходом. Ми підходимо до рішень з обмеженою увагою, коливанням впевненості, когнітивним перевантаженням та постійно зміщуючимся наміром. Коли взаємодії здаються повільними, коли заздалегідь підготовлені відповіді не відповідають тому, що ми дійсно мали на увазі, або коли людям доводиться боротися з системою, щоб отримати щось корисне, залучення руйнується ще до того, як показники прийняття встигають відреагувати. Ризик галюцинацій, нестача, упередженість просто посилюють проблему, створюючи тертя всередині робочих процесів, які спочатку мали на меті покращити продуктивність та прийняття рішень. Ця “остання миля” є тим, що більшість організацій все ще недооцінюють: цінність штучного інтелекту не створюється, коли модель генерує відповідь, а коли вона надає правильну відповідь у правильний час і люди можуть довіряти їй достатньо, щоб діяти відповідно до того, що вона виробляє.

Чому ми ігноруємо справжнього “людину в циклі” – користувача?

Ми чули багато останнім часом про “людину в циклі” та важливість присутності людини для затвердження виводу, створеного штучним інтелектом. Але що, якщо найбільш важливу людину – користувача – не правильно розуміють? Взаємодія людини з людиною є складною та багатоманітною, але причина, через яку пряма комунікація працює так добре, полягає в тому, що жодна нюанс не втрачається. Якщо хтось коливається, втрачає впевненість, стає розчарованим чи плутаним, або його намір змінюється, це проходить під час взаємодії, і розмова змінюється відповідно. Більшість систем штучного інтелекту все ще борються з визнанням цих сигналів, оскільки вони більш-менш “на рейках” у тому сенсі, що вони реагують лише на останнє запитування від користувача.

На мою думку, це стає однією з визначальних обмежень поточних корпоративних розгортань штучного інтелекту. Ми побудували системи, які винятково хороші у генерації інформації, залишаючись обмеженими у своїй здатності визнавати, чи ця інформація допомагає комусь приймати кращі рішення.

Організація може розгорнути інструменти корпоративного штучного інтелекту для тисяч працівників та все ж не досягти значимої відповідності в тому, як ці системи дійсно використовуються. Фреймворки, такі як Фреймворк управління ризиками штучного інтелекту NIST, ISO/IEC 42001 та Закон про штучний інтелект ЄС, спонукають організації до більшої зрілості керування та операційної відповідальності. Однак керування на папері йде лише так далеко, якщо залучення працівників до штучного інтелекту залишається фрагментованим. Якщо різні команди довіряють та використовують штучний інтелект абсолютно різними способами, вимірювання ROI стає майже неможливим, і це проблема, яку жодне запитування не може виправити.

Вартість перевантаження штучним інтелектом

Ми зараз вступаємо в фазу, коли штучний інтелект стає повністю універсальним всередині робочих процесів штучного інтелекту. Є копілоти, вбудовані в продуктивні суїти, підсумки зустрічей, згенеровані штучним інтелектом, які надходять після кожної дзвінка, панелі, що надають передбачувані інсайти в реальному часі, двигуни рекомендацій, які годують працівників постійними пропозиціями, та автоматизований аналіз, який з’являється швидше, ніж більшість команд можуть реально обробити його. На папері це виглядає як прогрес – бізнес генерує більше інформації, ніж будь-коли раніше. Однак когнітивна наука була чіткою щодо цього протягом десятиліть: більше інформації не автоматично призводить до кращих рішень.

Люди можуть поглинати лише певну кількість інформації, перш ніж починається перевантаження. Занадто багато рекомендацій створюють коливання. Занадто багато сповіщень стають фоновим шумом. Занадто багато варіантів, згенерованих штучним інтелектом, можуть залишити працівників, які сумніваються, а не діють впевнено. Що цікаво, то те, що системи штучного інтелекту стають винятково хорошими у генерації інформації, залишаючись відносно поганими у розумінні того, як люди приймають, інтерпретують та реагують на цю інформацію у контексті. Ради директорів у кінцевому підсумку не турбуються про те, скільки підсумків, рекомендацій чи згенерованих інсайтів система може виробити. Їм турбує те, чи рішення стають яснішими та більш надійними по всьому бізнесу.

Штучний інтелект увійшов у фазу відповідальності

Пропозиція акціонера IBM могла походити від проблем з упередженістю, але я думаю, що вона відображає щось набагато ширше, що відбувається по всьому корпоративному штучному інтелекту. Новість штучного інтелекту минула, і підприємства, які шукають солідну віддачу від інвестицій у штучний інтелект, вже не можуть сприймати лише можливості моделей. Технологія довела себе, але тепер їй потрібен рівень відповідальності. Наскільки послідовно працівники використовують ці системи? Чи покращуються рішення? Чи довіра та залучення збільшуються з часом, або поступово руйнуються? Коли штучний інтелект стає більш інтегрованим у щоденні робочі процеси, наступне покоління систем може потребувати більшої уваги до людської поведінки, уваги, впевненості та наміру, якщо бізнес хоче тривалого прийняття та вимірюваного ROI. До тих пір, “остання миля” ймовірно залишиться однією з найбільших проблем у прийнятті корпоративного штучного інтелекту.