Чотири найкращі дорогої невдачі погано протестованих штучного інтелекту

Коли компанії розгортають штучний інтелект без суворого контролю людини, вони фактично просять недетерміновану автоматизовану систему перевірити себе.

Проблема не полягає в тому, що штучний інтелект поганий у тестуванні. Штучний інтелект чудово виконує завдання, які раніше були виконані, зокрема слідуючи правилам, які ви явно встановили. Але невдачі, які фактично пошкоджують ваш бренд, живуть у просторі, де людський суд важливіший.

З 70% клієнтів готових перейти після однієї поганої взаємодії з штучним інтелектом, ставки високі. Однак більшість компаній відправляють штучний інтелект, перевірений застарілими або автоматизованими інструментами, створеними для детермінованого програмного забезпечення. Цей стек ніколи не був розроблений для виявлення невдач, які фактично відштовхують людей.

Усі завдання, які Teslio провів для команд підприємств, чотири режими невдач становлять більшу частину клієнтської шкоди. Жодна з них не виявляється автоматичним тестуванням.

1. Безпекові та безпечні бар’єри, які не справляються

Клієнт питає ваш чат-бот правильне питання правильним способом. Бот пропонує їм товар вартістю 1000 доларів за 10 доларів. Або він розкриває інформацію, яку він абсолютно не повинен. Або він порушує фундаментальне правило бізнесу, оскільки ніхто не перевірив граничні умови.

Ризик простий. Шкода негайна і публічна.

Фактична проблема не полягає лише в автоматизації, хоча це частина проблеми. Бар’єри не стандартизовані, вони повинні бути адаптовані до вашого конкретного бізнес-контексту. І навіть коли дотримуються найкращих практик, бар’єри залишаються вразливими. Техніки, такі як “поетичні вирви“, показують нам, що доброзичливі бар’єри можуть бути маніпульовані способами, яких їх творці ніколи не передбачали. Питання, яке компанії повинні поставити, не “чи наші бар’єри відповідають галузевим стандартам?”, а радше “якими новими способами можна маніпулювати цією моделлю?”

Це вимагає ворожнього мислення. Креативні, дослідницькі люди, які розуміють як дизайн бар’єра, так і поверхню атаки. Тестування меж, стресове тестування, складання складних питань. Це різниця між бар’єром, який проходить сертифікацію, і бар’єром, який фактично тримається.

2. Невдачі точності та бізнес-логіки, приховані в галюцинаціях

Реальність полягає в тому, що штучний інтелект галюцинує. Що я дізнався, так це те, що коли у вас є експертиза в певній області, ви відразу помітите галюцинацію.

Але ось критична помилка у залежності лише від вашої внутрішньої команди: у них є сліпі плями. Коли ви знаєте продукт всередині та зовні, ви знаєте точно, які питання ставити, щоб отримати правильну відповідь. Ви не можете знайти неточності, якщо не шукаєте їх. Внутрішні команди знають, як продукт повинен працювати, а не як він фактично працює для реальних користувачів з різними ментальними моделями, різними контекстами та різними способами порушення ваших припущень.

Тому нагляд з боку людей, які підходять до системи свіжо, важливий. Вони не лише підтверджують, що штучний інтелект робить те, що ви йому сказали; вони висвітлюють питання, які можуть бути цікавими для різних відділів, і виділяють області реальної невдачі.

Коли компанії починають будувати на основі основних великих мовних моделей, коли вони додають свої процеси та робочі потоки зверху, вимоги до тестування стають ще більш критичними.

3. Помилки зручного та користувацького досвіду

Чи відчувається правильно? Чи виглядає правильно? Чи триває обробка платежу трохи довше? Чи відповідає тон відповіді розчарованому клієнту або правильному темпу для нового користувача.

Це питання, на які автоматичні інструменти не можуть відповісти. І це питання, які мають величезне значення для клієнтів.

Є фундаментальна різниця між проходженням тестового набору та фактичним досконалим станом. Взаємодія з штучним інтелектом може перевірити кожну коробку у ваших критеріях прийняття та все одно бути сприйнятою як неправильна користувачем. Це може бути технічно правильним, але організаційно незручним. Це може доставити точну інформацію у неправильному темпі або тоні.

Тут людині потрібен контроль. Потрібні люди, які треновані визнавати, як штучний інтелект помиляється, тестування у регіонах, де живуть ваші клієнти, з пристроями та методами платежу, які вони фактично використовують. Хтось, хто тестує на найвищому рівні iPhone в Сан-Франциско, не має такого самого досвіду, як хтось, хто тестує на середньому рівні Android з поганим підключенням до Інтернету в Джакарті. Без різноманітності у тому, хто тестує, і де, ви отримуєте симульовані результати, які зазнають невдачі в момент, коли ваш продукт зустрічає реальність.

Вам потрібно хтось, хто фактично використовує продукт, думає про те, що досвід означає, і фактично протестує, коли щось не відчувається правильно.

4. Ілюзія перевіреної експертизи

Це найтонша невдача, і можливо, найнебезпечніша. Коли компанії розгортають штучний інтелект без належного тестування, вони часто ставлять на те, що штучний інтелект засвоїв достатньо знань, щоб правильно обробити область. Вони припускають, що оскільки штучний інтелект може звучати впевнено щодо чогось, він, ймовірно, знає, про що говорить.

Але є інший вимір цього ризику. Більшість людей, які використовують функції штучного інтелекту, роблять те саме припущення. Вони не ставлять під сумнів висновок. Якщо він звучить авторитетно і не очевидно неправильно, вони йому довіряють. Погана медична порада. Неправильна юридична порада. Погані фінансові рекомендації. Наслідки посилюються, коли користувачі припускають, що штучний інтелект правильний, і не мають жодної причини сумніватися в ньому.

Штучний інтелект дуже добре знає, що було зроблено. Він не знає, що потрібно зробити в нових ситуаціях. Кожна справа має нові ситуації. Кожен продукт має крайні випадки. Кожна клієнтська історія має момент, коли правильна відповідь є тією, яку штучний інтелект не був навчений давати.

Перевизначення готовності до випуску

Зрілий план випуску штучного інтелекту вимагає руху за межі автоматизованого способу мислення. Це включає будівництво структурованої основи людського контролю.

• Інженерія: Ця команда повинна володіти цілісністю системи, визначати, що означає невдача на рівні моделі та інфраструктури, і де потрібно встановити бар’єри.
• Продукт: Лідери повинні володіти межами рішень, визначаючи, які рішення штучний інтелект може приймати автономно, які потребують людської згоди, і які він не повинен торкатися зовсім.
• Дизайн і контролювання якості: Ці професіонали повинні володіти користувацьким досвідом, чи можуть користувачі зрозуміти, що робить штучний інтелект, чи можуть вони визначити, коли він неправильний, і чи мають вони значущі засоби захисту, коли це відбувається.

Ми повинні прийняти, що хоча штучний інтелект може створювати неймовірні досвіди для наших клієнтів, він не може бути своїм власним суддею та присяжним. Відповідальність за якість штучного інтелекту є організаційною, розподіленою між командами, закріпленою в людській експертизі та заснованою на реальному тестуванні.