Повідомлення про те, як зупинити штучний інтелект від створення вигаданих історій: Посібник з попередження галюцинацій

Штучний інтелект революціонізує спосіб функціонування майже кожної галузі. Він робить нас більш ефективними, продуктивними та – якщо його впроваджено правильно – кращими у роботі в цілому. Але оскільки наша залежність від цієї нової технології зростає швидко, нам потрібно нагадати собі одну просту річ: штучний інтелект не є непогрішимим. Його виходи не повинні прийматися як є, оскільки, як і люди, штучний інтелект може помилятися.

Ми називаємо ці помилки “галюцинаціями штучного інтелекту”. Такі помилки можуть варіюватися від неправильного рішення математичної задачі до надання неточної інформації про урядові політики. У високорегульованих галузях галюцинації можуть привести до дорогої штрафів та юридичних проблем, не кажучи вже про незадоволених клієнтів.

Частота галюцинацій штучного інтелекту повинна бути причиною для занепокоєння: за оцінками, сучасні великі мовні моделі (LLM) галюцинують будь-яку кількість від 1% до 30% часу. Це призводить до сотень помилкових відповідей, згенерованих щодня, що означає, що підприємства, які хочуть використати цю технологію, повинні бути дуже вибагливими при виборі інструментів для впровадження.

Давайте розглянемо, чому галюцинації штучного інтелекту відбуваються, що на кону та як ми можемо їх ідентифікувати та виправити.

Сміття на вході, сміття на виході

Чи пам’ятаєте ви гру “телефон” у дитинстві? Як початкове речення змінювалося, коли його передавали від гравця до гравця, в результаті чого вийшло зовсім інше твердження, коли воно дійшло до кінця кола?

Способ, яким штучний інтелект вчиться на своїх входах, подібний. Відповіді, які генерують LLM, настільки хороші, наскільки хороша інформація, яку вони отримують, що означає, що неправильний контекст може привести до генерації та поширення помилкової інформації. Якщо система штучного інтелекту побудована на даних, які є неточними, застарілими або упередженими, то її виходи віддзеркалюватимуть це.

Таким чином, LLM є настільки хорошим, наскільки хороші його входи, особливо коли немає людського втручання чи нагляду.既然 більше автономних рішень штучного інтелекту поширюються, критично, щоб ми надавали інструментам правильний контекст даних, щоб уникнути спричинення галюцинацій. Нам потрібно ретельне навчання цих даних та/або можливість спрямувати LLM таким чином, щоб вони реагували тільки з контексту, який їм надається, а не витягували інформацію з будь-якого місця в інтернеті.

Чому галюцинації мають значення?

Для підприємств, які працюють з клієнтами, точність є всім. Якщо працівники покладаються на штучний інтелект для завдань, таких як синтез клієнтських даних чи відповідь на клієнтські запити, їм потрібно довіряти, що відповіді, які генерують ці інструменти, точні.

В іншому випадку підприємства ризикують завдати шкоди своїй репутації та лояльності клієнтів. Якщо клієнти отримують недостатню або помилкову інформацію від чат-бота або якщо вони залишаються в очікуванні, поки працівники перевіряють виходи чат-бота, вони можуть взяти свій бізнес в інше місце. Люди не повинні хвилюватися про те, чи надають їм підприємства неправильну інформацію – їм потрібна швидка та надійна підтримка, що означає, що отримання цих взаємодій правильно має першорядне значення.

Лідери підприємств повинні зробити свою домашню роботу при виборі правильного інструменту штучного інтелекту для своїх працівників. Штучний інтелект повинен звільнити час і енергію працівників для концентрації на завданнях вищої цінності; інвестування в чат-бот, який потребує постійного людського нагляду, знімає весь сенс впровадження. Але чи дійсно існування галюцинацій настільки поширені або термін просто надмірно використовується для ідентифікації будь-якої відповіді, яку ми вважаємо неправильною?

Боротьба з галюцинаціями штучного інтелекту

Врахуйте: Динамічна теорія значення (DMT), концепція, згідно з якою взаєморозуміння між двома особами – у цьому випадку користувачем і штучним інтелектом – передається. Однак обмеження мови та знання предметів спричиняють розбіжність у тлумаченні відповіді.

У разі відповідей, згенерованих штучним інтелектом, можливо, що основні алгоритми ще не повністю оснащені для точної інтерпретації чи генерації тексту таким чином, щоб відповідати нашим очікуванням як людей. Ця розбіжність може привести до відповідей, які можуть здатися точними на поверхні, але в кінцевому підсумку не мають глибини чи нюансів, необхідних для справжнього розуміння.

Крім того, більшість загальних LLM витягують інформацію лише з публічно доступного вмісту в інтернеті. Підприємства штучного інтелекту працюють краще, коли вони інформовані даними та політиками, які є специфічними для окремих галузей та підприємств. Моделі також можна покращити прямим людським відгуком – особливо агентними рішеннями, які розроблені для реакції на тон та синтаксис.

Такі інструменти також повинні бути суворо протестовані перед тим, як вони стають клієнтськими. Це критично важливий крок у попередженні галюцинацій штучного інтелекту. Цілком потік повинен бути протестований за допомогою розмов, розділених на повороти, з LLM, який грає роль персонажа. Це дозволяє підприємствам краще припускати загальний успіх розмов з моделлю штучного інтелекту до її випуску у світ.

Це важливо, щоб як розробники, так і користувачі технологій штучного інтелекту залишалися обізнаними про динамічну теорію значення у відповідях, які вони отримують, а також про динаміку мови, яка використовується у вході. Згадайте, контекст є ключем. І, як люди, більшість нашого контексту розуміється через невисловлені засоби, чи то через мову тіла, соціальні тенденції – навіть наш тон. Як люди, у нас є потенціал галюцинувати у відповідь на питання. Але в нашій поточній ітерації штучного інтелекту наше людське розуміння не так легко контекстуалізується, тому нам потрібно бути більш критичними щодо контексту, який ми надаємо у письмовій формі.

Досить сказати – не всі моделі штучного інтелекту створені рівними.既然 технологія розвивається для виконання все більш складних завдань, критично важливо для підприємств, які розглядають впровадження, ідентифікувати інструменти, які покращать взаємодію з клієнтами та досвід клієнтів, а не погіршать їх.

Бурден не тільки на постачальників рішень, щоб забезпечити, що вони зробили все можливе, щоб мінімізувати можливість галюцинацій. Потенційні покупці також мають свою роль. Приоритизуючи рішення, які ретельно тренуються та тестируються та можуть вивчати з власних даних (замість всього та вся в інтернеті), підприємства можуть зробити найкраще з інвестицій у штучний інтелект, щоб забезпечити успіх працівників та клієнтів.