Чи є RAGs рішенням проблеми галюцинацій штучного інтелекту?

Штучний інтелект за своєю суттю має “свій власний розум”. Одним із недоліків цього є те, що генеративні моделі штучного інтелекту іноді вигадують інформацію в явищі, яке називається “галюцинаціями штучного інтелекту”, одним із перших прикладів якого став випадок, коли суддя Нью-Йорка дискваліфікував адвокатів за використання юридичного документа, написаного ChatGPT, який посилався на неіснуючі судові справи. Нещодавно відбулися випадки, коли пошукові системи, створені штучним інтелектом, радили користувачам вживати камені для здоров’я, або використовувати неотруйний клей для прикріплення сиру до піци.

Відповідно до зростання популярності GenAI, важливо, щоб його користувачі визнали, що галюцинації є, на даний момент, невід’ємною частиною рішень GenAI. Будучи побудованими на великих мовних моделях (LLM), ці рішення часто ґрунтуються на величезних кількостях різноманітних джерел, які, ймовірно, містять хоча б деяку неточну або застарілі інформацію – ці вигадані відповіді складають між 3% і 10% відповідей чат-ботів штучного інтелекту на запити користувачів. У світлі “чорної скриньки” штучного інтелекту – у якій людям дуже важко вивчати, як саме штучний інтелект генерує свої результати, – ці галюцинації можуть бути майже неможливими для розробників відстежувати та зрозуміти.

Невід’ємні чи ні, галюцинації штучного інтелекту є розчаровуючими в кращому випадку, небезпечними та неетичними в гіршому.

У різних галузях, включаючи охорону здоров’я, фінанси та громадську безпеку, наслідки галюцинацій включають все, від поширення дезінформації та порушення конфіденційних даних до навіть загрози життю. Якщо галюцинації продовжуватимуться без контролю, добробут користувачів та довіра до систем штучного інтелекту будуть поставлені під загрозу.

Як такого, важливо, щоб опікуни цієї потужної технології визнали та звернулися до ризиків галюцинацій штучного інтелекту, щоб забезпечити достовірність результатів, згенерованих LLM.

RAGs як початок вирішення галюцинацій

Одним із методів, який виник на передньому плані у пом’якшенні галюцинацій, є пошукова доповнена генерація, або RAG. Це рішення підвищує надійність LLM завдяки інтеграції зовнішніх джерел інформації – витягуючи відповідну інформацію з довіреного банку даних, обраного відповідно до природи запиту – для забезпечення більш надійних відповідей на конкретні запити.

Деякі експерти галузі вважають, що RAG самостійно може вирішити галюцинації. Але бази даних, інтегровані з RAG, все ще можуть містити застарілі дані, які можуть генерувати хибну або вводючу в оману інформацію. У деяких випадках інтеграція зовнішніх даних через RAG може навіть збільшити ймовірність галюцинацій у великих мовних моделях: якщо модель штучного інтелекту надмірно покладається на застарілі дані, які вона сприймає як повністю актуальні, ступінь галюцинацій може стати ще більш серйозним.

Охоронні поручні штучного інтелекту – мости між прогалинами RAG

Як ви можете побачити, RAG дійсно обіцяє пом’якшити галюцинації штучного інтелекту. Однак галузі та підприємства, які звертаються до цих рішень, також повинні зрозуміти їх внутрішні обмеження. Дійсно, коли їх використовують у поєднанні з RAG, існують додаткові методи, які слід використовувати при зверненні до галюцинацій LLM.

Наприклад, підприємства можуть використовувати реальні охоронні поручні штучного інтелекту, щоб захистити результати LLM та пом’якшити галюцинації штучного інтелекту. Охоронні поручні діють як сітка, яка перевіряє всі результати LLM на вигадану, нецензурну або некоректну інформацію до того, як вона потрапить до користувачів. Цей проактивний підхід середнього програмного забезпечення забезпечує надійність та актуальність пошуку в системах RAG, в кінцевому підсумку підвищуючи довіру серед користувачів та забезпечуючи безпечну взаємодію, яка відповідає бренду компанії.

Альтернативно, існує підхід “інженерії запиту”, який вимагає від інженера змінити основний запит. Додавши попередньо визначені обмеження до прийнятних запитів – тобто, контролюючи не тільки те, де LLM отримує інформацію, але й те, як користувачі запитують答案и, – інженерія запиту може спрямувати LLM до більш надійних результатів. Основний недолік цього підходу полягає в тому, що така інженерія запиту може бути надзвичайно трудомістким завданням для програмістів, які часто вже обмежені часом та ресурсами.

Підхід “файн-тюнінгу” включає навчання LLM на спеціалізованих наборах даних для доопрацювання та пом’якшення ризику галюцинацій. Цей метод тренує спеціалізовані LLM для витягування інформації з конкретних, довірених доменів, покращуючи точність та надійність результатів.

Також важливо враховувати вплив довжини входу на результати прийняття рішень LLM – дійсно, багато користувачів вважають, що чим більш розширений та параметризований їх запит, тим більш точними будуть результати. Однак одне недавнє дослідження показало, що точність результатів LLM насправді зменшується, коли довжина входу збільшується. Таким чином, збільшення кількості керівних принципів, призначених для будь-якого запиту, не гарантує постійної надійності генерації надійних застосунків штучного інтелекту.

Це явище, відоме як перевантаження запиту, підкреслює внутрішні ризики надмірно складних конструкцій запиту – чим ширше сформульований запит, тим більше дверей відкривається до неточної інформації та галюцинацій, коли LLM намагається виконати кожен параметр.

Інженерія запиту вимагає постійних оновлень та доопрацювання та все ще бореться з попередженням галюцинацій або безглуздих відповідей ефективно. Охоронні поручні, з іншого боку, не створять додаткового ризику вигаданих результатів, роблячи їх привабливим варіантом для захисту штучного інтелекту. На відміну від інженерії запиту, охоронні поручні пропонують всебічне реальне рішення, яке забезпечує генерацію штучного інтелекту лише в межах попередньо визначених меж.

Хоча це не самостійне рішення, зворотний зв’язок користувачів також може допомогти пом’якшити галюцинації діями, такими як голосування “за” та “проти”, які допомагають уточнювати моделі, підвищувати точність результатів та знижувати ризик галюцинацій.

Самостійно рішення RAG вимагають широких експериментів, щоб досягти точних результатів. Але коли їх поєднують з доопрацюванням, інженерією запиту та охоронними поручнями, вони можуть пропонувати більш цілеспрямовані та ефективні рішення для звернення до галюцинацій. Розгляд цих додаткових стратегій продовжить покращувати пом’якшення галюцинацій у LLM, сприяючи розробці більш надійних та довірчих моделей у різних застосуваннях.

RAGs не є рішенням галюцинацій штучного інтелекту

Рішення RAG додають величезну цінність LLM, збагачуючи їх зовнішніми знаннями. Але з так багато ще невідомого про генеративний штучний інтелект, галюцинації залишаються вродженим викликом. Ключ до боротьби з ними лежить не в спробах їх усунути, а радше в пом’якшенні їхнього впливу за допомогою комбінації стратегічних охоронних поручнів, процесів перевірки та доопрацьованих запитів.

Чим більше ми можемо довіряти тому, що говорить GenAI, тим більш ефективно та ефективно ми зможемо використати його потужний потенціал.