Якщо ваш AI спотворює реальність, не звинувачуйте AI

«Галюцинації» AI – ті переконливі, але хибні відповіді – привертають багато уваги ЗМІ, як-от недавня стаття New York Times, AI стає потужнішим, але його галюцинації стають гіршими. Галюцинації є справжньою загрозою, коли ви працюєте з споживчим чат-ботом. У контексті бізнес-застосувань AI це ще серйозніша проблема. На щастя, як лідер бізнес-технологій, я маю більше контролю над цим. Я можу забезпечити, щоб агент мав правильні дані для отримання значущої відповіді.

Бо це справжня проблема. У бізнесі немає виправдання для галюцинацій AI. Перестаньте звинувачувати AI. Звинувачуйте себе за те, що не використовуєте AI правильно.

Коли генеративні інструменти AI галюцинують, вони роблять те, для чого вони призначені – надають найкращу відповідь, яку вони можуть, на основі доступних даних. Коли вони вигадують щось, створюючи відповідь, яка не базується на реальності, це тому, що їм бракує відповідних даних, вони не можуть знайти їх або не розуміють питання. Так, нові моделі, як-от o3 і o4-mini від OpenAI, галюцинують більше, діють ще більш «креативно», коли у них немає хорошої відповіді на поставлене питання. Так, потужніші інструменти можуть галюцинувати більше – але вони також можуть надати більш потужні та цінні результати, якщо ми налаштуємо їх для успіху.

Якщо ви не хочете, щоб ваш AI галюцинував, не позбавляйте його даних. Надайте AI найкращі, найбільш відповідні дані для проблеми, яку ви хочете вирішити, і він не буде спокушений зайти не туди.

Дажи тоді, коли ви працюєте з будь-яким інструментом AI, я рекомендую зберігати свої критичні навички мислення. Результати, які надають агенти AI, можуть бути продуктивними та приємними, але суть полягає не в тому, щоб вимкнути свій мозок і дозволити програмному забезпеченню робити все мислення за вас. Залишайте питання. Коли агент AI надає вам відповідь, запитайте цю відповідь, щоб переконатися, що вона має сенс і базується на даних. Якщо так, це має бути заохочувальним знаком того, що це варто вашого часу, щоб поставити подальші питання.

Чим більше ви запитаєте, тим кращі ідеї ви отримаєте.

Чому відбуваються галюцинації

Це не якась загадка. AI не намагається брехати вам. Кожна велика мова модель (LLM) AI фактично передбачає наступне слово або число на основі ймовірності.

На високому рівні те, що відбувається тут, полягає в тому, що LLM пов’язують речення та абзаци по одному слову за раз, передбачаючи наступне слово, яке повинно виникнути в реченні на основі мільярдів інших прикладів у навчальних даних. Предки LLM (крім Clippy) були автозаповненням для текстових повідомлень та комп’ютерного коду, автоматизованими інструментами перекладу людської мови та іншими ймовірнісними лінгвістичними системами. З підвищенням потужності обчислювальної техніки та навчання на інтернет-масштабних обсягах даних ці системи стали «розумними» enough, щоб вести повну розмову через чат, як світ дізнався з появою ChatGPT.

Негативно налаштовані люди щодо AI люблять вказувати на те, що це не те саме, що справжня «інтелект», а лише програмне забезпечення, яке може витягувати та повторювати людський інтелект, який був введений в нього. Запитайте його підсумувати дані у написаному звіті, і він імітує спосіб, яким інші письменники підсумовували подібні дані.

Це здається мені академічною суперечкою, поки дані правильні та аналіз корисний.

Що відбувається, якщо в AI немає даних? Він заповнює пробіли. Іноді це смішно. Іноді це повний хаос.

При створенні агентів AI це ризик у 10 разів. Агенти повинні надавати дієві ідеї, але вони приймають більше рішень на своєму шляху. Вони виконують багатокрокові завдання, де результат кроку 1 інформує кроки 2, 3, 4, 5, … 10 … 20. Якщо результат кроку 1 неправильний, помилка буде посилена, роблячи висновок на кроку 20 ще гіршим. Особливо, оскільки агенти можуть приймати рішення та пропускати кроки.

Якщо все зроблено правильно, агенти досягають більшого для бізнесу, який їх розгортає. Однак, як менеджери продукту AI, нам потрібно визнати більший ризик, який супроводжує більшу винагороду.

Що ми зробили правильно, так це те, що ми побачили ризик і подолали його. Ми не просто створили фантастичного робота; ми забезпечили, щоб він працював на правильних даних. Ось що, на мою думку, ми зробили правильно:

• Збудуйте агента так, щоб він ставив правильні питання та перевіряв, чи має він правильні дані. Перевірте, чи процес первинного вводу даних агента насправді більш детермінований, менш «креативний». Ви хочете, щоб агент сказав, коли у нього немає правильних даних, і не продовжував до наступного кроку, а не вигадував дані.
• Структуруйте план для вашого агента – переконайтеся, що він не вигадує новий план кожного разу, а має напівструктурований підхід. Структура та контекст надзвичайно важливі на стадії збору та аналізу даних. Ви можете дозволити агенту розслабитися та вести себе більш «креативно», коли у нього є факти та він готовий написати підсумок, але спочатку отримайте факти правильно.
• Збудуйте високоякісний інструмент для витягування даних. Це повинно бути більше, ніж просто виклик API. Візьміть час, щоб написати код (люди все ще роблять це), який створює правильну кількість та різноманітність даних, які будуть зібрані, включивши перевірки якості до процесу.
• Зробіть так, щоб агент показував свою роботу. Агент повинен цитувати свої джерела та посилатися на місце, де користувач може перевірити дані, з оригінального джерела, та вивчити їх далі. Без жодних хитрощів!
• Огорожі: Подумайте про те, що може піти не так, та збудуйте захист проти помилок, яких ви абсолютно не можете допустити. У нашому випадку це означає, що коли агент, призначений для аналізу ринку, не має даних – тим, чого я मतलब, це наші дані Similarweb, а не якийсь випадковий джерело даних, витягнутий з Інтернету – переконайтеся, що він не вигадує нічого. Краще, якщо агент не зможе відповісти, ніж надати хибну чи вводючу в оману відповідь.

Ми включили ці принципи до нашого недавнього випуску трьох нових агентів, з ще більше, які слідують. Наприклад, наш агент підготовки до зустрічі AI для продажників не просто запитує ім’я цільової компанії, а також деталі щодо мети зустрічі та з ким вона проводиться, підготувавши його до надання кращої відповіді. Він не повинен вигадувати, оскільки він використовує величезний обсяг даних компанії, цифрових даних та профілів виконавців, щоб інформувати свої рекомендації.

Чи наш агент досконалий? Ні. Ніхто ще не створює досконалий AI, навіть найбільші компанії світу. Але вирішення проблеми – це значно краще, ніж її ігнорування.

Хочете менше галюцинацій? Надайте своєму AI щедрий шматок високоякісних даних.

Якщо він галюцинує, можливо, це не AI потребує ремонту. Можливо, це ваш підхід до використання цих потужних нових можливостей без вкладення часу та зусиль для отримання правильних результатів.