Якби ваш працівник діяв як ШІ, ви вже б його звільнили

Уявіть, що ви щойно найняли когось нового, і більшість днів вони ефективні, обізнані, красномовні та впевнені. Вони — усе, на що ви сподівалися, демонструючи багато якостей відмінного працівника.

Тепер уявіть, що час від часу, коли вони стикаються з питанням, на яке не знають відповіді, вони просто вигадують щось. Це звучить плавно, переконливо, і спочатку ви сприймаєте це за чисту монету. Але коли це впливає на бізнес, ви повертаєтеся до цього працівника, кидаєте йому виклик — і він не може пояснити свій процес мислення чи поділитися своїми розрахунками. Ви можете навіть пояснити йому, що він помиляється, а він відповість наполегливим запереченням і ще більшою кількістю вигадок, щоб їх підкріпити. Після другого‑третнього разу такої ситуації, чи, ймовірно, ви б їх звільнили, або принаймні дали попередження? Відповідь більшості роботодавців майже беззаперечно — так.

Мене вражає, що компанії тепер довіряють критичні робочі процеси та прийняття рішень працівнику, який, як відомо, проявляє саме таку поведінку. Єдина причина, чому це залишається непоміченим, полягає в тому, що цей «працівник» — це програмне забезпечення, а не людина.

Чому ШІ не помиляється так, як люди

Серед компаній, які впроваджують ШІ, поширене неправильне припущення, що якщо технологія має рівень помилок, це приблизно та сама проблема, що і людська помилка, і її можна керувати так само. Однак перевірки, ревізії та ескалація не завжди працюють з великими мовними моделями (LLM). Їх створюють, щоб звучати як люди, але якщо подивитися, що стоїть під капотом, ви побачите, що вони зовсім не працюють як ми.

Якщо зірковий працівник робить помилку, ми припускаємо, що це сталося щиро — вони робили все можливе і випадково помилилися. Таке трапляється. Якщо ж вони навмисно вигадують відповідь, щоб уникнути незнання чогось, і роблять це повторно, ми розглядаємо це як проступок. Менеджери знають, на чому зосередити нагляд, бо складність і межі помилок збігаються. Вони можуть попросити працівника пояснити свою логіку і поставити питання щодо неї. Працівник зазвичай розуміє, коли виходить за межі своїх знань, і каже про це. Після однієї помилки вони вчаться, тому та ж помилка не повторюється у безперервному циклі.

Системи ШІ перевертають усі ці припущення. Їхня типова реакція на провал — плавна, впевнена вигадка. Вони генерують правдоподібну відповідь, яка просто не відповідає дійсності, що є точною поведінкою, яка могла б завершити кар’єру людини. LLM створені для того, щоб генерувати найімовірніше статистично продовження тексту, і коли вони не знають відповіді, часто виробляють щось, що звучить так, ніби це може бути правильно. Дослідники OpenAI визнали, що певний рівень фактичних помилок є статистичною неминучістю роботи цих моделей, і що навчання винагороджує впевнену здогадку замість щирого визнання невизначеності.

Де нейросимволічні підходи входять у гру

Саме це нейросимволічні підходи призначені виправити. Вони поєднують нейронні мережі, які чудово розуміють хаотичну, реальну мову та дані, з детерміністичним, правил‑орієнтованим мисленням. Це означає, що висновки системи випливають з явної логіки, яку можна перевірити, а не з процесу, який ніхто не може побачити всередині.

Без цього додаткового рівня логіки, який забезпечує нейросимволічна технологія, помилки ШІ не корелюють зі складністю роботи так, як у людини — вони непередбачувані. Вони можуть з’являтися під час тривіальних завдань, тоді як складні проходять без проблем, що ускладнює визначення, на чому краще зосередити людський нагляд. Їхні пояснення, коли вони надаються, створюються постфактум, а не дають справжній звіт про те, як був досягнутий висновок. Та сама помилка може повторюватися без кінця, бо в системі немає нікого, хто міг би навчитися з неї або нести за неї відповідальність.

Довіра без розуміння

Дослідники задокументували, що коли люди нові у системі, вони схильні відмовитися від неї після однієї помітної помилки; але коли система знайома, вони схиляються до іншого екстремуму — приймаючи його результати просто тому, що звикли до них, а не тому, що ці результати стали надійнішими. Рідко спостерігається правильний рівень довіри, бо це залежить від того, чи розуміють люди, коли ШІ‑система, ймовірно, помилиться, і чи вміють це розпізнати.

Це не означає, що ШІ не слід довіряти важливій роботі. Це означає, що ми готові надати йому такий рівень довіри, якого не надали б людині, частково тому, що немає очевидної особи, яку можна притягнути до відповідальності у разі провалу.

Якщо ШІ має виконувати роботу, що вимагає оцінки, так само, як цінний колега, йому потрібно відповідати тим самим базовим стандартам. Відповіді мають бути перевірними, з видимою аргументацією, і приймати той факт, що іноді найкраще, що він може зробити, — сказати «Я не знаю».