AI-“сльота” прийде за корпорацією

AI має проблему “сльоти”. Для деяких з нас це може проявитися в вашому щоденному скролі соціальних мереж у вигляді відео, створених за допомогою AI, або, якщо ви заглибилися досить глибоко в інтернет, як реаліті-шоу між персоналіфікованими фруктами, як люди. Хоча ці приклади можуть бути безпечними, де ми проводимо межу того, як вміст, створений за допомогою AI, з’являється в більш серйозних, ризико-чутливих середовищах, таких як корпорації?

Корпоративна “сльота” AI проявляється у вигляді поліпшених, впевнених висновків, побудованих на мілководних, недоступних або неточних даних, і компанії починають відчувати витрати. Дані AlphaSense відображають цю зміну, з посиланнями на “сльоту” AI у новинах та медійному висвітленні на 20% щоквартально з 4-го кварталу 2025 року до 1-го кварталу 2026 року.

Однією з недоліків, з якими стикаються користувачі загальних інструментів AI, є відсутність доступу до безпечних, преміум-джерел – не кожна рішення може чи повинно бути засноване на джерелах з інтернету. Коли мова йде про рішення, які відповідають вимогам вищого рівня, чітка межа між інструментами, які генерують поверхневі відповіді, і тими, які надають вузькоспеціалізовані знання, стає все більш очевидною.

Виклик полягає в тому, що вибух вмісту, створеного за допомогою AI, підживлює величезний цикл низькоякісних входів і ще нижчої якості виходів. Організації, які можуть розірвати цей цикл і зосередитися на надійних, вузькоспеціалізованих входах, визначатимуть наступну фазу корпоративного AI, відрізняючи справжні знання від штучного шуму.

Найбільша обмеження корпоративного AI – дані, які його годують

Загальні інструменти AI – це системи, які можуть зрозуміти, вивчити та вивести висновки в багатьох галузях. Ці інструменти зосереджені на фундаментальних можливостях, таких як висновок і навчання, що робить їх корисними помічниками у спрощенні процесів роботи та підвищенні продуктивності. Однак загальні дані, використані для навчання цих моделей, можуть виробляти однаково загальні виходи, що призводить до “сльоти” AI при використанні у великих масштабах.

У галузі технологій багато компаній зараз використовують ці загальні інструменти AI та великі мови моделей для різних робочих процесів та економії часу.

Компанії більше не просто тестують ці моделі; вони впроваджують їх у агентські робочі процеси, де системи AI автономно взаємодіють з корпоративними даними, API та зовнішніми додатками для виконання кінцевих завдань. Це обмежує корпорації даними, які часто важко чи неможливо підтвердити, що призводить до виходів, які не мають цінності.

Використання загальних інструментів AI породжує кілька викликів, які сприяють “сльоті” AI у корпораціях:

• Вміст, створений за допомогою AI, часто переповнює внутрішні бази знань, роблячи їх важчими для довіри та використання.
• Помилки, що повторюються через цикли зворотного зв’язку, засмічують вміст загальною та нерелевантною інформацією.
• AI спрощує процес створення, але в результаті знижує контроль якості, який зазвичай інтегрується на шляху.

Натомість вузькоспеціалізований AI зосереджується на глибині над шириною, проектуючи системи, які розв’язують вузькоспеціалізовані, високоцінні завдання в конкретній галузі. Замість того, щоб покладатися на широкі, публічно доступні навчальні дані, ці інструменти будуються на основі власних та кураторських наборів даних, що дозволяє їм виробляти набагато вищої якості та контекстно-релевантні виходи. Закріпляючи AI в галузі експертизи, а не в загальних даних, прикладний AI надає знання, які відповідають вимогам точності та підзвітності корпоративного використання. Особливості, такі як прозоре джерелознавство, висновки, підтверджені цитатами, та глибші можливості дослідження, забезпечують, що інформація є відстежуваною, перевіреною та довіреною.

Цей рівень точності не є необов’язковим для корпорацій, які працюють у великих масштабах, де ризик “сльоти” AI може перекладатися у критичні помилки.

Розірвання циклу зворотного зв’язку

Погані входи та виходи можуть впливати на відповіді з часом, ще більше загострюючи проблему “сльоти” AI та створюючи негативний цикл зворотного зв’язку.

Наприклад, у середовищах, які використовують загальні моделі, вміст, створений за допомогою AI, створив самопідтримуючий цикл зниження якості. Системи AI часто вчаться з внутрішньої інформації, до якої вони мають доступ, включаючи попередні виходи, і часто поглинають та відтворюють існуючі помилки. Якщо ці матеріали містять помилки, помилки повторюються, і загальні закономірності підтримують себе. Все досить просто: якщо тренувальні дані низької якості, виходи моделі будуть відображати той же стандарт.

Оригінальне мислення також знижується, коли люди менше залучені. І коли процеси продовжуються, цикл повторюється, і якість виходів продовжує знижуватися експоненціально. Інструменти AI часто не пріоритезують верифікацію точності, а також не ретельно розглядають вибір слів при заповненні пробілів у вмісті. Отже, “сльота” AI засмічує вміст штучним шумом все більшою швидкістю.

Ця тенденція проявляється у дуже видимий спосіб у великих корпоративних комунікаціях. Нещодавня стаття Barron’s, підтримана даними AlphaSense, досліджувала використання характерної форми AI “це не те – це те”, яка з’явилася у шокуює великому числі зовнішніх корпоративних каналів комунікацій. За даними статті, використання цієї лексики майже подвоїлося як у 2024, так і у 2025 році.

Поза комунікаціями ризик “сльоти” AI може суттєво вплинути на корпорації по всім функціям компанії, особливо коли AI стає все більш поширеним потоком роботи у процесах прийняття рішень. Якщо критичне прийняття рішень впливає на неточну або навіть надлишкову інформацію, команди не можуть і не повинні бути впевнені у своїх виходах.

Найефективніші системи AI забезпечують прийняття рішень вищого рівня

Корпорації, які розширюють використання AI та оцінюють ROI, різниця між цінними знаннями та “сльотою” AI стане визначальною конкурентною перевагою. Організації, які покладаються лише на загальні інструменти AI без активного забезпечення якості даних та контексту домени, ризикують затопити свої операції та марно витратити час ннадіштовими виходами.

Прикладний AI пропонує безпечніший та більш освідчений шлях вперед, але організації також повинні поєднати ці інструменти з явним людським наглядом, стандартами верифікації та постійною оцінкою робочих процесів та виходів для виявлення “сльоти” AI. Не існує універсального підходу.

Компанії, які зможуть зробити це правильно, прийматимуть кращі, більш обґрунтовані рішення. І на ринку, який усе більше під впливом AI, ця різниця вже стає конкурентною перевагою.