Вплив довіри до даних на успіх штучного інтелекту за звітом MIND: чому більшість ініціатив штучного інтелекту побудовані на нестійких фундаментах

Звіт «Вплив довіри до даних на успіх штучного інтелекту» компанії MIND, створений у співпраці з CISO ExecNet, містить різку заяву: прийняття штучного інтелекту прискорюється з темпом, який значно перевищує можливість організацій забезпечувати безпеку та управління даними, які його живлять. Результатом є розрив між амбіціями та виконанням, коли більшість підприємств розгортають штучний інтелект у великому масштабі без фундаментальної довіри, необхідної для того, щоб зробити його надійним, безпечним чи успішним.

Приняття штучного інтелекту випереджає довіру до даних

Штучний інтелект вже не є експериментальним. Він вже вбудований у підприємницькі операції. Близько 90% організацій використовують інструменти генерації штучного інтелекту рівня підприємства, однак інфраструктура даних не поспішала за цим.

Ця диспропорція створює небезпечну реальність. Хоча системи штучного інтелекту швидко інтегруються у робочі процеси, процеси прийняття рішень та системи, орієнтовані на клієнтів, дані, які живлять ці системи, залишаються погано класифікованими, слабо керованими та несумісними з безпекою. Близько двох третин CISO повідомляють про низьку впевненість у своїй здатності забезпечувати належні засоби контролю безпеки в середовищах штучного інтелекту.

Цей розрив не є теоретичним. Він вже дає помітні результати. Лише близько однієї п’ятої ініціатив штучного інтелекту досягають своїх заданих показників ефективності, що свідчить про те, що невдача не є окремим випадком, а системною проблемою, яка безпосередньо пов’язана зі слабкими фундаментами даних.

Основна проблема: структурна пропаст між швидкістю та безпекою

У центрі звіту лежить проста, але потужна теза: довіра до даних визначає, чи успішний штучний інтелект, чи ні.

Довіра до даних означає впевненість організації в тому, що її системи, включаючи штучний інтелект, використовують дані безпечно та відповідним чином. Коли ця довіра висока, штучний інтелект може швидко розгортатися та давати значимі результати. Коли вона низька, штучний інтелект стає непередбачуваним, ризикованим та часто неефективним.

Більшість організацій рухаються швидше, ніж їхні моделі управління були спроектовані для обробки. Рамки безпеки були створені для людських користувачів, які працюють з людською швидкістю, тоді як системи штучного інтелекту працюють миттєво, мають широкий доступ до даних та позбавлені контекстного судження.

Це створює структурну пропаст. Політика може існувати, але механізми забезпечення не можуть поспішати за швидкістю та масштабом штучного інтелекту. Організації не борються з визначення правил. Вони борються з їх застосуванням у реальному часі.

Чому фундаменти даних штучного інтелекту не справляються

Одним з найяскравіших відкриттів є те, що штучний інтелект не вводить цілком нових ризиків. Натомість він розкриває роки накопичених проблем з даними, які раніше були приховані.

Тривалий час погане управління даними було підтримуваним, оскільки жодна система не могла легко доступитися до всього одночасно. Штучний інтелект змінює це повністю. Момент, коли система штучного інтелекту підключається до джерела даних, вона може миттєво видати всю доступну інформацію, включаючи некласифіковані, надмірно поширені або чутливі дані.

Це усуває те, на що багато організацій невідомо спиралися: той факт, що дані були важко знайти. Тепер все видно та дієво у великому масштабі.

Наслідки суттєві. Організації часто не знають, які дані доступні інструментам штучного інтелекту, які дані їхні агенти використовують, або навіть які системи штучного інтелекту діють у їхніх середовищах. Ці сліпі плями створюють умови, при яких ризик не тільки присутній, але й активно наростає.

Штучний інтелект не поводиться як людина, і це змінює все

Основним дефектом поточних моделей безпеки підприємств є те, що вони припускають людську поведінку. Люди застосовують судження, працюють з обмеженою швидкістю та можуть бути навчені або аудитовані. Агенти штучного інтелекту нічого з цього не роблять.

Системи штучного інтелекту успадковують дозволи та діють відповідно до них без вагань. Вони не фільтрують інформацію на основі контексту чи намірів. Якщо вони можуть доступитися до даних, вони оброблять їх, незалежно від того, чи є цей доступ відповідним.

Ця несумісність між людьми, орієнтованими на безпеку, та швидкістю виконання машин створює фундаментальну проблему управління. Організації застосовують правила, призначені для людей, до систем, які поводяться зовсім інакше.

Результатом є надмірна відкритість. Інструменти штучного інтелекту можуть ненавмисно видати чутливу інформацію, працювати за межами призначених меж або генерувати виводи на основі ненадійних чи недостовірних джерел даних.

Більшість ініціатив штучного інтелекту не справляються, і багато навіть не знають про це

Багато невдач штучного інтелекту залишаються невидимими. Організації часто вимірюють успіх за допомогою метрик, заснованих на діяльності, таких як використання, оброблені запити або згенеровані виводи.

Ці метрики створюють хибне відчуття прогресу. Система може здаватися дуже активною, одночасно генеруючи неточні результати, розкриваючи чутливу інформацію або не надаючи бізнес-цінності.

Це створює розрив у вимірюванні. Без чітко визначених показників ефективності, заснованих на результатах, організації не можуть розрізняти успішні та невдачі ініціатив штучного інтелекту. Невдача стає нормалізованою, неправильно діагностованою або проігнорованою.

Підосновою цих невдач рідко є сам модель штучного інтелекту. Натомість це стан даних. Погана класифікація, некерований доступ та несумісна якість даних створюють нестійкі фундаменти, яких жодна модель не може компенсувати.

Штучний інтелект є тестом на зрілість безпеки

Штучний інтелект діє як посилитель існуючих слабкостей. Організації з сильним управлінням даними, керуванням ідентифікацією та можливостями забезпечення можуть ефективно розгортати штучний інтелект. Ті, хто не має цих фундаментальних елементів, стикаються з зростаючими ризиками.

Лише мала частина організацій зараз має рівень зрілості безпеки, необхідний для безпечного розгортання штучного інтелекту у великому масштабі. Для більшості штучний інтелект вводить потенціал серйозних наслідків, починаючи від провальних проєктів та закінчуючи регулюванням та, в крайніх випадках, загрозами для бізнесу.

Штучний інтелект не є внутрішньо небезпечним. Він просто прискорює вплив умов, які вже існують у середовищі даних організації.

Конкурентний розрив вже утворюється

Хоча значна частина обговорення центрується на ризиках, звіт також підкреслює суттєву можливість. Організації, які досягають високих рівнів довіри до даних, отримують явну конкурентну перевагу.

З чистими, класифікованими та добре керованими даними ініціативи штучного інтелекту можуть рухатися швидше, розгортатися з більшою впевненістю та давати більш надійні результати. Безпека стає засобом, а не перешкодою.

Ці організації не тільки знижують ризики. Вони будують інфраструктуру, яка дозволяє безперервну експериментацію, швидшу ітерацію та підтримку конкурентного імпульсу.

Тим часом організації, які затримують інвестиції у довіру до даних, стикаються з наростаючими недоліками. Кожна нова ініціатива штучного інтелекту додає складність, збільшує відкритість та робить ще складніше розрізняти цінність та ризик. Розрив між цими двома групами вже розширюється та, ймовірно, прискориться з подальшим прийняттям штучного інтелекту.

Що організації повинні зробити далі

Шлях вперед полягає у фундаментальних поліпшеннях, а не у інкрементних виправленнях.

Перший крок – це видимість. Організації повинні зрозуміти, які дані вони мають, де вони розташовані та як до них доступаться. Без цього управління та забезпечення неможливі.

Другий крок – розширення рамок ідентифікації для включення нелюдських акторів. Агенти штучного інтелекту повинні розглядатися як ідентифікатори з обмеженими дозволами, а не як інструменти, які успадковують широкий доступ.

Третій крок – визначення успіху до розгортання. Ініціативи штучного інтелекту повинні мати чіткі бізнес-результати, вимоги до якості даних та вимірювані показники ефективності, встановлені заздалегідь.

Нарешті, організації повинні створити механізми забезпечення, які працюють зі швидкістю штучного інтелекту. Політика сама по собі недостатня. Потрібні засоби контролю в реальному часі, моніторингу та аудиту для ефективного управління потоками даних.

У кінцевому підсумку все про фундаменти

Звіт «Вплив довіри до даних на успіх штучного інтелекту» компанії MIND робить переконливий випад, що майбутнє штучного інтелекту не визначається моделями, алгоритмами чи потужністю обчислень. Воно визначається чимось значно меншим, але значно важливішим: якістю, управлінням та довірою до даних, що лежать під ним.

Організації, які визнають це та інвестують у довіру до даних, не тільки знижуватимуть ризики, але й розблокуватимуть повний потенціал штучного інтелекту як конкурентної переваги. Ті, хто цього не робить, продовжуватимуть переживати застряглі ініціативи, приховані невдачі та зростаючу відкритість, оскільки штучний інтелект розгортається за межами їхньої здатності контролювати його.