Тіньова штучний інтелект: пробіл у керуванні, який організації не можуть ігнорувати

На цьому етапі розвитку штучного інтелекту лідери бізнесу загалом визнають важливість керування штучним інтелектом. Однак темп, у якому організації розробляють політики та обмеження, продовжує відставати від того, як швидко працівники приймають і інтегрують штучний інтелект у свою щоденну роботу.

Організації, які чекають, поки框ові керування будуть відчутними, перш ніж дозволити використання штучного інтелекту, повинні зіткнутися з жорсткою реальністю: у відсутності чітких правил щодо того, як, що і де можна використовувати штучний інтелект, працівники самі визначатимуть ці межі. І ці рішення можуть безпосередньо суперечити організаційним стандартам, толерантності до ризику або нормативним зобов’язанням.

Цей пробіл у керуванні спричинив появу тіньової штучного інтелекту як домопоглощеної моделі роботи у багатьох організаціях.

Поширена і зростаюча проблема

Тіньовий штучний інтелект не обмежується окремими працівниками, які експериментують на околиці. Він поширюється по всій організації, включаючи керівництво. Коли штучний інтелект стає частиною щоденної роботи, навіть старші керівники обходять офіційні процеси затвердження, щоб скористатися його перевагами. Насправді, нещодавнє дослідження виявило, що 68% керівників з безпеки, включаючи CISO, визнають, що вони включили певний рівень неавторизованого штучного інтелекту у свої робочі процеси.

У той же час 79% керівників ІТ-відділів повідомляють, що їхні організації вже пережили негативні наслідки від спільного використання корпоративних даних із інструментами штучного інтелекту. І аналітики передбачають, що ця проблема буде посилюватися. Gartner оцінює, що до 2030 року понад 40% організацій переживуть інциденти безпеки або несумісності через використання неавторизованих інструментів штучного інтелекту.

Розширювана поверхня ризику

Тіньовий штучний інтелект представляє широкий спектр ризиків, включаючи:

• Втрата контролю над даними та потенційну витоку даних
• Розширення уразливості безпеки та поверхні атаки
• Несумісність та нормативну експозицію
• Відсутність видимості того, як штучний інтелект використовується
• Втрата інтелектуальної власності
• Пошкодження репутації
• Неточні або упереджені виходи

Істотним чинником цих ризиків є фундаментальне непорозуміння того, як системи штучного інтелекту обробляють дані.

Багато працівників припускають, що використання “безкоштовних” інструментів, особливо тих, які не вимагають входу в систему, пропонують анонімність або захист. Насправді ці інструменти часто залежать від входів користувача для навчання та поліпшення своїх моделей, і в деяких випадках, ділять дані з третіми сторонами. Ці дані можуть включати дуже чутливі відомості, такі як особисто ідентифікована інформація (PII), медичні або юридичні дані, фінансові записи, інтелектуальна власність та інші конфіденційні відомості організації.

Ще більш занепокоєння викликає те, що осведомленість не завжди змінює поведінку. Дослідження показало, що 38% працівників свідомо ділять чутливі відомості з інструментами штучного інтелекту без організаційного затвердження.

Чому тіньовий штучний інтелект триває

Для ефективного вирішення проблеми тіньового штучного інтелекту організації повинні спочатку зрозуміти його кореневу причину.

У більшості випадків працівники не діють з зловмисною наміром. Вони реагують раціонально на своє середовище. Вони під тиском рухатися швидше, робити більше з меншим, і забезпечувати кращі результати. Штучний інтелект дозволяє все це.

Тіньовий штучний інтелект виникає, коли організаційні системи не можуть впоратися з цими очікуваннями. Поширені чинники включають:

• Суворі заборони на інструменти штучного інтелекту на робочому місці
• Затверджені інструменти, які менш здатні або менш зручні для користувача
• Тиск для виконання агресивних термінів
• Повільні або складні процеси закупівель
• Нечіткі, несумісні або відсутні політики
• Обмежена підготовка або керівництво
• Перебільшена впевненість у особистому судженні або недооцінка ризику

У своєму основі тіньовий штучний інтелект є компромісом. Коли передбачувані продуктивні вигоди переважують передбачувані ризики, працівники обиратимуть швидкість і ефективність кожен раз.

Керування штучним інтелектом без гальмування інновацій

Працівники вже використовують штучний інтелект. Ігнорування цього факту або відкладення дій тільки збільшує розрив між політикою та практикою.

Організації повинні змінити свій підхід від контролю до дозволу.

Це починається з встановлення чітких, практичних та прозорих керівних принципів, навіть якщо вони не повністю зрілі. Ранні обмеження забезпечують напрямок, зменшують двозначність та створюють спільне розуміння прийнятного використання.

Але політика сама по собі недостатня. Організації також потребують видимості. Це вимагає створення механізмів, заснованих на довірі, які дозволяють працівникам безпечно розкривати, які інструменти вони використовують і чому. Підходи, такі як “амністія тіньового штучного інтелекту” або анонімне повідомлення, можуть забезпечити критичні знання без негайного покарання поведінки.

У той же час організації повинні підтримувати підзвітність. У випадках, коли експозиція даних значна або недбала, наслідки можуть бути необхідними. Метою не є повністю усунути ризик, а керувати ним розумно.

Від тіньового до стратегічного

Тіньовий штучний інтелект є сигналом того, що інновації рухаються швидше, ніж організаційні структури, призначені для їхнього контролю.

Організаціям не можна чекати. Встановлення керування зараз, навіть якщо воно не досконале, є критично важливим для зменшення ризику та відновлення видимості. Але керування само по собі недостатнє. Чіткі обмеження повинні бути поєднані з дозволом, освітою та доступними альтернативами, які дозволяють працівникам використовувати штучний інтелект безпечно та ефективно.

Метою не є обмежити використання штучного інтелекту, а сформувати його. Коли організації знаходять цей баланс, тіньовий штучний інтелект змінюється з прихованої відповідальності на керовану, стратегічну здатність. І тим самим вони можуть закрити розрив між тим, як штучний інтелект використовується, і тим, як він повинен використовуватися, перш ніж цей розрив переросте у порушення.