Освітлення тіньового штучного інтелекту

У різних галузях працівники все частіше використовують інструменти штучного інтелекту (ШІ), щоб трансформувати повсякденні операції. Чи то фахівці з маркетингу використовують ChatGPT для створення кампаній, чи інженери програмного забезпечення пишуть код за допомогою генеративних інструментів, ШІ тихо інтегрується майже в кожний аспект бізнесу. Фактично, проект MIT NANDA виявив, що в більш ніж 90% організацій працівники використовують особисті облікові записи чат-ботів для підтримки своєї щоденної роботи, часто без нагляду ІТ, однак лише 40% компаній мають офіційні підписки на великомасштабні інструменти моделей мови (LLM). Ця розрив між санкціонованим і секретним використанням ШІ відкрив нову сліпу зону безпеки: тіньовий ШІ. 

Без нагляду чутливі дані можуть бути поділені з зовнішніми моделями, виходи можуть бути неточними або упередженими, а команди з питань дотримання вимог втрачають видимість того, де і як обробляється інформація. Коли працівники продовжують експериментувати з інструментами поза затвердженими каналами, організації повинні переосмислити свою стратегію управління ШІ, або ці ризики продовжуватимуть проявлятися на поверхні. Для керівників ІТ заборонити інструменти ШІ зовсім не є рішенням, оскільки це може вплинути на конкурентоспроможність. Натомість увагу слід зосередити на гнучких обмеженнях, які балансують інновації з відповідальним управлінням ризиками.

Щоб залишатися на крок попереду ризиків, пов’язаних з ШІ, організації повинні встановити політики ШІ, які сприяють відповідальному впровадженню. Ці керівні принципи повинні заохочувати працівників використовувати ШІ у розумних межах, а будь-яка політика, встановлена організаціями, повинна відповідати цінностям компанії та апетиту до ризику. Щоб досягти успішної програми, організації повинні вийти за межі застарілих моделей управління та застарілих інструментів, які не виявляють або не відстежують використання ШІ по всьому бізнесу.

Хоча встановлення політики ШІ є важливим кроком, справжня сутність полягає в тому, щоб вони були розроблені як практичні, виконувані та відповідні інноваційній видению та потребам у дотриманні вимог кожного бізнесу, не гальмуючи його прогрес.

Ось чотири кроки, які організації можуть зробити:

1. Визначити найкращу основу

Бізнесам не потрібно починати з нуля. Деякі провідні установи вже розробили основи, які пропонують цінні точки відліку. Ресурси від Організації економічного співробітництва та розвитку (OECD), Національного інституту стандартів (NIST) та ISO/IEC можуть надати керівництво щодо безпечного та ефективного управління ШІ. Крім того, урядові органи починають втручатися. Нові правила Європейського Союзу (ЄС) встановлюють очікування щодо прозорості, підзвітності та управління. Разом ці ресурси допоможуть створити міцну основу для бізнесу, щоб побудувати та вдосконалити свої власні основи для забезпечення відповідального впровадження ШІ.

2. Збільшити видимість ШІ

Когда організації розплановують свій шлях до ефективного управління ризиками ШІ, для керівників з безпеки вкрай важливо розвинути тверде розуміння того, як ШІ фактично використовується по всьому бізнесу. Вони повинні інвестувати в інструменти, які допоможуть забезпечити видимість діяльності по всім функціям. Ці інструменти можуть відстежувати та доступитися до поведінки користувачів і не залишать жодного каменя на камені, коли йдеться про виявлення використання генеративного ШІ. Ця інформація вкрай важлива для виявлення використання тіньового ШІ та допомоги керівникам оцінити ризики та вирішити їх.

3. Створити раду ШІ

Як тільки видимість встановлена, керівники з безпеки можуть використовувати її для інформування нових політик. Оскільки використання ШІ впливає на весь бізнес, вони не повинні ізолювати процес прийняття рішень. Керівники з безпеки повинні розглянути можливість створення ради ШІ, яка б об’єднала ключових зацікавлених сторін з безпеки, юридичного відділу, ІТ та вищого керівництва. Фактично, Gartner повідомляє, що 55% організацій вже створили раду ШІ, тоді як 54% призначили керівника ШІ або спеціального керівника для нагляду за стратегією та впровадженням.

Ці міжфункціональні групи можуть оцінити як ризики, так і можливості, представлені інструментами ШІ, як затвердженими, так і не затвердженими, які починають проникати в їхнє бізнес-середовище. Вони можуть тоді сформувати нові політики разом, які відповідають потребам їхнього бізнесу та балансують ризик.

Наприклад, якщо рада визначає популярний інструмент ШІ, який використовується без затвердження і викликає проблеми з безпекою, вона може рекомендувати заборонити це застосування, тоді як затверджує безпечнішої альтернативи. Ці політики повинні бути підтримані інвестиціями в засоби безпеки та затверджені платформи ШІ, які відповідають стандартам дотримання вимог. Коли нові вдосконалення з’являються на ринку, рада також може запровадити формальний процес для працівників, щоб запропонувати інструменти для перевірки, допомагаючи організації залишатися гнучкою та відповідною до своєї стратегії ШІ.

4. Зміцнити освіту ШІ

Освіта працівників щодо ШІ буде ще одним важливим кроком для забезпечення організації широкої підтримки та пом’якшення використання тіньового ШІ. Навіть з правильними моделями управління, успіх залежить від того, наскільки добре працівники розуміють та приймають їх.

У одному дослідженні Pew Research серед працівників, які пройшли навчання на робочому місці (51%), лише чверть (24%) сказали, що воно було пов’язане з використанням ШІ. Організації повинні забезпечити наявність програм освіти ШІ, оскільки вони можуть допомогти працівникам зрозуміти можливості та функції, доступні їм. Збільшення кваліфікації також може допомогти їм розвиватися в своїй кар’єрі та відчувати себе більш задоволеними на своїй посаді.

Програми освіти ШІ повинні мати фокус не тільки на базовому використанні та дотриманні вимог, але й допомогти командам зрозуміти ширший контекст ШІ та те, як воно працює в екосистемі їхнього бізнесу. Теми, які слід розглянути, включають чому відповідальне використання ШІ важливо, які політики існують для захисту як бізнесу, так і його клієнтів, та як визначити потенційні ризики обробки даних або конфіденційності. Коли працівники мають необхідні знання, вони стають активними партнерами в безпечних інноваціях.

Формування майбутнього відповідального ШІ 

Тіньовий ШІ не зникне в найближчому майбутньому. Коли генеративні технології стають ще більш інтегрованими в повсякденні робочі процеси, виклики для організацій будуть тільки посилюватися. Керівники зараз стикаються з вибором: чи ставитися до тіньового ШІ як до неконтрольованої загрози, чи визнавати його можливістю для максимізації ефективності та продуктивності, якщо його правильно керувати.

Розробка політики ШІ або ради не є одноразовим актом. Як і ШІ швидко еволюціонує, так і стратегія організації повинна змінюватися. ШІ може допомогти приймати більш обґрунтовані рішення, прискорювати інновації та підвищувати продуктивність по кожній функції. Але щоб зберегти ці здобутки, працівники повинні зрозуміти, які інструменти доступні їм та як використовувати їх відповідально. Ті, хто досягне успіху, залишаться гнучкими, проактивно вдосконалюючи свої політики, щоб залишатися попереду змін, а не гнатися за ними.