Чому заборона AI підвищує ризики безпеки та як інституції повинні реагувати

По всьому США шкільні округи та організації державного сектора обмежують або блокують доступ до генеративних технологій штучного інтелекту (GenAI) або конкретних інструментів. У Колорадо шкільний округ Боулдер-Веллі недавно заборонив ChatGPT у мережах округу, посилаючись на побоювання щодо зловживання, безпеки та академічної цілісності.

Інстинкт зменшення ризику безпеки чи зловживання даними є зрозумілим. Платформи з слабкими обмеженнями або нечіткими зобов’язаннями щодо конфіденційності, такими як DeepSeek, заслуговують на обмеження та перевірку. Але заборона доступу до інструментів GenAI не суттєво зменшує ризик; вона часто просто переносить його в середовища, де нагляд зникнути.

Опитування College Board виявило, що 84% учнів старших класів заявили, що вони використовують GenAI для шкільних завдань, навіть якщо 45% директорів шкіл повідомили про певкі обмеження на доступ до AI в школі. Аналогічно, звіт IBM показав, що 80% працівників офісу використовують AI, але лише 22% використовують виключно інструменти, надані роботодавцем.

Політика доступу сама по собі не визначає поведінку. Учні можуть вийти зі своїх телефонів і використовувати будь-який інструмент AI через свою мережу мобільних даних, або використовувати платформу, коли вони вдома або на публічному Wi-Fi. Вони також можуть використовувати VPN, віддалені робочі столы та плагіни, щоб обійти обмеження. Працівники можуть зробити те саме, щоб обійти контроль робочого місця.

Організації повинні припустити, що коли є воля використовувати AI, є спосіб. Коли технологія обмежена таким чином, що спонукає використання за межами інституційного нагляду, ризик тіньового AI зростає. Не існує нагляду за тим, яку інформацію вводять у промпти чи яку дані зберігає модель. Будь-який контроль над безпекою негайно зникає.

Поза ризиком тіньового AI заборони створюють розрив у грамотності, залишаючи учнів повністю непідготовленими до використання технологій, які будуть великою частиною їхнього майбутнього. Ці інструменти все частіше інтегруються у пошукові системи, бізнес-платформи, продуктивні пакети та особисті пристрої. Опитування Pew Research показало, що 62% дорослих у США стверджують, що вони взаємодіють з AI принаймні кілька разів на тиждень. Це майже гарантовано, що учні та працівники зустрінуться з системами GenAI незалежно від інституційних політик.

У цьому середовищі освіта є найнадійнішою гарантією проти побоювань щодо зловживання чи безпеки, а також забезпечує, що учні та працівники однаково добре підготовлені до використання інструменту, який буде інтегральним для їхньої кар’єри. Навчання відповідальному та етичному використанню обладнує користувачів для визнання ризиків даних та прийняття обґрунтованих рішень, де б вони не зустрічали ці системи.

Програми освіти повинні зосередитися на тому, як великі мовні моделі (LLM) обробляють та зберігають дані, як визначати галюцинації, як верифікувати виведи, згенеровані AI, та як визначати фішингові кампанії та зображення, згенеровані AI, щоб назвати лише кілька. Навчіть користувачів бути скептичними. Виводи AI часто подаються впевнено та у полішеній мові, що може створити ілюзію авторитету. Без навчання користувачі можуть припустити, що добре оформлена відповідь є внутрішньо точною.

Спроможність ставити під сумнів цифровий контент є першою лінією оборони, оскільки deepfakes та фішингові кампанії, покращені AI, стають все більш складними. Опитування Gartner показало, що 62% організацій пережили атаку deepfake минулого року, а 32% зіткнулися з атакою на додатки AI. Частота та масштаб цих інцидентів тільки продовжують зростати.

Публічні інституції, такі як школи та місцеві уряди, особливо вразливі до соціальної інженерії, підтримуваної deepfakes, оскільки так багато їхньої діяльності записується та公開ється. Аудіофрагменти з публічних засідань можуть бути маніпульовані та використані для генерації переконливих голосових дзвінків. Ми бачили, як загрозливі актори використовують це для шахрайства, наприклад, перенаправлення коштів під час чутливих транзакцій. Хоча це відбувається найчастіше у цілевих випадках, користувачі, які ніколи не були навчені визнавати ці техніки, або навіть не знають, що вони можливі, знаходяться в невигідному становищі з самого початку.

Після освіти організації повинні мати чіткі та чітко сформульовані політики щодо використання AI та управління ним. Ці політики повинні визначати затверджені інструменти, прийнятні випадки використання, а також дані, які можна вводити у які моделі. Політики повинні застосовуватися послідовно по всіх відділам, а не різнитися від класу до класу чи офісу до офісу. Чіткі очікування зменшують двозначність та підкріплюють відповідальність.

Замість загальних обмежень організації повинні намагатися формувати, як технологія використовується на практиці. Коли організація схвалює інструмент, який є доступним, безпечним та добре працює, він стає стандартним для більшості користувачів. Неформальне використання тіньового AI знижується, оскільки існує проста альтернатива, яка не включає завантаження VPN для використання.

Організації та інституції намагаються забезпечити безпечний доступ до LLM, зберігаючи при цьому свої дані в безпеці та не дозволяючи їх спільного використання чи використання для навчання. Розростається категорія інструментів забезпечення безпеки та безпеки AI, яка робить саме це. Вони можуть забезпечити доступ до кількох LLM, зберігаючи дані інституції в безпеці. Угоди про нульове збереження даних забезпечують юридичну основу для забезпечення того, що дані організації залишаються власністю компанії чи інституції, а LLM не може бути навчений на них. Крім того, якщо працівник покидає інституцію, будь-яке використання AI, робочі процеси чи дані залишаються власністю організації.

Технічні обмеження також можуть бути застосовані на рівні функцій. Інституція може дозволити учням або працівникам ставити загальні питання у санкціонованій LLM, одночасно вимикаючи завантаження файлів, спільне використання документів або інші високоризикові можливості. Ці конфігурації зберігають продуктивні переваги, не відкриваючи двері до неконтрольованого експозиції даних.

Більш просунуті інструменти можуть автоматично анонімізувати чутливі відомості до того, як вони потраплять у модель. Наприклад, заміняючи імена пацієнтів або ідентифікатори нейтральними плейсхолдерами, так що лікарі та медсестри можуть продовжувати використовувати GenAI без експозиції захищених даних. Інші інтегрують засоби запобігання втраті даних, які виявляють та блокують номери соціального страхування, фінансові дані рахунків чи інші регульовані відомості від передачі в промпти.

Чіткі політики з технічними обмеженнями, побудованими на основі освіти, створюють найкращу оборону, особливо коли технологія змінюється так швидко. GenAI розвивається швидше, ніж більшість організацій державного сектора – і їх бюджетів – можуть адаптуватися. Спроби заблокувати кожну нову модель, коли вона з’являється, є недоцільними, оскільки до того часу, коли одна платформа обмежена, інша вже набула популярності. Користувачі, яких навчили розуміти основні ризики, можуть адаптуватися до інструментів та версій.

Безпека в середовищі, яке використовує AI, залежить від визнання реальності, що GenAI тепер вбудований у повсякденне життя. Не існує способу повернути джина назад у пляшку. Загальні заборони можуть сигналізувати про застереження, але вони часто換ють видимий, керований ризик на невидимий, некерований ризик. Навчіть людину використовувати AI відповідально, і вони будуть готові до всього, що прийде далі.