Почему запрет AI повышает риски безопасности и как учреждения должны реагировать

По всей территории США школьные округа и государственные организации ограничивают или блокируют доступ к генеративным технологиям искусственного интеллекта (GenAI) или конкретным инструментам. В Колорадо школьный округ Боулдер-Вэлли недавно запретил ChatGPT в сетях округа, ссылаясь на опасения по поводу неправильного использования, безопасности и академической честности.

Инстинкт снижения риска безопасности или неправильного использования данных понятен. Платформы с слабыми ограничениями или неясными обязательствами по конфиденциальности, такие как DeepSeek, заслуживают ограничения и проверки. Но запрет доступа к инструментам GenAI не снижает риски; он часто просто перемещает их в среды, где надзор исчезает.

Опрос College Board показал, что 84% старшеклассников сообщили об использовании GenAI для школьных заданий, даже когда 45% директоров сообщили о некоторых ограничениях на доступ к AI в школе. Аналогично, отчет IBM показал, что 80% офисных работников используют AI, но только 22% полагаются исключительно на инструменты, предоставляемые работодателем.

Политики доступа сами по себе не определяют поведение. Ученики могут вытащить свои телефоны и использовать любой инструмент AI через сотовую сеть или использовать платформу, находясь дома или в общественном месте. Они также могут использовать VPN, удаленные рабочие столы и плагины, чтобы обойти ограничения. Сотрудники могут сделать то же самое, чтобы обойти контроль на рабочем месте.

Организации должны предполагать, что когда есть желание использовать AI, есть и способ. Когда технология ограничивается так, что толкает ее использование за пределы институциональной видимости, риск тени AI возрастает. Нет надзора за тем, какая информация вводится в подсказки или какие данные сохраняются моделью. Любой контроль над безопасностью сразу же теряется.

Помимо риска тени AI, запреты создают пробел в грамотности, оставляя студентов полностью неподготовленными к использованию технологии, которая будет большой частью их будущего. Эти инструменты все чаще встраиваются в поисковые системы, бизнес-платформы, наборы производительности и личные устройства. Опрос Pew Research показал, что 62% взрослых США утверждают, что взаимодействуют с AI хотя бы несколько раз в неделю. Это почти гарантировано, что студенты и сотрудники будут сталкиваться с системами GenAI независимо от институциональных политик.

В этой среде образование является наиболее надежным средством защиты от опасений по поводу неправильного использования или безопасности, и для того, чтобы гарантировать, что студенты и работники хорошо подготовлены к использованию инструмента, который будет важен для их карьеры. Обучение ответственному и этическому использованию оснащает пользователей возможностью распознавать риски данных и принимать обоснованные решения, где бы они ни встречали эти системы.

Программы образования должны сосредоточиться на том, как большие языковые модели (LLM) обрабатывают и сохраняют данные, как выявлять галлюцинации, как проверять выходные данные, сгенерированные AI, и как выявлять фишинговые кампании и изображения, сгенерированные AI, чтобы назвать несколько. Учить пользователей быть скептиками. Выходные данные AI часто представляются уверенно и на полированном языке, что может создать иллюзию авторитета. Без обучения пользователи могут предположить, что хорошо отформатированный ответ является по своей сути точным.

Способность сомневаться в цифровом контенте является первой линией обороны, поскольку глубокие подделки и фишинговые кампании, усиленные AI, становятся более сложными. Опрос Gartner показал, что 62% организаций испытали атаку глубокой подделки в прошлом году, и 32% столкнулись с атакой на приложения AI. Частота и масштаб этих инцидентов, как ожидается, будут только расти.

Государственные учреждения, такие как школы и местные органы власти, особенно уязвимы для социальной инженерии, основанной на глубоких подделках, поскольку большая часть их деятельности записывается и доступна публично. Аудиоснимки из публичных заседаний можно манипулировать и использовать для генерации убедительных голосовых звонков. Мы видели, как злоумышленники используют это для мошенничества, например, для перенаправления средств во время чувствительных транзакций. Хотя это происходит чаще всего в целевых случаях, пользователи, которые никогда не были обучены распознавать эти методы или даже знают, что они возможны, находятся в невыгодном положении с самого начала.

После образования организации должны иметь четко сформулированные политики в отношении использования AI и управления. Эти политики должны определять утвержденные инструменты, приемлемые случаи использования и какие данные можно и нельзя вводить в какие модели. Политики должны применяться последовательно во всех отделах, а не различаться от класса к классу или офиса к офису. Четкие ожидания снижают неоднозначность и укрепляют подотчетность.

Вместо общих ограничений организации должны стремиться формировать, как технология используется на практике. Когда организация одобряет инструмент, который доступен, безопасен и работает хорошо, он становится стандартным для большинства пользователей. Неформальное использование тени AI снижается, поскольку есть прямая альтернатива, которая не включает в себя скачивание VPN для его использования.

Организации и учреждения стремятся обеспечить безопасный доступ к LLM, при котором их данные защищены и не передаются или используются для обучения. Растущая категория инструментов для обеспечения AI и безопасности появляется для этого. Они могут обеспечить доступ к нескольким LLM, сохраняя данные учреждения безопасно контейнеризированными. Соглашения о нулевом сохранении данных обеспечивают юридическую основу для того, чтобы гарантировать, что данные организации остаются собственностью компании или учреждения, и LLM не может быть обучен на них. Кроме того, если сотрудник покидает учреждение, любое использование AI, рабочие процессы или данные остаются собственностью организации.

Технические ограничения также могут быть применены на уровне функций. Учреждение может разрешить студентам или сотрудникам задавать общие вопросы в санкционированной LLM, отключая загрузку файлов, обмен документами или другие высокорисковые возможности. Эти конфигурации сохраняют преимущества производительности без открытия двери к неконтролируемому воздействию данных.

Более продвинутые инструменты могут автоматически анонимизировать чувствительную информацию, прежде чем она достигнет модели. Например, замена имен пациентов или идентификаторов на нейтральные заполнители, чтобы врачи и медсестры могли использовать GenAI без раскрытия защищенных данных. Другие интегрируют средства предотвращения потери данных, которые обнаруживают и блокируют номера социального страхования, финансовые счета или другую регулируемую информацию от передачи в подсказки.

Четкие политики с техническими ограничениями, построенные на основе образования, создают лучшую защиту, особенно поскольку технология меняется так быстро. GenAI развивается быстрее, чем большинство государственных организаций – и их бюджетов – могут адаптироваться. Попытка заблокировать каждую новую модель, когда она появляется, неосуществима, поскольку к тому времени, когда одна платформа ограничивается, другая набирает популярность. Пользователи, обученные понимать основные риски, могут адаптироваться к инструментам и версиям.

Безопасность в среде, оснащенной AI, зависит от признания того, что GenAI теперь встроен в повседневную жизнь. Нет возможности вернуть джинна в бутылку. Общие запреты могут сигнализировать о осторожности, но они часто обменивают видимый, управляемый риск на невидимый, неконтролируемый риск. Обучите человека ответственно использовать AI, и он будет готов к тому, что придет дальше.