Как ИИ стал основным каналом утечки данных

Руководители предприятий инвестировали миллиарды в инструменты ИИ, чтобы ускорить производительность и инновации. Но последние данные раскрывают серьезный риск, который многие организации не ожидали. Те же платформы ИИ, которые помогают сотрудникам работать быстрее, стали крупнейшим каналом для конфиденциальных данных, покидающих корпоративные среды. Недавние исследования показывают, что 77% сотрудников вставляют данные в инструменты генеративного ИИ, и 40% файлов, загружаемых на эти платформы, содержат личную идентифицирующую информацию или данные о платежных картах. Это происходит прямо сейчас, в масштабе, во всех организациях, которые считают, что у них есть надлежащие меры безопасности. Что это показывает, так это фундаментальное расхождение между тем, как компании думают об использовании ИИ, и тем, что на самом деле происходит, когда сотрудники взаимодействуют с этими инструментами ежедневно. Понимание этого сдвига является первым шагом к созданию стратегий безопасности, соответствующих новой реальности.

Как ИИ стал новым вектором утечки данных

Два года назад генеративный ИИ практически не существовал в потоках работы предприятий. Сегодня 45% всех сотрудников предприятий активно используют платформы ИИ, и 11% всей деятельности предприятий происходит на этих инструментах. ChatGPTalone достигла 43% проникновения среди сотрудников, темп, который другие платформы связи достигали десятилетиями.

Скорость этого внедрения создала вакуум безопасности. Традиционные системы предотвращения утечки данных были разработаны для передачи файлов, электронных писем и сетевого трафика. Они никогда не были предназначены для мониторинга того, что сотрудники вводят в окна подсказок или вставляют в интерфейсы чата. Это слепое пятно стало основным путем逃ления конфиденциальной информации.

Генеративный ИИ теперь составляет 32% всех перемещений данных из корпоративных в личные счета. Это делает его крупнейшим каналом для утечки данных, превосходящим обмен файлами, электронную почту и любой другой канал, который команды безопасности пытались защитить годами. Проблема заключается не только в объеме, но и в природе утечки. Когда кто-то загружает документ на файловый сервер, есть запись. Когда они вставляют данные клиента в подсказку ИИ, этот перевод часто происходит вне любой системы журналирования или мониторинга.

Проблема личных учетных записей

Проблема заключается не в использовании инструментов ИИ, а в том, как сотрудники получают к ним доступ. Модели безопасности предприятий предполагают, что сотрудники используют корпоративные учетные записи с аутентификацией единого входа, ведением журналов и надзором. Данные показывают, что это предположение неверно, и около 67% использования ИИ происходит через неуправляемые личные учетные записи. Это почтовые ящики Gmail, личные учетные записи Microsoft (MSFT ) или прямая регистрация, которая обходит корпоративные системы идентификации полностью. Когда кто-то входит в ChatGPT с помощью своей личной электронной почты, компания не имеет видимости того, какие вопросы они задают, какие данные они делятся или какая конфиденциальная информация может появиться в ответах.

Даже когда сотрудники используют корпоративные учетные записи, эти учетные данные часто не имеют федерации. 83% ERP-входов и 71% CRM-входов происходят без единого входа. Это означает, что корпоративный вход предлагает почти не более безопасности или видимости, чем личная учетная запись. Имя пользователя может иметь домен компании, но обход аутентификации позволяет тем же невидимым потокам данных.

Копирование и вставка: невидимая утечка данных

Традиционные стратегии предотвращения утечки данных (DLP) были разработаны с учетом файловых систем. Они отслеживают загрузки, скачивания и вложения. Но данные показывают, что реальным источником утечки данных не являются файлы. Это копирование и вставка. 77% сотрудников вставляют данные в инструменты генеративного ИИ. 82% этой деятельности происходит из неуправляемых личных учетных записей. В среднем каждый сотрудник делает 15 вставок в день, используя свои личные учетные записи, и хотя бы четыре из них содержат конфиденциальную личную идентифицирующую информацию или данные о платежных картах.

Это означает, что конфиденциальная информация больше не просто перемещается через загрузку файлов. Она также вводится напрямую в подсказки, окна чата и текстовые поля. Эти бесфайловые передачи几乎 невидимы для традиционных решений DLP. Они происходят с высокой частотой, на нескольких платформах и вне корпоративного надзора.

Результатом является непрерывный поток конфиденциальных данных, покидающих организацию способами, которые трудно обнаружить. Копирование и вставка стали новым каналом утечки, а инструменты ИИ – основным направлением.

Чувствительные файлы в неавторизованных местах

Загрузка файлов остается центральной частью потоков работы предприятий. Но места назначения изменились. Сотрудники больше не ограничивают загрузки санкционированным хранилищем или электронной почтой. Они перемещают файлы в инструменты генеративного ИИ, потребительские приложения и тень SaaS-платформ.

Данные показывают, что 40% файлов, загружаемых в инструменты генеративного ИИ, содержат личную или финансовую информацию. 41% файлов, загружаемых в платформы хранения файлов, содержат ту же информацию. Почти 4 из 10 этих загрузок происходят через личные учетные записи.

Это означает, что конфиденциальные данные текут в среды, где предприятия не имеют видимости и контроля. Как только файл загружен в личный Google Drive, чат WhatsApp или подсказку ИИ, он фактически находится вне корпоративной территории. Его нельзя отслеживать, ограничивать или удалять.

Места назначения разнообразны. Инструменты предприятий, такие как Egnyte и Zendesk, появляются рядом с потребительскими платформами, такими как Canva, LinkedIn и WhatsApp. Это смешение экосистем предприятий и потребителей стирает границы того, где находится корпоративная информация. Это также раскрывает ограничения традиционного DLP, который был разработан для санкционированных каналов и централизованного контроля.

Что это значит для безопасности предприятий

Традиционный периметр безопасности рухнул. Раньше было возможно контролировать данные, управляя сетями, защищая конечные точки и отслеживая санкционированные приложения. Эта модель предполагает, что работа происходит внутри корпоративных систем и только иногда использует внешние платформы через контролируемые каналы.

Реальность заключается в том, что работа теперь происходит в браузерах, на десятках приложений, через как корпоративные, так и личные учетные записи, используя методы, которые не создают никаких аудиторских записей. Сотрудник, исследующий проблему клиента, может искать внутренние системы, вставлять результаты в ChatGPT для суммирования, копировать это суммирование в Slack, чтобы поделиться с коллегами, и пересылать его через личную электронную почту для проверки позже. Каждый шаг включает конфиденциальные данные, перемещающиеся через каналы, которые традиционные инструменты не могут увидеть.

Браузер стал основным рабочим местом, но меры безопасности не последовали. Сотрудники проводят свои дни, перемещаясь между приложениями, и данные показывают, что они делают мало различий между корпоративными и личными инструментами. Они используют все, что работает, все, что удобно, все, что не требует ожидания одобрения ИТ. Это создает среду, в которой конфиденциальная информация постоянно вытекает через невидимые каналы.

Переосмысление безопасности предприятий для эры ИИ

Решение заключается не в блокировании инструментов ИИ или запрете личных учетных записей. Эти подходы терпят неудачу, потому что они борются с тем, как сотрудники фактически работают. Инструменты существуют, потому что они делают людей более продуктивными. Личные учетные записи распространяются, потому что корпоративное обеспечение медленно и ограничительно. Безопасность, которая игнорирует эти реалии, просто будет обойдена.

Эффективная защита требует видимости на уровне браузера, где происходит работа. Это означает отслеживание не только загрузки файлов, но и операций вставки, отправки форм, взаимодействия с подсказками и каждого другого способа перемещения данных между системами. Это означает обеспечение политики, которая различает корпоративные и личные учетные записи, независимо от того, какое приложение использует сотрудник.

Организации должны расширить предотвращение утечки данных за пределы файлов, чтобы включить бесфайловые передачи. Подсказка, отправленная в ChatGPT, должна получать такое же внимание, как и вложение электронной почты. Операция вставки в Slack должна запускать те же проверки, что и загрузка в Google Drive. Метод передачи не должен определять, применяется ли безопасность.

Контроли идентификации должны фактически быть обеспечены. Не достаточно предлагать единый вход, если сотрудники все еще могут получить доступ к бизнес-приложениям через личные учетные записи. Федеративная аутентификация должна быть обязательной для любого приложения, обрабатывающего конфиденциальные данные, а не опциональной. Нефедеративные корпоративные входы должны быть behand как риск безопасности, которым они являются.

Основная мысль

ИИ стал самой быстрорастущей категорией программного обеспечения предприятий. Он также стал основным каналом для утечки данных. 77% сотрудников вставляют данные в инструменты ИИ. 40% загрузок содержат конфиденциальную информацию. Большинство этой деятельности происходит через неуправляемые учетные записи. Старый периметр безопасности больше не существует. Большая часть работы происходит в браузере, и даже простые действия, такие как вставка текста, могут привести к утечкам. Компании, которые не обновляют свои стратегии безопасности для этой новой реальности, уже теряют контроль над своими наиболее ценными данными.