Как ИИ стал основным каналом для экспiltrации данных

Руководители предприятий инвестировали миллиарды в инструменты ИИ, чтобы ускорить производительность и инновации. Но последние данные раскрывают серьезный риск, который многие организации не ожидали. Те же платформы ИИ, которые помогают сотрудникам работать быстрее, стали крупнейшим каналом для конфиденциальных данных, покидающих корпоративные среды. Недавние исследования показывают, что 77% сотрудников вставляют данные в генеративные инструменты ИИ, и 40% файлов, загружаемых на эти платформы, содержат личную идентифицирующую информацию или данные о платежных картах. Это происходит прямо сейчас, в масштабе, в организациях, которые считают, что у них есть надлежащие меры безопасности. Это показывает фундаментальную разъединенность между тем, как компании думают об использовании ИИ, и тем, что на самом деле происходит, когда сотрудники взаимодействуют с этими инструментами ежедневно. Понимание этого сдвига является первым шагом к созданию стратегий безопасности, соответствующих новой реальности.

Как ИИ стал новым вектором утечки данных

Два года назад генеративный ИИ几乎 не существовал в потоках предприятий. Сегодня 45% всех сотрудников предприятий активно используют платформы ИИ, и 11% всех hoạtностей предприятий теперь происходят на этих инструментах. ChatGPTalone достигла 43% проникновения среди сотрудников, темп, которого другие платформы общения достигли за десятилетия.

Скорость этого внедрения создала вакуум безопасности. Традиционные системы предотвращения потери данных были разработаны для передачи файлов, вложений электронной почты и сетевого трафика. Они никогда не были разработаны для мониторинга того, что сотрудники вводят в поля подсказок или вставляют в интерфейсы чата. Это слепое пятно стало основным путем для конфиденциальной информации.

Генеративный ИИ теперь составляет 32% всех перемещений данных из корпоративных в личные счета. Это делает его крупнейшим каналом для экспiltrации данных, превосходя обмен файлами, электронную почту и все другие каналы, которые команды безопасности пытались защитить в течение лет. Проблема заключается не только в объеме, но и в характере утечки. Когда кто-то загружает документ на файловый сервер, есть запись. Когда они вставляют данные клиентов в подсказку ИИ, этот перевод часто происходит вне любой системы журналирования или мониторинга.

Проблема личных счетов

Проблема заключается не в использовании инструментов ИИ, а в том, как сотрудники получают к ним доступ. Модели безопасности предприятий предполагают, что сотрудники используют корпоративные счета с аутентификацией по единому стандарту, журналированием и надзором. Данные показывают, что это предположение неверно, и около 67% использования ИИ происходит через неуправляемые личные счета. Это личные адреса Gmail, личные учетные записи Microsoft или прямые регистрации, которые полностью обходят корпоративные системы идентификации. Когда кто-то входит в ChatGPT со своим личным электронным адресом, компания не имеет видимости того, какие вопросы они задают, какие данные они делятся или какая конфиденциальная информация может появиться в ответах.

Даже когда сотрудники используют корпоративные счета, эти учетные данные часто не имеют федерации. Восемьдесят три процента ERP-входов и 71% CRM-входов происходят без единого входа. Это означает, что корпоративный вход предлагает почти не больше безопасности или видимости, чем личный счет. Имя пользователя может иметь домен компании, но аутентификация позволяет тем же невидимым потокам данных.

Копировать и вставить: невидимая утечка данных

Традиционные стратегии предотвращения потери данных были построены с фокусом на файловых системах. Они отслеживают загрузки, скачивания и вложения. Но данные показывают, что реальный источник утечки данных не является файлами. Это копирование и вставка. Семьдесят семь процентов сотрудников вставляют данные в генеративные инструменты ИИ. Восемьдесят два процента этой активности происходят из неуправляемых личных счетов. В среднем каждый сотрудник делает 15 вставок в день, используя свои личные счета, и хотя бы четыре из них содержат конфиденциальную личную идентифицирующую информацию или данные о платежных картах.

Это означает, что конфиденциальная информация больше не только перемещается через загрузки файлов. Она также вводится напрямую в подсказки, окна чата и текстовые поля. Эти бесфайловые передачи几乎 невидимы для традиционных решений DLP. Они происходят с высокой частотой, на нескольких платформах и вне корпоративного надзора.

Результатом является непрерывный поток конфиденциальной информации, покидающей организацию способами, которые трудно обнаружить. Копирование и вставка стали новым каналом экспiltrации, а инструменты ИИ – число один目的.

Чувствительные файлы в несанкционированных местах

Загрузки файлов остаются центральной частью потоков предприятий. Но места назначения изменились. Сотрудники больше не ограничиваются загрузками в санкционированное хранилище или электронную почту. Они перемещают файлы в генеративные инструменты ИИ, потребительские приложения и тень SaaS-платформы.

Данные показывают, что 40% файлов, загружаемых в генеративные инструменты ИИ, содержат личную или финансовую информацию. Сорок один процент файлов, загружаемых в платформы хранения файлов, содержит ту же информацию. Почти 4 из 10 этих загрузок происходят через личные счета.

Это означает, что конфиденциальная информация течет в среды, где предприятия не имеют видимости и контроля. Как только файл загружается в личный Google Drive, чат WhatsApp или подсказку ИИ, он фактически находится вне пределов предприятия. Его нельзя отслеживать, ограничивать или удалять.

Места назначения разнообразны. Инструменты предприятий, такие как Egnyte и Zendesk, появляются вместе с потребительскими платформами, такими как Canva, LinkedIn и WhatsApp. Это смешение корпоративных и потребительских экосистем стирает границы того, где находится корпоративная информация. Это также раскрывает пределы традиционного DLP, который был разработан для санкционированных каналов и централизованного контроля.

Что это значит для безопасности предприятий

Традиционный периметр безопасности рухнул. Раньше было возможно контролировать данные, управляя сетями, защищая конечные точки и мониторя санкционированные приложения. Эта модель предполагает, что работа происходит внутри корпоративных систем и только иногда использует внешние платформы через контролируемые каналы.

Реальность заключается в том, что работа теперь происходит в браузерах, на десятках приложений, через корпоративные и личные счета, используя методы, которые не создают никаких записей. Сотрудник, исследующий проблему клиента, может искать внутренние системы, вставлять результаты в ChatGPT для суммирования, копировать эту сумму в Slack, чтобы поделиться с коллегами, и пересылать ее через личную электронную почту, чтобы просмотреть позже. Каждый шаг включает конфиденциальную информацию, перемещающуюся через каналы, которые традиционные инструменты не могут увидеть.

Браузер стал основным местом работы, но меры безопасности не последовали за ним. Сотрудники проводят свои дни, перемещаясь между приложениями, и данные показывают, что они мало различают между корпоративными и личными инструментами. Они используют все, что работает, все, что удобно, все, что не требует ожидания одобрения ИТ. Это создает среду, в которой конфиденциальная информация постоянно течет наружу через невидимые каналы.

Переосмысление безопасности предприятий для эры ИИ

Решение заключается не в блокировании инструментов ИИ или полном запрете личных счетов. Эти подходы терпят неудачу, потому что они борются с тем, как сотрудники фактически работают. Инструменты существуют, потому что они делают людей более продуктивными. Личные счета распространяются, потому что корпоративное предоставление медленно и ограничительно. Безопасность, которая игнорирует эти реалии, просто будет обойдена.

Эффективная защита требует видимости на уровне браузера, где происходит работа. Это означает мониторинг не только загрузок файлов, но и операций копирования, отправки форм, взаимодействия с подсказками и каждого другого способа перемещения данных между системами. Это означает применение политики, которая различает между корпоративными и личными счетами, независимо от того, какое приложение использует сотрудник.

Организации должны расширить предотвращение потери данных за пределы файлов, чтобы включить бесфайловые передачи. Подсказка, отправленная в ChatGPT, должна получить такое же внимание, как вложение электронной почты. Операция копирования в Slack должна вызвать такие же проверки, как загрузка в Google Drive. Метод передачи не должен определять, применяется ли безопасность.

Контроли идентификации должны фактически быть применены. Не достаточно предлагать единый вход, если сотрудники все еще могут получить доступ к бизнес-приложениям через личные счета. Федеративная аутентификация должна быть обязательной для любого приложения, обрабатывающего конфиденциальную информацию, а не опциональной. Нефедеративные корпоративные входы должны быть рассмотрены как риск безопасности, которым они являются.

Основная мысль

ИИ стал самой быстрорастущей категорией программного обеспечения для предприятий. Он также стал основным каналом для экспiltrации данных. Семьдесят семь процентов сотрудников вставляют данные в инструменты ИИ. Сорок процентов загрузок содержат конфиденциальную информацию. Большинство этой активности происходит через неуправляемые счета. Старый периметр безопасности больше не существует. Большая часть работы происходит в браузере, и даже простые действия, такие как вставка текста, могут привести к нарушениям. Компании, которые не обновляют свои стратегии безопасности для этой новой реальности, уже теряют контроль над своими наиболее ценными данными.