Большинство корпоративного ИИ не является безопасным. Вот, что могут сделать бизнесы

Корпорации спешат采用 генеративный искусственный интеллект (ИИ), чтобы оставаться конкурентоспособными на рынке. Однако команды безопасности сталкиваются с серьезной проблемой, поскольку они полагаются на устаревшие框架, разработанные для другой технологической эпохи. Инструменты, которые успешно защищали организации на протяжении десятилетий, теперь оставляют критические уязвимости открытыми, когда сотрудники взаимодействуют с браузерными платформами ИИ. Чтобы безопасно采用 последнюю технологию, бизнесу необходимо полностью переосмыслить, как они контролируют доступ к информации и обнаруживают возникающие угрозы.

Растущая угроза тени ИИ в корпорации

Тени ИИ возникает, когда сотрудники обходят официальные каналы ИТ и используют неавторизированные потребительские инструменты ИИ для рабочих задач. Эти платформы предлагают скорость и удобство, которых не могут обеспечить внутренние процессы утверждения, что делает их неотразимыми для работников, ориентированных на производительность.

Недавние исследования показывают, что 73,8% взаимодействия сотрудников с ChatGPT происходит на некорпоративных аккаунтах, что означает, что конфиденциальная информация直接 попадает в публичные модели. Аналогично, использование Gemini и Bard на личных аккаунтах достигает 94,4% и 95,9% соответственно.

Аутсорсинг задач на неверифицированные внешние платформы несет существенные последствия. Анализ показывает, что 55% всех провалов ИИ обусловлены этими решениями третьих сторон, создавая риски, которые охватывают ущерб репутации и финансовые потери. Недоверие потребителей, штрафы за несоблюдение требований и судебные иски часто следуют. Для компаний, которые используют инструменты ИИ третьих сторон без проведения анализа рисков до развертывания, это тревожно.

Без принудительных руководств сотрудники чрезмерно делятся конфиденциальной информацией компании, создавая огромные проблемы с конфиденциальностью, а многие платформы третьих сторон не имеют строгих мер безопасности, необходимых для защиты конфиденциальных деловых записей. Политики и практики хранения данных на этих платформах могут непреднамеренно подвергнуть информацию клиентов и финансовые записи потенциальным утечкам.

Почему традиционная защита от потери данных не работает

Устаревшие инструменты защиты от потери данных (DLP) были разработаны для предотвращения скачивания файлов или отправки их через электронную почту. Эти решения отлично справляются со своей исходной целью, но сталкиваются с фундаментальным ограничением в эпоху браузерных платформ ИИ. Например, они не могут легко контролировать или блокировать текст, который сотрудник вручную вводит или вставляет直接 в окно подсказки ИИ, создавая слепое пятно в покрытии безопасности, которое становится все более проблематичным с каждым кварталом.

Пробел становится очевидным при рассмотрении того, что эти инструменты могут и не могут защитить:

• DLP обнаруживает: скачивание файлов, электронные письма, передачу через USB и загрузку документов
• DLP пропускает: действия копирования и вставки в окна браузера, вручную введенный текст, скриншоты, преобразованные в текст, и прямой ввод текста в веб-приложения

По мере того, как внедрение ИИ ускоряется в организациях, этот пробел в покрытии расширяется и создает возможность для утечки информации, которую традиционная инфраструктура безопасности никогда не была разработана для решения. Команды безопасности оказываются в реактивной позиции, обнаруживая нарушения только после того, как конфиденциальный контент уже покинул контроль организации.

Какой подход является лучшим для безопасного корпоративного ИИ?

Цепляясь за устаревшие решения DLP, игнорируя реальность внедрения ИИ, не является жизнеспособной долгосрочной бизнес-стратегией. Компаниям необходимо перейти на обнаружение угроз, управляемое ИИ, которое адаптируется к новым атакам и устанавливает строгие границы использования ИИ, защищающие конфиденциальную информацию. Централизация практик управления для предотвращения случайного раскрытия завершает эту основу безопасности.

Переход к многослойному контексту ИИ

Традиционные инструменты обнаружения угроз полагаются на реактивные правила, которые ищут исторические сигнатуры известных атак. Этот подход либо генерирует чрезмерное количество ложных срабатываний, помечая нормальное поведение сотрудников как подозрительное, либо полностью пропускает новые атаки, которые не соответствуют никакому предыдущему шаблону в его базе данных.

Например, больница Artesia General Hospital признала эти ограничения в защите своих операций по уходу за пациентами и цифровых экосистем, что привело организацию к развертыванию технологии Darktrace. Работая без предварительно определенного списка угроз, платформа учитывает каждый устройство, пользователя и взаимодействие в сети больницы, чтобы разработать понимание того, как выглядит нормальное поведение снизу вверх.

Компонент Cyber AI Analyst исследует оповещения, используя методы, аналогичные методам человеческих аналитиков, а также объединяет тонкие аномалии, которые могли бы указывать на реальные угрозы записям пациентов и операциям больницы. Система автономно изучает угрозы сети Artesia, чтобы определить, какие оповещения представляют собой реальные инциденты безопасности.

Этот многослойный подход ИИ значительно снижает количество ложных срабатываний, которые обременяют команды безопасности. Когда переход от 100 безобидных оповещений в день к двум или трем критическим инцидентам, которые действительно требуют человеческого внимания, их фокус сужается. Аналитики получают именно ту информацию, которая им нужна, не тратя часы на ручное расследование.

Принудительное соблюдение внутренних политик использования ИИ

Установление жестких границ и развертывание технических барьеров, которые контролируют, какая информация может войти в публичные модели ИИ, решает уязвимости, которые решения DLP не могут закрыть самостоятельно.

Samsung предоставляет предостерегающий пример того, что происходит, когда сотрудники получают доступ к инструментам ИИ без достаточных технических мер безопасности. В течение 20 дней после разрешения доступа к ChatGPT в апреле 2023 года компания пережила три отдельных утечки, которые скомпрометировали высоко конфиденциальную информацию в нескольких отделах.

Инженеры вставили исходный код базы данных полупроводников в ChatGPT, чтобы проверить наличие ошибок кодирования, что раскрыло критическую информацию о процессах производства Samsung. В другом инциденте сотрудник загрузил специальный код, предназначенный для выявления дефектов оборудования, ища предложения по оптимизации. Сотрудники также преобразовали записанные внутренние встречи в текст, прежде чем подать эти транскрипты в ChatGPT для автоматического создания протоколов.

Как только информация попадает в обучающий набор данных публичной модели ИИ, нет кнопки «удалить», чтобы извлечь или очистить ее из базы знаний. Samsung в конечном итоге запретил ChatGPT полностью, поскольку утечка конфиденциального контента не может быть восстановлена.

Установление централизованного управления данными

Решение ИИ для корпорации является только так же безопасным, как информация, к которой оно может получить доступ внутри организации, и стандартизация разрешений на все системы образует основу безопасного развертывания ИИ. Когда внутренняя сеть компании страдает от несогласованных контролей доступа и фрагментированных практик управления, даже утвержденные инструменты ИИ могут случайно раскрыть конфиденциальные файлы HR или финансовые записи неуполномоченным сотрудникам.

Например, компания AXIS Capital столкнулась с этой проблемой напрямую при работе со стендами, изолированными платформами политики и претензий, разбросанными по разным географиям. Каждая линия бизнеса создала свои собственные стандарты отчетности, и несоответствия привели к ошибкам в котировке, подписании и корректировке претензий, что сделало корпоративную отчетность чрезвычайно трудной.

Страховая компания разработала организационную стратегию, используя веб-формы для управления и строгие правила безопасности, чтобы стандартизировать основные иерархии справочников. Начиная с системы классификации промышленности Северной Америки и стандартной классификации промышленности, AXIS затем расширила их до кодов рейтинга и подписания, которые ранее варьировались по месту.

Реализовав централизованное управление данными и контроль, компания создала единую защищенную источник истины, доступный во всех операциях. Это исключило несоответствия, которые мучили их платформы, позволив AXIS ускорить основные страховые процессы, такие как введение новых предложений продуктов, снижение операционного риска и достижение надежной аналитики на корпоративном уровне.

Обеспечение безопасности будущего корпоративной инновации

Внедрение ИИ в бизнесе неизбежно, поскольку организации конкурируют за рыночное преимущество. Полагаясь на устаревшие рамки безопасности и терпя неструктурированные практики управления, будет только ускорять утечки и нарушения соблюдения требований. Вопрос не в том, будут ли компании采用 ИИ, а в том, сделают ли они это безопасно. Реализовав многослойное обнаружение угроз ИИ и установив строгий надзор за доступом к информации, бизнес может принять инновации ИИ, защищая при этом свой наиболее чувствительный контент.