Как предприятиям следует решать проблему перегрузки приложений ИИ?

Не совсем личный компьютер

На протяжении многих лет развитие технологий было обусловлено желанием сделать вычисления более доступными. От смартфонов до планшетов, ноутбуков и носимых устройств существует общая тенденция к увеличению доступности компьютеров и их возможностей. Только подумайте о названиях основополагающих отраслей: “Личный компьютер” или ПК; “i” Под, Пад, Фон и т. д. Каждое из этих устройств предназначено для того, чтобы служить личным компаньоном, помогающим упростить цифровой опыт пользователя и, следовательно, его жизнь.

Разработка искусственного интеллекта (ИИ) – в частности, больших языковых моделей (БЯМ) и агентных решений – также идет в том же направлении. Как и ПК и айфон, инструменты ИИ, такие как ChatGPT, сделали вычислительные действия, такие как поиск, редактирование и мозговой штурм, более доступными для широкой общественности. Но поскольку эта доступность привела к увеличению использования, она также увеличила риски.

Независимо от того, через зараженные соединители или непреднамеренный поиск в поисковых системах, угрозы для частного использования ИИ становятся все более трудными для защиты. Добавьте к этому неопределенности вокруг того, кто использует какие инструменты, и компании сталкиваются с идеальным штормом растущих угроз и недостаточной защиты. Учитывая обещания инструментов ИИ и неопределенность того, как их защитить, что делать технологически продвинутой компании?

Рост несанкционированных приложений ИИ

С более 700 миллионами ежедневных пользователей в 2025 году, использование ChatGPT выросло более чем в 4 раза по сравнению с прошлым годом. Однако только пять миллионов из этих пользователей являются платными бизнес-клиентами. Это означает, что остальные 695 миллионов или так пользователей являются либо личными, либо несанкционированными бизнес-пользователями. Это число кажется большим, пока вы не вспомните, что ChatGPT – не единственное решение ИИ на рынке. На самом деле, это далеко не так – современный взрыв ИИ и машинного обучения сгенерировал сотни тысяч новых моделей и решений, как публичных, так и частных.

Для бизнеса экспоненциальный рост решений ИИ привел к возникновению новой размерности ландшафта киберугроз, известной как “Теневой ИИ”. Как и явление “Теневой ИТ”, это понятие основано на использовании сотрудниками решений ИИ без предварительной проверки и явного одобрения их организации. Это полностью обходит все ИТ- и безопасностное наблюдение, что приводит к сценариям, в которых сотрудники могут использовать потенциально опасные или несовершенные решения для конфиденциальной работы.

Использование Теневого ИИ является одновременно повсеместным и расширяющимся. Один отчет показал, что более 320 несанкционированных приложений ИИ используются в среднем на предприятии. Каждое из этих несанкционированных приложений и их использование сотрудниками расширяет ландшафт угроз еще дальше.

Неотъемлемые риски перегрузки ИИ

Угрозы, связанные с перегрузкой ИИ, являются многогранными и, к сожалению, постоянно расширяющимися. Некоторые, такие как отравление данных, внедрение подсказок, манипулирование моделью и соскабливание данных, являются общими знаниями. Эти прямые попытки манипулирования и эксплуатации ИИ могут позволить злоумышленникам получить доступ к конфиденциальным данным предприятия и внутренним системам. Учитывая этот риск, предприятия начинают активно защищаться от таких атак.

Но бизнес может защитить себя только от тех угроз, о которых он знает. Подумайте о защите средневекового замка. Стены, сторожевые башни, ворота, рвы и многое другое помогают защитить замок от внешних врагов и захватчиков. Но что, если кухонный персонал имеет секретный проход, который обходит внешние стены? Или громкоголосый часовой услышан, обсуждая смены в местной таверне? Любая из этих неизвестных угроз может помочь ворам обойти безопасность и проникнуть во внутренние стены.

Теневой ИИ имеет тот же эффект на безопасность данных предприятия. Даже добросовестное использование несанкционированных БЯМ и копилотов может привести к катастрофе для защиты конфиденциальных данных, поскольку любое несовершенное решение может служить входными точками для злоумышленников. Любое использование БЯМ по своей сути увеличивает риск проблем, таких как сохранение данных, внедрение подсказок или предвзятость модели, каждая из которых требует собственных соответствующих мер безопасности. Это увеличивает риск утечек данных, нарушений соблюдения требований и операционных сбоев, все из которых часто выявляются только после того, как ущерб уже нанесен.

Установление контроля над решениями ИИ

Поскольку использование ИИ продолжает расти как на личном, так и на предприятиальном уровне, важно, чтобы организации установили контроль над этими решениями, прежде чем их принятие выйдет из-под контроля. Защита ИИ предприятия и защита от несанкционированных рисков ИИ включают:

1. Получение комплексной видимости. Как упоминалось, вы не можете защитить свои данные от угроз, о которых вы не знаете. Безопасность начинается с наблюдения за всеми решениями ИИ, которые используют ваши сотрудники – как санкционированными, так и несанкционированными. Это легче сказать, чем сделать, но решение брокера безопасности доступа к облаку (CASB) может помочь установить непрерывную видимость использования сотрудниками приложений.
2. Проведение тщательных оценок рисков. Команды должны проводить усилия по управлению третьими сторонами (TPRM), чтобы обеспечить, что все решения ИИ оцениваются на предмет их безопасности и потенциальных рисков. Эти усилия также должны распространяться на уровень четвертой стороны, поскольку даже санкционированные приложения, такие как CRM или платформы производительности, начинают встраивать внешние возможности БЯМ в свои платформы. Эти решения четвертой стороны должны соответствовать тем же стандартам безопасности, что и любое внутренне одобренное приложение.
3. Установление рамок управления. С этим наблюдением и пониманием своих решений организации могут разработать и развернуть последовательные рамки политики управления ИИ на протяжении всей своей экосистемы приложений. Как и в случае с доступом к данным, эти рамки политики управления могут помочь контролировать, какие решения ИИ сотрудники могут получить, какую информацию они могут с ними поделиться, и прозрачность их повседневного использования.
4. Автоматизация обнаружения рисков. Экспоненциальный рост принятия ИИ делает ручное обнаружение и реагирование на риски почти невозможными. Автоматизация этих процессов на основе рамок политики управления и ожидаемого поведения пользователей может помочь проактивно выявить аномалии и ограничить их более широкое воздействие на безопасность.
5. Объяснение ожиданий сотрудников. Самая важная часть безопасного принятия и использования ИИ – это ваши сотрудники. Предоставление адекватной подготовки и установление четких ожиданий поможет предотвратить рискованное использование ИИ и обеспечить безопасное, стимулирующее бизнес использование санкционированных и защищенных решений.

Поддержание безопасного принятия ИИ

Установив эти виды активных мер безопасности, бизнес получает более целостный взгляд на то, как они используют решения ИИ – как санкционированные, так и “в тени”. Это имеет непосредственное влияние на безопасность, giúpая командам выявить существующие риски и векторы угроз и принять меры для их устранения.

Более важно, однако, что это ставит эти бизнесы в позицию долгосрочного успеха ИИ. Создавая техническую основу для безопасного принятия ИИ и культуры безопасности среди пользователей ИИ, этот многосторонний подход помогает создать устойчивую модель для будущих инструментов ИИ. Обеспечивая техническую поддержку и адекватную подготовку, сотрудники могут использовать преимущества ИИ без бремени его неотъемлемых рисков.

Организации, которые внесут эти изменения раньше, чем позже, будут лучше подготовлены к будущему решений ИИ, каким бы оно ни было. Вложив работу в создание прочной основы – а не просто спеша поставить галочку в коробке принятия ИИ – команды будут в лучшей возможной позиции для устойчивого успеха, стимулируемого ИИ.