Лидеры мнений
Как решить надвигающиеся требования регулирования безопасности для GenAI
Добавьте Unite.AI в избранные источники в Google
Как раз когда вы подумали, что управление рисками безопасности данных вокруг GenAI и контроль над растущим тенью GenAI достаточно, появляется новый поворот.
Регуляторные и юридические требования для безопасности GenAI увеличиваются, и организации скоро должны будут продемонстрировать, как они справляются с рисками, связанными с ним. Закон ЕС об искусственном интеллекте (Закон ЕС об ИИ) является наиболее ясным ранним указанием. Он явно помечает конкретные приложения ИИ как “высокорисковые” и налагает строгие требования для прозрачности, подотчетности и человеческого надзора. Штрафы за неисполнение предназначены быть наказывающими, рассчитываемыми как проценты от глобального дохода, а не фиксированные штрафы. Для транснациональных компаний это меняет управление ИИ с лучшей практики на юридическое обязательство, с серьезными последствиями за неисполнение.
В Соединенных Штатах Федеральная торговая комиссия (FTC) сделала ясным, что использование ИИ будет рассматриваться в рамках ее мандата предотвращения “нечестных или обманчивых практик”. Это означает, что компании не могут скрываться за технической сложностью. Если клиенты или сотрудники вводятся в заблуждение о том, как управляется их данные, или если ИИ представляет собой нераскрытые риски, руководители могут быть привлечены к ответственности.
Ранние меры по обеспечению соблюдения уже продемонстрировали, что регулирующие органы готовы сделать примеры из компаний, которые действуют слишком быстро без надлежащих контролей. Например, FTC приняла меры против DoNotPay, компании, которая продвигала инструмент ИИ как “робот-юрист”, способный генерировать действительные юридические документы и экспертные юридические рекомендации, обнаружив, что заявления компании о возможностях своего ИИ были ложными или вводящими в заблуждение и нарушили раздел 5 Закона FTC. В другом случае FTC потребовала от Everalbum, Inc., уничтожить модели и алгоритмы ИИ, построенные с использованием фотографий потребителей, собранных без надлежащего согласия – прямого штрафа за использование данных способами, которые отклоняются от согласия пользователя и юридических ожиданий.
На уровне штата Калифорния и Нью-Йорк возглавляют волну законов об ИИ и конфиденциальности, которые строятся на существующих рамках, таких как Закон Калифорнии о конфиденциальности потребителей (CCPA). Эти законы соответствуют более широким требованиям конфиденциальности, требуя от бизнеса относиться к управлению ИИ и конфиденциальности данных как к единой, интегрированной программе.
Столкновение уже очевидно. Сегодня потребитель может запросить в соответствии с GDPR или CCPA удаление своей личной информации из систем компании. Однако нет эквивалентного процесса для запроса удаления данных, когда они были поглощены моделью GenAI. Отсутствие варианта “удалить мои данные из вашей модели” скоро станет предметом спора между регулирующими органами и бизнесом.
Почему соблюдение требований кажется более сложным в этот раз
Сначала кажется, что регулирование ИИ не отличается от предыдущих проблем соблюдения требований. Однако управление GenAI вводит новую сложность – непредсказуемость. Граница между безвредным и вредным не всегда ясна. Один запрос может раскрыть конфиденциальную информацию, и один вывод может нести конфиденциальный контент в места, где он не принадлежит. Традиционные контроли, такие как DLP и аудит разрешений, не были разработаны для этого уровня скорости или сложности.
Для соблюдения требований GDPR焦点 был на конфиденциальности. Задачи были прямыми – выявить личные данные, реализовать контроли и задокументировать соблюдение. GenAI, однако, усложняет дело, поскольку это не только о самих данных, но и о том, как эти данные преобразуются, смешиваются и раскрываются неожиданными способами. Организации сталкиваются с рисками, такими как Copilot, раскрывающий конфиденциальные электронные таблицы, хранящиеся в SharePoint, сотрудники, вставляющие конфиденциальный код в ChatGPT для отладки скриптов, и выводы, сгенерированные ИИ, содержащие достаточно контекста для утечки конфиденциальной информации.
Традиционные инструменты не были разработаны для решения проблем безопасности и соблюдения требований GenAI. Правила DLP упускают из виду нюансы. Аудит разрешений борется за то, чтобы поспевать за сотрудничеством. А тень ИИ означает, что деятельность происходит вне утвержденных инструментов.
Что могут сделать лидеры безопасности сейчас
Надвигающийся регуляторный вызов кажется устрашающим, но он не должен быть подавляющим. Первый шаг – переформулировать проблему. GenAI не является новой, рискованной категорией; это усилитель. Он усиливает существующие проблемы – такие как чрезмерные разрешения на данные, плохая классификация и ограниченная видимость – делая их более опасными. Решение этих рисков может помочь удовлетворить требованиям соблюдения требований GenAI.
ЦСО должны уделять приоритетное внимание построению прочных основ над идеальными политиками, чтобы лучше удовлетворять будущим регуляторным требованиям. Это включает в себя получение видимости использования ИИ, применение контекстно-зависимой классификации данных и создание адаптивных политик, которые балансируют безопасность с производительностью.
Организации, которые преуспеют, не будут теми, у которых больше всего книг правил и заповедей; они будут теми, у которых есть четкое понимание того, что происходит, в сочетании с защитой, которая соответствует требованиям соблюдения. Вот ключевые шаги, которые необходимо предпринять:
- Оценить видимость. Выявить, где используется GenAI, включая тень GenAI. Избегайте ожидания инцидента, чтобы обнаружить, что финансы вставляют прогнозы в ChatGPT.
- Классифицировать с помощью контекста. Перейти за пределы regex или имен файлов. Семантическая классификация помогает определить, является ли plan_final.docx безобидным или высоко чувствительным.
- Затянуть разрешения. Наименьшее привилегирование не должно быть необязательным; оно необходимо для поддержания соблюдения и предотвращения того, чтобы Copilot раскрыл конфиденциальные протоколы совета интерну. Перераспределенные папки являются распространенным источником риска и будущих нарушений соблюдения.
- Относиться к выводам как к входным данным. Текст, сгенерированный ИИ, может утечь так же легко, как и запросы. Аудит и мониторинг того, как он распространяется вниз по потоку.
- Разработать адаптивные стратегии соблюдения. Политики, написанные сегодня, могут стать неэффективными через шесть месяцев.
Для руководителей сообщение ясно. Регуляторное давление продвигается быстрее, чем многие ожидают, и ожидание того, пока стандарты урегулируются, не является жизнеспособным планом. Фреймворки управления должны быть установлены сейчас, не только для снижения риска, но и для демонстрации регулирующим органам, клиентам и советам директоров, что принятие ИИ является намеренным и ответственным.
