Рехан Джалил, генеральный директор Securiti – Интервью

Рехан Джалил является генеральным директором Securiti.AI, венчурным советником фонда Mayfield и инвестором и наставником многих стартапов в долине Кремния. Ранее он занимал должность старшего вице-президента и генерального менеджера по безопасности облака в Symantec.

Securiti AI – это платформа уровня предприятия, которая позволяет безопасно использовать данные и ИИ, и является пионером в области центра управления данными и ИИ. Компании полагаются на Securiti для обеспечения безопасности своих данных, конфиденциальности, управления и соблюдения нормативных требований. Securiti получила многочисленные награды отрасли и аналитиков, и недавно была признана Gartner Peer Insights в качестве выбора клиентов для DSPM, и GigaOm в качестве лучшего поставщика для DSPM.

Можете ли вы рассказать о видении, лежащем в основе центра управления данными Securiti AI, и как оно отличается от других платформ управления данными на рынке?

Наше видение центра управления данными простое: мы стремимся дать организациям возможность полностью использовать свои данные без компрометации конфиденциальности, безопасности или соблюдения нормативных требований. Это достигается путем автоматического сканирования ландшафта данных организации (SaaS, IaaS, облачные озера и хранилища данных и т. д.) и получения подробных сведений о всех конфиденциальных сведениях и системах ИИ. Эти сведения, отраженные в уникальной реальной модели знаний, используются для обеспечения соблюдения требований конфиденциальности и безопасности и соблюдения глобальных нормативных требований к данным. Эта платформа особенно ценна при разработке современных генеративных систем ИИ, которые полагаются на данные – особенно неструктурированные данные. Исторически организации полагались на ряд фрагментированных инструментов для решения своих обязательств по данным, что было дорого и сложно. Securiti предлагает единую платформу, которая повышает эффективность, снижает затраты, минимизирует риски и позволяет безопасно использовать данные и ИИ.

Каковы были основные проблемы, с которыми вы столкнулись при запуске Securiti в 2019 году, и как ваш опыт в Symantec повлиял на ваш подход?

Одной из проблем, с которыми мы столкнулись при запуске Securiti, было столкновение с пандемией COVID всего через шесть месяцев после запуска компании. В первые дни запуска компании важно получить клиентов и первые доходы. У нас был хороший импульс, включая первых клиентов и победу в конкурсе RSAC 2020 Most Innovative Startup. Через неделю после получения награды RSA мир закрылся, и мы вошли в неопределенную экономическую ситуацию. Благодаря моему опыту в Symantec и предыдущих компаниях, я хорошо знал, как работать с крупнейшими глобальными организациями над их сложными требованиями к безопасности. Как команда, мы прошли через экономические спады в прошлом. Этот опыт дал нам уверенность, чтобы придерживаться нашей стратегии, продолжать инвестировать в решение реальных проблем, с которыми сталкиваются крупные корпоративные организации, и терпеливо ждать, пока рынки не вернутся к более нормальному состоянию.

Как Securiti AI обеспечивает безопасность конфиденциальных данных в гибридных облачных средах?

Обеспечение безопасности конфиденциальных данных в сложных гибридных облачных средах требует комплексного подхода. Securiti использует передовые технологии для автоматического обнаружения и классификации данных по всему ландшафту данных организации, например SaaS, IaaS, облачных озер и хранилищ данных, а также локальных систем, включая как структурированные, так и неструктурированные данные. Securiti дополнительно обогащает эту информацию подробными контекстными сведениями, создавая реальную модель знаний, включая информацию о том, кому принадлежат данные, доступные полномочия, какие нормативные требования применяются, где находятся данные и т. д. Этот фундамент имеет решающее значение для автоматизации точных контролей для защиты конфиденциальной информации и соблюдения соответствующих нормативных требований. Например, платформа автоматизирует обязанности по конфиденциальности, такие как картографирование данных, запросы на права субъектов данных и оценки. Она также решает обязанности по безопасности данных, такие как интеллект доступа к данным и управление, управление безопасностью данных, минимизация данных и управление нарушениями. В настоящее время особый интерес представляют управление неструктурированными данными и безопасная разработка систем ИИ, включая выявление скрытых систем ИИ, обеспечение того, чтобы конфиденциальные данные не использовались для обучения моделей ИИ, каталогизацию и мониторинг рисков систем ИИ, а также обеспечение контролей с помощью брандмауэров LLM для защиты систем ИИ от злоупотребления или неправильного использования. Наш центр управления данными обеспечивает беспрецедентную видимость и контроль, позволяя безопасно использовать данные и ИИ.

Как Securiti AI помогает организациям оставаться в соответствии с требованиями и управлять обязанностями по конфиденциальности данных эффективно?

Навигация по сложной сети нормативных требований к данным может быть ошеломляющей. Новые законы принимаются с быстрой скоростью – как закон ЕС об ИИ, исполнительный приказ Белого дома об ИИ и законопроект Калифорнии 1047, принятый в течение нескольких месяцев. Предприятия сталкиваются с новыми требованиями каждый день, а также должны соблюдать такие рамки, как управление рисками ИИ NIST и модель управления ИИ Сингапура. В Securiti есть специальная исследовательская команда, которая следит за всеми последними нормативными требованиями и интегрирует эти знания в наш центр управления данными. Это дает организациям реальную информацию, которая подчеркивает потенциальные риски, а также встроенные шаблоны для автоматизации соблюдения последних нормативных требований. Центр управления данными Securiti автоматизирует многие из наиболее трудоемких и сложных задач, связанных с соблюдением требований конфиденциальности, включая картографирование данных, оценки воздействия на конфиденциальность, запросы на права субъектов данных, трансграничные передачи, управление нарушениями и управление согласиями.

Можете ли вы обсудить роль ИИ в платформе Securiti и то, как она улучшает безопасность и управление данными?

Securiti использует передовые методы, использующие ИИ и машинное обучение, для повышения точности обнаружения и классификации данных. Эти методы значительно снижают количество ложных положительных результатов и дополняют обнаружение конфиденциального контента в сложных наборах данных, таких как неструктурированные данные, изображения и видео. Помимо использования ИИ в платформе, центр управления данными Securiti также имеет решающее значение для помощи организациям в управлении и управлении своими экосистемами ИИ. Часть этого включает безопасную обработку больших неструктурированных и структурированных наборов данных, а также обеспечение того, чтобы конфиденциальная или неверная информация не использовалась для моделей ИИ. Кроме того, существует большая потребность в защите конфиденциальности и полномочий доступа к данным, а также в защите критически важных моделей ИИ от таких вещей, как инъекция запросов и экспiltrация данных. Установка комплексных контролей и ограничений вокруг систем ИИ позволяет организациям безопасно использовать инновации.

Как работает брандмауэр LLM Securiti, и какие преимущества он предлагает для защиты приложений GenAI?

Наш контекстно-зависимый брандмауэр LLM стал ключевым элементом в нашей структуре безопасности. Для краткого обзора брандмауэр LLM оснащен передовыми возможностями обработки языка, что означает, что он понимает запросы пользователей на нескольких языках, анализирует мультимедийный контент и обеспечивает надежную защиту от различных угроз, таких как утечка данных, инъекция запросов и вредоносный контент. Брандмауэры LLM Securiti уникальны, поскольку они контекстно-зависимы – имеют реальное понимание конфиденциального контента и контекста вокруг данных, таких как полномочия доступа – и обеспечивают непрерывный мониторинг и защиту на основе реальных сведений о ландшафте данных. Брандмауэры Securiti также уникальны, поскольку они проверяют три разных точки в трубопроводе ИИ, включая брандмауэр запроса (между запросом пользователя и моделью LLM, защищающей от вредоносных атак), брандмауэр извлечения (между моделью LLM и базой данных векторов, контролирующей, какие данные извлекаются для ответа) и брандмауэр ответа (между моделью LLM и запросом пользователя, гарантирующий, что ответы соответствуют корпоративным политикам). Все эти взаимодействия требуют реального осмотра для выявления внешних атак, вредоносных акторов и даже ошибок пользователей.

Можете ли вы предоставить примеры того, как глобальные компании используют центр управления данными Securiti для разрушения барьеров и достижения единой интеллектуальности данных?

Например, одна из компаний Fortune 500, с которой мы работали, имела сложные требования по конфиденциальности данных, безопасности данных и управлению данными. Мы взаимодействовали с ключевыми членами этих команд на высшем уровне, включая их главного офицера по защите данных, главного офицера по данным и главного офицера по информационной безопасности. Они жаловались на наличие десятков фрагментированных инструментов для попытки получить управление данными, которое им было необходимо – и эти инструменты часто имели несоответствующие представления о их данных. Сшить эти системы вместе, чтобы удовлетворить их обязательства по данным, также было сложно и дорого. Они были готовы использовать наше решение, чтобы получить “единую истину” о своем ландшафте данных, которую можно было использовать различными командами, устраняя несоответствия и оптимизируя операции между группами (например, обработку трансграничных передач или нарушений данных, которые требуют ввода от нескольких команд). Единая платформа улучшила операционную эффективность, снизила сложные затраты на интеграцию и гарантировала, что все команды работают с одного и того же набора данных, снижая ответственность и риски.

Учитывая ваш обширный опыт в области безопасности, какие тенденции вы видите в сфере безопасности и управления данными?

Организации борются с сложным рядом продуктов для решения своих требований к безопасности и управлению данными. Одна из четких тенденций – это появление единой платформы, которая помогает снизить затраты и сложность и облегчить межведомственную координацию. Другой тенденцией является более широкое использование ИИ и автоматизации в этих решениях для масштабирования и решения проблемы взрывного роста данных в гибридных облачных средах и сложном наборе нормативных требований к данным. Устаревшие решения по обнаружению и классификации данных больше не удовлетворяют этим потребностям. Наконец, самой большой тенденцией является быстрый рост использования ИИ, особенно генеративного ИИ. Хотя все знакомы с потребительскими решениями ИИ, такими как Chat GPT, более убедительным случаем использования является решение ИИ для предприятий, которое может действительно стимулировать инновации и конкурентное преимущество. Чтобы успешно построить решения ИИ уровня предприятия, организациям понадобятся комплексные контроли и решения по управлению данными для внедрения соответствующих ограничений. Успешные организации будут активно работать над созданием инновационных решений ИИ, что, в свою очередь, создаст потребность в новых решениях по безопасности и управлению ИИ.

Как вы думаете, организации должны подготовиться к проблемам и возможностям, представленным растущим использованием ИИ в управлении данными?

Взрыв ИИ интересен, но бизнес должен уделять приоритетное внимание ответственной реализации, чтобы избежать того, чтобы ИИ стал финансовой или репутационной угрозой. Приоритизируя практики доверенного ИИ, компании – и их клиенты – могут ожидать высокого уровня прозрачности, контроля рисков и репутационного доверия. Это означает контроль над своим ландшафтом ИИ, оценку моделей на предмет предвзятости и безопасности, непрерывный мониторинг и обеспечение этичного обращения с данными. ИИ должен работать на вас, а не против вас.

Как Securiti AI интегрирует автоматизацию в управление безопасностью и конфиденциальностью данных, и какие преимущества эта автоматизация дает бизнесу в плане эффективности и соблюдения требований?

Securiti AI построена на основе автоматизации, что обеспечивает эффективность и снижает риск человеческой ошибки. Автоматизируя задачи, такие как обнаружение, классификация и оценка соблюдения требований, мы освобождаем команды безопасности и конфиденциальности для стратегических инициатив. Наши возможности автоматизации распространяются на реагирование на инциденты, обнаружение угроз и смягчение – поэтому наши клиенты могут быстро реагировать на инциденты безопасности. Кроме того, автоматизация играет решающую роль в обеспечении соблюдения эволюционирующих нормативных требований. Снижая сложность процессов соблюдения требований, мы помогаем организациям снизить затраты, минимизировать риски и продемонстрировать свою приверженность защите данных.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Securiti AI.