Рик Качча, генеральный директор и сооснователь WitnessAI – Серия интервью

Рик Качча, генеральный директор и сооснователь WitnessAI, имеет обширный опыт в запуске продуктов безопасности и соответствия требованиям. Он занимал руководящие должности в области продукта и маркетинга в Palo Alto Networks (PANW ), Google (GOOGL ) и Symantec. Ранее Качча возглавлял маркетинг продукта в ArcSight через ее первичное публичное предложение и последующие операции как публичной компании, и служил первым главным маркетинговым офицером в Exabeam. Он имеет несколько степеней от Университета Калифорнии, Беркли.

WitnessAI разрабатывает платформу безопасности, ориентированную на обеспечение безопасного и безопасного использования ИИ в предприятиях. С каждым значительным технологическим сдвигом – таким как веб, мобильные и облачные вычисления – появляются новые проблемы безопасности, создавая возможности для лидеров отрасли. ИИ представляет собой следующий рубеж в этой эволюции.

Компания стремится установить себя как лидера в области безопасности ИИ, объединив экспертизу в области машинного обучения, кибербезопасности и крупномасштабных облачных операций. Ее команда имеет глубокий опыт в разработке ИИ, обратной инженерии и развертывании Kubernetes в нескольких облаках, решая критические проблемы безопасности ИИ-управляемых технологий.

Что вдохновило вас на создание WitnessAI, и какие ключевые проблемы управления и безопасности ИИ вы стремились решить?

Когда мы впервые начали компанию, мы думали, что команды безопасности будут обеспокоены атаками на их внутренние модели ИИ. Вместо этого первые 15 руководителей информационной безопасности, с которыми мы говорили, сказали обратное, что широкое корпоративное внедрение моделей обработки языка было еще далеко, но срочной проблемой было защита использования сотрудниками приложений ИИ других людей. Мы отступили и увидели, что проблема не заключалась в отражении страшных кибератак, а в безопасном обеспечении продуктивности использования ИИ. Хотя управление может быть менее привлекательным, чем кибератаки, это то, что команды безопасности и конфиденциальности действительно нуждаются. Им нужна видимость того, что их сотрудники делают с помощью ИИ третьих лиц, способ реализовать политику приемлемого использования и способ защитить данные без блокирования использования этих данных. Именно это мы и построили.

Учитывая ваш обширный опыт в Google Cloud, Palo Alto Networks и других фирмах кибербезопасности, как эти роли повлияли на ваш подход к построению WitnessAI?

Я говорил со многими руководителями информационной безопасности на протяжении многих лет. Одна из наиболее распространенных вещей, которые я слышу от руководителей информационной безопасности сегодня, – это: “Я не хочу быть ‘Доктором Нет’, когда речь идет об ИИ; я хочу помочь нашим сотрудникам использовать его, чтобы стать лучше”. Как человек, который работал с поставщиками кибербезопасности в течение долгого времени, это очень другое заявление. Это более похоже на заявление эпохи доткома, когда Веб был новой и трансформирующей технологией. Когда мы построили WitnessAI, мы специально начали с возможностей продукта, которые помогают клиентам безопасно использовать ИИ; наше послание было таким, что это как магия, и, конечно, все хотят испытать магию. Я думаю, что компании безопасности слишком быстро играют на карте страха, и мы хотели быть другими.

Что отличает WitnessAI от других платформ управления и безопасности ИИ на рынке сегодня?

Ну, во-первых, большинство других поставщиков в этой области в первую очередь сосредоточены на безопасности, а не на управлении. Для меня управление – это как тормоза на машине. Если вы действительно хотите добраться куда-то быстро, вам нужны эффективные тормоза, кроме мощного двигателя. Никто не будет ездить на Феррари очень быстро, если у нее нет тормозов. В данном случае ваша компания использует ИИ – это Феррари, а WitnessAI – это тормоза и рулевое колесо.

Напротив, большинство наших конкурентов сосредоточены на теоретических страшных атаках на модель ИИ организации. Это реальная проблема, но это другая проблема, чем получение видимости и контроля над тем, как мои сотрудники используют любое из 5 000+ приложений ИИ, уже доступных в Интернете. Это намного проще для нас добавить брандмауэр ИИ (и у нас он есть), чем для поставщиков брандмауэров ИИ добавить эффективное управление и управление рисками.

Как WitnessAI балансирует необходимость инноваций ИИ с безопасностью и соответствием требованиям предприятия?

Как я написал ранее, мы считаем, что ИИ должен быть как магия – он может помочь вам сделать удивительные вещи. С учетом этого мы думаем, что инновации ИИ и безопасность связаны. Если ваши сотрудники могут использовать ИИ безопасно, они будут использовать его часто, и вы будете опережать. Если вы примените типичный подход безопасности и заблокируете его, ваш конкурент не сделает этого, и он опередит вас. Все, что мы делаем, – это обеспечение безопасного внедрения ИИ. Как один из наших клиентов сказал мне: “Это магия, но большинство поставщиков относятся к этому как к черной магии, страшной и чему-то, чего следует бояться”. В WitnessAI мы помогаем обеспечить магию.

Можете ли вы рассказать о философии компании в отношении управления ИИ – видите ли вы безопасность ИИ как средство, а не ограничение?

Мы регулярно имеем руководителей информационной безопасности, которые подходят к нам на мероприятиях, где мы представили, и говорят нам: “Ваши конкуренты все говорят о том, как страшен ИИ, и вы – единственный поставщик, который рассказывает нам, как использовать его эффективно”. Сундар Пичаи в Google сказал, что “ИИ может быть более глубоким, чем огонь”, и это интересная метафора. Огонь может быть невероятно разрушительным, как мы недавно видели. Но контролируемый огонь может создать сталь, которая ускоряет инновации. Иногда в WitnessAI мы говорим о создании инноваций, которые позволяют нашим клиентам безопасно направлять “огонь” ИИ, чтобы создать эквивалент стали. Альтернативно, если вы думаете об ИИ как о магии, то, может быть, нашей целью является дать вам волшебную палочку, чтобы направлять и контролировать ее.

В любом случае мы абсолютно считаем, что безопасное обеспечение ИИ – это цель. Только чтобы дать вам пример, есть много инструментов предотвращения утечки данных, это технология, которая существует уже давно. И люди пытаются применить предотвращение утечки данных к использованию ИИ, и, может быть, плагин браузера предотвращения утечки данных видит, что вы ввели длинный запрос на помощь в вашей работе, и этот запрос случайно содержит номер идентификатора клиента. Что происходит? Продукт предотвращения утечки данных блокирует запрос от отправки, и вы никогда не получите ответ. Это ограничение. Вместо этого с WitnessAI мы можем выявить тот же номер и бесшумно и хирургически удалить его на лету, а затем удалить его из ответа ИИ, так что вы получите полезный ответ, сохраняя при этом безопасность ваших данных. Это обеспечение.

Какие являются самыми большими рисками, с которыми сталкиваются предприятия при развертывании генеративного ИИ, и как WitnessAI смягчает их?

Первый – это видимость. Многие люди удивляются, узнав, что вселенная приложений ИИ не ограничивается только ChatGPT и теперь DeepSeek; существует буквально тысячи приложений ИИ в Интернете, и предприятия поглощают риски от использования сотрудниками этих приложений, поэтому первый шаг – получить видимость: какие приложения ИИ используют мои сотрудники, что они делают с этими приложениями и является ли это рискованным?

Второй – это контроль. Ваша юридическая команда разработала комплексную политику приемлемого использования ИИ, которая обеспечивает безопасность данных клиентов, граждан, интеллектуальной собственности, а также безопасность сотрудников. Как вы будете реализовывать эту политику? Будет ли это в вашем продукте безопасности конечных точек? В вашем брандмауэре? В вашем VPN? В вашем облаке? Что, если все это от разных поставщиков? Итак, вам нужен способ определить и обеспечить соблюдение политики приемлемого использования, которая последовательна для моделей ИИ, приложений, облаков и продуктов безопасности.

Третий – это защита ваших собственных приложений. В 2025 году мы увидим более быстрое внедрение моделей обработки языка внутри предприятий, а затем более быстрый запуск приложений чата на основе этих моделей. Итак, предприятиям необходимо не только убедиться, что приложения защищены, но и что приложения не говорят “глупые” вещи, такие как рекомендация конкурента.

Мы решаем все три. Мы предоставляем видимость того, какие приложения доступны, как они используются, политику, основанную на том, кто вы и что вы пытаетесь сделать, и очень эффективные инструменты для предотвращения атак, таких как побег из тюрьмы или нежелательное поведение ботов.

Как функция наблюдаемости ИИ WitnessAI помогает компаниям отслеживать использование ИИ сотрудниками и предотвращать риски “тени ИИ”?

WitnessAI подключается к вашей сети легко и бесшумно создает каталог каждого приложения ИИ (и существует буквально тысячи из них в Интернете), к которому обращаются ваши сотрудники. Мы говорим вам, где эти приложения расположены, где они хранят свои данные и т. д., чтобы вы понимали, насколько рискованными являются эти приложения. Вы можете включить видимость разговора, где мы используем глубокий анализ пакетов для наблюдения за запросами и ответами. Мы можем классифицировать запросы по риску и по намерению. Намерение может быть “написать код” или “написать корпоративный контракт”. Это важно, потому что мы затем позволяем вам написать политику контроля на основе намерения.

Какая роль играет обеспечение политики ИИ в обеспечении соответствия требованиям корпоративного ИИ, и как WitnessAI упрощает этот процесс?

Соответствие означает обеспечение того, что ваша компания следует правилам или политикам, и есть две части обеспечения соответствия. Первая заключается в том, что вы должны быть в состоянии выявить проблемную деятельность. Например, мне нужно знать, что сотрудник использует данные клиентов таким образом, что может нарушить закон о защите данных. Мы делаем это с нашей платформой наблюдаемости. Вторая часть заключается в описании и обеспечении соблюдения политики в отношении этой деятельности. Вы не хотите просто знать, что данные клиентов утечены, вы хотите остановить утечку. Итак, мы построили уникальный движок политики ИИ, Witness/CONTROL, который позволяет вам легко создавать политики, основанные на идентификаторе и намерении, для защиты данных, предотвращения вредных или незаконных ответов и т. д. Например, вы можете создать политику, которая говорит что-то вроде: “Только наш юридический отдел может использовать ChatGPT для написания корпоративных контрактов, и если они это делают, автоматически удалять любую личную информацию”. Легко сказать, и с WitnessAI легко реализовать.

Как WitnessAI решает проблемы, связанные с побегом из тюрьмы моделей обработки языка и атаками на инъекцию запросов?

У нас есть команда исследователей ИИ – действительно острые. Ранее они построили систему для создания синтетических данных об атаках, в дополнение к доступным обучающим наборам данных. В результате мы протестировали нашу инъекцию запросов против всего, что есть, и мы более чем на 99% эффективны и регулярно обнаруживаем атаки, которые сами модели пропускают.

На практике большинство компаний, с которыми мы говорим, хотят начать с управления приложениями сотрудников, а затем немного позже они запускают приложение ИИ для клиентов на основе своих внутренних данных. Итак, они используют Witness для защиты своих людей, а затем включают брандмауэр инъекции запросов. Одна система, один последовательный способ создания политики, легко масштабируется.

Каковы ваши долгосрочные цели для WitnessAI, и где вы видите эволюцию управления ИИ в течение следующих пяти лет?

До сих пор мы говорили только о модели человека-чата. Наша следующая фаза будет включать в себя обработку приложения к приложению, т. е. агентский ИИ. Мы спроектировали API в нашей платформе для работы одинаково хорошо как с агентами, так и с людьми. Далее мы считаем, что построили новый способ получить видимость и контроль политики на уровне сети в эпоху ИИ, и мы будем расти компанией с учетом этого. Спасибо за отличный интервью, читателям, которые хотят узнать больше, следует посетить WitnessAI.