Интервью
Оран Мояль, сооснователь и технический директор Ocean Security — серия интервью

Ключевые моментыСтатус AI-native является организационным, а не техническим, потому что он меняет то…
Показать больше
- Статус AI-native является организационным, а не техническим, потому что он меняет то, как каждая команда выполняет работу.
- Ускорение отдельных задач не даёт результата, когда передача работы и согласования остаются реальными узкими местами между этапами.
- Агентам нужны принудительно применяемые разрешения и независимая проверка, потому что одни лишь инструкции не являются средствами безопасности.
Оран Мояль — сооснователь и технический директор Ocean Security, где он разрабатывает агентный ИИ для расследования сложных угроз, распространяемых по электронной почте. Его профессиональный опыт охватывает исследования и разработки в сфере кибербезопасности, наступательную социальную инженерию и корпоративную безопасность. В 2024 году он вместе с Шаем Шварцем основал Ocean, опираясь на их опыт анализа того, как злоумышленники используют доверительные каналы коммуникации и как системы безопасности могут противодействовать все более целенаправленным угрозам.
Ocean Security разрабатывает платформу защиты электронной почты на основе ИИ-агентов, предназначенную для расследования целевого фишинга, компрометации деловой электронной почты и финансового мошенничества. Специализированные ИИ-агенты анализируют контекст коммуникации и намерения отправителя, помогая командам безопасности выявлять угрозы в деловой переписке, которая на первый взгляд кажется легитимной. В этом интервью Мояль рассказывает, что отличает организацию, изначально выстроенную вокруг ИИ, как перестраивать рабочие процессы с учетом агентов и почему четкие требования, независимая проверка, строгое соблюдение разрешений и человеческое суждение остаются основой эффективной автоматизации.
До основания Ocean в 2024 году вы много лет занимались исследованиями и разработками в сфере кибербезопасности, в том числе работали в Армии обороны Израиля и в VisibleRisk / Microsoft Security. Какой опыт подтолкнул вас к созданию Ocean и как появление ИИ с самого начала повлияло на ваше видение компании?
Раньше для проведения целевой фишинговой кампании требовались специальная команда и недели ручного исследования и подготовки. С появлением генеративного ИИ мы поняли, что теперь каждый сотрудник любой компании может стать мишенью разрушительной фишинговой атаки государственного уровня. За одну ночь подписка за 20 долларов предоставила каждому злоумышленнику возможности, сопоставимые с возможностями государства.
У нас с Шаем большой опыт в социальной инженерии со стороны атакующих, и мы оба создавали и масштабировали компании в сфере корпоративной безопасности, поэтому знали, что устаревшие инструменты не справятся. Они ищут нарушения правил и аномалии, но такие атаки скрываются в обычной деловой переписке: в реальных цепочках писем, доверенных учетных записях и легитимных сервисах. Ничто не выглядит подозрительным. Поэтому в 2024 году мы основали Ocean, чтобы помочь компаниям адаптироваться к этой новой угрозе с помощью средств защиты электронной почты на базе ИИ. Они анализируют контекст и намерения отправителя в реальном времени — почти так же, как это сделал бы человек-специалист по расследованиям, — прежде чем произойдет компрометация.
Многие организации называют себя «изначально ориентированными на ИИ» лишь потому, что внедрили инструменты ИИ или автоматизировали некоторые процессы. Что, на ваш взгляд, принципиально отличает организацию, действительно изначально выстроенную вокруг ИИ, от той, которая просто интегрировала ИИ в существующую деятельность?
Многие компании называют себя изначально ориентированными на ИИ, потому что приобрели инструменты ИИ. Это всего лишь внедрение технологий. Если компания изначально строится вокруг ИИ, меняется то, как она выполняет повседневную работу и устраняет узкие места.
Все начинается с того, как руководители реагируют на узкое место. Обычная реакция — «Это отнимает слишком много времени; давайте наймем человека, который этим займется». Организация, изначально выстроенная вокруг ИИ, сначала спрашивает: «Как ИИ может ускорить работу всего этого подразделения?» Если задавать этот вопрос каждой команде, постепенно вся компания начнет работать иначе.
Настоящее преобразование на основе ИИ носит организационный, а не технический характер. Если ускорить работу одного подразделения, узкое место просто переместится в следующее, и в итоге компания будет двигаться со скоростью самого медленного подразделения. Организации, изначально выстроенные вокруг ИИ, меняются сообща: информация распространяется быстрее, циклы обратной связи сокращаются, а команды работают как единая связанная система.
В этой модели меняется ценность человеческого труда. По мере того как ИИ берет на себя все больше работы, дефицитными становятся навыки, необходимые для определения четкого направления, формулирования намерений и применения здравого суждения. Люди и агенты работают бок о бок. ИИ выполняет все больше задач, а люди решают, что стоит создавать и зачем.
Цель состоит в том, чтобы каждая команда, располагая теми же ресурсами, выполняла больше работы, действовала быстрее и эффективнее взаимодействовала с другими, не жертвуя качеством.
Вы утверждали, что рост производительности благодаря ИИ может быстро сойти на нет, если лежащие в основе рабочие процессы неэффективны. Какие операционные узкие места чаще всего мешают компаниям в полной мере воспользоваться преимуществами ИИ и как руководителям следует подходить к перестройке таких процессов?
Ускорение отдельных задач не означает автоматического ускорения работы всей организации. Если процессы, зависимости и взаимодействие между командами остаются прежними, большая часть прироста производительности, обеспеченного ИИ, теряется по пути.
Самые распространенные узкие места связаны не с технологиями. Это нечеткие требования, из-за которых приходится многократно переделывать работу, медленная передача задач между командами и ожидание согласований. ИИ ускоряет каждый этап, но время теряется между этапами.
Руководителям следует начать с измерения того, куда на самом деле уходит время, поскольку реальное узкое место часто не там, где все предполагают. Затем нужно перестроить рабочий процесс от начала до конца, устранив проблемы при передаче задач, уточнив определения и наладив циклы обратной связи, а не ускоряя только отдельные задачи. Наконец, каждую инициативу по внедрению ИИ следует связать с ключевыми показателями эффективности (KPI), за которые команды уже отвечают.
Важнее всего руководителям изменить образ мышления. Автоматизация и ускорение работы должны стать нормой. Вместо того чтобы принимать существующие процессы как данность, командам следует постоянно пересматривать способы работы, чтобы действовать быстрее и добиваться большего эффекта, не жертвуя качеством.
Один из принципов, на важности которого вы настаиваете, — чётко определять требования до внедрения ИИ-агентов в рабочие процессы. Как организациям следует пересмотреть подход к постановке задач, формулированию ожиданий и установлению критериев успеха, если ИИ-агенты выполняют значительную часть работы?
Когда значительную часть работы выполняют ИИ-агенты, организациям нужно пересмотреть подход к формулированию задач и передаче информации. Расплывчатая просьба не остановит агента: он начнёт гадать, и каждая ошибочная догадка приведёт к дополнительной переделке.
Я рассматриваю это на трёх уровнях:
Чёткие задачи, цели и контекст. Агенту нужно понимать, что требуется сделать, почему это важно и в каком контексте выполняется задача. До начала работы он должен иметь возможность уточнить всё, что ему непонятно, чтобы устранить пробелы сразу, а не обнаружить их на полпути.
Самостоятельная проверка. Критерии успеха нужно определить заранее так, чтобы агент мог проверить результат самостоятельно. Например, в разработке программного обеспечения агент должен иметь возможность запустить код, проверить, работает ли он как задумано, и убедиться, что код проходит тесты, прежде чем его кто-либо проверит.
Люди как заключительный этап. Люди должны получать результат, который агент уже доработал за несколько итераций в соответствии с согласованными критериями. Их задача — применять своё суждение, а не исправлять элементарные ошибки.
Чем точнее формулировка, тем меньше времени людей требуется на каждый результат.
Вы выступаете за то, чтобы ИИ-агенты проверяли свою работу до того, как она попадёт к проверяющим. Как на практике выглядит эффективный процесс проверки с помощью ИИ и как организациям не допустить, чтобы автоматизированный контроль качества лишь закреплял те же ошибки, которые были допущены при выполнении работы?
Эффективная проверка должна испытывать результат так, как его будут использовать на практике. Агенту следует запустить реальную систему от начала до конца, убедиться, что результат соответствует критериям успеха, и исправить всё, что не сработало, прежде чем результат увидит человек.
Чтобы проверка не воспроизводила ошибки самого агента, важно соблюдать несколько принципов:
Отделяйте критерии от выполнения задачи. Люди должны определить, как выглядит успех, прежде чем начнётся работа. Если агент сам решает, что значит «готово», он будет сам проверять свою работу.
Установите жёсткие ограничения. Не каждая проверка должна зависеть от суждений агента. Некоторые проверки должны быть фиксированными и детерминированными — они должны контролировать конкретные параметры, стандарты и правила. Так агент получает чёткие границы, которые ему не удастся обойти рассуждениями.
Привлекайте независимого проверяющего. Второй агент, с новым контекстом и без заинтересованности в первоначальном подходе, обнаружит ошибки, пропущенные первым.
Показывайте подтверждения, а не только вердикт. Результаты тестов, снимки экрана и записи позволяют людям увидеть, что произошло, вместо того чтобы просто довериться отметке «пройдено».
Тогда внимание людей можно направить на области с наибольшим риском. Цель не в том, чтобы исключить людей из процесса, а в том, чтобы они тратили время на оценку ситуации, а не на механические проверки.
В традиционных организациях часто есть несколько уровней управления, согласований и передачи работы между командами. Как операционная модель, изначально построенная на ИИ, меняет взаимодействие инженерных, продуктовых, защитных и бизнес-команд? И что происходит с традиционными ролями и обязанностями, когда агенты берут на себя всё большую часть исполнения?
ИИ позволяет каждому человеку и каждой команде производить больше. Но если порядок передачи работы, согласования и координация остаются прежними, дополнительный объём просто скапливается в ожидании следующего шага. Организация не начинает работать быстрее. Вместо этого появляются новые узкие места. Операционная модель, изначально построенная на ИИ, должна менять взаимодействие команд, а не только способы работы каждой отдельной команды.
Начать нужно с того, как перемещается информация. Большая её часть должна проходить через автоматизированные процессы, чтобы встречи посвящались принятию решений, а не обмену новостями. Когда сведения с мест напрямую поступают в продуктовую команду, решения принимаются быстрее и точнее, что, в свою очередь, помогает чётче формулировать задачи и эффективнее их выполнять.
Подход к согласованиям тоже нужно пересмотреть. Это самая трудная часть, потому что она требует изменить представление организации о том, что считается нормой. Согласования по-прежнему важны, но не следует рассматривать все изменения одинаково. Например, если включить оценку рисков в конкретный процесс согласования, можно сократить число ручных согласований для задач с низким уровнем риска, сохранив проверку человеком там, где она действительно важна. Это лишь один из способов ускорить процесс, не теряя контроля.
Меняются и роли. По мере того как агенты берут на себя всё большую часть исполнения, люди переходят от ответственности за выполнение задач к ответственности за результаты. Им нужно понимать контекст целиком, подвергать сомнению исходные предположения и выходить за рамки своих традиционных обязанностей. Успеха добьются организации, которые перестроят взаимодействие людей, а не только те, что внедрят больше всего ИИ.
В самой Ocean для расследования сложных угроз, распространяемых по электронной почте, используются специализированные ИИ-агенты. Как ваш опыт разработки агентного ИИ для кибербезопасности повлиял на то, как вы внедряете ИИ внутри компании? И есть ли уроки, полученные при создании автономных систем безопасности, которые применимы к управлению организацией, изначально построенной на ИИ?
Создание автономных агентов для защиты электронной почты повлияло на то, как мы используем ИИ внутри компании, в двух отношениях.
Первый вывод: эффективность агентов зависит от того, насколько хорошо они понимают контекст. Агент по кибербезопасности принимает более взвешенные решения, когда понимает, какую организацию защищает. То же верно и для внутренних процессов. Чтобы агенты приносили хорошие результаты, нужно дать им глубокое понимание того, как устроена организация, для чего предназначена каждая задача и как она связана с общей картиной.
Второй вывод: агенты нуждаются в непрерывной оценке. В рабочей среде мы постоянно проверяем, как работают наши агенты, где они дают сбой и каких инструментов или данных им не хватает. Внутри организации мы придерживаемся того же подхода. Нам нужно специальное место, где можно тестировать и обучать агентов, а также получать обратную связь о них. Без этого трудно понять, становится ли агент лучше и что ему нужно дальше.
Управление организацией, изначально построенной на ИИ, во многом похоже на создание автономной системы безопасности: предоставляйте агентам глубокое понимание контекста, постоянно оценивайте их работу и привлекайте людей там, где важна рассудительность.
По мере того как компании предоставляют ИИ-агентам всё больше самостоятельности, возникают вопросы подотчётности, безопасности и непредвиденных последствий. Учитывая ваш опыт в кибербезопасности, как компаниям следует устанавливать ограничения, которые позволят агентам действовать самостоятельно, не ставя под угрозу безопасность и не лишая людей возможности осуществлять содержательный контроль?
Агенты постепенно движутся к большей самостоятельности, и компаниям следует переходить к ней поэтапно. Начните с областей, последствия действий в которых хорошо понятны, докажите ценность такого подхода, а затем расширяйте его применение.
Настоящие ограничения — это не инструкции. Слова «не делай этого» не являются мерой безопасности. Ограничения нужно обеспечивать на практике: строго лимитировать доступ агента, проверять, что он не может выйти за пределы своей компетенции, и непрерывно отслеживать его действия, блокируя те, которые никто не предусматривал. Как и любую другую часть системы, ограничения следует регулярно тестировать и проверять.
Подотчётность начинается с оператора. Человек, который запускает агента, определяет границы его возможностей: что он может делать самостоятельно, для чего требуется одобрение и куда ему нельзя заходить. Возьмём агента, который реагирует на угрозы, поступающие по электронной почте. Он может быстро и надёжно помещать подозрительные сообщения в карантин без участия человека. Для действий с более широкими последствиями — например, блокировки отправителя во всей организации — оператор может сначала предусмотреть этап проверки. По мере того как агент подтверждает свою надёжность, эти границы можно уверенно расширять. Именно чёткие ограничения делают возможной большую самостоятельность.
Это особенно важно, поскольку злоумышленники всё чаще нацеливаются на ИИ-агентов. Бизнес стремится работать быстрее, но у команд по безопасности пока нет чёткого плана защиты агентов. Поэтому основой должны стать права доступа, строго контролируемые на практике, и постоянный мониторинг.
Многие компании оценивают внедрение ИИ по сэкономленному времени, автоматизированным задачам или производительности сотрудников. Какие показатели, по вашему мнению, действительно позволяют понять, приносит ли операционная модель, основанная на ИИ, устойчивую пользу бизнесу, особенно с учётом затрат на переделки, качество и координацию?
Сэкономленное время — важный показатель, и часто именно он первым наглядно демонстрирует, что ИИ приносит пользу. Но его эффект раскрывается в полной мере, если учитывать и то, как организация использует это время, и то, сохраняются ли полученные преимущества в долгосрочной перспективе.
Качество. Ускорение имеет смысл, только если качество сохраняется или повышается. Отслеживайте объём переделок, количество дефектов и частоту исправлений результатов после их передачи. Если одновременно растут скорость и качество, выгода реальна и долгосрочна.
Расширение бизнеса. Истинная ценность организации, основанной на ИИ, заключается в том, что сэкономленное время позволяет делать больше. Мы оцениваем, сколько новых возможностей и инициатив можем реализовать, не увеличивая численность сотрудников.
Сквозная скорость. Время, которое требуется агенту для разработки функции, — лишь одна часть общей картины. Главный показатель — продолжительность всего процесса, включая каждую передачу работы, от момента, когда мы решаем сделать что-либо приоритетом, до момента, когда это становится доступно в продукте. Именно так можно понять, с какой скоростью мы действительно работаем; этот показатель выявляет и затраты на координацию, которые не видны при оценке отдельных задач. В сфере безопасности сквозная скорость имеет решающее значение. Злоумышленники уже используют ИИ-агентов, поэтому время обнаружения угрозы и реагирования на неё должно постоянно сокращаться.
Сэкономленное время показывает, что ИИ работает. Эти показатели демонстрируют, создаёт ли он долгосрочную ценность для бизнеса.
Вы говорили, что небольшие и гибкие технологические компании могут получить существенное конкурентное преимущество, перестроив свою деятельность на основе ИИ. Какие преимущества есть у стартапов, изначально построенных на ИИ, перед давно существующими компаниями и как, по вашему мнению, будет меняться структура успешных технологических компаний в течение следующих трёх-пяти лет?
У стартапов, изначально построенных на ИИ, есть структурное преимущество. Они могут с самого начала выстраивать рабочие процессы, технологии и команды вокруг ИИ-агентов, тогда как давно существующим компаниям приходится иметь дело с десятилетиями накопленной устаревшей инфраструктуры и организационной сложностью. Главное различие не в технологиях: доступ к одним и тем же инструментам ИИ есть у всех. Преимущество получают компании, способные перестроить свою работу, не разбирая предварительно многоуровневую систему согласований, цепочки передачи задач и жёстко закреплённые роли.
В ближайшие три-пять лет, как я считаю, успешные технологические компании выйдут за рамки простой автоматизации с помощью ИИ и перейдут к операционным моделям на основе ИИ-агентов, в которых специализированные ИИ-агенты выполняют целые рабочие процессы. Команды людей не исчезнут, но люди будут тратить меньше времени на выполнение задач вручную и больше — на предоставление контекста, установление ограничений и управление результатами. В итоге организации станут более компактными, смогут быстрее масштабироваться, эффективнее работать и конкурировать с компаниями, во много раз превосходящими их по размеру.
Спасибо за прекрасное интервью. Читателям, которые хотят узнать больше о безопасности электронной почты на основе ИИ-агентов, стоит посетить Ocean Security.












