Інтерв’ю
Oran Moyal, співзасновник і технічний директор Ocean Security — серія інтерв’ю

Ключові моментиСтатус AI-native є організаційним, а не технічним, оскільки він змінює те, як кожна…
Показати більше
- Статус AI-native є організаційним, а не технічним, оскільки він змінює те, як кожна команда виконує роботу.
- Прискорення окремих завдань не дає результату, коли передавання роботи та затвердження залишаються справжніми вузькими місцями між етапами.
- Агентам потрібні примусово застосовані дозволи та незалежна перевірка, оскільки самі лише інструкції не є засобами безпеки.
Oran Moyal — співзасновник і технічний директор Ocean Security, де він розробляє агентний ШІ для розслідування складних загроз електронній пошті. Його досвід охоплює дослідження та розробки у сфері кібербезпеки, соціальну інженерію з боку атакувальників і корпоративну безпеку. У 2024 році він разом із Shay Shwartz заснував Ocean, спираючись на їхній досвід аналізу того, як зловмисники використовують довіру до комунікацій і як системи безпеки можуть протидіяти дедалі більш цілеспрямованим загрозам.
Ocean Security створює платформу безпеки електронної пошти на основі агентного ШІ, призначену для розслідування цільового фішингу, компрометації ділової електронної пошти та фінансового шахрайства. Її спеціалізовані агенти ШІ аналізують контекст комунікації та наміри відправника, допомагаючи командам безпеки виявляти загрози в діловому листуванні, яке на перший погляд здається цілком легітимним. У цьому інтерв’ю Мояль розповідає, що вирізняє організацію, у якій ШІ закладений в основу роботи, як перебудувати робочі процеси навколо агентів і чому чіткі вимоги, незалежна перевірка, забезпечення дотримання дозволів і людське судження залишаються ключовими для ефективної автоматизації.
До того як заснувати Ocean у 2024 році, ви багато років працювали в галузі досліджень і розробок у сфері кібербезпеки, зокрема обіймали посади в Армії оборони Ізраїлю та VisibleRisk / Microsoft Security. Який досвід спонукав вас запустити Ocean і як поява ШІ від самого початку вплинула на ваше бачення компанії?
Для цільової фішингової кампанії типу spear phishing раніше була потрібна окрема команда, а також тижні ручного дослідження й підготовки. Коли з’явився генеративний ШІ, ми зрозуміли, що тепер кожен працівник кожного підприємства може стати мішенню руйнівної фішингової атаки державного рівня. За одну ніч підписка за $20 надала кожному зловмиснику можливості на рівні держав.
Ми з Shay маємо глибоку експертизу в соціальній інженерії з боку атакувальників, а також обоє створювали й масштабували компанії у сфері корпоративної безпеки, тож знали, що застарілі інструменти не зможуть упоратися з новими загрозами. Вони шукають порушення правил і аномалії, але ці атаки ховаються у звичайній діловій комунікації: реальних ланцюжках листування, довірених облікових записах і легітимних сервісах. Ніщо не здається підозрілим. Тож у 2024 році ми заснували Ocean, щоб допомогти підприємствам адаптуватися до цієї нової загрози за допомогою безпеки електронної пошти на основі ШІ, яка аналізує контекст і наміри відправника в реальному часі, подібно до людського фахівця з розслідувань, — ще до того, як станеться компрометація.
Багато організацій називають себе «такими, у яких ШІ закладений в основу роботи», лише тому, що впровадили інструменти ШІ або автоматизували окремі процеси. На вашу думку, що принципово відрізняє організацію, у якій ШІ справді закладений в основу роботи, від тієї, що просто інтегрувала ШІ в наявні операції?
Багато компаній називають себе такими, у яких ШІ закладений в основу роботи, бо придбали інструменти ШІ. Це лише впровадження технологій. Такий підхід змінює те, як компанія виконує повсякденну роботу й усуває вузькі місця.
Усе починається з того, як керівники реагують на вузьке місце. Традиційна реакція така: «Це забирає надто багато часу — наймімо когось, хто цим займатиметься». Організація, у якій ШІ закладений в основу роботи, спершу запитує: «Як ШІ може пришвидшити роботу всієї цієї функції?» Якщо ставити це запитання кожній команді, вся компанія починає працювати інакше.
Справжнє перетворення на організацію, у якій ШІ закладений в основу роботи, — це організаційна, а не технічна зміна. Якщо пришвидшити роботу одного відділу, вузьке місце просто переміститься до наступного, і зрештою компанія працюватиме зі швидкістю своєї найповільнішої функції. Такі організації змінюються узгоджено: інформація рухається швидше, цикли зворотного зв’язку стають коротшими, а команди працюють як єдина взаємопов’язана система.
У цій моделі змінюється цінність людської праці. Що більше роботи бере на себе ШІ, то більш дефіцитними стають навички чітко визначати напрям, формулювати наміри й ухвалювати зважені рішення. Люди й агенти працюють пліч-о-пліч. ШІ виконує дедалі більше завдань, а люди вирішують, що варто створювати і навіщо.
Мета полягає в тому, щоб кожна команда могла робити більше тими самими ресурсами, працювати швидше й ефективніше взаємодіяти, не жертвуючи якістю.
Ви стверджували, що приріст продуктивності завдяки ШІ може швидко зникнути, якщо робочі процеси залишаються неефективними. Які операційні вузькі місця найчастіше заважають компаніям повною мірою скористатися перевагами ШІ та як керівникам слід підходити до перебудови цих процесів?
Саме по собі пришвидшення окремих завдань не означає, що швидше працюватиме вся організація. Якщо процеси, залежності й комунікація між командами не змінюються, більша частина приросту продуктивності завдяки ШІ втрачається на цьому шляху.
Найчастіше вузькі місця пов’язані не з технічними питаннями. Це нечіткі вимоги, що призводять до повторної роботи, повільне передавання завдань між командами та робота, яка чекає на погодження. ШІ пришвидшує кожен етап, але час втрачається між ними.
Керівникам варто почати з вимірювання того, на що насправді витрачається час, адже справжнє вузьке місце часто не там, де його очікують побачити. Потім потрібно перебудувати робочий процес від початку до кінця, усунувши проблеми з передаванням завдань, визначеннями й циклами зворотного зв’язку, а не зосереджуючись лише на окремих завданнях. Нарешті, кожну ініціативу із застосування ШІ слід пов’язати з ключовими показниками ефективності (KPI), за які команди вже відповідають.
Найважливіше — керівникам потрібно змінити підхід. Автоматизація та пришвидшення мають стати нормою. Замість того щоб приймати наявні процеси як належне, команди мають постійно переглядати способи виконання роботи, щоб працювати швидше й посилювати свій вплив, не жертвуючи якістю.
Один із принципів, на важливості якого ви наголошуєте, — чітко визначити вимоги, перш ніж упроваджувати ШІ-агентів у робочий процес. Як організаціям варто переосмислити підходи до визначення завдань, формулювання очікувань і встановлення критеріїв успіху, коли ШІ-агенти виконують значну частину роботи?
Коли ШІ-агенти виконують значну частину роботи, організаціям потрібно переосмислити, як вони формулюють завдання й повідомляють про них. Розмите формулювання не зупинить агента: він здогадуватиметься, а кожне хибне припущення призводитиме до додаткової переробки.
Я розглядаю це на трьох рівнях:
Чіткі завдання, цілі й контекст. Агент має розуміти, що потрібно зробити, чому це важливо і в якому контексті. Перш ніж почати роботу, він повинен мати змогу уточнити все незрозуміле, щоб усунути прогалини заздалегідь, а не виявляти їх на півдорозі.
Самоперевірка. Критерії успіху потрібно визначити заздалегідь так, щоб агент міг самостійно їх перевірити. Наприклад, у розробці програмного забезпечення агент має вміти запустити код, перевірити, чи працює він належним чином, і переконатися, що код проходить тести, перш ніж його хтось перегляне.
Люди як заключний рівень перевірки. Люди мають отримувати результат, який агент уже вдосконалив за кілька ітерацій, звіряючи його з узгодженими критеріями. Їхнє завдання — застосувати власне судження, а не виправляти елементарні помилки.
Що чіткіше визначено завдання, то менше людського часу потребує кожен результат.
Ви виступаєте за те, щоб ШІ-агенти перевіряли власну роботу до того, як вона потрапить до людей-рецензентів. Який вигляд на практиці має ефективний процес перевірки за допомогою ШІ і як організаціям не допустити, щоб автоматизовані перевірки якості лише закріплювали ті самі помилки, що виникли під час виконання роботи?
Ефективний процес перевірки тестує роботу так, як її використовуватимуть насправді. Агент має запустити реальну систему від початку до кінця, підтвердити відповідність результату критеріям успіху й виправити все, що не пройшло перевірку, перш ніж результат потрапить до людини.
Щоб перевірка не відтворювала власних помилок агента, важливо дотримуватися кількох принципів:
Відокремлюйте критерії від виконання. Люди мають визначити, що вважатиметься успіхом, ще до початку роботи. Якщо агент сам вирішуватиме, що означає «готово», він сам оцінюватиме власну роботу.
Установлюйте жорсткі обмеження. Не кожна перевірка має залежати від судження агента. Деякі перевірки повинні бути фіксованими й детермінованими та підтверджувати дотримання конкретних параметрів, стандартів і політик. Вони встановлюють чіткі межі, які агент не зможе обійти міркуваннями.
Залучайте незалежного рецензента. Другий агент, який має свіжий контекст і не зацікавлений у початковому підході, виявить помилки, пропущені першим.
Показуйте докази, а не лише вердикт. Результати тестів, знімки екрана й записи дають людям змогу побачити, що відбулося, замість того щоб просто довіритися позначці «пройдено».
Тоді увага людей зосереджується на ділянках із найвищим ризиком. Мета не в тому, щоб усунути людей від процесу, а в тому, щоб вони витрачали час на оцінювання, а не на механічні перевірки.
Традиційні організації часто покладаються на численні управлінські рівні, погодження та передавання завдань між командами. Як операційна модель, від початку побудована навколо ШІ, змінює співпрацю інженерних, продуктових, безпекових і бізнес-команд? І що відбувається з традиційними ролями та обов’язками, коли агенти беруть на себе дедалі більше завдань?
ШІ дає кожній людині й кожній команді змогу робити більше. Але якщо порядок передавання завдань, погодження й координація не зміняться, додаткові результати просто накопичуватимуться в очікуванні наступного кроку. Організація не працюватиме швидше — натомість виникнуть нові вузькі місця. Операційна модель, від початку побудована навколо ШІ, має змінити не лише роботу кожної команди окремо, а й те, як команди взаємодіють.
Почати слід із того, як рухається інформація. Більше інформації має передаватися автоматизованими каналами, щоб зустрічі можна було присвятити ухваленню рішень, а не звітуванню про новини. Коли інформація з місць, де безпосередньо виконують роботу, надходить до продуктової команди напряму, рішення ухвалюють швидше й точніше, а це допомагає чіткіше визначати завдання та якісніше їх виконувати.
Погодження також потрібно переосмислити, і це найскладніше, адже доведеться змінити уявлення організації про те, що вважається нормою. Погодження й надалі важливі, але не слід однаково розглядати кожну зміну. Наприклад, додавання оцінювання ризиків до певного процесу погодження може зменшити кількість ручних погоджень для робіт із низьким ризиком, водночас зберігаючи перевірку людиною там, де вона справді потрібна. Це лише один зі способів пришвидшити процес, не втрачаючи контролю.
Ролі також зазнають змін. Коли агенти беруть на себе дедалі більше роботи, люди переходять від відповідальності за виконання завдань до відповідальності за результати. Вони мають розуміти весь контекст, ставити під сумнів припущення й виходити за межі традиційних обов’язків. Переможуть ті організації, які змінять підходи до взаємодії людей, а не лише ті, що додадуть найбільше ШІ.
Сама компанія Ocean використовує спеціалізованих ШІ-агентів для розслідування складних загроз, що надходять електронною поштою. Як ваш досвід розробки агентного ШІ для кібербезпеки вплинув на те, як ви впроваджуєте ШІ всередині компанії? І чи є уроки, винесені зі створення автономних систем безпеки, які можна застосувати до управління організацією, від початку побудованою навколо ШІ?
Створення автономних агентів для захисту електронної пошти вплинуло на те, як ми використовуємо ШІ всередині компанії, у двох аспектах.
Перший урок полягає в тому, що агенти працюють настільки добре, наскільки добре вони розуміють контекст. Агент із кібербезпеки ухвалює кращі рішення, коли розуміє організацію, яку захищає. Те саме стосується й внутрішнього використання агентів. Щоб отримувати від них хороші результати, потрібно дати їм справжнє розуміння того, як працює організація, для чого призначене кожне завдання та як воно пов’язане із загальною картиною.
Другий урок — агентам потрібне постійне оцінювання. У робочому середовищі ми безперервно оцінюємо, як працюють наші агенти, де вони зазнають невдач і яких інструментів чи даних їм бракує. Усередині організації ми застосовуємо той самий підхід. Потрібне спеціальне середовище, де можна тестувати й навчати агентів, а також отримувати відгуки про них. Без нього важко зрозуміти, чи вдосконалюється агент і що йому потрібно далі.
Керувати організацією, від початку побудованою навколо ШІ, багато в чому схоже на створення автономної системи безпеки: надавайте агентам глибоке розуміння контексту, постійно оцінюйте їхню роботу й залучайте людей там, де важливе судження.
Коли організації надають ШІ-агентам більше автономії, виникають занепокоєння щодо підзвітності, безпеки та непередбачених наслідків. Спираючись на свій досвід у сфері кібербезпеки, як компаніям установлювати запобіжні обмеження, що дають агентам змогу діяти самостійно, не ставлячи під загрозу безпеку й не позбавляючи людей реального нагляду?
Агенти рухаються до більшої автономії, і організаціям варто переходити до неї поступово. Почніть із завдань, наслідки яких добре зрозумілі, доведіть їхню цінність, а потім розширюйте використання.
Справжні запобіжні обмеження — це не інструкції. Фраза «не роби цього» не є засобом контролю безпеки. Обмеження потрібно забезпечувати на практиці: суворо визначати, до чого агент може отримати доступ, перевіряти, що він не може вийти за межі своєї компетенції, і постійно стежити за його діями, блокуючи ті, яких ніхто не передбачив. Як і будь-яку іншу частину системи, ці обмеження потрібно регулярно тестувати й перевіряти.
Підзвітність починається з оператора. Людина, яка запускає агента, визначає його межі: що він може робити самостійно, для чого потрібне схвалення і куди йому не можна заходити. Візьмімо агента, який реагує на загрози в електронній пошті. Він може швидко й надійно самостійно поміщати підозрілі повідомлення в карантин. Для дій із ширшими наслідками, як-от блокування відправника в усій організації, оператор може спочатку передбачити етап перевірки. Коли агент накопичує успішний досвід, його межі можна впевнено розширювати. Чіткі запобіжні обмеження уможливлюють більшу автономію.
Це ще важливіше, адже зловмисники дедалі частіше націлюються на ШІ-агентів. Бізнес прагне працювати швидше, але в команд із безпеки досі немає чіткого посібника із захисту агентів. Саме тому основою мають бути примусово забезпечені дозволи й постійний моніторинг.
Багато компаній оцінюють упровадження ШІ за зекономленим часом, автоматизованими завданнями або продуктивністю працівників. Які показники, на вашу думку, насправді свідчать про те, що операційна модель, побудована навколо ШІ, забезпечує сталу цінність для бізнесу, особливо з огляду на витрати на перероблення роботи, якість і координацію?
Заощаджений час — важливий показник і часто перша очевидна ознака того, що ШІ приносить користь. Але його повний ефект стає помітним, коли враховувати й те, що організація робить із вивільненим часом, а також те, чи зберігаються ці здобутки в довгостроковій перспективі.
Якість. Швидше — не означає краще, якщо якість не зберігається або не поліпшується. Відстежуйте обсяги перероблення роботи, кількість дефектів і частоту виправлень результатів після їх передавання. Коли одночасно зростають швидкість і якість, здобутки є реальними й довготривалими.
Розширення бізнесу. Справжня цінність організації, побудованої навколо ШІ, полягає в тому, що заощаджений час дає змогу робити більше. Ми вимірюємо, скільки нових можливостей та ініціатив беремося реалізовувати, не збільшуючи штату.
Швидкість наскрізного процесу. Час, потрібний агентові для розроблення функції, — лише частина картини. Справжній показник — це тривалість усього процесу, включно з кожним передаванням роботи, від моменту, коли ми вирішуємо надати чомусь пріоритет, до моменту, коли це стає доступним у продукті. Саме так можна виміряти, наскільки швидко ми насправді працюємо, і побачити витрати на координацію, які не відображають показники окремих завдань. У сфері безпеки наскрізна швидкість має вирішальне значення. Зловмисники вже використовують ШІ-агентів, тож час, потрібний для виявлення загрози й реагування на неї, має постійно скорочуватися.
Заощаджений час свідчить, що ШІ працює. Ці показники показують, чи створює він довготривалу цінність для бізнесу.
Ви зазначали, що менші й гнучкіші технологічні компанії можуть здобути суттєву конкурентну перевагу, перебудувавши свою діяльність навколо ШІ. Які переваги мають стартапи, від початку побудовані навколо ШІ, порівняно з усталеними компаніями, і як, на вашу думку, зміниться структура успішних технологічних компаній упродовж наступних трьох-п’яти років?
Стартапи, від початку побудовані навколо ШІ, мають структурну перевагу. Вони можуть із першого дня будувати робочі процеси, технології та команди навколо ШІ-агентів, тоді як усталені компанії змушені давати раду десятиліттям застарілої інфраструктури й організаційній складності. Однак найбільший розрив — не технологічний. Усі мають доступ до тих самих інструментів ШІ. Перевагу отримують компанії, здатні перебудувати спосіб своєї роботи, не витрачаючи спершу сили на подолання численних рівнів погодження, передавання роботи й закріплених ролей.
Протягом наступних трьох-п’яти років, на мою думку, успішні технологічні компанії відійдуть від базової автоматизації за допомогою ШІ й перейдуть до агентних операційних моделей, у яких спеціалізовані ШІ-агенти виконуватимуть цілі робочі процеси. Команди людей не зникнуть, але люди менше часу витрачатимуть на виконання завдань вручну й більше — на надання контексту, встановлення обмежень і спрямування результатів. У підсумку організації стануть компактнішими, зможуть швидше масштабуватися, працюватимуть ефективніше й конкуруватимуть із компаніями, що в багато разів перевершують їх за розміром.
Дякуємо за чудове інтерв’ю! Читачам, які хочуть дізнатися більше про захист електронної пошти за допомогою ШІ-агентів, варто відвідати Ocean Security.












