Наті Хазут, генеральний директор і співзасновник Bold Security — серія інтерв’ю

Наті Хазут — генеральний директор і співзасновник Bold Security. Раніше він був співзасновником SAM Seamless Network і Polyrize, де здобув досвід у сфері безпеки підключених пристроїв, управління ідентичністю, керування дозволами в хмарі та захисту даних. У Bold він застосовує ці знання для захисту взаємодії між працівниками, агентами ШІ та конфіденційними даними підприємств.

Bold Security розробляє технології захисту даних на кінцевих пристроях. Вони використовують малі мовні моделі, що працюють безпосередньо на пристроях, аби класифікувати конфіденційну інформацію та визначати, як її використовують. Платформа надає командам безпеки засоби, щоб навчати користувачів, перенаправляти дії або блокувати ризиковані операції в браузерах, настільних застосунках і агентів ШІ. У цьому інтерв’ю Хазут розповідає про тіньовий ШІ, локальну обробку даних, автономних агентів і зміну меж безпеки корпоративних даних.

Раніше ви були співзасновником SAM Seamless Network і Polyrize, а згодом заснували Bold Security разом із Гадаром Краснером та Омрі Маллісом. Які зміни в корпоративній безпеці та ШІ ви помітили, що переконали вас: потрібно створити ще одну охоронну компанію з нуля?

Головне, що зробив ШІ, — змінив місце, де відбувається робота. Упродовж десятиліть найчутливіші операції людей із даними компаній відбувалися в браузерах і SaaS-застосунках, саме на яких і була зосереджена інфраструктура безпеки. Тепер дедалі більше роботи виконується безпосередньо на пристрої: люди пишуть у настільному ШІ-помічнику, вставляють вихідний код у нативний застосунок, запускають агентів, які безпосередньо працюють із файлами, застосунками та системами компанії на ноутбуці.

Ця зміна зруйнувала припущення, на яких ґрунтувалася більшість продуктів безпеки. Засоби перевірки мережевого трафіку бачать лише той трафік, що проходить через них, а настільні застосунки шифрують власний трафік і обходять проксі-сервер. CASB бачить санкціоновані хмарні застосунки. DSPM бачить дані, що зберігаються у хмарному сховищі. Жоден із цих засобів не бачить, як локальний файл передають у настільний ШІ-застосунок або як агент переміщує дані без участі людини за клавіатурою.

Ми заснували Bold, бо кінцевий пристрій — єдине місце, де все це можна побачити разом. Тут видно дані, працівника або агента, який із ними взаємодіє, його наміри та напрямок передавання інформації. І можна втрутитися, перш ніж конфіденційні дані вийдуть з-під контролю компанії.

Тіньовий ШІ може охоплювати найрізноманітніші явища: від використання працівниками особистих облікових записів ChatGPT до настільних застосунків, розширень браузера, API, підключень через протокол контексту моделі та дедалі автономніших агентів. Які форми тіньового ШІ сьогодні найважче виявляти й контролювати командам корпоративної безпеки?

Рік тому всі переймалися «тіньовим ШІ», але тепер ця дискусія стає предметнішою. Команди корпоративної безпеки усвідомлюють, що працівники впроваджують нові інструменти ШІ швидше, ніж будь-коли. Тож питання вже не стільки в обліку інструментів, скільки в контролі над даними, що проходять через них.

Звісно, неможливо контролювати те, чого не бачиш. А найважче помітити канали, які взагалі не проходять через мережевий маршрут, за яким хтось стежить. Настільні застосунки безпосередньо зчитують файли з пристрою та шифрують свій трафік, тож він не проходить через засоби, призначені для його перевірки. Агенти мають доступ до корпоративної інформації та продовжують її використовувати без потреби щоразу отримувати її від працівника.

Усе це — нові канали витоку даних, і головне питання — які саме дані ними передаються. Передавання загальнодоступного документа до схваленого корпоративного облікового запису — це не те саме, що передавання бази даних клієнтів або запатентованого вихідного коду до особистого облікового запису. Цю різницю можна побачити лише там, де зберігаються дані й відбувається дія. Тож саме в невидимому тіньовому ШІ питання про дані має найбільше значення.

Bold застосовує підхід, у центрі якого — кінцевий пристрій: ШІ працює локально на пристрої, а не покладається переважно на мережевий або хмарний моніторинг. Що модель на пристрої може зрозуміти про взаємодію з ШІ такого, чого не може виявити традиційна система запобігання втраті даних?

Bold працює інакше у двох аспектах. По-перше, ми використовуємо ШІ для захисту конфіденційних даних, не надсилаючи їх на аналіз до іншого сервісу ШІ. Наші малі мовні моделі працюють безпосередньо на пристрої, де можуть визначати, які дані є конфіденційними, хто до них звертається і куди їх передають. Завдяки цьому ми виявляємо й зупиняємо ризиковані дії в реальному часі, не витрачаючи час і кошти на передавання всіх даних у хмару.

По-друге, ми охоплюємо канали, які традиційні засоби безпеки не контролюють. Більшість рішень на ринку досі зосереджена на браузерах і мережевому трафіку, але дедалі частіше конфіденційні дані передаються через настільні ШІ-застосунки, інструменти програмування, термінали й автономних агентів. Традиційним продуктам DLP і хмарної безпеки значно важче їх виявляти.

Працюючи на кінцевому пристрої, ми можемо захищати дані в усіх цих середовищах і втручатися, перш ніж конфіденційна інформація вийде з-під контролю компанії.

Вашу технологію розроблено так, щоб вона визначала не лише те, до яких даних звертаються, а й контекст і намір дії. Як ви відрізняєте правомірне використання конфіденційної інформації від поведінки, що становить реальну загрозу безпеці, не створюючи надмірної кількості хибних спрацьовувань?

Тут усе вирішує контекст. Не можна вважати кожне завантаження файлу чи кожне звернення агента до даних інцидентом безпеки — інакше ніхто нічого не встигатиме.

Той самий файл в одному місці може бути цілком звичним, а в іншому — становити серйозну проблему. Список клієнтів доречно зберігати в інструменті підтримки, але його завантаження в особистий обліковий запис — уже справжня проблема. Вихідний код має бути в репозиторії, а не в запиті до споживчого інструмента ШІ.

Інструмент, який знає лише те, що вміст відповідає певному правилу, мусить позначити обидва випадки або не позначити жодного. Так і виникають хибнопозитивні спрацювання. Щоб відрізнити звичне використання ШІ від реального ризику, потрібно знати, що це за дані, хто їх переміщує і куди саме.

ШІ-агенти створюють іншу модель безпеки, адже програмне забезпечення дедалі частіше може отримувати доступ до файлів, викликати інструменти, підключатися через сервери MCP і виконувати дії за обмеженої участі людини. Як має розвиватися захист кінцевих пристроїв, якщо з конфіденційними корпоративними даними може взаємодіяти автономний агент, а не працівник?

Безпеку здебільшого будували з розрахунком на людей, але тепер агенти можуть діяти зі швидкістю машини: відкривати файли, викликати інструменти й переміщувати дані без погодження кожного кроку. Засоби безпеки мають працювати з такою самою швидкістю. Багато продуктів використовують ШІ для аналізу інцидентів постфактум. Ми ж застосовуємо його, щоб у реальному часі виявляти й зупиняти ризиковані дії, зокрема ті, що відбуваються поза браузером.

Виконуючи завдання, агент може працювати через настільну програму, термінал або інший інструмент, який він виявить. Засоби безпеки мають відстежувати дані й дії в усіх цих середовищах — незалежно від того, хто за них відповідає: людина чи агент.

Це також порушує питання, яке командам із безпеки раніше не доводилося ставити. Коли стається щось ризиковане, людина навмисно це зробила чи агент помилився? Тут потрібні різні заходи реагування. Якщо працівник ухвалює невдале рішення, його потрібно наставити. Якщо агент робить те, про що його ніхто не просив, його потрібно зупинити.

Саме на кінцевому пристрої можна побачити різницю, адже там одночасно присутні дані, процес і дія.

Багато компаній відреагували на ризики генеративного ШІ, обмеживши або заборонивши певні інструменти. Чи вважаєте ви, що організації рухаються до моделі, за якої можна дозволити практично будь-який інструмент ШІ, якщо встановити обмеження щодо даних, до яких він має доступ, і напрямків їх передавання?

Загальні заборони не розв’яжуть цю проблему. Працівники можуть за лічені секунди знайти новий інструмент ШІ й почати ним користуватися, і більшість із них не намагається обійти заходи безпеки. Вони просто хочуть швидше виконувати свою роботу.

Краще запитати, що відбувається з даними компанії, коли працівники користуються цими інструментами.

Якщо хтось використовує особистий обліковий запис ШІ для безпечного завдання, можливо, достатньо скерувати його до корпоративного облікового запису. Якщо ж він збирається надіслати вихідний код, інформацію про клієнтів або облікові дані туди, куди компанія цього не дозволяє, служба безпеки має втрутитися.

Гадаю, саме до цього ми й рухаємося: дати людям змогу користуватися ШІ, але встановити обмеження щодо даних. Знати, до чого отримують доступ, куди це передають і коли потрібно втрутитися.

Запуск ШІ локально може мати переваги щодо швидкодії та конфіденційності, однак обчислювальні ресурси й пам’ять кінцевих пристроїв обмежені. З якими технічними компромісами ви зіткнулися, створюючи моделі для семантичної класифікації даних і застосування правил у реальному часі безпосередньо на пристроях працівників?

Не можна встановити на ноутбук величезну модель, перевантажити процесор і пам’ять, а потім назвати це захистом. Якщо через ваш продукт безпеки комп’ютером стає нестерпно користуватися, працівники його зненавидять, а ІТ-відділ його вимкне.

Тож компроміси цілком реальні. Модель має достатньо добре розуміти дані, щоб відрізнити нешкідливу інформацію від конфіденційної, але водночас бути достатньо швидкою, компактною й надійною для постійної роботи у фоновому режимі.

Спочатку потрібно було створити моделі, здатні ефективно класифікувати дані на різних типах комп’ютерів і не сповільнювати їх. Ми вже виконали цю інженерну роботу, тож клієнтам не доведеться самостійно йти на такі компроміси.

Під час розробки нашим головним пріоритетом була зручність для користувачів. Наш продукт використовує близько 20% обчислювальних ресурсів, які потрібні агентам без ШІ у застарілих рішеннях конкурентів, і водночас ухвалює рішення локально, у момент виконання дії. Щоб визначити, чи є дані конфіденційними, їх не потрібно передавати за межі пристрою.

Bold може виявляти інструменти ШІ, облікові записи й активність агентів, а також інформувати про ризиковані дії, перенаправляти користувачів або блокувати такі дії. Як ви визначаєте, коли системі достатньо попередити користувача, а коли потрібно автоматично зупинити дію?

Подумайте, як із цим учинив би хороший колега. Якби ви збиралися вставити чернетку у свій особистий ChatGPT, він нахилився б до вас і сказав: «Гей, для цього в нас є корпоративний обліковий запис». А якби ви збиралися завантажити базу клієнтів у свій особистий Drive, він схопив би вас за руку.

Ми намагаємося діяти так само й бачимо, що наставництво щонайменше у 90% випадків допомагає спрямувати користувачів до безпечної альтернативи. Найчастіше хтось випадково працює не в тому обліковому записі або не знає політики компанії щодо того, куди можна передавати дані.

Зрештою, рішення про те, що блокувати, ухвалює клієнт, і в кожної компанії ця межа своя. Наше завдання — надати контекст і впевненість, необхідні для правильного рішення. У складніших ризикованих сценаріях це означає врахувати контекст, про який ми говорили раніше, зіставивши його з історією дій самого користувача й навіть із досвідом його колег.

Ваша кар’єра охоплює кілька етапів: від захисту підключених пристроїв у SAM до роботи з ідентифікацією та хмарними дозволами в Polyrize, а тепер — до захисту взаємодії між людьми, агентами ШІ та корпоративними даними в Bold. Як змінювалося ваше уявлення про основну межу безпеки в цих трьох поколіннях кібербезпеки?

Моє розуміння основних принципів стало чіткішим. Незмінною залишається ідея наблизити безпеку до місця, де відбуваються дії, і забезпечити її ефективну роботу в масштабі.

У SAM ми забезпечили маршрутизатори захистом корпоративного рівня, попри дуже обмежені ресурси. Це навчило нас ефективно переносити передові технології на периферійні пристрої. У Polyrize ми зосередилися на захисті даних у хмарних середовищах і середовищах SaaS завдяки видимості та управлінню станом безпеки. Розуміти, де дані вразливі, вкрай важливо, але це не обов’язково дає змогу запобігти ризикованій дії.

У Bold ми поєднали ці уроки. Ми розміщуємо інтелектуальні засоби на кінцевому пристрої, де люди й агенти ШІ взаємодіють із даними, і надаємо командам безпеки контекст, потрібний для оцінювання ризиків і втручання в режимі реального часу.

Безпека мереж і хмарних середовищ досі важлива, але кінцевий пристрій дає змогу бачити дії у десктопних застосунках, локальних файлах, особистих облікових записах і агентів, які працюють на самому пристрої. Я зрозумів, що місце й час роботи засобів безпеки не менш важливі, ніж їхній інтелект.

Якщо зазирнути на три-п’ять років уперед, коли працівники дедалі частіше взаємодіятимуть із більш автономними агентами ШІ, на що, на вашу думку, перетвориться корпоративний кінцевий пристрій? Чи може настати момент, коли кожен пристрій фактично матиме власний інтелектуальний рівень безпеки, який безперервно визначатиме, яким людям і агентам можна взаємодіяти з певними даними?

Гадаю, саме до цього ми й рухаємося.

Кінцевий пристрій стає інтелектуальним рівнем безпеки, який розуміє, які дані на ньому зберігаються, визначає, чи взаємодіє з ними людина, чи агент, і локально вирішує, що можна, а чого не можна робити.

Це стає ще важливішим, коли агенти набувають більшої автономності. Одна людина може одночасно доручити кільком агентам працювати від її імені з файлами, застосунками та корпоративними системами. Безпека не може залежати від того, чи схвалює ця людина кожен крок, адже дедалі частіше вона за цим не стежитиме.

Дані й надалі потрібно захищати, але кількість тих, хто матиме до них доступ, значно перевищить кількість людей, які сидять за клавіатурою. Системам безпеки доведеться взаємодіяти з агентами, ухвалювати рішення й автоматично реагувати в міру виконання дій. Люди, які керують цими системами, дедалі частіше наглядатимуть за засобами контролю та рішеннями, а не перевірятимуть кожну окрему подію. Саме на кінцевому пристрої можна ухвалювати такі рішення, поки дані залишаються під контролем компанії.

Дякую за чудове інтерв’ю. Читачам, які хочуть дізнатися більше про захист даних на кінцевих пристроях і безпечне впровадження корпоративного ШІ, варто відвідати Bold Security.