Вал Беркович, головний AI‑офіцер у WEKA – Серія інтерв’ю

Val Bercovici, головний AI‑офіцер у WEKA, є керівником у сфері штучного інтелекту та інфраструктури даних, який зосереджується на розвитку технологій, що лежать в основі наступного покоління штучного інтелекту. Приєднавшись до WEKA у ролі головного AI‑офіцера в січні 2025 року, він сконцентрувався на створенні інфраструктури AI‑агентів, прискоренні навантажень навчання та інференції, а також на поліпшенні економіки обчислень AI. Окрім ролі у WEKA, Беркович є AI‑радником у Home Dock, стратегічним радником у FermiHDI та The Hive, а також головою PencilDATA, де його діяльність охоплює AI, кібербезпеку, блокчейн, хмарні обчислення та інфраструктуру даних. Його кар’єра відображає тривалу орієнтацію на розробку та консультування нових технологій, створених для підтримки все більш даними інтенсивних AI‑систем.

WEKA – це компанія, що створює AI‑нативну інфраструктуру даних, розробляючи програмно‑визначену платформу для вимогливих даних штучного інтелекту, машинного навчання, високопродуктивних обчислень та інших прискорених навантажень. Платформа WEKA Data Platform надає організаціям уніфіковану архітектуру, яка працює в локальних, хмарних, гібридних та крайових середовищах, допомагаючи усунути вузькі місця сховищ, підвищити використання GPU та прискорити навчання та інференцію AI‑моделей. Компанія все активніше позиціонує свою технологію навколо зростаючої економіки інференції та агентного AI, створюючи інфраструктуру, що забезпечує високопропускну здатність і низьку затримку доступу до даних у масштабах, спрощуючи складні AI‑конвеєри даних. WEKA обслуговує підприємства, хмарних провайдерів, дослідницькі організації та розробників AI, які працюють у найвимогливіших обчислювальних середовищах світу.

Ваша кар’єра пройшла шлях від формування ранньої стратегії хмари у NetApp і участі у засновницькому правлінні Kubernetes до створення AI‑інфраструктури у WEKA. Як цей розвиток вплинув на ваш підхід до підготовки інфраструктури для наступної фази AI?

Кожна ера моєї кар’єри визначалась однією і тією ж схемою: вузьке місце переміщується, а індустрія помічає це лише через кілька років. У ранні дні хмари та Kubernetes ми спостерігали, як обчислення стали еластичними, а оркестрація стала новим «чек‑поінтом». Після NetApp, де я був CTO після придбання SolidFire, я вважав, що розумію, як виглядає швидкість: мілісекунди для справжнього випадкового читання першого байту під виробничими навантаженнями.

Причина, чому я приєднався до WEKA, була справді «гік‑овою». Це була одна статистика: перший не кешований випадковий байт читається за 70 мікросекунд, що не є показником класу сховища. Я ніколи не уявляв собі латентність у мікросекундах у цій категорії систем. І тоді прозрів: ця технологія може обслуговувати пам’ятні застосунки, застосунки класу DRAM, такі як Redis та KV‑кеш, а не лише сховище. І саме тоді інференція почала переважати над навчанням, бо індустрія мусила монетизувати моделі, а агенти з’явилися, щоб зробити пам’ять головною грою.

Саме так я дивлюсь на AI‑інфраструктуру. Ми вже бачили цей сценарій раніше. Cloud FinOps виник, коли компанії розгортали інфраструктуру без жорсткої економіки одиниці, а потім отримували рахунки. AI перебуває на тому ж шляху, лише швидше. Коли бізнеси почали протистояти «token‑maxxing» через надмірні рахунки за API, що значно перевищували заплановані бюджети токенів, ми стали свідками появи AI FinOps. Це момент, коли організації перестають розглядати інференцію як дешеву утиліту і починають керувати ефективністю токенів як фінансовою дисципліною. AI FinOps починається з токеноміки: оптимізації кожного апаратного та програмного шару стеку інференції, що впливає на вартість одиниці токену. На сьогоднішній день найбільша марна витрата в цьому стеку – дорогі GPU та нові ASIC, які просто стоять без дії, чекаючи пам’яті та даних (тобто «decode»), а не FLOPS (тобто «prefill»). Той, хто виправить це, володітиме наступною фазою AI.

Білий дім тримає деталі нової рамки безпеки AI у конфіденційності. Як підприємства можуть підготуватись до регуляторних вимог, коли ще не знають точно, що буде тестуватись або вимагатись?

Компанії не повинні чекати остаточного чек‑ліста. Конкретні тести змінюватимуться, але під ними лежить незмінне зобов’язання: вам доведеться продемонструвати, що робила ваша AI‑модель, які дані вона обробляла і як вона поводилась у певний момент часу. І чекати вже не варіант у глобальному масштабі. Європейський AI‑Act став застосовним цього місяця, і він класифікує більшість оркестрації агентів як високоризикові.

Тобто підготовча робота – це інфраструктурна робота. Лінійність даних, спостережуваність, відтворюваність та можливість відновити стан моделі за запитом – усе це критично важливо для підприємств. Нарешті, організації мають впроваджувати моделі‑запобіжники перед виходом результатів, з урахуванням затримок та токен‑бюджетів для семантичних захисних шарів. Якщо ви створите ці можливості зараз, будь‑яка рамка стане лише формальним оформленням. Якщо ж чекати остаточних правил, ви будете «додавати» відповідальність у системи, які ніколи не планували пояснювати себе. Така «додаткова» робота завжди дорожча, ніж вбудовування з самого початку.

В кінцевому підсумку, рішення для безпечного AI – це більше AI, застосованого оптимально і дуже навмисно.

Які нові вимоги до інфраструктури може створити тестування безпеки AI, і наскільки ці навантаження відрізнятимуться від традиційного навчання чи інференції моделей?

Навчання – це «пожежний шланг». Ви пропускаєте величезні об’єми даних через модель у стійкому, передбачуваному режимі. Тестування безпеки – навпаки: тисячі сценаріїв оцінки, повторювані «проби», порівняння поведінки версія‑за‑версією та червоне тестування, яке ніколи не закінчується.

Цей профіль має значення. Безпекове навчання та тестування є «бурстовим», орієнтованим на читання та порівняння. Воно генерує і споживає величезні обсяги проміжного стану. Моделі‑запобіжники мають бути по‑суті гетерогенними та багаторівневими, впровадженими в межах жорстких затримок, підсилюючи оцінки новим виміром безпекових критеріїв. Для таких просунутих чи кібервзірливих моделей навантаження є 24/7 постійним, а не епізодичним. Ви не запускаєте тест один раз і зберігаєте результати. Ви запускаєте безперервні «рої» агентів, які конкурують у виробництві за обчислення, пам’ять і пропускну здатність даних для критичних застосунків, які вони захищають. Після якості та швидкості більшість інфраструктури сьогодні не розрахована на цей третій принцип.

Є ще одна проблема вимірювання. Більшість AI‑бенчмарків сьогодні працює з 8 000 токенами або менше, один запит, одна відповідь. Я жартую, що це штучні бенчмарки штучного інтелекту. У середині 2026 р. реальні навантаження агентів працюватимуть з 100 000–400 000 токенами контексту за тисячі ходів. Якщо безпекові оцінки успадкують ці «іграшкові» бенчмарки, ми будемо сертифікувати системи для світу, якого ще немає. Регулятори вже будують кращу основу: NIST відкрив інструменти оцінки безпеки агентів, а ранні публікації показують нові атаки «перехоплення агента», що успішні в кілька разів частіше, ніж відомі базові лінії. Це саме той тип безперервного, адверсаріального, дорогого тестування, на який, на мою думку, орієнтуються рамки безпеки.

Чи варто організаціям будувати надлишкові обчислювальні та дані ресурси спеціально для майбутніх навантажень з дотриманням та безпекою, чи існує більш ефективний спосіб проектування з урахуванням цієї невизначеності?

Придбання зайвих GPU та сподівання, що їх використання зрештою зрівняється, лише залишає капітал «застряглим» у швидко амортизаційному обладнанні.

Ефективна відповідь – це інфраструктура, яка гнучко перемикається між виробничими та оцінювальними навантаженнями без окремого стеку. Це, по‑суті, проблема даних. Якщо ви можете ефективно переміщати та повторно використовувати дані, зберігати контекст між навантаженнями та тримати прискорювачі зайнятими реальними задачами, дотримання вимог стає інкрементальним витратом, а не паралельним будівництвом. Економіка AI все більше зводиться до того, скільки вартості ви отримуєте з кожного токену, байту та ватта. Якщо це вдасться, ви можете отримати 3–4 х більше вартості з тієї ж інфраструктури або скоротити зайнятість стійки до 75 %. Дотримання має підлягати тим же стандартам.

Поточна рамка, за повідомленнями, орієнтується на просунуті закриті моделі, виключаючи відкриті моделі. Які інфраструктурні або безпекові виклики можуть виникнути, якщо розглядати ці дві категорії по‑різному?

Якщо ви розрізняєте закриті та відкриті моделі, у вас виникає два набори вимог до технологій, які виконують однакові функції, а розрив між ними – саме місце ризику.

Відкрита модель може бути донавчена та розгорнута в середовищах, де оригінальний постачальник не має жодного огляду. Регулювання постачальника в такому випадку нічого не змінює. І розподіл вже помітний: експортний контроль цього року торкнувся найновіших закритих «фронтирних» моделей, тоді як відкриті моделі вільно перетинають кордони і вже займають провідні позиції у публічних рейтингах. Однак адміністрація вже визначає «фронтирні» моделі, а управління не може зупинитися лише на самій моделі. Потрібна видимість того, де моделі працюють, які дані вони доступають, які підказки, відповіді та метадані зберігаються, як їх модифікували та чи інфраструктура під ними справді підтримує кероване AI у масштабі. Потрібні нові оновлення ISO27001 та SOC2.

Моя відповідь – «довіряй, але перевіряй». Якщо ваша інфраструктура забезпечує потрібну токен‑пропускну здатність, ви можете запускати гетерогенні запобіжники проти будь‑якої моделі перед тим, як її вихід буде відправлений: внутрішньої чи зовнішньої, відкритої чи закритої. Об’єктивна верифікація переважає над сліпою довірою чи недовірою, заснованою лише на походженні моделі. Коли відкриті моделі розповсюджуються, ця можливість верифікації живе в інфраструктурному шарі, і саме там підприємства будуть диференціюватися. Політика може визначати, які моделі дозволені. Інфраструктура вирішує, чи можна їх безпечно та економічно розгорнути.

Коли AI‑агенти стають більш автономними та працюють у довших контекстах, як це змінює обсяг даних, пам’яті та обчислень, які організації мають виділяти на моніторинг та безпеку?

Чат‑бот – це запит і відповідь. Автономний агент – це процес, який працює безперервно. Він взаємодіє з десятками систем, отримує інформацію, приймає проміжні рішення і накопичує стан протягом годин чи днів, доки не завершить завдання.

Ви не можете моніторити це, просто вибираючи окремі токени чи відповіді. Потрібно захоплювати всю послідовність: що агент знав, коли він це знав і що він зробив далі. Кожну годину роботи агента його стан зростає, і зростає також пам’ять, переміщення даних та інфраструктура, необхідна для їх захоплення та аналізу. Моніторинг перестає бути лише функцією логування і стає повноцінним навантаженням із власним ресурсним бюджетом.

Захист – це те, де питання стає терміновим. Проблема пам’яті AI перетворюється на проблему безпеки. Кодуючий агент може піднятись, виконати завдання і вимкнутись. Кібербезпековий агент – ні. Він має зберігати контекст протягом щоденних змін у центрі операцій безпеки, частих оновлень моделей та складних багатоступеневих атак, які раніше тривали тижнями, а сьогодні працюють у синхронізованих машинних швидкостях. Коли пам’ять такого AI стирається та перебудовується з нуля кожні кілька хвилин, агент, який виявив аномалію в першій годині інциденту, не пам’ятає її у другій. У зловмисників такої проблеми немає – їхні агенти постійно виявляють та експлуатують уразливості, і ланцюги атак тепер завершуються на швидкостях, оптимізованих токеномікою. Тому AI‑захист має працювати автономно цілодобово. І це не теоретика. Постачальники безпеки вже готуються до 24/7 постійних кібер‑агентів, і перше, що вони виявляють, – це те, що економіка таких навантажень зовсім не схожа на чат‑навантаження. Деякі організації потребують цих агентів на краю мережі, у приміщеннях, куди не можна доставити GPU‑стійку чи навіть охолоджувач цього року. Справжній випробувальний камінь для корпоративного AI – це стійке збереження контексту, а не одноразова інференція. Це стає битвою за токени, і той, хто зможе масштабно зберігати контекст, запустить перший горизонтальний «кілер‑апп» у корпоративному AI: постійно працюючі «сині» рої агенти.

Ви говорили про зростаючу важливість «контекстної пам’яті», коли AI‑навантаження переходять від простих чат‑ботів до постійних агентів. Чи може контекстна пам’ять стати важливою також для аудиту, відтворення чи розслідування поведінки AI?

Безумовно, і це важливий випадок використання. Протягом багатьох років пам’ять розглядалася лише як питання продуктивності: наскільки швидко ви можете живити GPU, скільки контексту можете утримати. Коли агенти починають діяти автономно, ця ж пам’ять стає доказом. Якщо агент приймає рішення, спираючись на контекст, накопичений протягом днів, фінальний запит і вихід майже нічого не розповідають про причину дії. Пояснення живе в накопиченому стані.

Технічно більша частина цього стану зберігається у KV‑кеші, а індустрія досі розглядає його як одноразове «сміттєве» сховище, а не як довговічні дані. Якщо ви зберігаєте цей стан і можете ефективно його витягнути, ви зможете відтворити, що система знала у момент дії. Команди спочатку використовуватимуть це для налагодження, потім для безпекових оцінок, і зрештою хтось потребуватиме цього під час розслідування. Відкинути контекстну пам’ять – означає відкинути єдиний запис, який пояснює, чому ваш AI зробив те, що він зробив.

Чи змусить регулювання AI компанії зберігати значно більше інформації про вхідні дані моделей, вихідні дані, контрольні точки, лінійність даних та активність агентів? Що це означатиме для архітектури AI‑інфраструктури?

У напрямку – так. У міру того, як AI‑системи стають більш важливими, вимоги до видимості розширюватимуться, охоплюючи кожен крок конвеєра. Ви вже бачите ранні сигнали: команди планують зберігати «застарілу» контекстну пам’ять у дешевших рівнях об’єктного сховища виключно для аудиту, ще до того, як це вимагатимуть регулятори.

Аутентифікація моніторингу з незмінністю є критичною. Підробка журналів та інших судових артефактів зловмисними агентами стала звичною, що вимагає складних криптографічних систем верифікації, стійких до цілеспрямованих атак на централізовані цілі цілісності. Прості прозорі журнали чи хеш‑ланцюжки недостатні, щоб протистояти змові координованих роїв агентів. Децентралізовані, публічні блокчейн‑архітектури ідеально підходять для цього, підкреслюючи часто недооцінений аспект «цілісності» у традиційному трикутнику C‑I‑A кібербезпеки.

Зберігання – це не лише масштабна проблема незмінного сховища. Складність полягає у тому, щоб ця інформація залишалася довіреною, організованою, індексованою та швидко доступною, коли це потрібно – будь‑то за вимогою регулятора, реакції на інцидент чи в суді. Петабайт активності агентів, який неможливо опитати, – це не запис, а зобов’язання. Архітектурний зсув – це перехід від «більше сховища» до інфраструктури, спроектованої навколо об’єктивно верифікованих, постійно доступних даних AI як ключового навантаження.

Багато організацій зосереджуються на купівлі більшої кількості GPU, але де ви бачите менш очевидні вузькі місця інфраструктури, які виникають у міру масштабування AI‑навантажень та зростання вимог безпеки?

GPU часто потрапляє в заголовки, бо це не незначна стаття бюджету. Але GPU та, особливо, нові ASIC‑прискорювачі, оптимізовані під «decode», рідко є справжнім обмеженням. Пропускна здатність пам’яті, гравітація даних та їх переміщення, продуктивність сховища і мережа визначають, чи працюють прискорювачі продуктивно, чи просто стоять без дії.

Коли AI стає більш контекстно‑важким, «стіна пам’яті» стає визначальним обмеженням. Ви можете продовжувати додавати GPU, але якщо вони витрачають цикли на повторний розрахунок токенів чи переміщення контексту між системами, ви платите за марну роботу. Масштабування «стіни пам’яті» означає, що шар даних поводиться як спільне сховище, але працює на справжніх швидкостях пам’яті. Цей бар’єр, орієнтований на HBM‑подібну швидкість, важливий для поточної хвилі рішень з вивантаження KV‑кешу: будь‑яке з них має забезпечувати справжню пам’ятну продуктивність, щоб токеноміка мала сенс. Вартість зберігання KV‑кешу – це питання витрат, другорядне до прибутковості. Якщо читання кешованого контексту повільніше, ніж простий повторний розрахунок, кеш втрачає цінність у бізнес‑рівнянні. Важливо не скільки у вас GPU, а наскільки продуктивний кожен з них. Економіка AI зводиться до вартості, яку ви отримуєте з кожного токену, байту та ватта, і вимоги безпеки лише підвищать ставки в цій формулі.

Чи очікуєте ви, що безпека та дотримання вимог у сфері AI стануть окремим інфраструктурним навантаженням, подібно до того, як кібербезпека еволюціонувала у виділений шар технологій підприємства?

Ми побачимо, що безпека та дотримання вимог у AI стануть окремим навантаженням, і паралель з кібербезпекою працює в обох напрямках. Кібербезпека стала окремим шаром, коли індустрія визнала, що це не може залишатися лише випадковим заходом. Індустрія кіберстрахування зробила це обов’язковим. Безпека AI йде по тому ж обов’язковому шляху, оскільки моделі стають більш здатними та автономними.

Проте нам варто вчитися на помилках безпеки. Вона стала «надбудовою»: окремий стек, окремий бюджет, окрема команда, що виявляє проблеми після факту. Інфраструктура безпеки не повинна повторювати цю помилку. Моніторинг, оцінка, аудиторські можливості та незмінне зберігання мають бути вбудовані безпосередньо в AI‑інфраструктуру, спроектовані спільно з самого початку.

Ось те, що більшість людей пропускає: безпечний AI потребує більше AI. Моделі‑запобіжники не безкоштовні. Їх треба постійно навчати, донавчати та інференціювати на кожному етапі роботи агента. Бюджети затримки токенів роблять це конкретним: кожна відповідь має фіксоване вікно, і чим більше токенів ви зможете обробити в цьому вікні, тим більше верифікації ви зможете виконати перед тим, як вихід буде відправлений. Реальна загроза від фронтирних моделей – їх агентне застосування. Агенти працюють у високочастотних інференційних циклах, роблячи повторювані виклики до моделей протягом довгих горизонтів. Кожен цикл – це спостереження, орієнтація, рішення, дія, і кожен крок споживає токени. Це перетворює безпеку AI у війну токенової атриції. Атакувальники розгортають «червоні» рої агентів, захисники – «сині», і сторона, яка може генерувати більше токенів за долар і за ватт, виграє. Токеноміка лежить у критичному шляху як атаки, так і захисту. Це перестало бути лише теоретичним експериментом цього літа, коли червона атака роїв агентів проти великого репозиторію моделей змусила індустрію переглянути підхід, і вже за кілька днів сформувався спеціалізований альянс безпечного AI. Тим часом об’єми лише зростають: обробка токенів у галузі перейшла від трильйонів до квадриліонів.

Коли безпека стане постійною вимогою, її обчислювальні, пам’ятні та дані витрати перестануть бути надлишком. Вони стануть частиною фундаментальної економіки одиниці AI. Компанії, які рано це усвідомлять, розглядатимуть безпеку як вхідний параметр дизайну. Усі інші будуть сприймати її як податок.

Дякуємо за чудове інтерв’ю, читачі, які хочуть дізнатися більше, повинні відвідати WEKA.