Val Bercovici, Dyrektor ds. sztucznej inteligencji w WEKA – Seria wywiadów

Val Bercovici, Chief AI Officer w WEKA, jest dyrektorem ds. sztucznej inteligencji i infrastruktury danych, skoncentrowanym na rozwijaniu technologii leżących u podstaw sztucznej inteligencji nowej generacji. Od momentu dołączenia do WEKA jako Chief AI Officer w styczniu 2025 r., skupia się na budowie infrastruktury agentów AI, przyspieszaniu obciążeń treningowych i inferencyjnych oraz poprawie ekonomiki obliczeń AI. Oprócz roli w WEKA, Bercovici pełni funkcję doradcy AI w Home Dock, strategicznego doradcy w FermiHDI i The Hive oraz przewodniczącego PencilDATA, gdzie jego praca obejmuje AI, cyberbezpieczeństwo, blockchain, przetwarzanie w chmurze i infrastrukturę danych. Jego kariera odzwierciedla długotrwałe skupienie na opracowywaniu i doradzaniu w zakresie nowych technologii zaprojektowanych do wspierania coraz bardziej danych intensywnych systemów AI.

WEKA jest firmą zajmującą się natywną dla AI infrastrukturą danych, budującą platformę definiowaną programowo, przeznaczoną do wymagających potrzeb danych sztucznej inteligencji, uczenia maszynowego, obliczeń wysokiej wydajności i innych przyspieszonych obciążeń. Platforma WEKA Data Platform zapewnia organizacjom jednolitą architekturę, zdolną do działania w środowiskach on‑premises, w chmurze, hybrydowych i brzegowych, pomagając eliminować wąskie gardła w przechowywaniu, poprawiać wykorzystanie GPU oraz przyspieszać trening i inferencję modeli AI. Firma coraz częściej pozycjonuje swoją technologię wokół rozwijającej się gospodarki inferencji i agentowej AI, a jej infrastruktura została zaprojektowana tak, aby zapewniać wysoką przepustowość i niskie opóźnienia dostępu do danych na masową skalę, upraszczając jednocześnie złożone potoki danych AI. WEKA obsługuje przedsiębiorstwa, dostawców chmur, organizacje badawcze i deweloperów AI pracujących w jednych z najbardziej wydajnościowo intensywnych środowisk obliczeniowych na świecie.

Pańska kariera obejmuje tworzenie wczesnej strategii chmurowej NetApp, udział w założycielskiej radzie zarządzającej Kubernetes oraz budowanie infrastruktury AI w WEKA. Jak ta ewolucja ukształtowała Pańskie podejście do przygotowywania infrastruktury na kolejny etap rozwoju AI?

Każdą epokę mojej kariery definiował ten sam schemat: wąskie gardło się przesuwa, a branża potrzebuje lat, by to zauważyć. W początkach chmury i Kubernetes obserwowaliśmy, jak moc obliczeniowa staje się elastyczna, a orkiestracja nowym ograniczeniem. Po odejściu z NetApp, gdzie po przejęciu SolidFire byłem CTO, sądziłem, że wiem, czym jest szybkość: kilka milisekund przy całkowicie losowym odczycie pierwszego bajtu w warunkach produkcyjnych.

Powód, dla którego dołączyłem do WEKA, jest naprawdę techniczny. Zdecydowała jedna liczba: pierwszy losowy odczyt niebuforowanego bajtu trwa 70 mikrosekund, co nie jest wynikiem typowym dla pamięci masowej. Nie zakładałem, że system tej klasy może osiągnąć opóźnienia mierzone w mikrosekundach. Wtedy zrozumiałem, że ta technologia może obsługiwać aplikacje pamięciowe, zastosowania klasy DRAM, takie jak Redis i pamięć podręczna KV, a nie tylko składowanie danych. I właśnie wtedy wnioskowanie zaczęło wypierać trenowanie, bo branża musiała zacząć zarabiać na modelach, a agenci sprawili, że pamięć stała się kluczowa.

Tak patrzę na infrastrukturę AI. Widzieliśmy już ten film. Cloud FinOps powstało, ponieważ firmy uruchamiały infrastrukturę bez rygorystycznej ekonomiki jednostkowej, a potem otrzymywały rachunek. AI podąża tą samą krzywą, tylko szybciej. Gdy rachunki za API zaczęły znacznie przekraczać planowane budżety tokenów, firmy sprzeciwiły się maksymalizowaniu ich zużycia i obserwujemy narodziny AI FinOps. Organizacje przestają traktować wnioskowanie jak tanią usługę i zaczynają zarządzać wydajnością tokenów jako dyscypliną finansową. AI FinOps zaczyna się od tokenomiki: optymalizacji każdej warstwy sprzętu i oprogramowania stosu wnioskowania, która wpływa na koszt jednego tokenu. Największym marnotrawstwem są dziś drogie GPU i nowe układy ASIC bezczynnie czekające na pamięć i dane, czyli etap „decode”, zamiast wykonywać obliczenia FLOPS w etapie „prefill”. Kto to naprawi, przejmie kolejny etap AI.

Biały Dom zachowuje szczegóły nowego programu bezpieczeństwa AI w tajemnicy. Jak przedsiębiorstwa mogą przygotować się do wymagań regulacyjnych, skoro nie wiedzą jeszcze dokładnie, co będzie testowane ani wymagane?

Firmy nie powinny czekać na ostateczną listę kontrolną. Konkretne testy będą się zmieniać, lecz podstawowy obowiązek pozostanie: trzeba będzie wykazać, co zrobił model AI, z jakimi danymi miał kontakt i jak zachowywał się w określonym momencie. Na świecie czekanie nie jest już możliwe. Akt UE w sprawie AI zaczął obowiązywać w tym miesiącu i klasyfikuje większość orkiestracji agentów jako zastosowania wysokiego ryzyka.

Oznacza to, że przygotowania dotyczą infrastruktury. Pochodzenie danych, obserwowalność, odtwarzalność oraz możliwość rekonstrukcji stanu modelu na żądanie są dla przedsiębiorstw kluczowe. Organizacje muszą także wdrożyć modele zabezpieczające przed generowaniem wyników, z odpowiednimi budżetami opóźnień i tokenów dla semantycznych warstw obronnych. Jeśli te możliwości powstaną teraz, każdy nowy program stanie się jedynie kwestią formatu. Czekanie na ostateczne przepisy oznacza dokładanie odpowiedzialności do systemów, których nigdy nie zaprojektowano tak, by potrafiły się wyjaśnić. Taka modernizacja zawsze kosztuje więcej niż uwzględnienie jej od początku.

Ostatecznie rozwiązaniem pozwalającym budować bezpieczną AI jest więcej AI, zastosowanej optymalnie i z pełną świadomością celu.

Jakie nowe wymagania infrastrukturalne mogą stworzyć testy bezpieczeństwa AI i czym te obciążenia będą różnić się od tradycyjnego trenowania lub wnioskowania modeli?

Trenowanie przypomina strumień pod wysokim ciśnieniem: ogromne ilości danych przechodzą przez model w sposób ciągły i przewidywalny. Testowanie bezpieczeństwa jest przeciwieństwem — obejmuje tysiące scenariuszy oceny, wielokrotne sondowanie, porównywanie zachowania kolejnych wersji i niekończące się testy przeciwnika.

Ten profil ma znaczenie. Trenowanie i testowanie bezpieczeństwa odbywa się skokowo, wymaga wielu odczytów i ciągłych porównań. Tworzy i zużywa ogromną ilość stanów pośrednich. Modele zabezpieczające muszą być z natury zróżnicowane i warstwowe, działać w napiętych budżetach opóźnień oraz rozszerzać oceny o kryteria bezpieczeństwa. W przypadku zaawansowanych modeli lub modeli zdolnych do działań cybernetycznych obciążenie jest stałe przez całą dobę, a nie epizodyczne. Nie przeprowadza się testu raz i nie odkłada wyników do akt. Ciągłe roje agentów konkurują w produkcji o moc obliczeniową, pamięć i przepustowość danych z chronionymi przez nie aplikacjami krytycznymi. Po jakości i szybkości jest to trzeci filar, do którego większość dzisiejszej infrastruktury nie została zaprojektowana.

Istnieje też problem pomiaru. Większość dzisiejszych benchmarków AI obejmuje najwyżej 8 000 tokenów: jedno polecenie i jedną odpowiedź. Żartuję, że są to sztuczne benchmarki sztucznej inteligencji. W połowie 2026 roku rzeczywiste zadania agentów korzystają z kontekstu liczącego od 100 000 do 400 000 tokenów i tysięcy tur. Jeśli oceny bezpieczeństwa odziedziczą te zabawkowe testy, będziemy certyfikować systemy dla świata, który nie istnieje. Regulatorzy rozwijają już lepsze kompetencje: NIST udostępnił otwarte narzędzia do oceny bezpieczeństwa agentów, a pierwsze wyniki pokazują, że nowe ataki przejmujące agentów odnoszą sukces kilkukrotnie częściej niż znane punkty odniesienia. Właśnie ku takim ciągłym, przeciwniczym i kosztownym testom będą zmierzać programy bezpieczeństwa.

Czy organizacje powinny budować nadmiarową moc obliczeniową i pojemność danych specjalnie na potrzeby przyszłej zgodności i bezpieczeństwa, czy istnieje wydajniejszy sposób projektowania przy takiej niepewności?

Kupowanie nadmiarowych GPU z nadzieją, że wykorzystanie kiedyś wzrośnie, jedynie zamraża kapitał w tracącym wartość sprzęcie.

Wydajną odpowiedzią jest infrastruktura, która przełącza się między obciążeniami produkcyjnymi i ewaluacyjnymi bez osobnego stosu. To przede wszystkim problem danych. Jeśli dane można sprawnie przenosić i ponownie wykorzystywać, zachować kontekst między zadaniami oraz utrzymywać akceleratory przy realnej pracy, zgodność staje się kosztem przyrostowym, a nie równoległą inwestycją. Ekonomika AI coraz bardziej zależy od wartości uzyskiwanej z każdego tokenu, bajtu i wata. Przy dobrym wdrożeniu ta sama infrastruktura może dać trzy- lub czterokrotnie większą wartość albo zmniejszyć liczbę szaf nawet o 75%. Zgodność należy oceniać według tego samego standardu.

Według doniesień obecne ramy koncentrują się na zaawansowanych modelach zamkniętych, wyłączając modele o otwartych wagach. Jakie wyzwania infrastrukturalne lub związane z bezpieczeństwem mogą wyniknąć z odmiennego traktowania tych dwóch kategorii?

Odmienne traktowanie modeli zamkniętych i modeli o otwartych wagach prowadzi do powstania dwóch systemów zgodności dla technologii, które robią to samo, a ryzyko kryje się właśnie w luce między nimi.

Model o otwartych wagach można dostroić i wdrożyć w środowiskach, których pierwotny dostawca w ogóle nie widzi. Regulowanie dostawcy nic tam nie zmienia. Podział już jest widoczny: w tym roku kontrolą eksportu objęto najnowsze zamknięte modele graniczne, podczas gdy modele o otwartych wagach swobodnie przekraczają granice i zajmują miejsca blisko szczytu publicznych rankingów możliwości. Niezależnie od tego, jak administracja ostatecznie zdefiniuje modele graniczne, nadzór nie może kończyć się na samym modelu. Potrzebna jest wiedza o tym, gdzie modele działają, do jakich danych uzyskują dostęp, jakie polecenia, odpowiedzi i metadane są przechowywane, jak modele zostały zmodyfikowane oraz czy infrastruktura rzeczywiście może wspierać nadzorowaną AI na dużą skalę. Konieczne będą aktualizacje norm ISO 27001 i SOC 2.

Moja odpowiedź brzmi: ufaj, ale sprawdzaj. Jeśli infrastruktura zapewnia odpowiednią przepustowość tokenów, przed wysłaniem wyniku można uruchomić zróżnicowane zabezpieczenia dla dowolnego modelu — krajowego lub zagranicznego, otwartego lub zamkniętego. Obiektywna weryfikacja jest lepsza niż bezwarunkowe zaufanie albo nieufność wynikająca wyłącznie z pochodzenia modelu. Wraz z upowszechnianiem się modeli otwartych zdolność do takiej weryfikacji będzie należeć do warstwy infrastruktury i to właśnie tam przedsiębiorstwa będą się wyróżniać. Polityka może rozstrzygać, które modele są dozwolone. Infrastruktura decyduje, czy można je wdrażać odpowiedzialnie i ekonomicznie.

Jak rosnąca autonomia agentów AI i ich działanie w coraz dłuższych kontekstach zmienia ilość danych, pamięci i mocy obliczeniowej, które organizacje muszą przeznaczać na monitorowanie i bezpieczeństwo?

Chatbot to polecenie i odpowiedź. Autonomiczny agent jest działającym procesem. Korzysta z dziesiątek systemów, wyszukuje informacje, podejmuje decyzje pośrednie i przez wiele godzin lub dni gromadzi stan, zanim ukończy zadanie.

Nie da się tego monitorować poprzez próbkowanie pojedynczych tokenów lub odpowiedzi. Trzeba rejestrować pełną sekwencję: co agent wiedział, kiedy to wiedział i co zrobił dalej. Z każdą godziną działania agenta rośnie jego stan, a wraz z nim zapotrzebowanie na pamięć, przesył danych i infrastrukturę potrzebną do ich przechwycenia oraz analizy. Monitorowanie przestaje być funkcją rejestrowania zdarzeń i staje się pełnoprawnym obciążeniem z własnym budżetem zasobów.

W obronie problem staje się pilny. Kłopot AI z pamięcią zmienia się w problem bezpieczeństwa. Agent programistyczny może się uruchomić, wdrożyć kod i zakończyć pracę. Agent cyberbezpieczeństwa nie może. Musi zachowywać kontekst pomiędzy codziennymi zmianami zespołu w centrum operacji bezpieczeństwa, częstymi aktualizacjami modeli i złożonymi, wieloetapowymi kampaniami ataków, które dawniej trwały tygodniami, a dziś przebiegają z koordynowaną prędkością maszynową. Jeśli pamięć robocza AI jest usuwana i co kilka minut odtwarzana od podstaw, agent, który wykrył nietypowe zachowanie w pierwszej godzinie incydentu, nie pamięta go w godzinie drugiej. Atakujący nie mają tego problemu. Ich agenci stale wykrywają i wykorzystują słabości, a łańcuchy ataku domykają się teraz z maszynową szybkością zoptymalizowaną pod kątem ekonomiki tokenów. Dlatego cyberobrona wspierana przez AI musi działać autonomicznie przez całą dobę. To nie jest teoria. Dostawcy rozwiązań bezpieczeństwa już przygotowują się do pracy całodobowych, trwałych agentów cybernetycznych i jako pierwsze odkrywają, że ekonomika takiego zastosowania w niczym nie przypomina obciążeń czatowych. Niektóre organizacje potrzebują tych agentów na brzegu sieci, w obiektach, do których w tym roku nie można dostarczyć ani szafy GPU, ani nawet agregatu chłodniczego. Prawdziwym sprawdzianem przedsiębiorstwowej AI jest trwałe zachowanie kontekstu, a nie jednorazowe wnioskowanie. Staje się to walką na wyniszczenie tokenami, a kto rozwiąże problem trwałej pamięci kontekstu na dużą skalę, ten napędzi pierwszą horyzontalną, przełomową aplikację AI dla przedsiębiorstw: zawsze aktywne roje agentów obronnych.

Mówił Pan o rosnącym znaczeniu „pamięci kontekstu”, gdy obciążenia AI przechodzą od prostego czatu do trwałych agentów. Czy pamięć kontekstu może stać się równie ważna dla audytu, odtwarzania lub badania zachowania AI?

Zdecydowanie tak — to ważny przypadek użycia. Przez lata pamięć była kwestią wydajności: szybkości zasilania GPU danymi i wielkości utrzymywanego kontekstu. Gdy agenci zaczynają działać autonomicznie, ta sama pamięć staje się materiałem dowodowym. Jeśli agent podejmuje decyzję na podstawie kontekstu zgromadzonego przez wiele dni, końcowe polecenie i wynik niemal nic nie mówią o przyczynie działania. Wyjaśnienie znajduje się w nagromadzonym stanie.

Technicznie większość tego stanu znajduje się w pamięci podręcznej KV, którą branża nadal traktuje jak jednorazową przestrzeń roboczą, a nie trwałe dane. Jeśli stan zostanie zachowany i będzie można sprawnie go odczytać, da się odtworzyć wiedzę systemu z chwili podjęcia działania. Zespoły najpierw wykorzystają to do debugowania, później do ocen bezpieczeństwa, a ostatecznie ktoś będzie tego potrzebował w dochodzeniu. Usunięcie pamięci kontekstu oznacza usunięcie jedynego zapisu wyjaśniającego, dlaczego AI zrobiła to, co zrobiła.

Czy regulacje dotyczące AI mogą ostatecznie zmusić firmy do przechowywania znacznie większej ilości informacji o wejściach i wyjściach modeli, punktach kontrolnych, pochodzeniu danych oraz aktywności agentów? Co oznaczałoby to dla architektury infrastruktury AI?

Ogólny kierunek wskazuje, że tak. Wraz ze wzrostem znaczenia systemów AI wymagania dotyczące widoczności obejmą każdy etap potoku. Widać już pierwsze sygnały: zespoły planują przechowywać nieaktywną pamięć kontekstu w tańszych warstwach pamięci obiektowej wyłącznie na potrzeby audytu, zanim nakażą to jakiekolwiek przepisy.

Niezbędne jest uwierzytelnianie danych monitorujących połączone z niezmiennością. Manipulowanie dziennikami i innymi artefaktami kryminalistycznymi przez złośliwych agentów stało się rutyną, co wymaga zaawansowanych systemów weryfikacji kryptograficznej, odpornych na ataki skupione na scentralizowanych punktach kontroli integralności. Proste dzienniki przejrzystości ani łańcuchy skrótów nie wystarczą do obrony przed zdolnością skoordynowanych rojów agentów do zmowy. Wysoce zdecentralizowane, publiczne architektury blockchain idealnie nadają się do tego celu i uwydatniają często pomijaną integralność — środkowy element triady C-I-A w cyberbezpieczeństwie.

Przechowywanie na dużą skalę nie jest wyłącznie trudnym problemem niezmiennej pamięci masowej. Najtrudniejsze jest utrzymanie wiarygodności, uporządkowania, indeksowania i dostępności tych informacji w czasie pozwalającym dotrzymać terminu — niezależnie od tego, czy wyznacza go regulator, reakcja na incydent czy sąd. Petabajt aktywności agentów, którego nie da się przeszukać, jest zobowiązaniem, a nie dokumentacją. Zmiana architektoniczna polega na przejściu od „większej pamięci masowej” do infrastruktury zaprojektowanej wokół obiektywnie weryfikowalnych, trwałych i przeszukiwalnych danych AI jako podstawowego obciążenia.

Wiele organizacji skupia się na kupowaniu kolejnych GPU. Gdzie jednak pojawią się mniej oczywiste wąskie gardła infrastruktury wraz ze skalowaniem obciążeń AI i wzrostem wymagań bezpieczeństwa?

GPU przyciągają uwagę, ponieważ nie są małą pozycją w budżecie. Jednak GPU, a zwłaszcza nowe akceleratory zoptymalizowane pod kątem dekodowania (ASIC+SRAM), rzadko są rzeczywistym ograniczeniem. To przepustowość pamięci, grawitacja i przemieszczanie danych, wydajność pamięci masowej oraz sieć decydują, czy akceleratory wykonują użyteczną pracę, czy czekają niewykorzystane.

Wraz ze wzrostem znaczenia obszernego kontekstu ściana pamięci staje się podstawowym ograniczeniem AI. Można dokładać GPU, lecz jeśli zużywają cykle na ponowne obliczanie tokenów lub przenoszenie kontekstu między systemami, płaci się wielokrotnie za zmarnowaną pracę. Pokonanie ściany pamięci wymaga, aby warstwa danych zachowywała się jak współdzielona pamięć masowa, lecz działała z prawdziwą szybkością pamięci operacyjnej. Próg wydajności zbliżony do HBM ma znaczenie dla pojawiającej się fali komercyjnych rozwiązań odciążających pamięć podręczną KV: każde z nich musi zapewniać rzeczywistą wydajność klasy pamięci operacyjnej, aby ekonomika tokenów się spinała. Wartość retencji pamięci KV jest dyskusją o centrum kosztów, wtórną wobec centrum zysków. Jeśli odczyt zachowanego kontekstu jest wolniejszy niż jego ponowne obliczenie, pamięć podręczna nie ma wartości biznesowej. Nie liczy się liczba posiadanych GPU, lecz produktywność każdego z nich. Ekonomika AI zależy od wartości uzyskanej z każdego tokenu, bajtu i wata, a wymagania bezpieczeństwa tylko zwiększą znaczenie tego rachunku.

Czy w przyszłości bezpieczeństwo i zgodność AI staną się odrębnym obciążeniem infrastrukturalnym, podobnie jak cyberbezpieczeństwo przekształciło się w wyspecjalizowaną warstwę technologii przedsiębiorstw?

Bezpieczeństwo i zgodność AI staną się odrębnym obciążeniem, a analogia z cyberbezpieczeństwem działa w obie strony. Bezpieczeństwo stało się własną warstwą, gdy branża uznała, że nie może być sporadycznym ćwiczeniem. Branża ubezpieczeń cybernetycznych uczyniła to obowiązkowym. Bezpieczeństwo AI zmierza tą samą nieuchronną drogą, ponieważ modele stają się coraz bardziej zdolne i autonomiczne.

Powinniśmy jednak wyciągnąć wnioski z błędów cyberbezpieczeństwa. Stało się ono dodatkiem: osobnym stosem, osobnym budżetem i osobnym zespołem, który wykrywa problemy po fakcie. Infrastruktura bezpieczeństwa AI nie powinna powtarzać tego błędu. Monitorowanie, ocena, audytowalność i niezmienne przechowywanie muszą znajdować się wewnątrz samej infrastruktury AI i być z nią projektowane od początku.

Najczęściej pomijany jest fakt, że bezpieczna AI wymaga większej ilości AI. Modele zabezpieczające nie są darmowe. Trzeba je stale trenować, dostrajać i uruchamiać wnioskowanie na każdym etapie pracy agenta. Budżety opóźnienia tokenów czynią to namacalnym: każda odpowiedź ma określone okno czasowe, a im więcej tokenów można przetworzyć w tym czasie, tym więcej weryfikacji da się przeprowadzić przed wysłaniem wyniku. Prawdziwe zagrożenie związane z modelami granicznymi wynika zaś z ich wykorzystania przez agentów. Agenci działają jako wielkoskalowe pętle wnioskowania i wielokrotnie wywołują modele przez długi czas. Każda pętla obejmuje obserwację, orientację, decyzję i działanie, a każdy etap zużywa tokeny. Zmienia to bezpieczeństwo AI w wojnę na wyniszczenie tokenami. Atakujący wystawiają roje agentów ofensywnych, obrońcy — roje agentów defensywnych, a wygrywa strona, która może wygenerować więcej tokenów za dolara i wat. Ekonomika tokenów leży na ścieżce krytycznej zarówno ataku, jak i obrony. Tego lata przestało to być eksperymentem myślowym, gdy atak roju ofensywnych agentów na duże repozytorium modeli wstrząsnął branżą, a w ciągu kilku dni powstał specjalny sojusz na rzecz bezpiecznej AI. Tymczasem wolumeny nadal rosną wykładniczo: branża przeszła od przetwarzania bilionów tokenów do biliardów.

Gdy bezpieczeństwo staje się wymogiem całodobowym, koszty mocy obliczeniowej, pamięci i danych przestają być narzutem. Stają się częścią podstawowej ekonomiki jednostkowej działania AI. Firmy, które wcześnie to uwzględnią, potraktują bezpieczeństwo jako założenie projektowe. Pozostałe będą traktować je jak podatek.

Dziękujemy za znakomity wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej, mogą odwiedzić WEKA.