Val Bercovici, hlavní AI ředitel ve WEKA – série rozhovorů

Val Bercovici, hlavní AI ředitel ve WEKA, je výkonný ředitel v oblasti AI a datové infrastruktury, zaměřený na rozvoj technologií, které tvoří základ další generace umělé inteligence. Od svého nástupu ve WEKA jako Chief AI Officer v lednu 2025 se soustředí na budování infrastruktury AI agentů, zrychlování tréninkových a inferenčních úloh a zlepšování ekonomiky výpočtů AI. Vedle své role ve WEKA působí Bercovici jako AI poradce pro Home Dock, strategický poradce pro FermiHDI a The Hive a předseda PencilDATA, kde jeho práce zahrnuje AI, kybernetickou bezpečnost, blockchain, cloud computing a datovou infrastrukturu. Jeho kariéra odráží dlouhodobý zaměřený vývoj a poradenství v oblasti nově vznikajících technologií určených k podpoře stále datově náročnějších AI systémů.

WEKA je společnost zaměřená na AI‑nativní datovou infrastrukturu, která buduje softwarově definovanou platformu určenou pro náročné datové požadavky umělé inteligence, strojového učení, výkonných výpočtů a dalších akcelerovaných úloh. Platforma WEKA Data Platform poskytuje organizacím jednotnou architekturu, která může fungovat v on‑premise, cloudu, hybridních i edge prostředích, pomáhá odstraňovat úzká místa úložiště, zlepšovat využití GPU a urychlovat trénink a inferenci AI modelů. Společnost čím dál více zaměřuje svou technologii na vznikající ekonomiku inferencí a agentní AI, přičemž její infrastruktura je navržena tak, aby poskytovala vysokou propustnost a nízkou latenci přístupu k datům v masivním měřítku a zároveň zjednodušovala složité AI datové pipeline. WEKA slouží podnikovým zákazníkům, poskytovatelům cloudu, výzkumným organizacím i vývojářům AI, kteří provozují některá z nejvýkonnějších výpočetních prostředí na světě.

Vaše kariéra vás zavedla od formování první cloudové strategie NetApp a působení v zakládající řídící radě Kubernetes až po budování AI infrastruktury ve WEKA. Jaký vliv měla tato evoluce na vaše myšlení o přípravě infrastruktury pro další fázi AI?

Každá etapa mé kariéry se řídila stejným vzorcem: úzké místo se posouvá a odvětví si to všimne až po letech. V počátcích cloudu a Kubernetes jsme sledovali, jak se výpočetní kapacita stala elastickou a orchestraci se stala novým úzkým místem. Po odchodu z NetApp, kde jsem byl CTO po akvizici SolidFire, jsem si myslel, že vím, jak vypadá rychlost: nízké milisekundy pro skutečně náhodné čtení prvního bajtu pod reálnými zátěžemi.

Důvod, proč jsem se připojil k WEKA, je čistě geekovský. Jedna statistika: první ne‑cacheovaný náhodný čtený bajt trvá 70 mikrosekund, což není číslo úložné třídy. Nikdy jsem si nepředstavoval latenci na úrovni mikrosekund u takového systému. To byl záblesk: tato technologie by mohla sloužit aplikacím na úrovni paměti, aplikacím třídy DRAM jako Redis a KV cache, nejen úložišti. A přesně v ten moment začala inferenční práce předčovat trénink, protože průmysl musel tyto modely monetizovat, a agenti přišli, aby učinili paměť celou hrou.

To je perspektiva, kterou přináším do AI infrastruktury. Viděli jsme tento scénář už dříve. Cloud FinOps vznikl, protože společnosti nasazovaly infrastrukturu bez přísné jednotkové ekonomiky a pak dostávaly fakturu. AI je na stejné křivce, jen se pohybuje rychleji. Jakmile podniky začaly tlačit zpět na „tokenmaxxing“ s příchodem faktur za API spotřebu daleko přesahujících plánované tokenové rozpočty, začíná se objevovat AI FinOps. To je okamžik, kdy organizace přestanou považovat inferenci za levnou utilitu a začnou řídit efektivitu tokenů jako finanční disciplínu. AI FinOps začíná tokenomikou: optimalizací každé hardwarové i softwarové vrstvy inferenčního stacku, která ovlivňuje jednotkovou cenu za token. Právě teď je největším plýtváním v tomto stacku drahé GPU a nové ASIC, které leží nečinné a čekají na paměť a data (tzv. „decode“) místo FLOPS (tzv. „prefill“). Kdo to opraví, vlastní další fázi AI.

Úřad Bílého domu drží podrobnosti svého nového rámce pro bezpečnost AI v tajnosti. Jak se mohou podniky připravit na regulační požadavky, když ještě neví přesně, co bude testováno nebo vyžadováno?

Společnosti by neměly čekat na finální kontrolní seznam. Konkrétní testy se budou měnit, ale povinnost pod nimi ležící zůstane stejná: budete muset prokázat, co váš AI model udělal, jaká data se dotkl a jak se choval v konkrétním okamžiku. A čekání už globálně není možností. EU AI Act vstoupil v platnost tento měsíc a klasifikuje většinu orchestrací agentů jako vysoce rizikové.

To znamená, že přípravná práce je práce na infrastruktuře. Datová linie, observabilita, reprodukovatelnost a schopnost na vyžádání rekonstruovat stav modelu jsou pro podniky naprosto klíčové. Nakonec organizace potřebují nasadit modely ochranných zábran před výstupy, s přidruženými latencemi a tokenovými rozpočty pro vrstvy sémantické obrany. Pokud tyto schopnosti vybudujete nyní, jakýkoli rámec se stane jen formální cvičební úlohou. Čekáte na finální pravidla a budete „retrofitovat“ odpovědnost do systémů, které nebyly nikdy navrženy k tomu, aby se sami vysvětlovaly. Taková úprava je vždy dražší než její začlenění od začátku.

V konečném důsledku je řešením pro tvorbu bezpečné AI více AI, aplikované optimálně a velmi úmyslně.

Jaké typy nových požadavků na infrastrukturu by mohlo testování bezpečnosti AI vytvořit a jak se tyto pracovní zátěže mohou lišit od konvenčního tréninku nebo inferencí modelů?

Trénink je jako požární hadice. Tlačíte obrovské objemy dat skrz model v udržovaném, předvídatelném vzoru. Testování bezpečnosti je opak: tisíce evaluačních scénářů, opakované probíhání, verze‑po‑verzi srovnávací chování a adversariální „red‑team“ útoky, které nikdy nekončí.

Tento profil má význam. Bezpečnostní trénink a testování jsou výbušné, náročné na čtení a srovnávací. Generují a konzumují obrovské množství mezistavů. Modely ochranných zábran musí být inherentně heterogenní a vrstvené, implementované v těsných latencích, což zesiluje evaluační proces s touto novou dimenzí bezpečnostních kritérií. Pro tak pokročilé nebo kyberneticky schopné modely je profil zátěže 24/7 trvalý, nikoli epizodický. Nespouštíte test jednou a archivujete výsledek. Spouštíte kontinuální pracovní zátěže agentních rojů, které soutěží v produkci o výpočetní, paměťové a datové šířky pásma pro kritické aplikace, které chrání. Po kvalitě a rychlosti většina dnešní infrastruktury není navržena pro tento třetí princip.

Pod tím je také měřicí problém. Většina dnešních AI benchmarků běží na 8 000 tokenů nebo méně, jeden prompt, jedna odpověď. Vtipkuji, že jsou to umělé benchmarky umělé inteligence. V polovině roku 2026 reálné agentní pracovní zátěže běží 100 000 až 400 000 tokenů kontextu napříč tisíci otázek. Pokud bezpečnostní hodnocení zdědí tyto hračkové benchmarky, budeme certifikovat systémy pro svět, který neexistuje. Regulační orgány už zde budují lepší kapacitu: NIST otevřel nástroje pro hodnocení bezpečnosti agentů a první publikované výsledky ukazují, že nově objevené útoky na převzetí agentů uspějí několikanásobně častěji než známé baseline. To je přesně ten typ kontinuálního, adversariálního, nákladného testování, na který očekávám, že se bezpečnostní rámce zaměří.

Měly by organizace budovat nadbytečnou výpočetní a datovou kapacitu výhradně pro budoucí shodu a bezpečnostní pracovní zátěže, nebo existuje efektivnější způsob, jak navrhnout tuto nejistotu?

Kupovat nadbytečné GPU a doufat, že využití dožene, jen ponechává kapitál uvězněný v depreciující hardware.

Efektivní odpovědí je infrastruktura, která se pružně přepíná mezi produkčními a evaluačními zátěžemi bez samostatného stacku. To je v podstatě datový problém. Pokud můžete data efektivně přesouvat a znovu používat, zachovat kontext mezi zátěžemi a udržet akcelerátory zaneprázdněné reálnou prací, shoda se stane inkrementálním nákladem místo paralelního výstavby. Ekonomika AI čím dál více spočívá v tom, kolik hodnoty vytěžíte z každého tokenu, bajtu a wattu. Udělejte to správně a můžete generovat 3–4× více hodnoty ze stejné infrastruktury, nebo zmenšit fyzickou stopu racku až o 75 %. Shoda by měla být posuzována podle stejných standardů.

Současný rámec údajně zaměřuje pozornost na pokročilé uzavřené modely a vylučuje modely s otevřenou váhou. Jaké infrastrukturní nebo bezpečnostní výzvy mohou vzniknout z odlišného zacházení s těmito dvěma kategoriemi?

Pokud zacházíte s uzavřenými modely a modely s otevřenou váhou odlišně, končíte se dvěma shodnými rámci pro technologie, které dělají totéž, a mezera mezi nimi je místem, kde leží riziko.

Model s otevřenou váhou může být doladěn a nasazen v prostředích, kde původní poskytovatel nemá žádnou viditelnost. Regulovat poskytovatele tam nic nevyřeší. A rozdělení už je patrné: exportní kontroly letos dopadly na nejnovější uzavřené „frontier“ modely, zatímco modely s otevřenou váhou volně překračují hranice a nyní se nacházejí na špici veřejných žebříčků schopností. Avšak administrativa nakonec definuje „frontier“ modely, správa nemůže končit u samotného modelu. Potřebujete viditelnost, kde jsou modely spuštěny, jaká data přistupují, jaké prompty, odpovědi a metadata jsou uchovávána, jak byly modifikovány a zda infrastruktura pod nimi skutečně dokáže podporovat řízenou AI ve velkém měřítku. Budou vyžadovány nové aktualizace ISO27001 a SOC2.

Moje odpověď zní: důvěřovat, ale ověřovat. Pokud vaše infrastruktura poskytuje tokenovou kapacitu, můžete spustit heterogenní zábrany proti jakémukoli modelu před tím, než jeho výstup odejde: domácímu či zahraničnímu, otevřenému či uzavřenému. Objektivní ověření převažuje nad plošnou důvěrou či nedůvěrou založenou na původu modelu. Jak se otevřené modely rozšiřují, tato ověřovací schopnost žije v infrastrukturní vrstvě a tam se podniky budou odlišovat. Politika může rozhodovat, které modely jsou povoleny. Infrastruktura rozhoduje, zda lze tyto modely nasadit odpovědně a ekonomicky.

Jak se mění množství dat, paměti a výpočetního výkonu, které organizace musí alokovat na monitorování a bezpečnost, když se AI agenti stávají autonomnějšími a operují v delších kontextech?

Chatbot je prompt a odpověď. Autonomní agent je běžící proces. Dotýká se desítek systémů, získává informace, činí mezikroky a akumuluje stav během hodin či dnů, než dokončí úkol.

Nelze to monitorovat vzorkováním jednotlivých tokenů nebo odpovědí. Musíte zachytit celou sekvenci: co agent věděl, kdy to věděl a co udělal dál. Každou hodinu běhu agenta jeho stav roste, a roste i paměť, datový pohyb a infrastruktura potřebná k zachycení a analýze. Monitorování přestává být jen logovací funkcí a stává se plnohodnotnou pracovní zátěží s vlastním rozpočtem zdrojů.

Obrana je místo, kde to nabývá naléhavosti. Problém paměti AI se mění v bezpečnostní problém. Kódovací agent může nastartovat, doručit a vypnout. Kybernetický agent nemůže. Musí udržovat kontext napříč denními změnami směn v Security Operations Center, častými aktualizacemi modelů a sofistikovanými vícestupňovými útočnými kampaněmi, které dříve trvaly týdny, ale dnes fungují na koordinovaných strojových rychlostech. Když se tato AI pracovní paměť každých pár minut vyprázdní a znovu přepočítá, agent, který v první hodině incidentu detekoval anomálii, v druhé hodině už nemá paměť. Útočníci tento problém nemají. Jejich agenti trvale identifikují a využívají slabiny a řetězce útoků nyní končí na tokenomických optimalizovaných rychlostech, takže AI‑poháněná kybernetická obrana musí běžet autonomně 24 hodin denně. A to není teorie. Dodavatelé bezpečnosti se právě připravují na 24/7 trvalé kybernetické agenty a první, co zjistí, je, že ekonomika vypadá naprosto jinak než u chatových zátěží. Některé organizace potřebují tyto agenty na edge, v místech, kam letos nelze poslat GPU rack ani chladič. Skutečný test pro podnikovou AI je udržení kontextu v čase, ne jednorázová inference. To se mění v bitvu o tokenovou erozí a kdo dokáže na škále udržet trvalou kontextovou paměť, pohání první horizontální „killer app“ v podnikovém AI: neustále aktivní modré roje agentů.

Hovořili jste o rostoucím významu „kontextové paměti“ s tím, jak AI pracovní zátěže přecházejí od jednoduchého chatu k trvalým agentům. Může se kontextová paměť stát také důležitou pro audit, reprodukci nebo vyšetřování chování AI?

Rozhodně, a je to důležitý případ užití. Po léta byla paměť příběhem výkonu: jak rychle můžete napájet GPU, kolik kontextu můžete držet. Jakmile agenti začnou jednat autonomně, tato samá paměť se stává důkazem. Pokud agent učiní rozhodnutí na základě kontextu, který akumuloval během dnů, finální prompt a výstup vám řeknou téměř nic o tom, proč tak učinil. Vysvětlení leží v akumulovaném stavu.

Technicky řečeno, většina toho stavu žije v KV cache a odvětví jej stále považuje za jednorázový odkládací prostor místo trvalých dat. Pokud tento stav zachováte a můžete jej efektivně načíst, můžete rekonstruovat, co systém věděl v okamžiku, kdy jednal. Týmy to použijí nejprve pro ladění, pak pro bezpečnostní hodnocení a nakonec někdo bude potřebovat to při vyšetřování. Zahození kontextové paměti znamená zahození jediného záznamu, který vysvětluje, proč vaše AI udělala to, co udělala.

Mohou regulace AI nakonec přinutit společnosti uchovávat podstatně více informací o vstupech modelu, výstupech, kontrolních bodech, datové linii a aktivitě agentů? Co by to znamenalo pro architekturu AI infrastruktury?

Obecně ano. Jak AI systémy získávají na důležitosti, rozšiřují se požadavky na viditelnost tak, aby pokrývaly každý krok pipeline. Už nyní můžete vidět první signály: týmy plánují uchovávat „zastaralou“ kontextovou paměť v levnějších úrovních objektového úložiště čistě pro auditní účely, ještě dříve, než to vyžadují regulace.

Autentizace monitoringu s neměnností je zásadní. Manipulace s logy a dalšími forenzními artefakty ze strany škodlivých agentů se stala rutinní, což vyžaduje propracované kryptografické ověřovací systémy, které nejsou zranitelné vůči koncentrovaným, centralizovaným cílům útoků. Jednoduché transparentní logy nebo hash řetězce nestačí k obraně proti kolaboračním schopnostem koordinovaných rojů agentů. Vysoce decentralizované veřejné blockchainové architektury jsou pro to ideální, což zdůrazňuje často přehlíženou hodnotu integrity uprostřed C‑I‑A trojice kybernetické bezpečnosti.

Uchovávání není jen obrovský, neměnný úložný problém ve velkém měřítku. Těžkost spočívá v tom, aby tato informace zůstala důvěryhodná, organizovaná, indexovaná a rychle vyhledatelná pod časovým tlakem, ať už jde o regulator, reakci na incident nebo soudní síň. Petabajt aktivit agenta, který nelze dotazovat, je závazek, ne záznam. Architektonický posun jde od „více úložiště“ k infrastruktuře navržené kolem objektivně ověřitelných, trvale uložitelných a dotazovatelných AI dat jako jádra pracovní zátěže.

Mnoho organizací se soustředí na nákup více GPU, ale kde vidíte méně zřejmá úzká místa infrastruktury, která se objevují, jak AI pracovní zátěže rostou a požadavky na bezpečnost se stávají náročnějšími?

GPU získává titulky, protože není nepatrná položka rozpočtu. Ale GPU a zejména nové akcelerátory optimalizované na decode (ASIC+SRAM) jsou zřídka skutečným omezením. Šířka pásma paměti, gravitační síla dat a jejich pohyb, výkon úložiště a síťová kapacita určují, zda tyto akcelerátory vykonávají produktivní práci nebo čekají nevyužité.

Jak AI získává na kontextové těžkosti, stěna paměti se stává definujícím omezením. Můžete dál přidávat GPU, ale pokud tráví cykly přepočítáváním tokenů nebo přeskupováním kontextu mezi systémy, platíte za zbytečnou práci znovu a znovu. Škálování paměťové stěny znamená, že datová vrstva se chová jako sdílené úložiště, ale výkonem skutečné paměti. Tento HBM‑přiléhavý výkonový práh je důležitý pro profitní vlnu řešení odlehčování KV cache, která přichází nyní: každé z nich musí dodat pravou paměťovou výkonnost, aby se tokenomika vyrovnala. Hodnota uchování pro KV cache je spíše diskusí o nákladovém centru, sekundárním k profitnímu. A pokud je čtení cache pomalejší než samotné přepočítání, cache je pro obchodní rovnici bezcenná. Co je podstatné, není kolik GPU vlastníte, ale jak produktivní je každé z nich. Ekonomika AI spočívá v hodnotě, kterou vytěžíte z každého tokenu, bajtu a wattu, a požadavky na bezpečnost jen zvýší sázky v tomto výpočtu.

Do budoucna očekáváte, že AI bezpečnost a shoda se stanou samostatnou pracovní zátěží infrastruktury, podobně jako se kybernetická bezpečnost vyvinula do dedikované vrstvy podnikových technologií?

Uvidíme, že AI bezpečnost a shoda se stanou samostatnou pracovní zátěží a paralela s kybernetickou bezpečností funguje oběma směry. Bezpečnost se stala samostatnou vrstvou, jakmile odvětví přijalo, že to nemůže být jen občasné cvičení. Trh s kybernetickým pojištěním to učinil povinným. AI bezpečnost je na stejné povinné dráze, jakmile modely rostou na schopnostech a autonomii.

Měli bychom se ale poučit z chyb, které bezpečnost udělala. Stala se „dodatečnou“ vrstvou: samostatný stack, samostatný rozpočet, samostatný tým, který nachází problémy až po jejich vzniku. Infrastruktura pro bezpečnost by neměla tuto chybu opakovat. Monitorování, hodnocení, auditovatelnost a neměnné uchovávání patří do samotné AI infrastruktury, spoluvytvořené od začátku.

Zde je část, kterou většina lidí přehlíží: bezpečná AI vyžaduje více AI. Modely ochranných zábran nejsou zdarma. Musí být neustále trénovány, doladěny a inferovány v každém kroku běhu agenta. Tokenové latence rozpočty to konkretizují: každá odpověď má pevné okno a čím více tokenů můžete zpracovat uvnitř toho okna, tím více ověření můžete provést, než výstup odejde. A skutečná hrozba od „frontier“ modelů spočívá v jejich agentní aplikaci. Agenti běží jako vysokokapacitní inferenční smyčky, opakovaně volají modely po dlouhé časové horizonty. Každá smyčka je „observe, orient, decide, act“ a každý krok spaluje tokeny. To mění AI bezpečnost v válku tokenové eroze. Útočníci nasazují červené roje agentů, obránci modré roje agentů a strana, která si může dovolit generovat více tokenů za dolar a za watt, vyhrává. Tokenomika leží na kritické cestě jak útoku, tak obrany. To přestalo být pouhá myšlenková experimentace letos v létě, když červený roj agentů napadl významný repozitář modelů a šokoval odvětví, a během dnů se vytvořila dedikovaná aliance pro bezpečnou AI. Mezitím objemy nadále rostou: průmyslové zpracování tokenů se posunulo z bilionů na kvadriliony.

Jakmile se bezpečnost stane neustálým požadavkem, její výpočetní, paměťové a datové náklady přestanou být jen režijní. Stanou se součástí základní jednotkové ekonomiky provozu AI. Společnosti, které to internalizují brzy, budou považovat bezpečnost za vstupní designový parametr. Všichni ostatní ji budou vnímat jako daň.

Děkujeme za skvělý rozhovor, čtenáři, kteří se chtějí dozvědět více, by měli navštívit WEKA.