Nikolaos Vasiloglou, viceprezident pro výzkum strojového učení ve společnosti RelationalAI – série rozhovorů

Nikolaos Vasiloglou je VP of Research ML at RelationalAI. Strávil svou kariéru budováním softwaru ML a vedením projektů datové vědy v maloobchodě, online reklamě a bezpečnosti. Je členem komunity ICLR/ICML/NeurIPS/UAI/MLconf/KGC/IEEE S&P, kde působil jako autor, recenzent a organizátor workshopů a hlavní konference. Nikolaos vede výzkum a strategické iniciativy na rozhraní velkých jazykových modelů a znalostních grafů pro RelationalAI.

RelationalAI je podniková AI společnost, která buduje platformu pro rozhodovací inteligenci navrženou tak, aby pomohla organizacím překročit analýzu dat a automatizovat rozhodování s vysokou kvalitou. Jejich technologie se integruje přímo s datovými prostředími, jako je Snowflake, kombinuje relační databáze, znalostní grafy a pokročilé systémy úsudku, aby vytvořila „sémantický model“ podniku – vlastně kódování, jak společnost funguje, její vztahy a logika. To umožňuje AI systémům (včetně rozhodovacích agentů, jako je „Rel“) uvažovat o složitých, propojených datech a generovat prediktivní a preskriptivní poznatky, umožňující podnikům učinit rychlejší a informovanější rozhodnutí bez přesunu svých dat mimo zabezpečené cloudové prostředí.

Máte vzácnou kariéru, která zahrnuje akademické strojové učení, nasazení ve velkém měřítku v průmyslu a vedoucí role v společnostech, jako jsou Symantec, Aisera a nyní RelationalAI. Jak tyto zkušenosti utvořily váš pohled na to, kde se výzkum strojového učení setkává s reálnými systémy dnes? 

Měl jsem štěstí, že jsem se mohl zapojit do různých obchodních domén, od maloobchodu a bezpečnosti až po online reklamu. To mi pomohlo pochopit, jak strojové učení a AI funguje jako společný jmenovatel. Věděli jsme již od počátku roku 2000, že software pohlcuje svět, data pohlcují rozhodovací inteligenci, ale málo společností, včetně Google (GOOGL ), věřilo, že pokročilé algoritmy strojového učení nakonec pohltí všechno. V roce 2008 byli účastníci NeurIPS považováni za snílky, kteří nerozuměli reálnému světu, ale pouze byli lidmi, kteří se rádi hráli s hračkami. To bylo pravdivé do určité míry, ale já jsem věřil, že se jedná o trajektorii, která se změní. Na rozdíl od ostatních jsem se nevzdal aktivní účasti na přechodu akademického výzkumu do průmyslu.

Vaše analýza NeurIPS 2025 používala kódovací asistenty, jako je Claude Code, OpenAI Codex a NotebookLM, ke zpracování celé konference. Co vás nejvíce překvapilo při použití AI systémů pro analýzu výzkumu AI samo o sobě? 

Bylo to překvapivě snadné postavit software pro extrakci dat, strojové čtení a kategorizaci do sekcí a dokonce i sumarizaci a vysvětlení v intuitivní formě. GenAI systémy jsou úžasné při vyprávění příběhu, ale ne při vyprávění příběhu. NotebookLM je královnou analýzy libovolné domény a poskytující úžasné výsledky. Nicméně, nemáte kontrolu nad příběhem, grafikou nebo důrazem. Zjistil jsem, že nástroje nejsou skvělé při vytváření prezentací PowerPoint, takže jsem musel sáhnout po vytváření HTML a následném převodu do PDF. Největší výzvou bylo vytváření obrázků – difuzní generace byla příliš pomalá, nespolehlivá a drahá, bez kontroly. Překvapivě jsou modely poměrně dobré při vytváření SVG programově pomocí knihoven matplotlib, plotly a dalších pythonovských knihoven. Tato technika škálovala, ale vyžadovala několik průchodů pro opravu chyb vizualizace. Modely budou ještě lepší příští rok.

Jedním z nejsilnějších témat ve vaší analýze je posun od škálování během trénování na škálování během inferencing. Proč se testovací výpočet stává tak silným nástrojem pro zlepšení výkonu modelu? 

Škálovací zákony jsou naší kompasem. Zvyšování velikosti modelu a předtréninkových dat dosáhlo své kapacity. První generace škálčních zákonů nás dovezla k GPT-4. Byli to ti, kdo pomohli OpenAI spustit revoluci GenAI. Brzy jsme si uvědomili, že existuje další rozměr, který umožňuje modelu generovat mnoho tokenů, než dospěje k odpovědi. Toto je další způsob, jak zlepšit efektivitu LLM. Velikost modelu a délka úsudku jsou často vyjádřeny jako režimy myšlení System 1 a System 2 (Daniel Kahneman). Stopa úsudku je další způsob, jak zvýšit kapacitu modelu. Pokud se nad tím zamyslíte, lidské průlomy začaly z instinktů (vysoký IQ), ale úspěch byl vždy způsoben dlouhým a bolestivým úsudkem. Vidíme tento vzorec: Menší modely s dlouhými okny úsudku překonávají modely, které jsou 100krát větší. Takže úsudek záleží více než IQ u LLM.

Vy zvýrazňujete přechod od monolitických modelů k agenticím systémům schopným plánování, jednání a ověřování svých výstupů. Jak blízko jsme k tomu, aby agentic AI стало spolehlivým produkčním paradigmatem spíše než výzkumným prototypem? 

Činíme velké kroky v tomto směru. Největšími problémy jsou spolehlivost a bezpečnost, aby jsme je mohli důvěřovat, že budou autonomní. Pokud se podíváte blíže na obsah NeurIPS, uvidíte autonomní systémy, které provádějí výzkum, řeší matematické problémy a řeší kódovací problémy, ale neuvidíte agentic řídící vůz, například. Poslední zkušenost s Moltbook (sociální síť pro AI agenty) zdůraznila problémy autonomních agentic AI. Nicméně, objevování nových léků a materiálů s agentic AI je obrovské, takže prozatím oslavme a indexujeme to.

Účinnost se zdá být hlavním hnacím motorem inovací, s menšími modely, které dosahují konkurenčního výkonu prostřednictvím architektonických zlepšení a chytřejších strategií inferencing. Vstupujeme do éry, kdy průlomové účinnosti záleží více než surová velikost modelu? 

Jakmile se AI rozšíří do produkce, stává se inženýrství důležitějším. Spoléhat se na frontierové modely je prostě neudržitelné. Je skvělé pro demonstrace, ale společnosti čelí hořké realitě, když uvidí vysoké náklady na velké modely. Poprvé se menší modely staly mnohem životaschopnějším řešením. Existuje tichá síla, která mění status quo průmyslu. Dosud měl NVIDIA (NVDA ) monopol na GPU a udržoval ceny vysoké. AMD se však dostává na trh s vysoce kvalitními čipy a to bude tlačit ceny dolů. Energie pokračuje v problémech, ale vidíme一些 pohyby na trhu. Jakmile se frontierové laboratoře staly dražšími, řešení menších modelů na pronajatých GPU se stalo životaschopnějším.

Vaše prezentace naznačuje, že pole se přesunulo od jednorozměrného škálování (parametrů) na vícerozměrné škálování zahrnující parametry, data, architekturu a inferencing. Jak by měli výzkumníci a praktici uvažovat o tomto novém škálování paradigmatu? 

Pro většinu profesionálů jsou architektura a parametry mimo jejich kontrolu. Výrobci modelů, kteří mají nezbytný kapitál, budou pohánět inovace. Délka tokenové inferencing bude určena kapitálovými výdaji jejich organizace. Co zůstává pod jejich kontrolou, jsou data. Uvidíme větší zaměření na vytváření, kurátorství a ladění dat (stopa úsudku většinu času). To bude zaměřeno na denní operace. Samozřejmě, že budou muset sledovat NeurIPS a další velké konference, aby zůstali v obraze s trendy nových architektur.

Vaší syntéze NeurIPS poukazuje na to, že se rostoucí podíl výzkumu zaměřuje na AI-poháněné vědecké objevy, od biologie po klimatické modelování. Vidíte AI-pro-vědu jako další hlavní hranici pro výzkum strojového učení? 

Myslím, že to jde za akademický výzkum. Hledáme další zlatou horečku. V roce 1849 dosáhla zlatá horečka v Kalifornii svého vrcholu. Všichni museli udělat, bylo nekonečně filtrovat řečiště, aby našli zlato. Věděli jsme tehdy, že mnoho lidí nenalezlo zlato, ale to, co vidíme dnes, je velmi reálné. Mohu vidět velkou vlnu dvou- nebo tříčlenných startupů, které používají jazykové modely k nalezení nových materiálů, léků a produktových komponent. Spalování tokenů nejchytřejším způsobem může přinést velké výnosy. Kódovací asistenti, jako je Claude Code, OpenAI Codex a Google Antigravity, mohou odstranit příkop pro SaaS společnosti, zanechávající celou generaci velmi schopných počítačových vědců ve vědeckém hledání. Pokud pracujete pro neziskovou organizaci, jako je First Principles nebo Bio[hub], existují příležitosti k nalezení nových fyzikálních zákonů a teorií nebo jiných příspěvků v biologii. Pokud chcete generovat příjmy, budete pracovat na vynálezu nových produktů založených na vědě, jako jsou farmaceutika, materiály, baterie atd.

Vaše práce také zdůrazňuje rostoucí verifikační mezera, kde modely dosahují silných benchmarkových skórů, ale selhávají na jednoduchých reálných variacích. Co tato mezera odhaluje o současných omezeních velkých jazykových modelů? 

Zdá se, že mají úžasnou paměť a mohou generalizovat dobře. Benchmarky jsou dobré na začátku výzkumu. Jakmile překročíte určitou prahovou hodnotu, naučíte se benchmark a ne problém. Byli jsme velmi dobří v posledních letech při resetování benchmarků a dělání jich ještě tvrdších, aby jsme tlačili limity. Problém s benchmarky je, že v某 okamžiku začneme přeindexovat a nakonec podvádět. Celý trend zde je udělat soupeře více poctivé. Osobně jsem nevěnoval příliš pozornost benchmarkům po několika skocích. Můžete mít dobrý produkt, který není ani v top ten na leaderboardu. Viděl jsem také mnoho podprůměrných produktů, které jsou dobré v benchmarkách.

Představuje se, že malé jazykové modely v kombinaci se škálováním inferencing a agentic architekturami by mohly umožnit powerful AI systémy, které běží mimo hyperscale datové centrum. Může tato decentralizace přebudovat, jak je AI nasazena v průmyslu? 

Vidíme velký důraz na edge nasazení. Uvidíme chytřejší zařízení kolem nás jistě. Microsoft (MSFT ) pracoval roky na 1bit LLM, který dosahuje asi 30x komprese, umožňující mu běhat dokonce i frontier modely na jednom čipu v budoucnu. Sledovali jsme tuto práci roky a pokrok je úžasný. Zvláště v oblasti nositelných zařízení.

Něco, co bylo pokryto na loňském NeurIPS, byla myšlenka kombinovat slabé edge modely s frontierovými. To umožňuje vám nastavit vaši inferenční sílu na základě vaší šířky pásma v kontinuálním spektru. První Telco Workshop na NeurIPS odhalil trend umisťování GPU na věže buněk, což je zajímavé, protože věž buněk není ani datové centrum, ani edge zařízení. To představuje novou vrstvu v hierarchii výpočtu.

Něco jiného, co uniklo z LLM, je distribuované modelové trénování (a nemyslím tím, že Google trénuje Gemini v vzdálených datových centrech). Existuje velmi zajímavý trend, který se chytá na nezávislých entitách, které trénují své vlastní modely a uživatelé je kombinují, jako Lega, aby postavili větší a powerfulnější. To je velmi slibná modulární architektura. To je, jak se trénují velké modely. Různé týmy staví specializované modely a na konci je spojují jako Lega kostky.

Po analýze tisíců NeurIPS papírů, kde si myslíte, že AI výzkumná komunita přesně předpovídá pokrok, a kde by mohla chybět nejvýznamnější nadcházející posuny? 

Výzkumná komunita nedělá předpovědi. Výzkumníci mají své vlastní pohony, zvědavost, financování, náhodu a samozřejmě instinkt. Mohou vždycky minout zajímavé směry, ale téměř jistě někdo najde to a zvedne to v某 bodě v budoucnu. To je očekávané a je zdravé. Exekutoři, investoři a inženýři jsou vyžadováni k identifikaci vznikajících trendů, aby mohli učinit správná rozhodnutí a vsadit na nejvzdělanější sázky. V mém pětiletém analytickém okně byly trendy, které byly zachyceny brzy, a další signály byly minuty. Pro některé z nich je stále čas jet na alfa vlnu.

Trhy s daty jsou něco, co jsem sledoval roky, a prostě udělaly skok tento rok. Chybějící komponentou byla atribuce. Nyní můžeme identifikovat tréninková data, která přispěla k LLM soutěži na letu. To znamená, že můžete platit dividendy. To byla minovaná příležitost pro vydavatele, kteří jsou na žalobách s frontierovými modely. Některé z nich musely prostě kapitulovaly k plochým licenčním dohodám, zatímco já věřím, že mají příležitost udělat více udržitelných příjmů z atribučního modelu.

Přichází revoluce v robotice. Světové modely, které NVIDIA a jiní oznámili, dělají velmi přesné a škálovatelné fyzické simulace. Takže očekávejte, že AI bude více fyzické v budoucnu.

Architektura transformátoru se nakonec spojila se stavy prostoru modelů, jako jsou RNN, mamba atd. a produkovala úžasné malé LLM. Nyní víme přesná omezení transformátoru, která hrají hlavní roli ve výkonu, ale stále chybí další krok. To přijde, když bude transformátor prokázán jako tvrdý a bastante odolný. Co nevíme, je, zda bude člověk nebo transformátor navrhovat novou architekturu LLM! Transformátor sjednotil všechny fragmentované architektury v NLP (ano, nezapomeňte, že GenAI začal z rudimentárních NLP úkolů, jako je klasifikace entit). Pracoval pro matematiku, tento rok pracoval pro tabulky, ale nepracoval pro fyziku. Spočítal jsem více než 15 různých architektur. Takže nová architektura, která sjednotí fyziku, může být také ta, která nahradí transformátor v cestě k AGI.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit RelationalAI.