Nikolaos Vasiloglou, VP of Research ML på RelationalAI – Intervjuerien

Nikolaos Vasiloglou är VP of Research ML på RelationalAI. Han har tillbringat sin karriär med att bygga ML-programvara och leda data science-projekt inom detaljhandel, online-reklam och säkerhet. Han är medlem i ICLR/ICML/NeurIPS/UAI/MLconf/KGC/IEEE S&P-gemenskapen, där han har tjänstgjort som författare, granskare och organisatör av workshoppar och huvudkonferenser. Nikolaos leder forsknings- och strategiska initiativ vid skärningspunkten mellan stora språkmodeller och kunskapsgrafer för RelationalAI.

RelationalAI är ett företag inom AI som bygger en beslutsintelligensplattform som är utformad för att hjälpa organisationer att gå bortom dataanalys mot automatiserat, högkvalitativt beslutsfattande. Dess teknik integreras direkt med datamiljöer som Snowflake, som kombinerar relationsdatabaser, kunskapsgrafer och avancerade resonemangssystem för att skapa en “semantisk modell” av ett företag – i princip kodar hur ett företag fungerar, dess relationer och dess logik. Detta möjliggör för AI-system (inklusive beslutsagenter som “Rel”) att resonera över komplexa, sammanlänkade data och generera prediktiva och preskriptiva insikter, vilket möjliggör för företag att fatta snabbare och mer informerade beslut utan att flytta sina data utanför säkra molnmiljöer.

Du har en ovanlig karriärväg som spänner över akademisk maskinlärande, storskaliga industriella distributioner och ledande roller inom företag som Symantec, Aisera och nu RelationalAI. Hur har dessa erfarenheter format din syn på var maskinlärandeforskning möter riktiga system idag? 

Jag hade turen att engagera mig i olika affärsdomäner, från detaljhandel och säkerhet till online-reklam. Det hjälpte mig att förstå hur maskinlärande och AI fungerar som en gemensam nämnare. Vi visste från tidigt 2000-tal att programvara äter upp världen, data äter upp beslutsintelligens, men få företag, inklusive Google (GOOGL ), trodde att avancerade maskinlärandealgoritmer skulle äta upp allt. År 2008 ansågs NeurIPS-deltagare vara nördar och drömmare som inte förstod den riktiga världen, bara personer som gillade att leka med leksaker. Det var sant till en viss punkt, men jag trodde att detta var på väg att förändras. Till skillnad från andra gav jag inte upp på att aktivt delta i övergången från akademisk forskning till industri.

Din analys av NeurIPS 2025 använde kodassistenter som Claude Code, OpenAI Codex och NotebookLM för att bearbeta hela konferensen. Vad överraskade dig mest om att använda AI-system för att analysera AI-forskning i sig? 

Det var förvånansvärt lätt att bygga programvara för att skrapa data, maskinläsa dem och kategorisera dem i sektioner och till och med sammanfatta och förklara dem på ett särskilt intuitivt sätt. GenAI-system är fantastiska på att berätta en historia men inte berätta historien. NotebookLM är drottningen av att analysera vilket område som helst och leverera otroliga resultat. Men du har ingen kontroll över historien, grafiken eller betoningen. Jag lärde mig att verktygen inte är bra på att skapa PowerPoint-bilder, så jag var tvungen att bygga HTML och sedan konvertera dem till PDF:er. Den största utmaningen var att skapa figurer – diffusionsgenerering var för långsam, opålitlig och dyr, med ingen kontroll. Förvånansvärt är modellerna ganska bra på att skapa SVG:er programmerat med matplotlib, plotly och andra Python-bibliotek. Den tekniken fungerade, men den krävde flera pass för att fixa visualiseringsfel. Modellerna kommer att vara ännu bättre nästa år.

En av de starkaste temana i din analys är skiftet från träningstidsskalning till inferenstidberäkning. Varför kommer testtidberäkning att bli en så kraftfull hävstång för att förbättra modellprestanda? 

Skalningslagar är vår kompass. Att öka modellstorleken och förträningsdata har nått sin kapacitet. Den första generationen av skalningslagar förde oss upp till GPT-4. De var de som hjälpte OpenAI att starta GenAI-revolutionen. Vi insåg snart att det fanns en annan dimension som tillät modellen att generera många token innan den kom till ett svar. Detta är ett annat sätt att förbättra effektiviteten hos LLM:er. Modellstorlek och resonemangslängd uttrycks ofta som System 1 och System 2-tänkesätt (Daniel Kahneman). Resonemangsspår är ett annat sätt att öka modellkapaciteten. Om du tänker på det, började genombrotten från människor med instinkter (hög IQ), men framgången berodde alltid på lång och smärtsam resonemang. Vi ser en mönster: Mindre modeller med långa tänkande fönster presterar bättre än modeller som är 100 gånger större. Så tänkande är viktigare än IQ i LLM:er.

Du betonar övergången från monolitiska modeller till agenter som kan planera, agera och verifiera sina utdata. Hur nära är vi att agenter blir en tillförlitlig produktionsparadigm snarare än en forskningsprototyp? 

Vi gör stora framsteg i den riktningen. De största problemen är tillförlitlighet och säkerhet, så att vi kan lita på att de är autonoma. Om du tittar närmare på NeurIPS-innehållet, ser du autonoma system som gör forskning, löser matematikproblem och löser kodningsproblem, men du ser inte en agenter som kör en bil, till exempel. Den senaste upplevelsen med Moltbook (ett socialt nätverk för AI-agenter) belyste problemen med autonoma AI-agenter. Men upptäckten av nya läkemedel och material med AI-agenter är enorm, så låt oss fira och indexera på det för tillfället.

Effektivitet verkar vara en stor drivkraft för innovation, med mindre modeller som uppnår konkurrenskraftig prestanda genom arkitekturförbättringar och smartare inferensstrategier. Är vi på väg in i en era där effektivitetsgenombrott är viktigare än rå modellstorlek? 

När AI skalar ut till produktion, blir ingenjörskonst viktigare. Att förlita sig på frontier-modellerna är helt enkelt inte hållbart. Det är bra för demonstrationer, men företag står inför den bittra verkligheten när de ser den höga kostnaden för stora modeller. För första gången har mindre modeller blivit en mycket mer livskraftig lösning. Det finns en tyst kraft som förändrar branschens status quo. Hittills har NVIDIA (NVDA ) haft monopolet på GPU:er och hållit priserna höga. AMD gör sitt intåg på marknaden med högkvalitativa chip och det kommer att tvinga priserna att sjunka. Energi fortsätter att vara ett problem, men vi ser någon rörelse på marknaden. När frontier-laboratorierna har blivit dyrare, har lösningen med mindre modeller på hyrda GPU:er blivit mer livskraftig.

Din presentation föreslår att fältet har flyttat från enaxlig skalning (parametrar) till multidimensionell skalning som involverar parametrar, data, arkitektur och inferens. Hur bör forskare och praktiker tänka på denna nya skalparadigm? 

För de flesta proffs är arkitektur och parametrar utanför deras kontroll. Modellproducenterna som har nödvändigt kapital kommer att driva innovationen. Tokeninferenslängd kommer att dedikeras av organisationens capex-utgifter. Vad som återstår under deras kontroll är data. Vi kommer att se mer fokus på att skapa, kurera och felsöka data (resonemangsspår de flesta gånger). Detta kommer att vara fokus för dag-till-dag-åtgärderna. Naturligtvis måste de följa NeurIPS och de andra stora konferenserna för att hålla sig uppdaterade med trenderna för de nya arkitekturerna.

I din NeurIPS-syntes påpekar du att en växande andel forskning fokuserar på AI-driven vetenskaplig upptäckt, från biologi till klimatmodellering. Ser du AI-för-vetenskap som den nästa stora fronten för maskinlärandeforskning? 

Jag tror att det går utöver akademisk forskning. Vi tittar på den nästa guldrushen. År 1849 nådde guldrushen i Kalifornien sin topp. Allt människor behövde göra var att sträcka sig efter flodvatten för att hitta guld. Vi vet nu att många inte hittade guld, men det vi ser idag är mycket verkligt. Jag kan se en stor våg av två- till tre-mannaföretag som använder språkmodeller för att hitta nya material, läkemedel och produktkomponenter. Att bränna token på det smartaste sättet kan ge stora utdelningar. Kodassistenter som Claude Code, OpenAI Codex och Google Antigravity kan ta bort vallgraven för SaaS-företag, vilket lämnar en hel generation av mycket kapabla datavetare i vetenskaplig sökning. Om du arbetar för en ideell organisation som First Principles eller Bio[hub], finns det möjligheter att hitta nya fysiska lagar och teorier, eller andra bidrag i biologi. Om du vill generera intäkter, kommer du att arbeta med att uppfinna nya produkter baserade på vetenskap, som läkemedel, material, batterier etc.

Ditt arbete betonar också en växande verifikationsgap, där modeller uppnår starka benchmark-poäng men misslyckas med enkla realvärldsversioner. Vad avslöjar detta gap om de nuvarande begränsningarna för stora språkmodeller? 

De verkar ha ett fantastiskt minne och kan generalisera bra. Benchmark-tester är bra i början av forskningen. När du korsar en tröskel lär du dig benchmarken och inte problemet. Vi har varit mycket bra under åren att återställa benchmark-tester och göra dem ännu svårare för att driva gränserna. Problemet med benchmark-tester är att vi vid en viss punkt börjar överindexera och till och med fusk. Hela trenden här är att göra konkurrenter mer ärliga. Jag personligen bryr mig inte så mycket om benchmark-testerna efter ett par språng. Du kan ha en bra produkt som inte ens är bland de tio bästa på leaderboarden. Jag har också sett många undermåliga produkter som är bra på benchmark-testerna.

Din presentation föreslår att små språkmodeller i kombination med inferensskalning och agenter kan möjliggöra kraftfulla AI-system som körs utanför hyperskala-datacenter. Kan denna decentralisering omforma hur AI distribueras över branscher? 

Vi såg ett stort fokus på edge-distribution. Vi kommer att se smartare enheter runt oss säkert. Microsoft (MSFT ) har arbetat i åratal på 1bit LLM, som uppnår cirka 30x komprimering, vilket gör det möjligt att köra till och med frontier-modeller på en enda chip i framtiden. Vi har spårat detta arbete i åratal och framstegen är förbluffande. Särskilt inom wearabledomen.

Något som behandlades i fjolårs NeurIPS var idén att kombinera svaga edge-modeller med frontier-modeller. Detta möjliggör för dig att justera din inferenskraft baserat på din bandbredd i ett kontinuerligt spektrum. Den första Telco-workshopen på NeurIPS avslöjade en trend mot att placera GPU:er på celltorn, vilket är intressant eftersom celltornet varken är ett datacenter eller en edge-enhet. Det introducerar en ny lager i beräkningshierarkin.

Något annat som undkommit från LLM:erna är distribuerad modellträning (och jag menar inte Google som tränar Gemini i fjärrdatacenter). Det finns en mycket intressant trend som håller på att komma ikapp på oberoende enheter som tränar sina egna modeller och användare som kombinerar dem som Legobitar för att bygga större och kraftfullare modeller. Detta är en mycket lovande modulär arkitektur. Detta är hur stora modeller tränas. Olika team bygger specialiserade modeller, och till slut kopplar de ihop dem som Legobitar.

Efter att ha analyserat tusentals NeurIPS-papper, var tror du att AI-forskningsgemenskapen korrekt förutspår framsteg, och var kan den missa de viktigaste kommande skiftningarna? 

Forskningsgemenskapen gör inte förutsägelser. Forskare har sina egna drivkrafter, nyfikenhet, finansiering, slump och naturligtvis instinkt. De kan alltid missa intressanta riktningar, men någon kommer att hitta det och plocka upp det någon gång i framtiden. Det är förväntat och det är hälsosamt. Chefer, investerare och ingenjörer krävs för att identifiera de framväxande trenderna så att de kan fatta rätt beslut och ta de mest utbildade chanserna. I min 5-årsanalysfönster, fanns det trender som identifierades tidigt, och andra signaler missades. För några av dem finns det fortfarande tid att åka alpha-vågen.

Data-marknader är något som jag har tittat på i åratal, och de gjorde språnget i år. Den saknade komponenten var attribut. Vi kan nu identifiera träningsdata som bidrog till en LLM-tävling på flyget. Det betyder att du kan betala utdelningar. Detta har varit en missad möjlighet för utgivarna som är på grupptalan med frontier-modeller. Några av dem var tvungna att ge upp till platta licensavtal, medan jag tror att de har möjligheten att generera mer hållbara intäkter från ett attributmodell.

Det kommer en revolution inom robotik. Världsmodellerna som NVIDIA och andra tillkännagav är mycket precisa och skalbara fysiksimuleringar. Så förvänta dig att AI blir mer fysiskt i framtiden.

Transformatorarkitekturen slutade till sist med att slås samman med tillståndsmodeller som RNN:er, mamba etc. och har producerat fantastiska små LLM:er. Vi vet nu de exakta begränsningarna för transformatorn som spelar en stor roll i prestanda, men vi saknar fortfarande nästa steg. Det kommer när transformatorn har bevisats vara hård och ganska resilient. Vad vi inte vet är om det kommer att vara en människa eller en transformator som designar den nya arkitekturen för en LLM! Transformatorn enade alla fragmenterade arkitekturer i NLP (ja, glöm inte att GenAI började med rudimentära NLP-uppgifter, som entitetsklassificering). Det fungerade för matematik, det fungerade för tabeller i år, men det har inte fungerat för fysik. Jag räknade till mer än 15 olika arkitekturer. Så den nya arkitekturen som enar fysik kan också vara den som kommer att ersätta transformatorn på resan mot AGI. Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka RelationalAI.