Nikolaos Vasiloglou, VP of Research ML i RelationalAI – Intervju-serie

Nikolaos Vasiloglou er VP of Research ML i RelationalAI. Han har brukt karrieren sin på å bygge ML-programvare og ledet datasikkerhetsprosjekter i detaljhandel, nettannonsering og sikkerhet. Han er medlem av ICLR/ICML/NeurIPS/UAI/MLconf/KGC/IEEE S&P-fellesskapet, og har vært medforfatter, reviewer og arrangør av workshop og hovedkonferansen. Nikolaos leder forskning og strategiske initiativer på交差et mellom store språkmodeller og kunnskapsgrafer for RelationalAI.

RelationalAI er et entreprise AI-selskap som bygger en beslutningsintelligensplattform designet for å hjelpe organisasjoner å gå fra dataanalyse til automatisert, høykvalitets beslutning. Deres teknologi integrerer direkte med data-miljøer som Snowflake, kombinert med relasjonsdatabaser, kunnskapsgrafer og avanserte resoneringssystemer for å skape en “semantisk modell” av en bedrift – essensielt kodet hvordan en bedrift opererer, dens relasjoner og dens logikk. Dette gjør det mulig for AI-systemer (inkludert beslutningsagenter som “Rel”) å resonnere over komplekse, sammenkoblede data og generere prediktive og preskriptive innsikter, og muliggjør at bedrifter kan ta raskere og mer informerte beslutninger uten å flytte data utenfor sikre sky-miljøer.

Du har hatt en sjelden karrierebane som spenner over akademisk maskinlæring, storstilte industrielle utrullinger og lederroller i selskaper som Symantec, Aisera og nå RelationalAI. Hvordan har disse erfaringene formet din perspektiv på hvor maskinlæring-forskning møter virkelige systemer i dag? 

Jeg var heldig å kunne engasjere meg i forskjellige forretningsdomener, fra detaljhandel og sikkerhet til nettannonsering. Dette hjalp meg å forstå hvordan maskinlæring og AI passer som en fellesnevner. Vi visste fra tidlig på 2000-tallet at programvare var i ferd med å “spise opp” verden, og at data var i ferd med å “spise opp” beslutningsintelligensen, men få selskaper, inkludert Google (GOOGL ), trodde at avanserte maskinlæring-algoritmer ville til slutt “spise opp” alt. Tilbake i 2008 ble NeurIPS-deltagere betraktet som “nerder” og drømmere som ikke forstod den virkelige verden, bare mennesker som likte å leke med leker. Det var sant til en viss grad, men jeg trodde at dette var på vei til å endre seg. I motsetning til andre, ga jeg ikke opp på å aktivt delta i overføringen av akademisk forskning til industri.

Din analyse av NeurIPS 2025 brukte kodehjelpere som Claude Code, OpenAI Codex og NotebookLM for å prosessere hele konferansen. Hva overrasket deg mest om å bruke AI-systemer til å analysere AI-forskning selv? 

Det var overraskende lett å bygge programvare for å skrape data, maskin-lese dem og kategorisere dem i seksjoner og til og med sammenfatte og forklare dem på en spesielt intuitiv måte. GenAI-systemer er fantastiske til å fortelle en historie, men ikke til å fortelle historien. NotebookLM er dronningen av å analysere ethvert domene og levere fantastiske resultater. Imidlertid har du ingen kontroll over historien, grafikkene eller betoningen. Jeg lærte at verktøyene ikke er så gode til å lage PowerPoint-foyer, så jeg måtte nøle meg med å bygge HTML og deretter konvertere dem til PDF-er. Den største utfordringen var å lage figurer – diffusjonsgenerering var bare for langsom, upålitelig og dyrt, uten kontroll. Overraskende er modellene ganske gode til å lage SVG-er programmeringsmessig med matplotlib, plotly og andre Python-biblioteker. Den teknikken skalerer, men den krever flere gjennomløp for å fikse visualiseringsfeil. Modellene vil bli enda bedre neste år.

En av de sterkeste temaene i din analyse er skiftet fra trenings-tid skalerbarhet til inferens-tid beregning. Hvorfor er test-tid beregning i ferd med å bli en så kraftig hevel for å forbedre modell-ytelse? 

Skaleringslover er vår kompass. Økning av modellstørrelse og forhånds-trening data har nådd sin kapasitet. Den første generasjonen av skaleringslover førte oss opp til GPT-4. De var de som hjalp OpenAI å starte GenAI-revolusjonen. Vi innser nå at det er en annen dimensjon som tillater modellen å generere mange token før den kommer til et svar. Dette er en annen måte å forbedre effektiviteten til LLM-er. Modellstørrelse og resonering lengde uttrykkes ofte som System 1 og System 2 tenkemåter (Daniel Kahneman). Resoneringsspor er en annen måte å øke modellkapasiteten på. Hvis du tenker på det, var gjennombruddene fra mennesker alltid på grunn av lange og smertefulle resoneringer. Vi ser en lignende mønster: Mindre modeller med lange tenkevinduer overgår modeller som er 100 ganger større. Så tenking er viktigere enn IQ i LLM-er.

Du fremhever overgangen fra monolitiske modeller til agente systemer som kan planlegge, handle og verifisere sine utdata. Hvor nær er vi å få agente AI til å bli en pålitelig produksjonsparadigme i stedet for en forskningsprototyp? 

Vi gjør store fremskritt i den retningen. De største problemene er pålitelighet og sikkerhet, så vi kan stole på at de er autonome. Hvis du ser nærmere på NeurIPS-innholdet, vil du se autonome systemer som gjør forskning, løser matematikkproblemer og løser kodeproblemer, men du ser ikke en agente sjåførløs bil, for eksempel. Den siste erfaringen med Moltbook (en sosial nettverksplattform for AI-agenter) viste problemene med autonome agente AI. Imidlertid er oppdagelse av nye legemidler og materialer med agente AI enormt, så la oss feire og indexere på det for øyeblikket.

Effektivitet synes å være en stor driver for innovasjon, med mindre modeller som oppnår konkurranse-evne gjennom arkitektoniske forbedringer og smartere inferens-strategier. Er vi i ferd med å gå inn i en æra hvor effektivitets-gjennombrudd er viktigere enn rå modellstørrelse? 

Når AI skalerer ut til produksjon, blir ingeniørarbeid viktigere. Å stole på frontier-modellene er enkelt ikke bærekraftig. Det er bra for demoer, men selskaper møter den bitre virkeligheten når de ser den høye kostnaden av store modeller. For første gang er mindre modeller blitt en mye mer levedyktig løsning. Det er en stille kraft som endrer status quo i industrien. Så langt har NVIDIA (NVDA ) hatt monopolet på GPU-er og holdt prisene høye. AMD er i ferd med å gjøre sin vei inn på markedet med høykvalitets-chipper, og det vil tvinge prisene ned. Energi fortsatt å være et problem, men vi ser noen bevegelser i markedet. Når frontier-laboratorier har blitt mer dyre, har løsningen med mindre modeller på leide GPU-er blitt mer levedyktig.

Din presentasjon foreslår at feltet har beveget seg fra en-akse-skalerbarhet (parametere) til multi-dimensjonal skalerbarhet som omfatter parametere, data, arkitektur og inferens. Hvordan bør forskere og praktikere tenke om denne nye skalerbarhets-paradigmet? 

For de fleste profesjonelle er arkitektur og parametere utenfor deres kontroll. Produsentene av modellene som har den nødvendige kapitalen, vil drive innovasjon. Token-inferenslengde vil bli dedusert av organisasjonens kapitalutgifter. Hva som fortsatt er under deres kontroll, er data. Vi vil se mer fokus på å lage, kuratere og feilsøke data (resoneringsspor mesteparten av tiden). Dette vil være fokus for dag-til-dag-operasjonene. Selvfølgelig må de følge NeurIPS og andre store konferanser for å holde seg oppdatert med trendene for de nye arkitektene.

I din NeurIPS-syntese, peker du på at en økende andel av forskningen fokuserer på AI-drevet vitenskapelig oppdagelse, fra biologi til klimamodellering. Ser du AI-for-vitenskap som den neste store frontieren for maskinlæring-forskning? 

Jeg tror det går langt utover akademisk forskning. Vi ser på den neste gullrushen. I 1849 nådde gullrushet i California sitt høydepunkt. Alle menneskene måtte gjøre, var å endeløst si river-vann for å finne gull. Vi vet nå at mange ikke fant gull, men hva vi ser i dag, er veldig virkelig. Jeg kan se en stor bølge av to-tre-manns-startups som bruker språkmodeller til å finne nye materialer, legemidler og produktkomponenter. Å brenne token på den smarteste måten, kan gi store avkastninger. Kodehjelpere som Claude Code, OpenAI Codex og Google Antigravity kan fjerne muren for SaaS-selskaper, og etterlate en hel generasjon av svært dyktige datavitenskapsmenn i vitenskapelig søk. Hvis du arbeider for en non-profit-organisasjon som First Principles eller Bio[hub], er det muligheter til å finne nye fysikklover og teorier, eller andre bidrag i biologi. Hvis du ønsker å generere inntekter, vil du jobbe med å finne opp nye produkter basert på vitenskap, som legemidler, materialer, batterier osv.

Ditt arbeid fremhever også en økende verifiseringsgap, hvor modeller oppnår sterke benchmark-poeng, men feiler på enkle virkelige variasjoner. Hva avslører dette gapet om den nåværende begrensningene til store språkmodeller? 

De ser ut til å ha en fantastisk hukommelse, og kan generalisere godt. Benchmark-er er gode til å starte med forskning. En gang du krysser en terskel, lærer du benchmark-en og ikke problemet. Vi har vært svært gode over årene til å resette benchmark-er og gjøre dem enda harder for å skyve grensene. Problemet med benchmark-er er at på et visst tidspunkt, begynner vi å overindeksere og til slutt juke. Hele trenden her er å gjøre konkurrentene mer ærlige. Personlig bryr jeg meg ikke så mye om benchmark-ene etter noen få sprang. Du kan ha et godt produkt som ikke er i topp 10 på leaderboard-en. Jeg har også sett mange underpar produkter som er gode på benchmark-ene.

Din presentasjon foreslår at små språkmodeller kombinert med inferens-skalerbarhet og agente-arkitekturer kan aktivere kraftige AI-systemer som kjører utenfor hyperskale-data-sentre. Kan denne desentraliseringen endre hvordan AI blir deployert over industrier? 

Vi så en stor vektlegging på edge-deployment. Vi vil se smartere enheter rundt oss uten tvil. Microsoft (MSFT ) har arbeidet i årevis på 1bit LLM, som oppnår omtrent 30x komprimering, og lar det kjøre selv frontier-modeller på en enkelt chip i fremtiden. Vi har sporet denne arbeidet i årevis, og fremgangen er fantastisk. Spesielt i wearables-domenet.

Noe som ble dekket i fjorårets NeurIPS, var ideen om å kombinere svake edge-modeller med frontier-modeller. Dette lar deg justere din inferens-kraft basert på din båndbredde i en kontinuerlig spekter. Den første Telco-Workshop på NeurIPS avdekket en trend mot å plassere GPU-er på cellulærtårn, som er interessant fordi cellulærtårnet ikke er et data-senter eller en edge-enhet. Dette introduserer et nytt lag i beregnings-hierarkiet.

Noe annet som slapp ut fra LLM-ene, er distribuert modell-trening (og jeg mener ikke Google-trening av Gemini i fjern-data-sentre). Det er en veldig interessant trend som er i ferd med å fange opp på uavhengige enheter som trener sine egne modeller, og brukerne kombinerer dem som Legos for å bygge større og kraftigere modeller. Dette er en veldig lovende modulær arkitektur. Dette er hvordan store modeller blir trent. Forskjellige team bygger spesialiserte modeller, og til slutt kobler de dem sammen som Legos-blokker.

Etter å ha analysert tusenvis av NeurIPS-papirer, hvor tror du at AI-forsknings-fellesskapet nøyaktig forutsier fremgang, og hvor kan det være savnet de viktigste kommende skiftene? 

Forsknings-fellesskapet gjør ikke forutsigelser. Forskere har sine egne drivere, nysgjerrighet, finansiering, tilfeldighet og selvfølgelig instinkt. De kan alltid savne interessante retninger, men noen vil alltid finne det og plukke det opp på et visst tidspunkt i fremtiden. Det er forventet og det er sunnt. Utøvere, investorer og ingeniører er påkrevd til å identifisere de oppkomne trendene, så de kan ta de riktige beslutningene og gjøre de mest utdannede valg. I min 5-års analyse-vindu, var det trender som ble plukket opp tidlig, og andre signaler ble savnet. For noen av dem er det fortsatt tid til å ri den alpha-bølgen.

Data-markeder er noe jeg har vært og sett på i årevis, og de gjorde et sprang i år. Den manglende komponenten var attribusjon. Vi kan nå identifisere trening-data som bidro til en LLM-konkurranse på fly. Det betyr at du kan betale utbytte. Dette har vært en savnet mulighet fra forleggerne som er på gruppe-aksjoner med frontier-modeller. Noen av dem måtte bare kapitulere til flatt lisensavtaler, mens jeg tror de har muligheten til å tjene mer bærekraftige inntekter fra en attribusjonsmodell.

Det er en revolusjon på vei i robotikk. Verdens-modellene som NVIDIA og andre kunngjorde, er svært nøyaktige og skalerbare fysikk-simuleringer. Så forvent AI å bli mer fysisk i fremtiden.

Transformer-arkitekturen slo til slutt sammen med tilstands-rom-modeller som RNN-er, mamba osv, og har produsert fantastiske små LLM-er. Vi vet nå de eksakte begrensningene til transformer-en som spiller en stor rolle i ytelse, men vi er fortsatt savnet det neste steget. Det vil komme når transformer-en har blitt bevist å være hard og ganske robust. Hva vi ikke vet, er om det er et menneske eller en transformer som designer den nye arkitekturen til en LLM! Transformer-en forente alle fragmenterte arkitekturer i NLP (ja, ikke glem at GenAI startet fra rudimentære NLP-oppgaver, som entitets-klassifisering). Det funket for matematikk, dette året funket det for tabeller, men det har ikke funket for fysikk. Jeg teller over 15 forskjellige arkitekturer. Så den nye arkitekturen som forener fysikk, kan også være den som vil erstatte transformer-en i reisen mot AGI.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke RelationalAI.