Kunnen AI-wereldmodellen fysieke wetten echt begrijpen?

De grote hoop voor vision-language AI-modellen is dat ze op een dag in staat zullen zijn tot grotere autonomie en veelzijdigheid, waarbij ze principes van fysieke wetten incorporeren op een manier die vergelijkbaar is met hoe wij een aangeboren begrip van deze principes ontwikkelen door vroege ervaring.

Om bijvoorbeeld te noemen: kinderspelletjes met ballen ontwikkelen een begrip van bewegingskinetica, en van het effect van gewicht en oppervlaktetekstuur op traject. Op dezelfde manier zullen interacties met gewone scenario’s zoals baden, gemorste drankjes, de oceaan, zwembaden en andere diverse vloeistoflichamen ons een veelzijdig en schaalbaar begrip van de manier waarop vloeistoffen zich onder invloed van zwaartekracht gedragen.

Selfs de postulaten van minder voorkomende fenomenen – zoals verbranding, explosies en architectonische gewichtsverdeling onder druk – worden onbewust opgenomen door blootstelling aan tv-programma’s en films, of socialemediavideo’s.

Wanneer we de principes achter deze systemen bestuderen op een academisch niveau, passen we onze intuïtieve (maar ongeïnformeerde) mentale modellen van hen aan.

Meesters van één

Op dit moment zijn de meeste AI-modellen, in tegenstelling, meer ‘gespecialiseerd’, en veel ervan zijn fijn afgesteld of getraind vanaf scratch op beeld- of videodatasets die specifiek zijn voor bepaalde use-cases, in plaats van ontworpen om een algemeen begrip van de regulerende wetten te ontwikkelen.

Andere kunnen de schijn van een begrip van fysieke wetten geven; maar ze kunnen in werkelijkheid gewoon voorbeelden uit hun trainingsdata reproduceren, in plaats van echt het basisprincipe van gebieden zoals bewegingsfysica te begrijpen op een manier die echt nieuwe (en wetenschappelijk plausibele) voorstellingen van gebruikersprompts kan produceren.

Op dit delicate moment in de productisering en commercialisering van generatieve AI-systemen, is het aan ons, en aan de controle van investeerders, om het gemaakte marketing van nieuwe AI-modellen te onderscheiden van de realiteit van hun beperkingen.

Een van de interessantste papers van november, geleid door Bytedance Research, heeft dit probleem aangepakt, waarbij het de kloof tussen de schijnbare en echte capaciteiten van ‘all-purpose’ generatieve modellen zoals Sora onderzocht.

Het onderzoek concludeerde dat, op de huidige stand van de techniek, gegenereerde output van modellen van dit type waarschijnlijker zijn om voorbeelden uit hun trainingsdata te imiteren dan echt een volledig begrip van de onderliggende fysieke beperkingen die in de echte wereld opereren.

De paper zegt*:

‘[Deze] modellen kunnen gemakkelijk worden beïnvloed door “misleidende” voorbeelden uit de trainingsset, waardoor ze generaliseren op een “case-gebaseerde” manier onder bepaalde omstandigheden. Dit fenomeen, dat ook waargenomen is in grote taalmodellen, beschrijft de neiging van een model om naar vergelijkbare trainingsvoorbeelden te verwijzen wanneer het nieuwe taken oplost.

‘Bijvoorbeeld, overweeg een videomodel dat getraind is op data van een hoge-snelheidsbal die in uniforme lineaire beweging beweegt. Als data-augmentatie wordt uitgevoerd door de video’s horizontaal te flippen, waardoor omgekeerde beweging wordt geïntroduceerd, kan het model een scenario genereren waarin een lage-snelheidsbal van richting verandert na de eerste frames, zelfs als dit gedrag niet fysiek correct is.’

We zullen binnenkort een nadere blik werpen op de paper – getiteld Evaluating World Models with LLM for Decision Making – maar eerst laten we de achtergrond voor deze schijnbare beperkingen bekijken.

Herinnering aan dingen uit het verleden

Zonder generaliseren, is een getraind AI-model weinig meer dan een dure spreadsheet met verwijzingen naar delen van zijn trainingsdata: vind de juiste zoekterm, en je kunt een voorbeeld van die data oproepen.

In dat scenario fungeert het model effectief als een ‘neurale zoekmachine’, aangezien het geen abstracte of ‘creatieve’ interpretaties van de gewenste output kan produceren, maar in plaats daarvan een kleine variatie van data die het tijdens het trainingsproces heeft gezien.

Dit wordt memorisatie genoemd – een omstreden probleem dat ontstaat omdat echt ductiele en interpretatieve AI-modellen de neiging hebben om details te missen, terwijl echt gedetailleerde modellen de neiging hebben om originaliteit en flexibiliteit te missen.

De capaciteit van modellen die door memorisatie worden beïnvloed om trainingsdata te reproduceren, is een potentieel juridisch obstakel, in gevallen waarin de makers van het model geen onbeperkte rechten hadden om die data te gebruiken; en waar voordelen van die data kunnen worden aangetoond door een groeiend aantal extractiemethoden.

Door memorisatie kunnen sporen van niet-geautoriseerde data persist, daisy-chained, door meerdere trainsystemen, als een onuitwisbaar en onbedoeld watermerk – zelfs in projecten waar de machine learning-practitioner heeft gezorgd voor ‘veilige’ data.

Wereldmodellen

Het centrale gebruikskwestie met memorisatie is dat het de illusie van intelligentie kan geven, of suggereren dat het AI-model fundamentele wetten of domeinen heeft gegeneraliseerd, waar in feite het grote volume van gememoriseerde data deze illusie oplevert (d.w.z. het model heeft zoveel potentieel data-voorbeelden om uit te kiezen dat het moeilijk is voor een mens om te bepalen of het geleerde inhoud reproduceert of of het een echt geabstraheerd begrip van de concepten heeft die bij de generatie zijn betrokken).

Dit probleem heeft gevolgen voor de groeiende interesse in wereldmodellen – de mogelijkheid van zeer diverse en duur getrainde AI-systemen die meerdere bekende wetten incorporeren en rijk zijn om te verkennen.

Wereldmodellen zijn van bijzonder belang in de generatieve beeld- en videospace. In 2023 startte RunwayML een onderzoeksinitiatief naar de ontwikkeling en haalbaarheid van dergelijke modellen; DeepMind heeft onlangs iemand ingehuurd die een van de oorsprongen is van de gelauwerde Sora-generatieve video om te werken aan een model van deze soort; en startups zoals Higgsfield investeren aanzienlijk in wereldmodellen voor beeld- en videosynthese.

Moeilijke combinaties

Een van de beloften van nieuwe ontwikkelingen in generatieve video-AI-systemen is de mogelijkheid dat ze fundamentele fysieke wetten kunnen leren, zoals beweging, humane kinematica (zoals gaatkenmerken), fluiddynamica, en andere bekende fysieke fenomenen die ten minste visueel vertrouwd zijn voor mensen.

Als generatieve AI deze mijlpaal kan bereiken, kan het in staat zijn om hyperrealistische visuele effecten te produceren die explosies, overstromingen en plausibele botsingsgebeurtenissen over meerdere soorten objecten weergeven.

Als, aan de andere kant, het AI-systeem gewoon is getraind op duizenden (of honderdduizenden) video’s die dergelijke gebeurtenissen weergeven, kan het in staat zijn om de trainingsdata zeer overtuigend te reproduceren wanneer het is getraind op een soortgelijk datapunt als de gebruikersdoelquery; maar falen als de query te veel concepten combineert die in zo’n combinatie niet in de data worden weergegeven.

Verder zouden deze beperkingen niet onmiddellijk duidelijk zijn, totdat men het systeem zou testen met uitdagende combinaties van deze soort.

Dit betekent dat een nieuw generatief systeem in staat kan zijn om virale video-inhoud te genereren die, hoewel indrukwekkend, een vals beeld van de capaciteiten en diepgang van het systeem kan creëren, omdat de taak die het vertegenwoordigt geen echte uitdaging voor het systeem is.

Om bijvoorbeeld te noemen: een relatief gewoon en wijdverspreid evenement, zoals ‘een gebouw wordt gesloopt’, kan in meerdere video’s in een dataset aanwezig zijn die wordt gebruikt om een model te trainen dat enig begrip van fysica moet hebben. Daarom kan het model waarschijnlijk dit concept goed generaliseren en zelfs echt nieuwe output produceren binnen de parameters die zijn geleerd uit overvloedige video’s.

Dit is een in-distribution voorbeeld, waarin de dataset veel nuttige voorbeelden bevat voor het AI-systeem om van te leren.

Als men echter zou vragen om een meer bizarre of twijfelachtig voorbeeld, zoals ‘De Eiffeltoren wordt opgeblazen door buitenaardse indringers’, zou het model moeten combineren met diverse domeinen zoals ‘metallurgische eigenschappen’, ‘kenmerken van explosies’, ‘zwaartekracht’, ‘windweerstand’ – en ‘buitenaardse ruimteschepen’.

Dit is een out-of-distribution (OOD) voorbeeld, dat zoveel verweven concepten combineert dat het systeem waarschijnlijk zal falen om een overtuigend voorbeeld te genereren, of zal terugvallen op het dichtstbijzijnde semantische voorbeeld dat het is getraind op – zelfs als dat voorbeeld niet overeenkomt met de prompt van de gebruiker.

Behalve dat het bron-dataset van het model Hollywood-stijl CGI-gebaseerde VFX-beelden van hetzelfde of een soortgelijk evenement bevat, zou een dergelijke weergave absoluut vereisen dat het een goed gegeneraliseerd en ductiel begrip van fysieke wetten bereikt.

Fysieke beperkingen

De nieuwe paper – een samenwerking tussen Bytedance, Tsinghua University en Technion – suggereert niet alleen dat modellen zoals Sora niet echt deterministische fysieke wetten internaliseren op deze manier, maar dat het opschalen van de data (een veelvoorkomende aanpak in de afgelopen 18 maanden) in de meeste gevallen geen echte verbetering oplevert op dit gebied.

De paper onderzoekt niet alleen de grenzen van extrapolatie van specifieke fysieke wetten – zoals het gedrag van objecten in beweging wanneer ze botsen, of wanneer hun pad wordt geblokkeerd – maar ook de capaciteit van een model voor combinatorische generalisatie – gevallen waarin de voorstellingen van twee verschillende fysieke principes worden samengevoegd tot één generatief output.

Een video-overzicht van de nieuwe paper. Source: https://x.com/bingyikang/status/1853635009611219019

De drie fysieke wetten die door de onderzoekers voor de studie zijn geselecteerd, waren parabolische beweging; uniforme lineaire beweging; en perfect elastische botsing.

Zoals te zien is in de video hierboven, geven de resultaten aan dat modellen zoals Sora niet echt fysieke wetten internaliseren, maar eerder trainingsdata reproduceren.

Verder vonden de auteurs dat aspecten zoals kleur en vorm zo verweven raken op het moment van inferentie dat een gegenereerde bal waarschijnlijk in een vierkant verandert, blijkbaar omdat een soortgelijke beweging in een voorbeeld in de dataset een vierkant en geen bal had (zie voorbeeld in de bovenstaande video).

De paper, die opvallend de onderzoekssector op sociale media heeft betrokken, concludeert:

‘Onze studie suggereert dat alleen schalen onvoldoende is voor videomodellen om fundamentele fysieke wetten te ontdekken, ondanks de rol van schalen in het bredere succes van Sora…

‘…[Vindt] aangeeft dat alleen schalen het OOD-probleem niet kan aanpakken, hoewel het de prestaties in andere scenario’s wel verbetert.

‘Onze diepgaande analyse suggereert dat video-modelgeneralisatie meer afhankelijk is van het verwijzen naar vergelijkbare trainingsvoorbeelden dan van het leren van universele regels. We hebben een prioriteitsvolgorde van kleur > grootte > snelheid > vorm in dit “case-gebaseerde” gedrag waargenomen.

‘[Onze] studie suggereert dat naief schalen onvoldoende is voor videomodellen om fundamentele fysieke wetten te ontdekken.’

Toen de onderzoekers werden gevraagd of het onderzoeksteam een oplossing voor het probleem had gevonden, merkte een van de auteurs van de paper op:

‘Helaas, hebben we dat niet. Eigenlijk is dit waarschijnlijk de missie van de hele AI-gemeenschap.’

Methode en data

De onderzoekers gebruikten een Variational Autoencoder (VAE) en DiT architectuur om videomonsters te genereren. In deze setup werken de gecomprimeerde latent-representaties die door de VAE worden geproduceerd, samen met DiT’s modeling van het denoising proces.

Videos werden getraind op Stable Diffusion V1.5-VAE. Het schema bleef fundamenteel ongewijzigd, met alleen architectonische verbeteringen aan het einde:

‘[We behouden] de meerderheid van de oorspronkelijke 2D-convolutie, groepsnormalisatie en aandachtmechanismen op de ruimtelijke dimensies.

‘Om deze structuur om te zetten in een ruimtelijk-temporele auto-encoder, converteren we de laatste paar 2D-downsample-blokken van de encoder en de eerste paar 2D-upsample-blokken van de decoder naar 3D, en gebruiken we meerdere extra 1D-lagen om temporele modellering te verbeteren.’

Om video-modellering mogelijk te maken, werd de aangepaste VAE gezamenlijk getraind met HQ-beeld- en videodata, met de 2D Generative Adversarial Network (GAN) component die native is aan de SD1.5 architectuur, aangevuld voor 3D.

De beeldataset die werd gebruikt was de oorspronkelijke bron van Stable Diffusion, LAION-Aesthetics, met filtering, evenals DataComp. Voor videodata werd een subset geselecteerd uit de Vimeo-90K, Panda-70m en HDVG datasets.

De data werd getraind voor één miljoen stappen, met random resized crop en random horizontale flip toegepast als data-augmentatie processen.

Omkeren

Zoals hierboven vermeld, kan het random horizontale flip data-augmentatie proces een beperking zijn bij het trainen van een systeem dat authentieke beweging moet produceren. Dit komt omdat de output van het getrainde model beide richtingen van een object kan overwegen en willekeurige omkeringen kan veroorzaken wanneer het probeert deze tegenstrijdige data te onderhandelen (zie ingesloten video hierboven).

Aan de andere kant, als men de horizontale flip uit zet, is het model dan meer geneigd om output te produceren die alleen één richting volgt die is geleerd uit de trainingsdata.

Dus er is geen eenvoudige oplossing voor het probleem, behalve dat het systeem echt de totaliteit van bewegingsmogelijkheden van zowel de native als de omgekeerde versie assimileert – een faciliteit die kinderen gemakkelijk ontwikkelen, maar die voor AI-modellen een grotere uitdaging lijkt te zijn.

Tests

Voor de eerste reeks experimenten formuleerden de onderzoekers een 2D-simulator om video’s van objectbeweging en botsingen te produceren die overeenkomen met de wetten van de klassieke mechanica, die een grote en gecontroleerde dataset opleverden die de ambiguïteiten van echte video’s uitsloot, voor de evaluatie van de modellen. De Box2D fysica-game-engine werd gebruikt om deze video’s te maken.

De drie fundamentele scenario’s die hierboven zijn genoemd, waren het onderwerp van de tests: uniforme lineaire beweging, perfect elastische botsingen en parabolische beweging.

Datasets van toenemende grootte (varierend van 30.000 tot drie miljoen video’s) werden gebruikt om modellen van verschillende grootte en complexiteit (DiT-S tot DiT-L) te trainen, met de eerste drie frames van elke video die werden gebruikt voor conditioning.

Details van de verschillende modellen getraind in de eerste reeks experimenten. Source: https://arxiv.org/pdf/2411.02385

De onderzoekers vonden dat de in-distribution (ID) resultaten goed schalen met toenemende hoeveelheden data, terwijl de OOD-generaties niet verbeterden, wat wijst op tekortkomingen in generalisatie.

Resultaten voor de eerste ronde van tests.

De auteurs merken op:

‘Deze bevindingen suggereren de onmogelijkheid van schalen om redenering in OOD-scenario’s uit te voeren.’

Vervolgens testten en trainden de onderzoekers systemen die waren ontworpen om een vaardigheid voor combinatorische generalisatie te vertonen, waarbij twee contrastende bewegingen worden samengevoegd om (hopelijk) een coherente beweging te produceren die trouw is aan de fysieke wet achter elk van de afzonderlijke bewegingen.

Voor deze fase van de tests gebruikten de auteurs de PHYRE simulator, waarmee ze een 2D-omgeving creëerden die meerdere en divers gevormde objecten in vrije val weergeeft, die met elkaar botsen in een verscheidenheid aan complexe interacties.

Evaluatiemetrics voor deze tweede test waren Fréchet Video Distance (FVD); Structural Similarity Index (SSIM); Peak Signal-to-Noise Ratio (PSNR); Learned Perceptual Similarity Metrics (LPIPS); en een menselijke studie (aangeduid als ‘abnormaal’ in resultaten).

Drie schalen van trainingsdatasets werden gemaakt, bij 100.000 video’s, 0,6 miljoen video’s en 3-6 miljoen video’s. DiT-B en DiT-XL modellen werden gebruikt, vanwege de toegenomen complexiteit van de video’s, met de eerste frame die werd gebruikt voor conditioning.

De modellen werden getraind voor één miljoen stappen bij een resolutie van 256×256, met 32 frames per video.

Resultaten voor de tweede ronde van tests.

Het resultaat van deze test suggereert dat het alleen maar vergroten van de hoeveelheid data een onvoldoende aanpak is:

De paper zegt:

‘Deze resultaten suggereren dat zowel modelcapaciteit als dekking van de combinatieruimte cruciaal zijn voor combinatorische generalisatie. Deze inzichten impliceren dat schaalwetten voor videogeneratie zich moeten richten op het vergroten van combinatiediversiteit, in plaats van alleen maar de hoeveelheid data te vergroten.’

Ten slotte voerden de onderzoekers verdere tests uit om te proberen te bepalen of een videogeneratiemodel echt fysieke wetten kan assimileren, of dat het alleen maar trainingsdata memoriseert en reproduceert op het moment van inferentie.

Hier onderzochten ze het concept van ‘case-gebaseerde’ generalisatie, waarbij modellen de neiging hebben om specifieke trainingsvoorbeelden te imiteren wanneer ze worden geconfronteerd met nieuwe situaties, evenals voorbeelden van uniforme beweging – specifiek, hoe de richting van beweging in trainingsdata de voorspellingen van het getrainde model beïnvloedt.

Twee sets van trainingsdata, voor uniforme beweging en botsing, werden geselecteerd, elk bestaande uit uniforme bewegingsvideo’s die snelheden tussen 2,5 en 4 eenheden weergeven, met de eerste drie frames die werden gebruikt als conditioning. Latente waarden zoals snelheid werden weggelaten, en na training werd getest op zowel gezien als ongezien scenario’s.

Onderstaand zien we de resultaten voor de test voor uniforme bewegingsgeneratie:

Resultaten voor tests voor uniforme bewegingsgeneratie, waar de ‘snelheid’ variabele tijdens training wordt weggelaten.

De auteurs merken op:

‘[Met] een grote kloof in de trainingsset, heeft het model de neiging om video’s te genereren waar de snelheid hoog of laag is om trainingsdata te imiteren wanneer de eerste frames middelhoge snelheden laten zien.’

Voor de botsingstests zijn veel meer variabelen betrokken, en het model moet een tweedimensionale niet-lineaire functie leren.

Botsing: resultaten voor de derde en laatste ronde van tests.

De auteurs merken op dat de aanwezigheid van ‘misleidende’ voorbeelden, zoals omgekeerde beweging (d.w.z. een bal die van een oppervlak afketst en van richting verandert), het model kan misleiden en fysiek onjuiste voorspellingen kan doen genereren.

Conclusie

Als een niet-AI-algoritme (d.w.z. een ‘gebakken’, procedurale methode) wiskundige regels bevat voor het gedrag van fysieke fenomenen zoals vloeistoffen, of objecten onder zwaartekracht, of onder druk, zijn er een set onveranderlijke constanten beschikbaar voor nauwkeurige rendering.

De bevindingen van de nieuwe paper geven echter aan dat geen dergelijke equivalentie of intrinsiek begrip van klassieke fysieke wetten wordt ontwikkeld tijdens de training van generatieve modellen, en dat het vergroten van de hoeveelheid data het probleem niet oplost, maar eerder verhult – omdat een grotere hoeveelheid trainingsvideo’s beschikbaar is voor het systeem om te imiteren op het moment van inferentie.

* Mijn conversie van de inline citaten van de auteurs naar hyperlinks.

Eerst gepubliceerd op dinsdag 26 november 2024