Andersons Blickwinkel

Auf dem Weg zur totalen Kontrolle in der AI-Video-Generierung

mm
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufÞgen
ChatGPT-4o, Adobe Firefly: lower right, imagery from the paper FullDiT: Multi-Task Video Generative Foundation Model with Full Attention (https://arxiv.org/pdf/2503.19907)

Video-Grundmodell wie Hunyuan und Wan 2.1 sind zwar leistungsfÃĪhig, bieten den Benutzern jedoch nicht die Art von granularer Kontrolle, die die Film- und Fernsehproduktion (insbesondere die VFX-Produktion) erfordert.

In professionellen visuellen Effekt-Studio werden Open-Source-Modelle wie diese, zusammen mit frÞheren bildbasierten (und nicht videobasierten) Modellen wie Stable Diffusion, Kandinsky und Flux, typischerweise zusammen mit einer Reihe von unterstÞtzenden Tools verwendet, die ihre Rohausgabe anpassen, um spezifische kreative Anforderungen zu erfÞllen. Wenn ein Regisseur sagt: “Das sieht großartig aus, aber kÃķnnen wir es ein bisschen [n] machen?”, kann man nicht antworten, dass das Modell nicht prÃĪzise genug ist, um solche Anforderungen zu erfÞllen.

Stattdessen wird ein AI-VFX-Team eine Reihe traditioneller CGI– und kompositorischer Techniken verwenden, die mit benutzerdefinierten Verfahren und Workflows kombiniert werden, die im Laufe der Zeit entwickelt wurden, um die Grenzen der Video-Synthese ein wenig weiter zu pushen.

Ein Video-Grundmodell ist also ÃĪhnlich wie eine Standardinstallation eines Web-Browsers wie Chrome; es kann viel aus der Box heraus, aber wenn man es anpassen mÃķchte, um den eigenen BedÞrfnissen zu entsprechen, anstatt umgekehrt, benÃķtigt man einige Plugins.

Kontrolle-Freaks

In der Welt der diffusionsbasierten Bildsynthese ist das wichtigste solche Drittanbietersystem ControlNet.

ControlNet ist eine Technik, um strukturierte Kontrolle zu diffusionsbasierten generativen Modellen hinzuzufÞgen, die es Benutzern ermÃķglicht, Bild- oder Video-Generierung mit zusÃĪtzlichen Eingaben wie Kantenkarten, Tiefenkarten oder Poseninformationen zu steuern.

ControlNets verschiedene Methoden ermÃķglichen es, Tiefenbilder in Bilder (obere Reihe), semantische Segmentierung in Bilder (untere linke Ecke) und Posen-gesteuerte Bildgenerierung von Menschen und Tieren (untere linke Ecke) zu generieren.

ControlNets verschiedene Methoden ermÃķglichen es, Tiefenbilder in Bilder (obere Reihe), semantische Segmentierung in Bilder (untere linke Ecke) und Posen-gesteuerte Bildgenerierung von Menschen und Tieren (untere linke Ecke) zu generieren.

Anstatt sich ausschließlich auf Text-Prompts zu verlassen, fÞhrt ControlNet separate neuronale Netzwerkzweige oder Adapter ein, die diese Bedingungssignale verarbeiten, wÃĪhrend die generativen FÃĪhigkeiten des Basis-Modells erhalten bleiben.

Dies ermÃķglicht fein abgestimmte Ausgaben, die den Benutzerspezifikationen nÃĪher kommen, was es besonders nÞtzlich in Anwendungen macht, in denen prÃĪzise Komposition, Struktur oder Bewegungskontrolle erforderlich ist:

Mit einer Leit-Pose kÃķnnen verschiedene genaue Ausgabetypen Þber ControlNet erhalten werden. Quelle: https://arxiv.org/pdf/2302.05543

Mit einer Leit-Pose kÃķnnen verschiedene genaue Ausgabetypen Þber ControlNet erhalten werden. Quelle: https://arxiv.org/pdf/2302.05543

Es gibt jedoch einige Nachteile bei adapterbasierten Frameworks dieser Art.

Erstens werden Adapter unabhÃĪngig trainiert, was zu Branch-Konflikten fÞhrt, wenn mehrere Adapter kombiniert werden, was die GenerierungsqualitÃĪt verschlechtern kann.

Zweitens fÞhren sie zu Parameter-Redundanz, was extra Rechenleistung und Speicher fÞr jeden Adapter erfordert, was das Skalieren ineffizient macht.

Drittens produzieren Adapter oft suboptimale Ergebnisse im Vergleich zu Modellen, die vollstÃĪndig fein abgestimmt sind fÞr die multikonditionale Generierung. Diese Probleme machen adapterbasierte Methoden weniger effektiv fÞr Aufgaben, die eine nahtlose Integration mehrerer Kontrollsignale erfordern.

Ideal wÃĪre es, wenn die FÃĪhigkeiten von ControlNet native in das Modell trainiert wÞrden, auf eine modulare Weise, die es ermÃķglichen wÞrde, spÃĪter und viel erwartete offensichtliche Innovationen wie simultane Video-/Audio-Generierung oder native Lip-Sync-FÃĪhigkeiten (fÞr externes Audio) zu integrieren.

Wie es derzeit steht, stellt jedes zusÃĪtzliche StÞck FunktionalitÃĪt entweder eine Post-Produktions-Aufgabe oder ein nicht-natives Verfahren dar, das die eng gebundenen und empfindlichen Gewichte des jeweiligen Grundmodells navigieren muss.

FullDiT

In diese Pattsituation kommt ein neues Angebot aus China, das ein System vorschlÃĪgt, in dem ControlNet-ÃĪhnliche Maßnahmen direkt in ein generatives Video-Modell wÃĪhrend des Trainings eingebaut werden, anstatt als Nachgedanke behandelt zu werden.

Aus dem neuen Papier: Der FullDiT-Ansatz kann IdentitÃĪts-Übertragung, Tiefen-Kartierung und Kamera-Bewegung in eine native Generierung einbeziehen und kann jede Kombination davon auf einmal aufrufen. Quelle: https://arxiv.org/pdf/2503.19907

Aus dem neuen Papier: Der FullDiT-Ansatz kann IdentitÃĪts-Übertragung, Tiefen-Kartierung und Kamera-Bewegung in eine native Generierung einbeziehen und kann jede Kombination davon auf einmal aufrufen. Quelle: https://arxiv.org/pdf/2503.19907

Der neue Ansatz, der FullDiT genannt wird, integriert mehrere Bedingungen wie IdentitÃĪts-Übertragung, Tiefen-Kartierung und Kamera-Bewegung in ein trainiertes generatives Video-Modell, fÞr das die Autoren ein Prototyp-Modell und begleitende Video-Clips auf einer Projekt-Website erstellt haben.

In dem folgenden Beispiel sehen wir Generierungen, die Kamera-Bewegung, IdentitÃĪts-Informationen und Text-Informationen (d. h. Benutzer-Text-Prompts) einbeziehen:

Bitte anklicken, um abzuspielen.Beispiele fÞr ControlNet-ÃĪhnliche Benutzer-Überlagerungen mit nur einem nativen trainierten Grundmodell. Quelle: https://fulldit.github.io/

Es sollte beachtet werden, dass die Autoren ihr experimentelles trainiertes Modell nicht als funktionsfÃĪhiges Grundmodell vorschlagen, sondern eher als Beweis des Konzepts fÞr native Text-zu-Video- (T2V) und Bild-zu-Video- (I2V) Modelle, die Benutzern mehr Kontrolle bieten als nur ein Bild-Prompt oder ein Text-Prompt.

Da es noch keine ÃĪhnlichen Modelle dieser Art gibt, erstellten die Forscher ein neues Benchmark-Set namens FullBench, fÞr die Bewertung von Multi-Task-Videos, und behaupten, dass sie den aktuellen Stand der Technik in den wie-fÞr-wie-Tests, die sie entwickelt haben, gegenÞber frÞheren AnsÃĪtzen erreicht haben. Allerdings ist die ObjektivitÃĪt von FullBench, da es von den Autoren selbst entwickelt wurde, ungetestet, und ihre Datenmenge von 1.400 FÃĪllen kann fÞr weiterreichende Schlussfolgerungen zu begrenzt sein.

Vielleicht ist der interessanteste Aspekt der Architektur, die das Papier vorstellt, ihr Potenzial, neue Arten von Kontrolle zu integrieren. Die Autoren stellen fest:

‘In dieser Arbeit erforschen wir nur Kontrollbedingungen der Kamera, IdentitÃĪten und Tiefeninformationen. Wir haben andere Bedingungen und ModalitÃĪten wie Audio, Sprache, Punktwolken, Objekt-Begrenzungsboxen, optischen Fluss usw. nicht weiter untersucht. Obwohl die Konstruktion von FullDiT es ermÃķglicht, andere ModalitÃĪten mit minimalen Architektur-Modifikationen nahtlos zu integrieren, bleibt es eine wichtige Frage, wie man bestehende Modelle schnell und kosteneffizient an neue Bedingungen und ModalitÃĪten anpassen kann.’

Obwohl die Forscher FullDiT als einen Schritt nach vorne in der Multi-Task-Video-Generierung prÃĪsentieren, sollte beachtet werden, dass diese neue Arbeit auf bestehenden Architekturen aufbaut, anstatt ein grundlegend neues Paradigma einzufÞhren.

Nonetheless, FullDiT steht derzeit (soweit ich weiß) allein als Video-Grundmodell mit ‘harteingebauten’ ControlNet-ÃĪhnlichen Einrichtungen – und es ist gut zu sehen, dass die vorgeschlagene Architektur auch spÃĪteren Innovationen Platz bietet.

Bitte anklicken, um abzuspielen. Beispiele fÞr benutzerkontrollierte Kamera-Bewegungen, von der Projekt-Website.

Das neue Papier trÃĪgt den Titel FullDiT: Multi-Task-Video-Generierungs-Grundmodell mit voller Aufmerksamkeit und stammt von neun Forschern aus Kuaishou Technology und der Chinesischen UniversitÃĪt von Hongkong. Die Projekt-Website ist hier und die neue Benchmark-Daten sind hier bei Hugging Face.

Methode

Die Autoren behaupten, dass FullDiTs vereinigtes Aufmerksamkeitsmechanismus ein stÃĪrkeres cross-modales ReprÃĪsentationslernen ermÃķglicht, indem es sowohl rÃĪumliche als auch zeitliche Beziehungen Þber Bedingungen hinweg erfasst:

Laut dem neuen Papier integriert FullDiT mehrere Eingabebedingungen durch vollstÃĪndige Selbst-Aufmerksamkeit, indem es sie in eine vereinigte Sequenz umwandelt. Im Gegensatz dazu verwenden adapterbasierte Modelle (links) separate Module fÞr jede Eingabe, was zu Redundanz, Konflikten und schwÃĪcherer Leistung fÞhrt.

Laut dem neuen Papier integriert FullDiT mehrere Eingabebedingungen durch vollstÃĪndige Selbst-Aufmerksamkeit, indem es sie in eine vereinigte Sequenz umwandelt. Im Gegensatz dazu verwenden adapterbasierte Modelle (links) separate Module fÞr jede Eingabe, was zu Redundanz, Konflikten und schwÃĪcherer Leistung fÞhrt.

Im Gegensatz zu adapterbasierten Einrichtungen, die jeden Eingabestrom separat verarbeiten, vermeidet diese gemeinsame Aufmerksamkeitsstruktur Zweig-Konflikte und reduziert den Parameter-Überkopplung. Sie behaupten auch, dass die Architektur auf neue Eingabtypen skalieren kann, ohne eine grÃķßere Neukonstruktion zu erfordern – und dass das Modell-Schema Anzeichen dafÞr zeigt, dass es sich auf Bedingungskombinationen verallgemeinern kann, die wÃĪhrend des Trainings nicht gesehen wurden, wie z. B. die Verbindung von Kamera-Bewegung mit Charakter-IdentitÃĪt.

Bitte anklicken, um abzuspielen. Beispiele fÞr IdentitÃĪts-Generierung von der Projekt-Website.

In FullDiTs Architektur werden alle Bedingungseingaben – wie Text, Kamera-Bewegung, IdentitÃĪt und Tiefeninformationen – zunÃĪchst in ein vereinigtes Token-Format umgewandelt. Diese Token werden dann zu einer einzigen langen Sequenz verkettet, die durch einen Stapel von Transformer-Schichten mit vollstÃĪndiger Selbst-Aufmerksamkeit verarbeitet wird. Dieser Ansatz folgt frÞheren Arbeiten wie Open-Sora Plan und Movie Gen.

Dieses Design ermÃķglicht es dem Modell, zeitliche und rÃĪumliche Beziehungen gemeinsam Þber alle Bedingungen hinweg zu lernen. Jeder Transformer-Block operiert Þber die gesamte Sequenz, ermÃķglicht dynamische Interaktionen zwischen ModalitÃĪten, ohne auf separate Module fÞr jede Eingabe angewiesen zu sein – und, wie wir bereits erwÃĪhnt haben, ist die Architektur so konzipiert, dass sie erweiterbar ist, was es viel einfacher macht, zusÃĪtzliche Kontrollsignale in der Zukunft zu integrieren, ohne grÃķßere strukturelle Änderungen vorzunehmen.

Die Macht der Drei

FullDiT wandelt jedes Kontrollsignal in ein standardisiertes Token-Format um, so dass alle Bedingungen in einem vereinigten Aufmerksamkeitsrahmen verarbeitet werden kÃķnnen. FÞr Kamera-Bewegung kodiert das Modell eine Sequenz von extrinsischen Parametern – wie Position und Ausrichtung – fÞr jeden Frame. Diese Parameter sind zeitgestempelt und in Embedding-Vektoren projiziert, die die zeitliche Natur des Signals widerspiegeln.

IdentitÃĪts-Informationen werden anders behandelt, da sie inhÃĪrent rÃĪumlich und nicht zeitlich sind. Das Modell verwendet IdentitÃĪts-Karten, die angeben, welche Charaktere in welchen Teilen jedes Frames vorhanden sind. Diese Karten werden in Patches unterteilt, wobei jeder Patch in ein Embedding projiziert wird, das rÃĪumliche IdentitÃĪts-Hinweise aufnimmt, was es dem Modell ermÃķglicht, bestimmte Bereiche des Frames mit bestimmten EntitÃĪten zu verknÞpfen.

Tiefen-Informationen sind ein raum-zeitliches Signal, und das Modell behandelt es, indem es Tiefen-Videos in 3D-Patches unterteilt, die sowohl Raum als auch Zeit umfassen. Diese Patches werden dann in einer Weise eingebettet, die ihre Struktur Þber Frames hinweg erhÃĪlt.

Sobald diese Bedingungstoken (Kamera, IdentitÃĪt und Tiefen-Informationen) in ein vereinigtes Token-Format umgewandelt sind, kÃķnnen sie von FullDiT mithilfe von vollstÃĪndiger Selbst-Aufmerksamkeit verarbeitet werden. Diese gemeinsame ReprÃĪsentation ermÃķglicht es dem Modell, Interaktionen Þber ModalitÃĪten und Þber die Zeit hinweg zu lernen, ohne auf isolierte VerarbeitungsstrÃķme angewiesen zu sein.

Daten und Tests

FullDiTs Trainingsansatz basierte auf selektiv annotierten DatensÃĪtzen, die auf jede Bedingungsart zugeschnitten waren, anstatt alle Bedingungen gleichzeitig zu erfordern.

FÞr textuelle Bedingungen folgte die Initiative dem strukturierten Beschriftungsansatz, der im MiraData-Projekt beschrieben wird.

Video-Sammlung und Annotations-Pipeline aus dem MiraData-Projekt. Quelle: https://arxiv.org/pdf/2407.06358

Video-Sammlung und Annotations-Pipeline aus dem MiraData-Projekt. Quelle: https://arxiv.org/pdf/2407.06358

FÞr Kamera-Bewegung war die RealEstate10k-Datenbank die Haupt-Datenquelle, aufgrund ihrer hochwertigen Ground-Truth-Annotierungen von Kamera-Parametern.

Die Autoren stellten jedoch fest, dass das Training ausschließlich auf statischen Szenen-Kamera-DatensÃĪtzen wie RealEstate10k tendenziell die dynamischen Objekt- und menschlichen Bewegungen in den generierten Videos reduzierte. Um dies zu kompensieren, fÞhrten sie eine zusÃĪtzliche Feinabstimmung mit internen DatensÃĪtzen durch, die dynamischere Kamera-Bewegungen enthielten.

IdentitÃĪts-Annotierungen wurden mit der Pipeline erstellt, die fÞr das ConceptMaster-Projekt entwickelt wurde, was eine effiziente Filterung und Extraktion von feingranularen IdentitÃĪts-Informationen ermÃķglichte.

Das ConceptMaster-Framework ist darauf ausgelegt, IdentitÃĪts-Entkopplungsprobleme zu lÃķsen, wÃĪhrend es die Konzept-Treue in benutzerdefinierten Videos bewahrt. Quelle: https://arxiv.org/pdf/2501.04698

Das ConceptMaster-Framework ist darauf ausgelegt, IdentitÃĪts-Entkopplungsprobleme zu lÃķsen, wÃĪhrend es die Konzept-Treue in benutzerdefinierten Videos bewahrt. Quelle: https://arxiv.org/pdf/2501.04698

Tiefen-Annotierungen wurden aus der Panda-70M-Datenbank mit Depth Anything erhalten.

Optimierung durch Daten-Ordnung

Die Autoren implementierten auch einen progressiven Trainingsplan, indem sie schwierigere Bedingungen frÞher im Training einfÞhrten, um sicherzustellen, dass das Modell robuste ReprÃĪsentationen erwarb, bevor einfacherere Aufgaben hinzugefÞgt wurden. Die Trainings-Reihenfolge verlief von Text zu Kamera-Bedingungen, dann IdentitÃĪten und schließlich Tiefen, wobei einfacherere Aufgaben im Allgemeinen spÃĪter und mit weniger Beispielen eingefÞhrt wurden.

Die Autoren betonen den Wert der Reihenfolge der Arbeitslast auf diese Weise:

‘WÃĪhrend der Vorbereitungsphase stellten wir fest, dass schwierigere Aufgaben eine lÃĪngere Trainingszeit erfordern und frÞher im Lernprozess eingefÞhrt werden sollten. Diese schwierigen Aufgaben beinhalten komplexe Daten-Verteilungen, die sich erheblich von der Ausgabe-Video-Sequenz unterscheiden, was erfordert, dass das Modell Þber ausreichende KapazitÃĪt verfÞgt, um sie genau zu erfassen und darzustellen.

‘Umgekehrt kann die EinfÞhrung einfacherer Aufgaben zu frÞh dazu fÞhren, dass das Modell sie zuerst lernt, da sie sofortige Optimierungs-RÞckmeldungen liefern, was die Konvergenz schwierigerer Aufgaben behindert.’

Eine Abbildung der Daten-Trainings-Reihenfolge, die die Forscher angenommen haben, mit roter Farbe, die eine grÃķßere Datenmenge anzeigt.

Eine Abbildung der Daten-Trainings-Reihenfolge, die die Forscher angenommen haben, mit roter Farbe, die eine grÃķßere Datenmenge anzeigt.

Nach der anfÃĪnglichen Vorbereitung wurde eine abschließende Feinabstimmungs-Phase durchgefÞhrt, um die visuelle QualitÃĪt und die Bewegungsdynamik des Modells zu verbessern. Danach folgte die Ausbildung dem Standard-Verfahren eines diffusionsbasierten Frameworks*:

Das Modell lernte, Rauschen zu vorhersagen und zu entfernen, unter Verwendung der eingebetteten Bedingungstoken als FÞhrung.

Um FullDiT effektiv zu bewerten und einen fairen Vergleich mit bestehenden Methoden zu ermÃķglichen, und in Abwesenheit der VerfÞgbarkeit eines anderen geeigneten Benchmarks, fÞhrten die Autoren FullBench ein, eine kuratierte Benchmark-Suite, die aus 1.400 unterschiedlichen TestfÃĪllen besteht.

Ein Daten-Explorer-Beispiel fÞr den neuen FullBench-Benchmark. Quelle: https://huggingface.co/datasets/KwaiVGI/FullBench

Ein Daten-Explorer-Beispiel fÞr den neuen FullBench-Benchmark. Quelle: https://huggingface.co/datasets/KwaiVGI/FullBench

Jeder Daten-Punkt lieferte Ground-Truth-Annotierungen fÞr verschiedene Bedingungssignale, einschließlich Kamera-Bewegung, IdentitÃĪt und Tiefen.

Metriken

Die Autoren bewerteten FullDiT mithilfe von zehn Metriken, die fÞnf Hauptaspekte der Leistung abdecken: Text-Alignment, Kamera-Kontrolle, IdentitÃĪts-Ähnlichkeit, Tiefen-Genauigkeit und allgemeine Video-QualitÃĪt.

Text-Alignment wurde mit CLIP-Ähnlichkeit gemessen, wÃĪhrend Kamera-Kontrolle durch Rotations-Fehler (RotErr), Translations-Fehler (TransErr) und Kamera-Bewegungs-Konsistenz (CamMC) bewertet wurde, indem der Ansatz von CamI2V (im CameraCtrl-Projekt) verwendet wurde.

IdentitÃĪts-Ähnlichkeit wurde mit DINO-I und CLIP-I bewertet, und Tiefen-Genauigkeit wurde mit Mittlerem Absoluten Fehler (MAE) quantifiziert.

Video-QualitÃĪt wurde mit drei Metriken aus MiraData beurteilt: Frame-ebene CLIP-Ähnlichkeit fÞr GlÃĪtte; optischen Fluss-basierte Bewegungs-Entfernung fÞr Dynamik; und LAION-Ästhetik-Scores fÞr visuelle AttraktivitÃĪt.

Training

Die Autoren trainierten FullDiT mit einem internen (nicht offengelegten) Text-zu-Video-Diffusions-Modell, das etwa eine Milliarde Parameter enthielt. Sie wÃĪhlten absichtlich eine moderate Parameter-GrÃķße, um Fairness in Vergleichen mit frÞheren Methoden zu gewÃĪhrleisten und Reproduzierbarkeit zu ermÃķglichen.

Da die Trainings-Videos in LÃĪnge und AuflÃķsung variierten, standardisierten die Autoren jeden Batch durch das Ändern der GrÃķße und das Paddern von Videos auf eine gemeinsame AuflÃķsung, das Sammeln von 77 Frames pro Sequenz und das Anwenden von Aufmerksamkeit und Verlust-Masken, um die Trainings-EffektivitÃĪt zu optimieren.

Der Adam-Optimizer wurde mit einer Lernrate von 1×10−5 Þber einen Cluster von 64 NVIDIA H800-GPUs verwendet, fÞr eine kombinierte Gesamtmenge von 5.120 GB VRAM (im Vergleich dazu ist 24 GB auf einem RTX 3090 in der Enthusiasten-Synthese-Gemeinschaft immer noch ein luxuriÃķser Standard).

Das Modell wurde fÞr etwa 32.000 Schritte trainiert, wobei bis zu drei IdentitÃĪten pro Video, zusammen mit 20 Frames von Kamera-Bedingungen und 21 Frames von Tiefen-Bedingungen, jeweils gleichmÃĪßig aus den gesamten 77 Frames ausgewÃĪhlt wurden.

Bei der Inferenz generierte das Modell Videos in einer AuflÃķsung von 384×672 Pixeln (etwa fÞnf Sekunden bei 15 Frames pro Sekunde) mit 50 Diffusions-Inferenz-Schritten und einer Klassifikator-freien FÞhrungs-Skala von fÞnf.

FrÞhere Methoden

FÞr die Kamera-zu-Video-Bewertung verglichen die Autoren FullDiT mit MotionCtrl, CameraCtrl und CamI2V, wobei alle Modelle mit dem RealEstate10k-Datensatz trainiert wurden, um Konsistenz und Fairness zu gewÃĪhrleisten.

Bei der identitÃĪts-bedingten Generierung wurde das Modell gegen das 1-Milliarden-Parameter-Modell ConceptMaster getestet, unter Verwendung der gleichen Trainings-Daten und -Architektur.

FÞr Tiefen-zu-Video-Aufgaben wurden Vergleiche mit Ctrl-Adapter und ControlVideo durchgefÞhrt.

Quantitative Ergebnisse fÞr die einzelne Aufgabe der Video-Generierung. FullDiT wurde mit MotionCtrl, CameraCtrl und CamI2V fÞr Kamera-zu-Video-Generierung verglichen; ConceptMaster (1-Milliarden-Parameter-Version) fÞr IdentitÃĪts-zu-Video; und Ctrl-Adapter und ControlVideo fÞr Tiefen-zu-Video. Alle Modelle wurden mit ihren Standard-Einstellungen ausgewertet. FÞr Konsistenz wurden 16 Frames gleichmÃĪßig aus jedem Verfahren ausgewÃĪhlt, was der AusgabelÃĪnge frÞherer Modelle entspricht.

Quantitative Ergebnisse fÞr die einzelne Aufgabe der Video-Generierung. FullDiT wurde mit MotionCtrl, CameraCtrl und CamI2V fÞr Kamera-zu-Video-Generierung verglichen; ConceptMaster (1-Milliarden-Parameter-Version) fÞr IdentitÃĪts-zu-Video; und Ctrl-Adapter und ControlVideo fÞr Tiefen-zu-Video. Alle Modelle wurden mit ihren Standard-Einstellungen ausgewertet. FÞr Konsistenz wurden 16 Frames gleichmÃĪßig aus jedem Verfahren ausgewÃĪhlt, was der AusgabelÃĪnge frÞherer Modelle entspricht.

Die Ergebnisse zeigen, dass FullDiT, trotz der gleichzeitigen Verarbeitung mehrerer Bedingungssignale, den aktuellen Stand der Technik in Metriken im Zusammenhang mit Text, Kamera-Bewegung, IdentitÃĪt und Tiefen-Kontrolle erreicht hat.

In den allgemeinen QualitÃĪts-Metriken Þbertraf das System im Allgemeinen andere Methoden, obwohl seine GlÃĪtte leicht niedriger war als die von ConceptMaster. Hier kommentieren die Autoren:

‘Die GlÃĪtte von FullDiT ist leicht niedriger als die von ConceptMaster, da die Berechnung der GlÃĪtte auf der CLIP-Ähnlichkeit zwischen benachbarten Frames basiert. Da FullDiT im Vergleich zu ConceptMaster eine deutlich grÃķßere Dynamik aufweist, wird die GlÃĪtte-Metrik durch die großen Variationen zwischen benachbarten Frames beeinflusst.

‘FÞr den Ästhetik-Score favorisiert das Bewertungs-Modell Bilder im Malstil, und ControlVideo generiert typischerweise Videos in diesem Stil, was zu einem hohen Score in der Ästhetik fÞhrt.’

Im Hinblick auf den qualitativen Vergleich ist es vielleicht besser, auf die Beispiel-Videos auf der FullDiT-Projekt-Website zu verweisen, da die PDF-Beispiele unvermeidlich statisch sind (und auch zu groß, um sie hier vollstÃĪndig zu reproduzieren).

Der erste Abschnitt der reproduzierten qualitativen Ergebnisse im PDF. Bitte verweisen Sie auf das Quellen-Papier fÞr die zusÃĪtzlichen Beispiele, die zu umfangreich sind, um sie hier zu reproduzieren.

Der erste Abschnitt der qualitativen Ergebnisse im PDF. Bitte verweisen Sie auf das Quellen-Papier fÞr die zusÃĪtzlichen Beispiele, die zu umfangreich sind, um sie hier zu reproduzieren.

Die Autoren kommentieren:

‘FullDiT zeigt eine Þberlegene IdentitÃĪts-Erhaltung und generiert Videos mit besserer Dynamik und visueller QualitÃĪt im Vergleich zu [ConceptMaster]. Da ConceptMaster und FullDiT auf dem gleichen Backbone trainiert wurden, unterstreicht dies die EffektivitÃĪt der Bedingungs-Injektion mit voller Aufmerksamkeit.

‘â€ĶDie [anderen] Ergebnisse demonstrieren die Þberlegene Kontrollierbarkeit und Generierungs-QualitÃĪt von FullDiT im Vergleich zu bestehenden Tiefen-zu-Video- und Kamera-zu-Video-Methoden.’

Ein Abschnitt der PDF-Beispiele fÞr FullDiTs Ausgabe mit mehreren Signalen. Bitte verweisen Sie auf das Quellen-Papier und die Projekt-Website fÞr zusÃĪtzliche Beispiele.

Ein Abschnitt der PDF-Beispiele fÞr FullDiTs Ausgabe mit mehreren Signalen. Bitte verweisen Sie auf das Quellen-Papier und die Projekt-Website fÞr zusÃĪtzliche Beispiele.

Schlussfolgerung

Obwohl FullDiT ein spannender Schritt in Richtung eines umfassenderen Video-Grundmodells ist, muss man sich fragen, ob die Nachfrage nach ControlNet-ÃĪhnlichen Einrichtungen jemals die Implementierung solcher Funktionen im großen Maßstab rechtfertigen wird, zumindest fÞr FOSS-Projekte, die Schwierigkeiten haben wÞrden, die enorme Menge an GPU-Rechenleistung zu erhalten, die erforderlich wÃĪre, ohne kommerzielle UnterstÞtzung.

Die Haupt-Herausforderung besteht darin, dass die Verwendung von Systemen wie Tiefen und Pose im Allgemeinen eine nicht-triviale Vertrautheit mit relativ komplexen BenutzeroberflÃĪchen wie ComfyUI erfordert. Es scheint daher, dass ein funktionsfÃĪhiges FOSS-Modell dieser Art am wahrscheinlichsten von einem Ensemble kleinerer VFX-Unternehmen entwickelt wird, die nicht Þber das Geld (oder den Willen, da solche Systeme schnell durch Modell-Updates veraltet werden) verfÞgen, um ein solches Modell hinter verschlossenen TÞren zu kuratieren und zu trainieren.

Andererseits kÃķnnten API-getriebene ‘Miete-AI’-Systeme gut motiviert sein, einfacherere und benutzerfreundlichere interpretative Methoden fÞr Modelle zu entwickeln, in die Hilfs-Kontrollsysteme direkt trainiert wurden.

Bitte anklicken, um abzuspielen. Tiefen- und Text-Kontrollen, die auf eine Video-Generierung mit FullDiT aufgezwungen werden.

* Die Autoren geben nicht an, welches bekannte Grundmodell (z. B. SDXL) verwendet wurde.

ErstverÃķffentlichung: Donnerstag, 27. MÃĪrz 2025

Schriftsteller Þber maschinelles Lernen, DomÃĪnen-Spezialist in der menschlichen Bildsynthese. Ehemaliger Leiter des Forschungsinhalts bei Metaphysic.ai, bis zu dessen AuflÃķsung in DNEG's Brahma.ai.
Portfolio-Seite: martinanderson.ai
Kontakt: [email protected]