Liquid AI Launcht Liquid Foundation Models: Ein Game-Changer im Bereich Generative KI

In einer bahnbrechenden Ankündigung hat Liquid AI, ein Spin-off des MIT, seine erste Serie von Liquid Foundation Models (LFMs) vorgestellt. Diese Modelle, die von Grund auf neu entwickelt wurden, setzen einen neuen Benchmark im Bereich der generativen KI und bieten unvergleichliche Leistung auf verschiedenen Skalen. LFMs, mit ihrer innovativen Architektur und fortschrittlichen Fähigkeiten, sind in der Lage, branchenführende KI-Modelle, einschließlich ChatGPT, herauszufordern.

Liquid AI wurde von einem Team von MIT-Forschern gegründet, darunter Ramin Hasani, Mathias Lechner, Alexander Amini und Daniela Rus. Der Hauptsitz des Unternehmens befindet sich in Boston, Massachusetts, und seine Mission ist es, leistungsfähige und effiziente Allzweck-KI-Systeme für Unternehmen aller Größen zu entwickeln. Das Team hat ursprünglich flüssige neuronale Netze entwickelt, eine Klasse von KI-Modellen, die von Hirndynamiken inspiriert sind, und zielt nun darauf ab, die Fähigkeiten von KI-Systemen auf allen Ebenen, von Edge-Geräten bis hin zu Unternehmenslösungen, zu erweitern.

Was sind Liquid Foundation Models (LFMs)?

Liquid Foundation Models stellen eine neue Generation von KI-Systemen dar, die in Bezug auf Speicherbedarf und Rechenleistung sehr effizient sind. Sie basieren auf dynamischen Systemen, Signalverarbeitung und numerischer linearen Algebra und sind darauf ausgelegt, verschiedene Arten von sequenziellen Daten, wie Text, Video, Audio und Signale, mit bemerkenswerter Genauigkeit zu verarbeiten.

Liquid AI hat drei primäre Sprachmodelle im Rahmen dieser Veröffentlichung entwickelt:

• LFM-1B: Ein dichtes Modell mit 1,3 Milliarden Parametern, optimiert für ressourcenbeschränkte Umgebungen.
• LFM-3B: Ein Modell mit 3,1 Milliarden Parametern, ideal für Edge-Deployment-Szenarien, wie z.B. mobile Anwendungen.
• LFM-40B: Ein Modell mit 40,3 Milliarden Parametern, das als Mixture of Experts (MoE) konzipiert ist, um komplexe Aufgaben mit außergewöhnlicher Leistung zu bewältigen.

Diese Modelle haben bereits Spitzenleistungen in verschiedenen KI-Benchmarks erzielt und sind somit ein ernstzunehmender Konkurrent für bestehende generative KI-Modelle.

Spitzenleistung

Liquid AI’s LFMs bieten Spitzenleistung in verschiedenen Benchmarks. Zum Beispiel übertrifft LFM-1B transformerbasierte Modelle in seiner Größe, während LFM-3B mit größeren Modellen wie Microsofts Phi-3.5 und Metas Llama-Serie konkurriert. Das LFM-40B-Modell ist trotz seiner Größe effizient genug, um mit Modellen mit noch größeren Parametern zu konkurrieren, und bietet somit eine einzigartige Balance zwischen Leistung und Ressourceneffizienz.

Einige Highlights der LFM-Leistung sind:

• LFM-1B: Dominieren Benchmarks wie MMLU und ARC-C und setzen einen neuen Standard für 1B-Parameter-Modelle.
• LFM-3B: Übertrifft Modelle wie Phi-3.5 und Google’s Gemma 2 in Bezug auf Effizienz, während es einen kleinen Speicherbedarf aufweist, was es ideal für mobile und Edge-KI-Anwendungen macht.
• LFM-40B: Die MoE-Architektur dieses Modells bietet eine vergleichbare Leistung wie größere Modelle, mit 12 Milliarden aktiven Parametern zu jedem gegebenen Zeitpunkt.

Ein neues Zeitalter der KI-Effizienz

Eine der größten Herausforderungen in der modernen KI ist die Verwaltung von Speicher und Rechenleistung, insbesondere bei der Arbeit mit langen Kontexten wie Dokumentenzusammenfassungen oder Chatbot-Interaktionen. LFMs überzeugen in diesem Bereich, indem sie Eingabedaten effizient komprimieren, was zu einem reduzierten Speicherbedarf während der Inferenz führt. Dies ermöglicht es den Modellen, längere Sequenzen ohne teure Hardware-Upgrades zu verarbeiten.

Zum Beispiel bietet LFM-3B eine 32k Token-Kontextlänge, was es zu einem der effizientesten Modelle für Aufgaben macht, die große Mengen an Daten gleichzeitig verarbeiten müssen.

Eine revolutionäre Architektur

LFMs basieren auf einer einzigartigen architektonischen Grundlage, die sich von traditionellen Transformer-Modellen unterscheidet. Die Architektur konzentriert sich auf adaptive lineare Operatoren, die die Rechenleistung basierend auf den Eingabedaten modulieren. Dieser Ansatz ermöglicht es Liquid AI, die Leistung auf verschiedenen Hardware-Plattformen, einschließlich NVIDIA (NVDA ), AMD, Cerebras (CBRS ) und Apple-Hardware, erheblich zu optimieren.

Der Design-Raum für LFMs umfasst eine neuartige Kombination von Token-Mixing– und Channel-Mixing-Strukturen, die die Art und Weise verbessern, wie das Modell Daten verarbeitet. Dies führt zu einer besseren Verallgemeinerung und Argumentationsfähigkeit, insbesondere bei langen Kontexten und multimodalen Anwendungen.

Die Erweiterung der KI-Grenzen

Liquid AI hat große Ambitionen für LFMs. Neben Sprachmodellen arbeitet das Unternehmen daran, seine Foundation-Modelle auf verschiedene Datenmodi, wie Video, Audio und Zeitreihendaten, auszudehnen. Diese Fortschritte werden es LFMs ermöglichen, auf verschiedenen Branchen wie Finanzdienstleistungen, Biotechnologie und Consumer-Elektronik anwendbar zu sein.

Das Unternehmen konzentriert sich auch auf die Förderung der offenen Wissenschaftsgemeinschaft. Obwohl die Modelle selbst derzeit nicht Open-Source sind, plant Liquid AI, relevante Forschungsergebnisse, Methoden und Datensätze der breiteren KI-Gemeinschaft zur Verfügung zu stellen, um Zusammenarbeit und Innovation zu fördern.

Früher Zugang und Adoption

Liquid AI bietet derzeit einen frühen Zugang zu seinen LFMs über verschiedene Plattformen an, darunter Liquid Playground, Lambda (Chat-UI und API) und Perplexity Labs. Unternehmen, die Spitzenleistungs-KI-Systeme in ihre Betriebe integrieren möchten, können das Potenzial von LFMs in verschiedenen Bereitstellungsumgebungen, von Edge-Geräten bis hin zu Unternehmenslösungen, erkunden.

Liquid AI’s offene Wissenschafts-Ansatz ermutigt frühe Adopter, ihre Erfahrungen und Erkenntnisse zu teilen. Das Unternehmen sucht aktiv nach Feedback, um seine Modelle für reale Anwendungen zu verfeinern und zu optimieren. Entwickler und Organisationen, die an dieser Reise teilnehmen möchten, können an Red-Teaming-Bemühungen beitragen und Liquid AI bei der Verbesserung seiner KI-Systeme helfen.

Schlussfolgerung

Die Veröffentlichung von Liquid Foundation Models markiert einen bedeutenden Fortschritt im KI-Landschaft. Mit einem Fokus auf Effizienz, Anpassungsfähigkeit und Leistung sind LFMs bereit, die Art und Weise, wie Unternehmen KI-Integration angehen, neu zu definieren. Wenn mehr Organisationen diese Modelle adoptieren, wird Liquid AI’s Vision von skalierbaren, allgemeinen KI-Systemen wahrscheinlich ein Eckpfeiler der nächsten Ära der künstlichen Intelligenz.

Wenn Sie daran interessiert sind, das Potenzial von LFMs für Ihr Unternehmen zu erkunden, lädt Sie Liquid AI ein, Kontakt aufzunehmen und sich der wachsenden Gemeinschaft von frühen Adoptern anzuschließen, die die Zukunft der KI gestalten.

Für weitere Informationen besuchen Sie die offizielle Website von Liquid AI und beginnen Sie noch heute mit der Experimentierung mit LFMs.