Thinking Machines Lab stellt Inkling vor, sein erstes Open-Weights-Multimodales KI-Modell

Thinking Machines Lab hat Inkling veröffentlicht, sein erstes allgemeines künstliches Intelligenzmodell, das Entwicklern Zugang zu einem fast ein Billionen-Parameter-System gibt, das Text, Bilder und Audio verarbeiten kann. Der Start am 15. Juli 2026 markiert den bedeutendsten Produktmeilenstein für das stark finanzierte KI-Unternehmen, das von der ehemaligen OpenAI-Chief-Technologie-Offizierin Mira Murati gegründet wurde.

Statt zu behaupten, das leistungsfähigste Modell der Welt gebaut zu haben, positioniert Thinking Machines Inkling als anpassbare Grundlage für Unternehmen, Forscher und Entwickler, die eine größere Kontrolle über das Verhalten ihrer KI haben möchten. Die Gewichte können über Hugging Face unter einer Apache-2.0-Lizenz heruntergeladen werden, während das Modell auch über die Tinker-Trainingsplattform von Thinking Machines fein abgestimmt werden kann.

Diese Positionierung könnte sich als wichtig erweisen, da der KI-Markt zwischen proprietären Frontier-Systemen, die von einer kleinen Anzahl von Unternehmen kontrolliert werden, und offenen Gewichtsalternativen, die Organisationen modifizieren, hosten und in ihre eigene Infrastruktur integrieren können, gespalten ist.

Ein 975-Milliarden-Parameter-Modell, das nur einen Bruchteil auf einmal verwendet

Inkling enthält insgesamt 975 Milliarden Parameter, was es zu einem der größten offenen Gewichtsmodelle macht, das bisher veröffentlicht wurde. Es verwendet jedoch eine sparse Mixture-of-Experts-Architektur, was bedeutet, dass nur 41 Milliarden Parameter aktiviert werden, während ein einzelner Token verarbeitet wird.

Das Modell enthält 66 Transformer-Schichten und 256 geroutete Experten. Jeder Token wird an sechs dieser Experten gesendet, zusammen mit zwei gemeinsamen Experten, die über Anfragen hinweg aktiv bleiben. Dieser Ansatz soll die Wissenskapazität eines sehr großen Modells bieten, ohne dass jedes Mal, wenn eine Inferenzoperation durchgeführt wird, alle Parameter verwendet werden müssen.

Thinking Machines sagte, dass die Mixture-of-Experts-Design größtenteils den Ideen folgt, die in DeepSeek-V3 eingeführt wurden, einschließlich seiner Routing- und Lastverteilungsmethoden. Inkling verwendet auch eine Kombination aus Sliding-Window- und Global-Attention-Schichten sowie relative Positionseingaben anstelle der Rotary-Positionseingaben, die in modernen Sprachmodellen häufig verwendet werden.

Das Modell unterstützt ein Kontextfenster von bis zu einer Million Token. Über Tinker haben Entwickler derzeit Zugang zu 64.000- und 256.000-Token-Konfigurationen, während die volle Kontextkapazität über kompatible Bereitstellungen der heruntergeladenen Gewichte verfügbar ist.

Native Reasoning über Text, Bilder und Audio

Inkling ist nativ multimodal und akzeptiert Text, Bilder und Audio als Eingaben, während es Text als Ausgabe generiert. Bilder werden mithilfe eines hierarchischen Patch-Encoders verarbeitet, während Audio in diskrete Token umgewandelt und in denselben gemeinsamen Repräsentationsraum wie Text und visuelle Informationen platziert wird.

Thinking Machines hat das Modell auf 45 Billionen Token vor trainiert, die aus Text, Bildern, Audio und Video stammen. Das Unternehmen sagte, dass die Daten öffentlich verfügbare Materialien, lizenzierte oder erworbene Drittanbieterquellen und synthetisch generierte oder augmentierte Inhalte enthielten. Das Modellkartenblatt bietet jedoch keine vollständige Inventarliste der Daten, was “offene Gewichte” als genauer beschreibenden Begriff als vollständig Open-Source macht.

Das Unternehmen hat auch ein steuerbares Reasoning-System eingeführt, das es Entwicklern ermöglicht, die Rechenleistung von Inkling anzupassen, bevor es eine Antwort liefert. Niedrigere Reasoning-Einstellungen können die Latenz und den Token-Verbrauch reduzieren, während höhere Einstellungen für schwierigere Codier-, mathematische, wissenschaftliche oder Werkzeug-Verwendungsaufgaben verwendet werden können.

Neben dem Hauptmodell hat Thinking Machines Inkling-Small vorgestellt, ein 276-Milliarden-Parameter-Mixture-of-Experts-Modell mit 12 Milliarden aktiven Parametern. Das Unternehmen sagte, dass Verbesserungen an seinen Daten und Trainingsrezepten es ermöglichten, das kleinere Modell zu erstellen, das auf mehreren Bewertungen mit dem größeren Modell mithalten oder es sogar übertreffen konnte, obwohl Inkling-Small noch nicht die gleiche vollständige Veröffentlichungsbehandlung erhalten hat.

Entworfen, um durch Tinker anzupassbar zu sein

Inkling ist eng mit Tinker verbunden, der cloudbasierten Trainingsplattform, die Thinking Machines 2025 eingeführt hat. Tinker ermöglicht es Entwicklern, Trainingsverfahren lokal zu schreiben, während die Plattform die verteilte GPU-Infrastruktur verwaltet, die zum Feinabstimmen von Modellen von relativ kleinen Systemen bis hin zu Billionen-Parameter-Mixture-of-Experts-Architekturen erforderlich ist.

Die Plattform unterstützt überwachtes Feinabstimmen, Verstärkendes Lernen, Direct Preference Optimization, Destillation und Low-Rank-Adaptation. Kunden können die resultierenden Checkpoints herunterladen, und Thinking Machines sagt, dass Kundentrainingsdaten nur zum Feinabstimmen der Modelle des Kunden verwendet werden und nicht in die eigenen Grundmodelle integriert werden.

Um diesen Anpassungsprozess zu demonstrieren, bat das Unternehmen Inkling, sich selbst in ein Modell fein abzustimmen, das niemals den Buchstaben “e” verwenden würde. Inkling generierte seine eigenen Trainingsdaten und Bewertungsmethoden, erstellte und führte einen Feinabstimmungsauftrag über Tinker aus, testete den aktualisierten Checkpoint und lud dann die modifizierten Gewichte in seine Arbeitsumgebung.

Die Demonstration ist absichtlich eng gefasst, aber sie veranschaulicht die breitere Strategie. Thinking Machines möchte, dass Entwickler Grundmodelle als Startpunkte behandeln, die an die Terminologie, Workflows, Daten, Richtlinien und bevorzugtes Verhalten einer Organisation angepasst werden können, anstatt als fertige Produkte, die vollständig von dem ursprünglichen Modellanbieter kontrolliert werden.

Wettbewerbsfähige Leistung ohne den Benchmark-Kronen-Anspruch

Thinking Machines gibt offen zu, dass Inkling nicht das stärkste Modell in jeder Kategorie ist. Seine Benchmark-Ergebnisse platzieren es in der Regel unter den leistungsfähigsten offenen Gewichtsmodellen, während die führenden proprietären Modelle von Unternehmen wie Anthropic, Google und OpenAI insgesamt einen Vorteil behalten.

Inkling erzielte 97,1 % auf dem 2026 American Invitational Mathematics Examination-Benchmark und 87,2 % auf GPQA Diamond, der wissenschaftliche Argumentation auf Graduate-Niveau bewertet. Es erreichte 77,6 % auf SWE-bench Verified und 54,3 % auf SWE-bench Pro Public, zwei Benchmarks, die verwendet werden, um zu bewerten, ob Codieragenten reale Software-Entwicklungsprobleme lösen können.

Auf Humanity’s Last Exam erzielte Inkling 29,7 % ohne Werkzeuge und 46 % bei Werkzeugzugriff. Seine werkzeugaktivierte Leistung war wettbewerbsfähig mit mehreren offenen Modellen, blieb aber unter den stärksten geschlossenen Systemen, die in Thinking Machines’ Vergleich enthalten waren.

Inkling erhielt auch einen Score von 1.257 auf Design Arenas Agentic Web Development-Leaderboard, wo menschliche Evaluatoren Anwendungen vergleichen, die von verschiedenen Modellen erstellt werden. Dies platzierte es nahe mehrerer proprietärer Systeme und vor einer Reihe etablierter offener Gewichtskonkurrenten.

Wie bei jedem von einem Anbieter veröffentlichten Benchmark-Satz werden die Ergebnisse eine unabhängige Reproduktion erfordern. Thinking Machines verwendete externe Scores, wo verfügbar, aber mehrere Bewertungen basierten auf internen Harnessen, Konfigurationen oder selbst gemeldeten Ergebnissen von konkurrierenden Modellanbietern.

Niedrigere Kosten kommen mit erheblichen Hardware-Anforderungen

Inklings Kostenargument basiert größtenteils auf seiner sparsamen Architektur und steuerbaren Reasoning. Die Aktivierung von 41 Milliarden Parametern anstelle aller 975 Milliarden sollte die Inferenz erheblich effizienter machen als das Ausführen eines ähnlich großen dichten Modells, während Entwickler erweitertes Reasoning für Anfragen deaktivieren können, die es nicht erfordern.

Über Tinker ist die 64.000-Token-Version für 1,87 $ pro Million Prefill-Tokens, 4,68 $ pro Million abgetasteter Token und 5,61 $ pro Million Trainings-Tokens gelistet. Die 256.000-Token-Konfiguration ist teurer mit 3,74 $ für Prefill, 9,36 $ für Sampling und 11,23 $ für Training, wobei niedrigere Tarife für zwischengespeicherte Eingaben verfügbar sind.

Diese Zahlen machen die Experimentierung mit großen Modellen zugänglicher als die Zusammenstellung eines dedizierten Trainingsclusters, aber Inkling ist kein Modell, das die meisten Entwickler auf einer herkömmlichen Arbeitsstation ausführen werden. Der vollständige BF16-Checkpoint erfordert mindestens zwei Terabyte aggregierter Grafikspeicher, was acht Nvidia B300-GPUs oder 16 H200-GPUs entspricht.

Ein quantisierter NVFP4-Checkpoint reduziert den Anforderung auf etwa 600 Gigabyte, erfordert aber immer noch Infrastruktur wie vier B300-GPUs oder acht H200-GPUs. In der Praxis werden viele Organisationen Inkling wahrscheinlich über Tinker oder Drittanbieter für Inferenz zugänglich machen, anstatt das vollständige Modell direkt zu hosten.

Ausgleich zwischen Widerstand gegen Zensur und Sicherheitskontrollen

Ein Ziel von Inklings Design ist, was Thinking Machines als Widerstand gegen Zensur bezeichnet. Das Unternehmen sagt, dass es das Modell speziell trainiert hat, um Fragen zu Themen zu beantworten, die politisch oder institutionell sensibel sein können, anstatt sie automatisch abzulehnen.

Cognition bewertete Inkling mithilfe seines Propaganda- und Zensur-Benchmarks und Thinking Machines berichtete, dass das Modell starke Muster von “Zensur-Nicht-Konformität” zeigte. Die zugrunde liegende Idee ist, dass ein offenes Modell nicht unnötige politische Einschränkungen oder standardisierte Meinungen erben sollte, nur weil diese Vorlieben von seinem ursprünglichen Entwickler eingebettet wurden.

Das bedeutet jedoch nicht, dass Inkling darauf ausgelegt ist, jede Anfrage zu beantworten. Das Unternehmen trainierte das Modell separat, um Anweisungen im Zusammenhang mit Waffen, Gewalt, Cyber-Missbrauch, chemischen oder biologischen Bedrohungen, Manipulation und anderen gefährlichen Aktivitäten abzulehnen.

Inkling erzielte 78 % auf dem adversarialen Teil des FORTRESS-Sicherheitsbenchmarks und beantwortete 95,9 % der harmlosen Fragen, die wie schädliche Anfragen gestaltet waren, richtig. Es erreichte auch 98,6 % auf StrongREJECT, das misst, ob Modelle eindeutig schädliche Anweisungen ablehnen. Thinking Machines sagt, dass diese Kombination darauf hindeutet, dass das Modell Sicherheitskontrollen aufrechterhalten kann, ohne legitime Fragen übermäßig zu blockieren, obwohl die Auswirkungen einer anschließenden Drittanbieter-Feinabstimmung ein offenes Forschungsproblem bleibt.

Von OpenAI-Führung zu einem 12-Milliarden-Startup

Thinking Machines Lab wurde offiziell im Februar 2025 gegründet, einige Monate nachdem Murati OpenAI verlassen hatte. Sie war als OpenAIs Chief-Technologie-Offizier während der Veröffentlichung von Produkten wie ChatGPT, DALL-E und den frühen Sprach- und Multimodal-Systemen des Unternehmens tätig.

Das ursprüngliche Team bestand aus etwa 30 Forschern und Ingenieuren, die von OpenAI, Meta, Mistral und anderen KI-Organisationen rekrutiert wurden. Ungefähr zwei Drittel der Mitarbeiter bei der Gründung hatten zuvor bei OpenAI gearbeitet. Die Gründungsgruppe umfasste OpenAIs Mitgründer John Schulman, Barret Zoph, Lilian Weng, Andrew Tulloch und Luke Metz, die Erfahrungen in Bereichen wie Verstärkendes Lernen, Modellausrichtung, Multimodale KI, Vortrainieren und Nachtrainieren mitbrachten.

Nur fünf Monate nach der Gründung erhöhte Thinking Machines etwa 2 Milliarden Dollar bei einer Bewertung von 12 Milliarden Dollar. Andreessen Horowitz führte die Runde an, an der auch Nvidia (NVDA ), Accel, ServiceNow (NOW ), Cisco, AMD und die quantitative Handelsfirma Jane Street teilnahmen.

Nvidia hat seine Beziehung zum Unternehmen seitdem durch eine mehrjährige strategische Partnerschaft erweitert. Angekündigt im März 2026, sieht die Vereinbarung die Bereitstellung von mindestens einem Gigawatt Next-Generation-Nvidia-Vera-Rubin-Systemen vor, um das Modelltraining und die anpassbaren KI-Plattformen von Thinking Machines zu unterstützen. Nvidia hat auch eine zusätzliche Investition in das Unternehmen getätigt.

Inkling spiegelt eine breitere Wette auf dezentralisierte KI wider

Thinking Machines argumentiert, dass die meisten KI-Systeme von einer kleinen Anzahl von Unternehmen trainiert und dann als weitgehend feste Produkte verteilt werden. Die Alternative des Unternehmens ist ein Ökosystem, in dem Unternehmen und Einzelpersonen Modelle kontinuierlich mithilfe ihrer eigenen Kenntnisse, Vorlieben und Urteilsvermögens anpassen können.

Diese Philosophie hilft zu erklären, warum Inkling mit herunterladbaren Gewichten veröffentlicht wird und nicht ausschließlich über eine proprietäre Schnittstelle angeboten wird. Es verbindet das Modell auch mit Tinker, das die Trainingsinfrastruktur bereitstellt, die erforderlich ist, um das Verhalten ohne die Notwendigkeit für jede Organisation, einen großen GPU-Cluster zusammenzustellen, zu modifizieren.

Es gibt jedoch immer noch Spannungen zwischen dieser Vision und den praktischen Realitäten der Veröffentlichung. Inkling ist offen genug, um heruntergeladen und modifiziert zu werden, aber groß genug, dass nur gut finanzierte Organisationen realistischerweise das vollständige Modell hosten können. Seine Trainingsdaten werden in breiten Kategorien beschrieben, anstatt vollständig dokumentiert zu werden, und die Anpassung kann möglicherweise die in das ursprüngliche Modell integrierten Sicherheitskontrollen schwächen.

Die Veröffentlichung gibt westlichen Entwicklern dennoch eine weitere große offene Gewichtsoption, zu einer Zeit, als viele der wettbewerbsfähigsten anpassbaren Modelle aus chinesischen Laboratorien wie DeepSeek, Alibaba, Moonshot AI und Zhipu AI stammen. Reuters stellte fest, dass die westliche offene Gewichtsentwicklung an Schwung verloren hat, da mehrere führende amerikanische Unternehmen zu proprietäreren Strategien übergegangen sind.

Was Inkling für KI bedeutet

Inklings Bedeutung hängt möglicherweise weniger davon ab, ob es jedes Benchmark führt, und mehr davon, ob Entwickler es in spezialisierte Systeme umwandeln können, die in engeren Bereichen allgemeine Modelle übertreffen.

Unternehmen in der Finanz-, Gesundheits-, Ingenieur-, Cybersicherheits-, wissenschaftlichen Forschungs- und Software-Entwicklungsbranche verfügen oft über wertvolle interne Kenntnisse, die in öffentlichen Trainingsdaten schlecht repräsentiert sind. Ein leistungsfähiges offenes Gewichtsmodell, kombiniert mit zugänglichem Verstärkendem Lernen und Feinabstimmungsinfrastruktur, könnte es diesen Organisationen ermöglichen, mehr ihrer Expertise direkt in das Modellverhalten zu kodieren.

Zugleich muss das Modell beweisen, dass seine Effizienzansprüche in niedrigere Gesamtbetriebskosten umgesetzt werden können, insbesondere wenn Infrastruktur, Inferenzvolumen, Feinabstimmung, Überwachung und Sicherheitstests berücksichtigt werden. Unabhängige Forscher werden auch die Benchmark-Leistung, die multilinguale Fähigkeit, die politische Neutralität, die Halluzinationsraten und den Widerstand gegen Sicherheitsverschlechterung nach der Anpassung untersuchen müssen.

Thinking Machines ist in den Markt eingetreten, mit einem ungewöhnlich erfahrenen Team, erheblicher Investorenunterstützung und Infrastrukturverpflichtungen, die normalerweise mit viel älteren KI-Laboratorien verbunden sind. Inkling ist die erste Gelegenheit des Unternehmens, zu demonstrieren, dass diese Ressourcen mehr als ambitionierte Forschungspläne und Trainingsplattformen produzieren können.

Das Modell verdrängt die führenden proprietären Systeme nicht und Thinking Machines Lab behauptet nicht, dass es dies tut. Stattdessen bietet Inkling eine andere Aussage: dass die Zukunft der fortschrittlichen KI nicht nur von dem bestimmt wird, wer das leistungsfähigste allgemeine Modell trainiert, sondern auch von dem, wer Entwicklern die stärkste Grundlage für den Bau ihrer eigenen Modelle bietet.