Finanzierung

Deep Cogito sammelt 43 Mio. $ Series‑A, um die Post‑Training‑Engine für selbstverbessernde KI zu entwickeln

mm
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen

Deep Cogito hat eine Series‑A‑Finanzierung in Höhe von 43 Millionen $ erhalten, da das KI‑Labor aus San Francisco einen immer wichtigeren Teil des KI‑Stacks skalieren möchte: Was passiert, nachdem ein Fundament‑Modell bereits vortrainiert wurde.

Die Runde wurde von TQ Ventures angeführt, mit Beteiligung von Benchmark, Nexus Venture Partners, Atreides Management, South Park Commons und dem Cloud‑Sicherheitsunternehmen Zscaler, das sowohl Kunde als auch strategischer Investor ist. Die Finanzierung erhöht die Gesamtsumme der Mittel von Deep Cogito auf über 56 Millionen $.

Gegründet von Drishan Arora und Dhruv Malrana, die zuvor an Googles KI‑Suchprodukten, darunter AI Mode und AI Overviews, gearbeitet haben, setzt Deep Cogito darauf, dass zukünftige Fortschritte in der KI‑Intelligenz zunehmend aus besseren Lernalgorithmen und Post‑Training resultieren werden, anstatt lediglich die Vortrainingsläufe zu vergrößern.

Das positioniert das Unternehmen in einem anderen Teil des KI‑Wettlaufs als Labore, die sich hauptsächlich darauf konzentrieren, immer größere Fundament‑Modelle von Grund auf zu bauen.

Warum Deep Cogito auf Post‑Training setzt

Pre‑Training ist dafür verantwortlich, einem großen Sprachmodell seine breite Wissensbasis zu vermitteln, indem es enorm große Datenmengen verarbeitet. Post‑Training formt anschließend, wie dieses Modell sich verhält, schlussfolgert, Anweisungen folgt, Werkzeuge nutzt und spezifische Aufgaben ausführt.

Die These von Deep Cogito lautet, dass diese zweite Phase deutlich mehr Entwicklungspotenzial bietet.

Die Forschung des Unternehmens konzentriert sich auf großskaliges Reinforcement Learning und Methoden, die es Modellen ermöglichen, ihre eigenen Fähigkeiten schrittweise zu verbessern. Statt ein vortrainiertes Modell als weitgehend fertiges Produkt zu betrachten, das nur noch etwas Feinabstimmung benötigt, sieht Deep Cogito es als Ausgangspunkt, dessen zugrundeliegende Fähigkeiten weiterentwickelt werden können.

Arora fasste die Unterscheidung bei der Ankündigung der Finanzierungsrunde zusammen: „Pre‑Training verleiht einem Modell eine enorme Menge an Wissen und Fähigkeiten. Post‑Training bestimmt, zu was dieses Modell tatsächlich werden kann.“

Dies ist besonders relevant, da die Wirtschaftlichkeit einer reinen Skalierung des Pre‑Trainings immer anspruchsvoller wird. Das Training von Spitzen‑Fundament‑Modellen erfordert riesige Datensätze, GPU‑Cluster, Energieinfrastruktur und Kapital. Ein hinreichend effektives Post‑Training‑System könnte potenziell deutlich mehr Intelligenz aus einem bestehenden Modell extrahieren, ohne den gesamten Prozess zu wiederholen.

Teure Schlussfolgerungen in bessere Intuition verwandeln

Im Zentrum der Forschung von Deep Cogito steht Iterated Distillation and Amplification (IDA), ein Ansatz, den das Unternehmen öffentlich mit seiner ersten Cogito‑Modellfamilie vorgestellt hat.

Das Konzept ist relativ einfach, obwohl die Umsetzung im großen Maßstab nicht trivial ist.

Während der Verstärkungsphase erhält ein Modell zusätzliche Rechenleistung und Techniken, die es ihm ermöglichen, zu einer stärkeren Antwort zu gelangen, als es sofort erzeugen könnte. Die daraus resultierende Verbesserung wird anschließend in die Parameter des Modells zurückdestilliert. Dieses verbesserte Modell dient dann als Ausgangspunkt für eine weitere Iteration.

Anstatt das Modell jedes Mal, wenn es auf eine schwierige Frage stößt, zu einem immer längeren Denkprozess zu zwingen, besteht das Ziel darin, nach und nach einen Teil des Gelernten aus diesen rechenintensiven Denkphasen zu internalisieren.

Deep Cogito beschreibt dies als Verbesserung der „Intuition“ eines Modells.

Diese Unterscheidung könnte für die Wirtschaftlichkeit von Inferenzprozessen wichtig werden. Lange Denkketten können die Genauigkeit steigern, erhöhen jedoch gleichzeitig den Token‑Verbrauch, die Latenz und die Kosten. Ein Modell, das bessere Denkpfade internalisiert hat, könnte ähnliche Schlussfolgerungen mit weniger Rechenaufwand zur Laufzeit erreichen.

Cogito‑Modelle bieten einen öffentlichen Test des Ansatzes

Deep Cogito nutzt seine Cogito‑Familie von Open‑Weight‑Modellen als Testumgebung für diese Techniken.

Die ersten Versionen umfassten Modelle von 3 Milliarden bis 70 Milliarden Parametern, bevor das Unternehmen die Familie um 70 B, 109 B Mixture‑of‑Experts (MoE), 405 B und 671 B MoE‑Modelle erweiterte.

Mit Cogito v2 berichtete das Unternehmen, dass sein 671‑B‑Modell Denkketten erzeugte, die etwa 60 % kürzer waren als die von DeepSeek R1 0528, während es in mehreren Bewertungen wettbewerbsfähig blieb. Deep Cogito gab zudem an, dass es weniger als 3,5 Millionen $ für das kombinierte Training von acht Cogito‑Modellen von 3 B bis 671 B ausgegeben habe, obwohl Benchmark‑Leistungen und Kostenvergleiche nicht zwangsläufig direkt in Produktionsökonomie übertragbar sind.

Das Unternehmen verfeinerte das System weiter mit Cogito v2.1 671 B, das ein offen lizenziertes DeepSeek‑Basismodell verwendet, das Deep Cogito intern post‑trainiert. Die v2.1‑Forschungsveröffentlichung besagt, dass das Modell während des Denkens Prozess‑Supervision einsetzt, wobei das Training darauf abzielt, die Fähigkeit des Modells zu verbessern, produktive Denkpfade zu identifizieren, anstatt es lediglich zu längeren Denkprozessen zu ermutigen.

Dieser Fortschritt ist für Deep Cogitos übergeordnetes Argument von Bedeutung. Das Unternehmen muss nicht beweisen, dass es ein besseres Fundament‑Modell vortrainieren kann als die größten KI‑Labore. Es muss zeigen, dass sein Post‑Training‑Prozess konsequent starke vorhandene Modelle zu leistungsfähigeren machen kann.

Zscaler weist auf das Unternehmens‑Potential hin

Der andere Geschäftsbereich besteht darin, diese Post‑Training‑Techniken über die öffentlich veröffentlichten Cogito‑Modelle hinaus auf Unternehmens‑KI anzuwenden.

Anstatt ausschließlich auf ein allgemeines Frontier‑Modell zu setzen, können Unternehmen potenziell spezialisierte Modelle rund um ihre proprietären Daten, Workflows, Bewertungskriterien und gewünschten Ergebnisse trainieren.

Dies kann deutlich tiefer gehen als Retrieval‑Augmented Generation (RAG), das einem allgemeinen Modell typischerweise Zugriff auf externe Unternehmensinformationen zur Inferenzzeit gewährt. Deep Cogitos Ansatz zielt darauf ab, das Modell selbst zu verändern, indem domänenspezifische Fähigkeiten in seine Gewichte trainiert werden.

Zscaler liefert ein frühes Beispiel. Das Cybersicherheitsunternehmen war bereits vor der Beteiligung an der Series‑A ein Kunde von Deep Cogito. Die Unternehmen haben zudem im Bereich spezialisierter Sicherheitsintelligenz zusammengearbeitet, wobei Deep Cogito argumentiert, dass Sicherheitsanwendungen von Modellen profitieren können, die auf den eigenen Sicherheitsdaten und -ergebnissen einer Organisation post‑trainiert wurden.

Das breitere Unternehmens‑Angebot betrifft sowohl Spezialisierung als auch Kontrolle. Die Berichterstattung des Wall Street Journal zur Finanzierung stellt fest, dass Deep Cogito seine Technologie rund um Modelle positioniert, die Unternehmen mit proprietären Daten trainieren und besitzen können, anstatt vollständig von geschlossenen Frontier‑Systemen abhängig zu sein.

Wofür die 43 Mio. $ Series‑A verwendet wird

Deep Cogito plant, die Series‑A zu nutzen, um seine Forschungs‑ und Ingenieurorganisation zu erweitern, die für großskaliges Training verfügbare Rechen‑Infrastruktur zu vergrößern, zukünftige Cogito‑Modelle zu entwickeln und mit mehr Unternehmen zusammenzuarbeiten, die spezialisierte Modelle suchen.

Die Infrastruktur wird dabei voraussichtlich ein besonders wichtiger Teil der Expansion sein. Deep Cogitos eigene Recruiting‑Materialien beschreiben Forscher, die an neuartigen Reinforcement‑Learning‑Algorithmen, Datenpipelines, Evaluierungen und verteilter Infrastruktur arbeiten, während sie Modelle mit mehr als 400 Milliarden Parametern trainieren.

Die Finanzierung verschafft dem Unternehmen daher deutlich mehr Kapazität, zu prüfen, ob die durch die frühen Modelle gezeigten Verbesserungen anhalten, wenn mehr Rechenleistung eingesetzt und weitere Iterationen des Post‑Training‑Prozesses durchgeführt werden.

Die größere Implikation: KI, die aus ihrer eigenen Argumentation lernt

Die übergeordnete Bedeutung der Arbeit von Deep Cogito liegt in der Möglichkeit, dass die KI‑Entwicklung von Systemen, die hauptsächlich mit menschlich erzeugten Daten trainiert werden, hin zu Modellen übergehen könnte, die zunehmend eigene Verbesserungen erzeugen, evaluieren und internalisieren.

Ansätze wie Iterated Distillation and Amplification zielen darauf ab, teure Schlussfolgerungen in dauerhafte Fähigkeiten zu verwandeln. Ein Modell kann zusätzliche Rechenleistung nutzen, um schwierigere Probleme zu lösen, und diese Gewinne anschließend in seine Gewichte zurückdestillieren, wodurch ein stärkerer Ausgangspunkt für den nächsten Trainingszyklus entsteht.

Im Laufe der Zeit könnte dies einen Entwicklungszyklus aus Gründen, Evaluieren, Lernen und Verbessern erzeugen.

Es besteht nach wie vor eine erhebliche Lücke zwischen iterativem Post‑Training und echter rekursiver Selbstverbesserung. Modelle benötigen zuverlässige Evaluierungen, sorgfältig konzipierte Zielsetzungen und Schutzmechanismen gegen die Verstärkung von Fehlern. Selbst begrenzte Versionen dieses Ansatzes könnten jedoch die Abhängigkeit von immer größeren Pre‑Training‑Durchläufen verringern und spezialisierte KI, die mit proprietären Unternehmensdaten trainiert wird, praktikabler machen.

Wenn dieser Trend anhält, könnte der Wettbewerbsvorteil in der KI weniger ausschließlich davon abhängen, wer die größten Compute‑Cluster besitzt, und stärker davon, wessen Modelle am besten aus ihrer eigenen Erfahrung lernen.

Antoine ist ein visionärer Leiter und Gründungspartner von Unite.AI, getrieben von einer unerschütterlichen Leidenschaft für die Gestaltung und Förderung der Zukunft von KI und Robotik. Als Serienunternehmer glaubt er, dass KI für die Gesellschaft so disruptiv sein wird wie Elektrizität, und er wird oft dabei erwischt, wie er über das Potenzial disruptiver Technologien und AGI schwärmt.

Als Futurist ist er darauf bedacht, zu erforschen, wie diese Innovationen unsere Welt prägen werden. Darüber hinaus ist er der Gründer von Securities.io, einer Plattform, die sich auf Investitionen in bahnbrechende Technologien konzentriert, die die Zukunft neu definieren und ganze Branchen umgestalten.