Crux Labs sammelt über 6 Millionen US-Dollar ein, um mit menschlichem Urteilsvermögen bessere KI-Agenten zu entwickeln

Ein KI-Agent kann eine Aufgabe erledigen und trotzdem eine Entscheidung treffen, die ein erfahrener Mitarbeiter ablehnen würde. Schwierig ist oft, die ungeschriebenen Regeln zu verstehen: Wann sollte der Agent eine weitere Frage stellen, wann sollte er den Fall eskalieren und woran bemisst sich ein gutes Ergebnis für ein bestimmtes Unternehmen?

Crux Labs entwickelt eine Plattform, die das Expertenurteil in einen kontinuierlichen Prozess zur Bewertung und Verbesserung von Agenten in Unternehmen überführt. Das New Yorker Start-up ist mit einer überzeichneten Finanzierungsrunde über mehr als 6 Millionen US-Dollar aus dem Stealth-Modus hervorgetreten. Die Runde wurde gemeinsam von Benchstrength und Misneach angeführt; auch Analog Ventures und Pareto Holdings beteiligten sich.

Das Unternehmen will das Kapital nutzen, um Forschung und Entwicklung auszubauen und den Einsatz bei Unternehmenskunden zu beschleunigen. Im Mittelpunkt steht die Überzeugung, dass Unternehmen Bewertungssysteme benötigen, die auf ihre eigenen Experten abgestimmt sind und über eine Rückkopplungsschleife das Verhalten im Produktivbetrieb mit Änderungen an den Agenten selbst verknüpfen.

Warum Agenten-Traces nur der Ausgangspunkt sind

Die Beobachtbarkeit von Agenten hilft Teams dabei nachzuvollziehen, was ein System getan hat: die Abfolge von Nachrichten, Werkzeugaufrufen und anderen Schritten einer Interaktion. Diese Aufzeichnung ist wertvoll, wenn etwas schiefläuft. Um jedoch zu beurteilen, ob eine Interaktion gut genug war, braucht es Kriterien, die der Aufgabe und dem Unternehmen Rechnung tragen.

Crux argumentiert, dass manuelle Prüfungen mit großen Implementierungen nicht Schritt halten können. In der Ankündigung des Unternehmens heißt es, Teams untersuchten nur 1 % der Agenten-Traces. Ein Großteil des übrigen Datenverkehrs bleibe dadurch außerhalb der direkten Prüfung. Diese Zahl beschreibt die Einschätzung des Unternehmens zum Problem und stammt nicht aus einer veröffentlichten branchenweiten Umfrage.

Stichproben können besonders dann an ihre Grenzen stoßen, wenn die entscheidenden Fehler selten auftreten. Ein Agent kann sich in häufigen Fällen akzeptabel verhalten und zugleich bei einer Ausnahme scheitern, die erfahrene Mitarbeiter sofort erkennen würden. Die Herausforderung besteht darin, diese Erkenntnis in eine Bewertung zu überführen, die sich einheitlich auf eine wesentlich größere Zahl von Interaktionen anwenden lässt.

Für Crux liegt die Chance zwischen den Fachleuten, die das jeweilige Gebiet kennen, und den Ingenieuren, die den Agenten entwickeln. Fachleute können erläutern, wie eine erfolgreiche Interaktion aussieht. Dieses Verständnis muss jedoch zu einem wiederholbaren Bestandteil der Messung und Verbesserung des Systems werden.

Expertenurteil erfassen und Bewertungen kalibrieren

Crux beschreibt einen Arbeitsablauf, der in den Werkzeugen und Prozessen beginnt, die ein Unternehmen bereits nutzt. Die Agenten erfassen Expertenurteile und nutzen sie zur Kalibrierung maßgeschneiderter Bewertungen. Diese Bewertungen unterstützen anschließend die Überwachung im Produktivbetrieb und das Auslösen von Warnmeldungen; die Ergebnisse fließen in spätere Verbesserungen der Agenten ein.

Die Kalibrierung ist wichtig. Eine allgemeine Bewertung könnte eine flüssig formulierte Antwort belohnen, obwohl sie eine unternehmensspezifische Anforderung verfehlt. Eine auf Expertenurteilen beruhende Bewertung soll den Unterschied zwischen einer Antwort erkennen, die richtig klingt, und einer, die den Erwartungen des Unternehmens entspricht.

„Agenten sind hervorragend darin, Ziele zu erreichen, haben aber keinen Zugang zu den jahrelang gesammelten Erfahrungsregeln, die wir Menschen im Kopf haben“, sagte Julie Kheyfets, Mitgründerin und CEO von Crux. „Crux hilft jedem Unternehmen, dieses Urteilsvermögen zu erschließen und damit seine Agenten rasch zu verbessern.“

Das angestrebte Ergebnis ist ein sich weiterentwickelnder Bewertungsprozess, der widerspiegelt, was Experten aus realen Interaktionen lernen. Wenn neue Fehlermuster auftreten, kann das Unternehmen dieses Wissen in die Beurteilung künftigen Verhaltens einfließen lassen, statt es verstreut in Support-Tickets und bei einzelnen Prüfern zu belassen.

Den gesamten Datenverkehr im Produktivbetrieb überwachen

Crux zufolge sind die maßgeschneiderten Bewertungen für die Überwachung und das Auslösen von Warnmeldungen in Echtzeit über 100 % des Datenverkehrs im Produktivbetrieb hinweg optimiert. Dabei handelt es sich um eine Aussage zur Abdeckung: Die Bewertung wird auf den gesamten Datenstrom angewendet. Das bedeutet nicht, dass die Bewertungen jeden denkbaren Fehler erkennen oder stets perfekt mit menschlichen Experten übereinstimmen.

Diese Unterscheidung ist wichtig, denn automatisierte Bewertungen bringen eigene Herausforderungen bei der Messung mit sich. Selbst ein System, das jede Interaktion prüft, kann wichtiges Verhalten übersehen, wenn seine Kriterien unvollständig sind. Die Kalibrierung dieser Kriterien anhand von Fachwissen ist daher ein zentraler Bestandteil des Angebots von Crux und kein optionaler Schritt, der vor Beginn der Überwachung erledigt wird.

Das Unternehmen erklärt außerdem, dass die Bewertungsergebnisse Verbesserungen anstoßen, die in den Produktivbetrieb überführt werden. In der Ankündigung wird nicht näher erläutert, welche Teile dieses Prozesses an Prompts, Richtlinien, Modellen oder anderen Komponenten geändert werden oder wie die Zustimmung der Kunden gehandhabt wird. Das beschriebene Angebot ist ein durchgängiger Bewertungs- und Verbesserungsdienst und keine näher spezifizierte Methode zum Trainieren von Modellen.

Ein Gründerteam mit Erfahrung im Bereich Unternehmens-KI

Kheyfets und ihr Mitgründer und CTO Krishna Kulkarni lernten sich an der Princeton University kennen. Kheyfets verfügt über zehn Jahre Erfahrung mit dem Einsatz von KI in komplexen Branchen. Sie leitete unter anderem das Nordamerikageschäft von Tractable AI und war CEO von Block Renovation.

Kulkarni leitete zuvor das Brand Engineering bei Meta, entwickelte KI-Produkte bei Checkr und half Healthify nach Angaben des Unternehmens dabei, von null auf 20 Millionen Patienten zu wachsen. Crux baut ein Team aus Forschern und Ingenieuren auf, das sich auf die Bewertung und Verbesserung von Agenten konzentriert.

„Engineering-Teams wissen, wie man KI-Agenten entwickelt, und Fachexperten wissen, woran sich Erfolg bemisst. Unternehmen fehlt jedoch die Verbindung zwischen beiden“, sagte Kulkarni. „Crux überführt Fachwissen in die kontinuierliche Verbesserung von Agenten, damit Ingenieure Agenten entwickeln können, die wirklich auf die geschäftlichen Anforderungen abgestimmt sind.“

Das Unternehmen berichtet von ersten Erfolgen bei Fortune-500-Unternehmen und wachstumsstarken Firmen im Gesundheitswesen, in der Cybersicherheit, bei Finanzdienstleistungen und in anderen komplexen Branchen. In der Mitteilung nannte es weder diese Kunden noch machte es Angaben zu Umsatz, Zahl der Implementierungen oder gemessenen Verbesserungen.

Der geschäftliche Nutzen unternehmensspezifischer Evaluierungen

Crux positioniert sich als Pendant zu einem eigenen Team für die Bewertung und Verbesserung von Agenten innerhalb eines Unternehmens. Das Geschäftsargument lautet, dass Produkt- und Engineering-Mitarbeiter weniger Zeit für den Aufbau von Prüfverfahren und die Diagnose wiederkehrender Fehler aufwenden sollten, während Experten eine praktische Möglichkeit erhalten, die Systeme zu beeinflussen, die ihr Unternehmen repräsentieren.

Der Bedarf an Fachwissen zeigt sich auch auf der iMerit-Plattform für KI-Training und -Evaluierung unter Anleitung von Experten, auf der die Organisation von Rückmeldungen durch Spezialisten Teil des Workflows zur Modellverbesserung ist.

Für Investoren hängt die Chance davon ab, was geschieht, nachdem Agenten produktiv eingesetzt werden. Die Entwicklung eines Agenten schafft einen neuen Bedarf: sein Verhalten kontinuierlich zu messen, Schwachstellen zu erkennen und ihn zu verbessern, ohne die Standards der Organisation aus den Augen zu verlieren.

Die Finanzierung von Crux wird dabei helfen zu prüfen, ob sich dieser Prozess zuverlässig für Kunden mit unterschiedlichen Erfolgsmaßstäben umsetzen lässt. Das Konzept ist einfach: Das Urteilsvermögen der besten Mitarbeiter eines Unternehmens sollte in die Bewertung seiner Agenten einfließen, und diese Bewertungen sollten zu einem besseren Verhalten im Produktivbetrieb führen. Weitere Informationen gibt es bei Crux Labs.