Ali Sarrafi, CEO und Gründer von Kovant – Interview-Serie

Ali Sarrafi, CEO und Gründer von Kovant, ist ein erfahrener Technologie- und KI-Executive mit Sitz in Stockholm und einer Erfolgsbilanz beim Aufbau und Skalieren von hochwachsenden KI-Unternehmen. Seit der Gründung von Kovant im späten Jahr 2024 hat er auf seine umfassenden Erfahrungen in der Unternehmens-KI-Strategie, der Markteinführung und der operativen Skalierung zurückgegriffen. Zuvor war er als Vice President of Strategy bei Silo AI tätig, nachdem AMD das Unternehmen erworben hatte, und war dort für die Gestaltung der Unternehmens-KI-Strategie und die Förderung der großflächigen Einführung verantwortlich. Früher in seiner Karriere war er Mitgründer von Combient Mix, führte das Unternehmen durch ein rapides Wachstum und eine erfolgreiche Übernahme durch Silo AI und hat seitdem Beratungs- und Aufsichtsratspositionen in Bildung und KI-Startups inne, was seine konstante Ausrichtung auf die Umsetzung von fortschrittlicher KI in reale Geschäftsergebnisse widerspiegelt.

Kovant ist ein Unternehmens-KI-Unternehmen, das darauf abzielt, Organisationen von experimenteller KI-Nutzung zu vollständig operativen, autonomen Geschäftsprozessen zu verhelfen. Das Unternehmen entwickelt eine agentenbasierte Plattform, die darauf ausgelegt ist, Teams von KI-Agenten über komplexe operationale Bereiche wie Beschaffung, Lieferketten, Compliance und Kundenbetrieb zu orchestrieren. Durch die Betonung sicherer, unternehmensweiter Einsatz und schneller Zeit bis zum Wert bietet Kovant sich als Brücke zwischen strategischer KI-Ambition und täglicher Ausführung an, indem es großen Organisationen hilft, KI direkt in die Kernprozesse einzubetten, anstatt sie als eigenständiges Werkzeug oder Pilotprojekt zu behandeln.

Sie haben wichtige KI-Initiativen bei Spotify geleitet, Combient Mix skaliert und verlassen und später die Unternehmens-KI-Strategie bei Silo AI geprägt, bevor Sie Kovant gründeten. Welche spezifischen Lücken oder Frustrationen haben Sie in diesen Rollen erlebt, die Sie davon überzeugt haben, dass es Zeit war, eine autonome Unternehmensplattform aufzubauen, und wie hat diese Geschichte die Kern-Design-Philosophie von Kovant geprägt?

Über meine vorherigen Rollen hinweg gab es einige konsistente Lücken, die immer wieder auftraten. Erstens sind die meisten “vertikalen” KI-Tools effektiv an einen einzigen Software-Stack gebunden: Sie tun etwas ein wenig besser innerhalb dieser Grenzen, aber sie haben Schwierigkeiten, sobald ein Workflow mehrere Systeme umspannt. Gleichzeitig ist Unternehmensdaten über viele Tools verstreut, und viele Automatisierungslösungen können einfach nicht darauf zugreifen. Wenn man Jahre von Punkt-zu-Punkt-Integrationen hinzufügt, erhält man klassische Spaghettikabel-Architektur: Komplexität steigt, Änderungen werden langsamer, und Teams enden damit, einzelne Schritte zu automatisieren, anstatt den Workflow von Ende zu Ende umzudenken. Das Ergebnis ist, dass die Rentabilität oft später und kleiner eintritt, als Organisationen erwarten.

Kovant ist als Reaktion auf diese Realität konzipiert. Unsere Kernphilosophie ist, dass Agenten mehr wie Mitarbeiter arbeiten sollten: Sie arbeiten über mehrere Tools hinweg, sie werden “eingestellt”, um Aufgaben zu erledigen, und nicht, um eine einzelne skriptierte Sequenz zu automatisieren. Deshalb sind Integrationen und Orchestrierung eingebaut, und wir gehen davon aus, dass Unternehmensdaten oft unordentlich und unstrukturiert sind – sie benötigen einen menschlicheren Ansatz, um Ausnahmen und Mehrdeutigkeit zu handhaben.

Wir verwenden Grundagenten, um Geschwindigkeit und Skalierbarkeit zu erreichen, während wir die Datenhoheit im Vordergrund halten: Unternehmen können auf ihre eigenen Daten zugreifen und sie ohne das Verlassen ihrer Standorte nutzen.

Kovant positioniert sich als autonome Unternehmensplattform, die in der Lage ist, ganze Operationen und Abteilungen mit KI-Agenten zu betreiben. Wie definieren Sie “autonom” in einem Unternehmenskontext, und wie unterscheidet sich dies von den Automatisierungs- und Agenten-Tools, mit denen Unternehmen bereits experimentieren?

In einem Unternehmenskontext bedeutet “autonom”, wenn wir davon sprechen, nicht “unbeaufsichtigt”. Wir meinen, dass KI-Agenten echte Aktionen von Ende zu Ende über eine Operation mit klaren Zielen und Schutzvorkehrungen ausführen können und dass sie an Menschen eskalieren, wenn Aufsicht erforderlich ist.

Was Kovant von anderen unterscheidet, sind unsere Grundagenten. Anstatt einen einzelnen, festen Prozess zu automatisieren oder einer vorgebauten Sequenz zu folgen, können Kovant-Agenten als Team (oder Schwarm) an einer Operation arbeiten, indem sie nur Anweisungen und eine Operationsübersicht verwenden, die wir Blueprint nennen. Sie sind nicht für eine einzelne, enge Aufgabe konzipiert; sie arbeiten zusammen, um komplexe Workflows zu lösen, sich an veränderte Bedingungen anzupassen und an Menschen zu übergeben, wenn die Situation Aufsicht erfordert.

Beispielsweise kann ein Team von Inventar-Management-Agenten alle folgenden Aufgaben ohne sie von Grund auf neu aufzubauen ausführen, einschließlich: Kommunikation mit Lieferanten per E-Mail, Überwachung von Inventarbeständen und Ausverkaufssignalen, Verfolgung von Sendungen und Bestellungen, Aktualisierung von Status in Systemen, Erstellung von Abweichungstickets für Inventarplaner zur Genehmigung, Umverteilung von Inventar zwischen Lagerhäusern und Konsolidierung von Inventarberichten.

So ändert sich die Ausrichtung von “Chat plus Tools” oder brüchigen Automatisierungen, die bei Skalierung brechen, hin zu Unternehmen, die von der Erstellung von Agenten zu deren Betrieb im großen Maßstab übergehen.

Trotz des großen Interesses an agentischer KI bleiben viele Organisationen im Pilotmodus stecken. Aus Ihren Erfahrungen mit realen Bereitstellungen heraus, welche sind die Hauptgründe, warum Unternehmen Schwierigkeiten haben, von Experimenten zu skalierten Produktionsumgebungen überzugehen?

Was wir sehen, ist, dass die meisten Organisationen nicht im Pilotmodus stecken bleiben, weil die Idee falsch ist; sie stecken fest, weil die Umgebung feindlich gegenüber der Skalierung ist.

Der erste Blockierer ist die fragmentierte Unternehmens-IT-Landschaft. Workflows umspannen viele Systeme, Daten leben an mehreren Orten, und das Zuverlässige Zusammennähen aller Dinge ist schwierig. Und agentische KI wird oft als Add-on zu bestehenden Tools bereitgestellt, anstatt als Möglichkeit, den Workflow neu zu denken.

Es gibt auch ein echtes Architektur- und Datenproblem. Viele SaaS-Anbieter versuchen immer noch, Daten zu sperren, was Inkompatibilitäten schafft und limitiert, was Agenten tatsächlich über Systeme hinweg tun können. Und viele Teams unterschätzen die Tatsache, dass die meisten Unternehmensdaten unstrukturiert sind (E-Mails, Dokumente, Tickets, PDFs, Chat-Protokolle). Wenn Ihr Ansatz von sauberen, strukturierten Daten ausgeht, wird die Zeit bis zum Wert lang, schmerzhaft und schwierig zu replizieren, über den Pilot hinaus.

In Kürze: Fragmentierung, Sperren und unstrukturierte Daten schaffen Reibung – und Piloten werden nie in die Produktion übergehen, bis diese Realitäten berücksichtigt werden.

Zuverlässigkeit wird oft als der größte Blockierer für die Bereitstellung von KI-Agenten in der realen Welt genannt. Warum scheitern so viele Agentensysteme, wenn sie kontrollierte Umgebungen verlassen, und wie reduziert Kovants Ansatz Probleme wie Halluzinationen und unvorhersehbares Verhalten?

Einige Agentensysteme sehen in Demos großartig aus, dann scheitern sie in der realen Welt, weil die Umgebung unordentlich und unvorhersehbar ist. Daten sind unvollständig oder inkonsistent, Randfälle treten ständig auf (Rückerstattungen, Streitigkeiten, Sondergenehmigungen). Workflows umspannen viele Tools, Plattformen und Integrationen, die sich im Laufe der Zeit ändern, und Berechtigungen variieren. Wenn ein KI-Agent aufgefordert wird, eine große Aufgabe zu bewältigen und zu viel Kontext auf einmal erhält, steigt das Risiko von Halluzinationen und seltsamem Verhalten.

Kovant reduziert dies durch Design. Unsere einzigartige Architektur verengt den Problemspace, den Entscheidungsraum und den Kontext, mit dem Modelle arbeiten, um Halluzinationen zu reduzieren. Wir brechen Operationen in enge, fokussierte Aufgaben für einzelne Agenten und Schritte herunter. Das macht das Verhalten vorhersehbarer und fügt Traceability und Controllability in das System ein und kann Halluzinationen besser handhaben. Wir können sehen, was jeder Agent getan hat, wo ein Versagen begann, und intervenieren oder eskalieren, wenn erforderlich.

Halluzinationen verschwinden nicht wie durch Zauber, aber indem wir den Kontext, für den jeder Agent verantwortlich ist, einschränken und den Kontext, auf den er einwirken kann, limitieren, können wir ihre Häufigkeit reduzieren und ihre Auswirkungen begrenzen. Dieser “eingeschränkte Aufgaben-/Kontext”-Ansatz wurde auch in jüngsten Arbeiten des Nvidia (NVDA ) -Forschungsteams unterstützt, die ähnliche Vorteile durch die Einschränkung der Entscheidungsfindung von Agenten feststellten.

Rechenschaftspflicht ist ein großes Anliegen, wenn KI-Agenten in Geschäftssystemen echte Aktionen ausführen beginnen. Wie ändern detaillierte Aktionsprotokolle die Diskussion um Vertrauen, Compliance und operatives Risiko?

Mit detaillierten Aktionsprotokollen können wir sehen, was passiert ist, warum es passiert ist und was als Nächstes passiert.

Die detaillierten Protokolle verwandeln einen Agenten von einem mysteriösen Bot, der in der Maschine arbeitet, in ein System, das man untersuchen kann.

Bei Kovant gibt es mit jeder KI-Agent-Implementierung eine Risikokarte, auf die das Unternehmen reagieren kann, wir haben eine integrierte Gate-Keeping-Funktion für Menschen für risikoreiche Aktionen, die bedeutet, dass Agenten nur diese Aufgaben ausführen können, wenn ein Mensch die Entscheidung überprüft und genehmigt. All dies wird auf die gleiche Weise protokolliert wie ein System von Aufzeichnungen und ist nachvollziehbar.

Wir glauben, es ist wichtig, Aktionsprotokolle mit menschlicher Aufsicht und Beobachtbarkeit zu kombinieren, um das Risiko zu minimieren. Es bedeutet, dass Sie immer noch die Vorteile von Geschwindigkeit und Skalierbarkeit von Agenten haben, die echte Operationen ausführen.

Es gibt eine wachsende Diskussion darüber, ob KI-Agenten überhaupt versichert werden können, weil ihre Entscheidungsfindung undurchsichtig ist. Wie hilft die Erstellung von agentischen Workflows, die überprüfbar und wiederholbar sind, dabei, das “Black-Box”-Problem zu lösen und die Tür zur Versicherbarkeit zu öffnen?

Das “Black-Box”-Problem ist es, was die Versicherbarkeit erschwert. Wenn Sie nicht klar zeigen können, was ein Agent getan hat, warum er es getan hat und welche Kontrollen vorhanden waren, ist es schwierig für jeden, insbesondere für Versicherer, das Risiko zu bewerten.

Unser Ansatz ist im Wesentlichen eine Erweiterung der Rechenschaftspflicht-Einrichtung in der vorherigen Antwort. Wir brechen den Entscheidungsbereich und die Auswirkungen von Aktionen in kleinere, vorhersehbare und leichter zu bewertende Teile herunter. Jeder Schritt ist enger, vorhersehbarer und leichter zu bewerten.

Wir fügen dann detaillierte Protokolle, Beobachtbarkeit und menschliche Aufsicht hinzu. Für die wichtigsten und Auswirkungen-reichsten Entscheidungen verwenden wir einen menschlichen Gatekeeper, sodass der Agent nur nach Überprüfung und Genehmigung durch einen Menschen fortfahren kann. Das schafft weit mehr Sichtbarkeit in die Funktionsweise des Workflows in der Praxis.

Durch die Erstellung von Workflows, die überprüfbar und wiederholbar sind, kann man, wenn etwas schiefgeht, reproduzieren, was passiert ist, schnell untersuchen, Validierungen durchführen und zeigen, wie oft menschliche Genehmigung erforderlich ist und wo die Sicherheitsvorkehrungen sitzen. In Versicherungsbegriffen wird das mysteriöse KI-Verhalten zu etwas, das näher an Standard-Betriebsrisiko kommt.

Bei Initiativen wie der Agentic AI Foundation, die darauf abzielt, gemeinsame Standards für agentische Systeme zu schaffen, was sehen Sie als die vielversprechendsten Aspekte dieser Bemühungen und wo liegen sie noch hinter den Anforderungen realer Unternehmensoperationen zurück?

Standardisierung ist im Allgemeinen eine gute Sache. Die AAIF kann die unglamouröse, aber wesentliche Arbeit leisten, agentische Systeme dazu zu bringen, die gleiche Sprache zu sprechen, was Integrationen erleichtern und Vendor-Lock-in über die Zeit reduzieren sollte.

Wo ich vorsichtig bin, ist, wessen Perspektive die Standards prägt. Wenn die meisten Arbeiten von Modell-Erstellern und Technologie-Start-ups geleitet werden, besteht das Risiko, dass die “Standards” das optimieren, was am einfachsten zu bauen oder zu demonstrieren ist, anstatt dem, was große Organisationen wirklich benötigen, um Agenten sicher tagtäglich zu betreiben.

Für reale Unternehmensoperationen liegen die Lücken weniger bei den Connectors und mehr bei der Kontrolle: was ein Agent zugreifen und ändern kann, Genehmigungsworkflows für hochriskante Aktionen, überprüfbare Protokolle und Beobachtbarkeit, damit Teams Verhalten überwachen, Vorfälle untersuchen und Compliance nachweisen können. Unternehmen benötigen auch praktische Standards für die Operation in der unordentlichen Realität: Testen gegen Randfälle, Umgang mit sich ändernden Systemen und die Fähigkeit, Aktionen sicher über Legacy-Tools und regulierte Datenumgebungen zu pausieren, zu isolieren oder zurückzurollen.

Es ist eine vielversprechende Richtung, aber der Einfluss wird begrenzt, wenn Unternehmensanforderungen und operative Risikokontrollen als Nachgedanke behandelt werden.

Kovant hat bereits erhebliche Einnahmen von großen nordischen Unternehmen generiert, während es im Wesentlichen im Verborgenen operiert. Welche Arten von Geschäftsfunktionen oder Workflows haben sich als am meisten bereit für autonome KI-Agenten erwiesen?

Aus unseren realen Bereitstellungen können wir sehen, dass die Workflows, die heute am meisten “bereit” sind, diejenigen sind, die aus reaktiver Büroarbeit bestehen: Überwachung, Verfolgung, Prüfung, Systemaktualisierung, Ausnahmehandhabung und Aufrechterhaltung von Operationen über mehrere Tools hinweg.

In der Fertigung und den breiteren Unternehmenslieferketten zeigt sich dies in:

• Beschaffung/Versorgung: Verfügbarkeit von Rohstoffen, nachhaltige Beschaffung, Compliance-Operationen, Lieferantenauswahl (einschließlich Dual-/Mehrbeschaffung), Vertragsmanagement, Lieferantenrisikomanagement und Ausschreibungsmanagement.
• Produktion: Kapazitätsplanung, Produktionsplanung, Wartungsmanagement, Qualitätsmanagement, Engpassmanagement und Verlustvermeidung.
• Lagerverwaltung: Wareneingang und -inspektion, Inventarverwaltung, Lagerumschlag (FIFO/FEFO) und Zykluszählung/Prüfung.
• Transport/Logistik: Auswahl von Transportmodus und -träger, Zollabfertigung/Dokumentation, Verfolgung und -sichtbarkeit, Emissionsüberwachung und Handelscompliance.
• Verkauf und Service: Produktverfügbarkeit, Vermeidung von Ausverkäufen, Verkaufs-/Rückgabemanagement, Analyse des Verbraucherverhaltens sowie Nachverkaufsgebiete wie Reparaturen, Lebensende-Verfolgung, Werkstättenbetrieb und Serviceverträge.

Wenn Unternehmen KI-Agenten über kritische Operationen bereitstellen, wie empfehlen Sie, Autonomie mit menschlicher Aufsicht zu balancieren, um Kontrolle zu gewährleisten, ohne alles zu verlangsamen?

Die Balance wird durch die gelenkte Autonomie bestimmt. Man muss Agenten erlauben, schnell auf geringriskante Arbeiten innerhalb klarer Schutzvorkehrungen zu arbeiten, und an Menschen eskalieren, wenn die Aktion eine definierte Risikoschwelle überschreitet.

Viele Misserfolge kommen von der Gewährung zu viel Umfangs und zu viel Kontext auf einmal. Ich empfehle, Operationen in kleinere, eng gefasste Entscheidungen aufzubrechen, bei denen jeder Schritt klare Berechtigungen und einen begrenzten Einflussbereich hat. Das reduziert unvorhersehbares Verhalten und macht die Leistung einfacher zu überwachen und zu verbessern.

Dann kombinieren Sie drei Dinge: Beobachtbarkeit, Aktionsprotokolle und menschliche Gate-Keeping. Alles, was der Agent tut, sollte nachvollziehbar sein, damit man sehen kann, was passiert ist, und schnell untersuchen kann. Für hochriskante oder risikoreiche Aktionen setzen Sie einen menschlichen Genehmigungsschritt in den Workflow, damit der Agent vorschlagen und vorbereiten kann, aber nur ausführt, wenn eine Person abgesegnet hat.

Das hält die Dinge in Bewegung. Wenn überhaupt, verlangsamt es sich nur leicht an dem menschlichen Aufsichtsschritt, aber das ist ein wichtiger Teil des Prozesses. Menschen sind nicht damit beschäftigt, jeden Klick zu überwachen, aber sie sind immer noch in der Kontrolle der Momente, die zählen. Das Ergebnis ist Geschwindigkeit, wo es sicher ist, und Aufsicht, wo es notwendig ist.

Aufblickend, wie erwarten Sie, dass die Rolle autonomer KI-Agenten innerhalb großer Organisationen in den nächsten Jahren evolviert, und was wird Unternehmen, die mit agentischer KI erfolgreich sind, von denen unterscheiden, die Schwierigkeiten haben?

In den nächsten Jahren werden autonome KI-Agenten von interessanten Experimenten zu einer realen Betriebsebene innerhalb großer Organisationen übergehen. Sie werden für Operationen, Kundenservice, Finanzen und Personalwesen eingesetzt. Wenn Zuverlässigkeit, Governance und Aufsicht verbessert werden, werden wir Unternehmen sehen, die von isolierten Piloten zu agentischen Teams übergehen, die über End-to-End-Workflows hinweg arbeiten.

Die größte Veränderung ist, dass Geschwindigkeit, Agilität, Skalierbarkeit, Effizienz und Kosten zu einem direkteren Wettbewerbsvorteil werden. Ich denke, eine “Uber-Bewegung” kommt für Unternehmen. Diejenigen, die wirklich agentische KI meistern, werden in der Lage sein, mit einer grundlegend höheren Geschwindigkeit zu operieren als die Nachzügler, Märkte schneller zu erobern und auf Veränderungen zu reagieren, ohne den üblichen operativen Widerstand.

Was die Gewinner von den Verlierern unterscheidet, ist nicht nur die Bereitstellung von Agenten, sondern deren gute Bereitstellung. Gelenkte Autonomie, starke Beobachtbarkeit und Aktionsprotokolle sowie Architekturen, die den Entscheidungsbereich verengen, werden der Schlüssel dazu sein. Unternehmen, die agentische KI als Kernbetriebsfähigkeit behandeln, mit den richtigen Kontrollen, Integration und Eigentum, werden es nutzen, um mehr zu tun, nicht weniger. Das wird Teams befreien, um sich auf Wachstum und Innovation zu konzentrieren, anstatt ihre Tage in administrativen Aufgaben zu verbringen. In Kürze: Radikale Geschwindigkeit und Effizienz werden zu einem echten Wettbewerbsvorteil im Unternehmensmaßstab.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Kovant besuchen.