Ali Sarrafi, CEO und Gründer von Kovant – Interviewreihe

Ali Sarrafi, Der CEO und Gründer von Kovant ist eine erfahrene Führungskraft im Technologie- und KI-Bereich mit Sitz in Stockholm, die sich durch den Aufbau und die Skalierung wachstumsstarker KI-Unternehmen einen Namen gemacht hat. Seit der Gründung von Kovant Ende 2024 profitiert er von seiner umfassenden Erfahrung in den Bereichen KI-Strategie für Unternehmen, Markteinführung und operative Skalierung. Zuvor war er als Vice President of Strategy bei Silo AI nach der Übernahme durch AMD tätig, wo er die KI-Strategie für Unternehmen entwickelte und die breite Anwendung vorantrieb. Zu Beginn seiner Karriere war er Mitgründer von Combient Mix, das er durch ein rasantes Wachstum und die erfolgreiche Übernahme durch Silo AI führte. Seitdem bekleidet er beratende und Aufsichtsratspositionen in Bildungs- und KI-Startups, was seinen konsequenten Fokus auf die praktische Anwendung fortschrittlicher KI in der Wirtschaft unterstreicht.

Kovant Kovant ist ein KI-Unternehmen, das Organisationen dabei unterstützt, von experimentellen KI-Einsätzen zu voll funktionsfähigen, autonomen Geschäftsprozessen überzugehen. Das Unternehmen entwickelt eine agentenbasierte Plattform zur Orchestrierung von KI-Teams in komplexen operativen Bereichen wie Beschaffung, Lieferketten, Compliance und Kundenservice. Durch den Fokus auf sichere, unternehmensgerechte Implementierung und schnelle Wertschöpfung positioniert sich Kovant als Bindeglied zwischen strategischen KI-Ambitionen und deren praktischer Umsetzung. So hilft das Unternehmen großen Organisationen, KI direkt in ihre Kernprozesse zu integrieren, anstatt sie als eigenständiges Tool oder Pilotprojekt zu behandeln.

Sie haben bei Spotify bedeutende KI-Initiativen geleitet, Combient Mix erfolgreich skaliert und verkauft und später bei Silo AI die KI-Strategie für Unternehmen mitgestaltet, bevor Sie Kovant gründeten. Welche konkreten Lücken oder Frustrationen sind Ihnen in diesen Positionen begegnet, die Sie davon überzeugt haben, dass der Zeitpunkt für die Entwicklung einer autonomen Unternehmensplattform gekommen ist, und wie hat diese Erfahrung die zentrale Designphilosophie von Kovant geprägt?

In meinen bisherigen Positionen traten immer wieder einige Schwachstellen auf. Erstens sind die meisten vertikalen KI-Tools im Grunde an einen einzigen Software-Stack gebunden: Innerhalb dieser Grenzen erledigen sie eine Aufgabe etwas besser, stoßen aber an ihre Grenzen, sobald ein Workflow mehrere Systeme umfassen muss. Gleichzeitig sind Unternehmensdaten über viele Tools verteilt, und viele Automatisierungslösungen können sie schlichtweg nicht erreichen. Hinzu kommen jahrelange punktuelle Integrationen, die zu einer klassischen Spaghetti-Architektur führen: Die Komplexität steigt, Veränderungen verlaufen langsamer, und Teams automatisieren schließlich einzelne Schritte, anstatt den Workflow von Grund auf neu zu gestalten. Das Ergebnis ist, dass der ROI oft langsamer – und geringer – eintritt als von Unternehmen erwartet.

Kovant wurde als Antwort auf diese Realität entwickelt. Unsere Kernphilosophie ist, dass Agenten sich eher wie Mitarbeiter verhalten sollten: Sie arbeiten mit verschiedenen Tools und werden für die Erledigung von Aufgaben eingestellt, nicht um eine einzelne, vorgefertigte Sequenz zu automatisieren. Deshalb sind Integrationen und Orchestrierung integriert, und deshalb gehen wir davon aus, dass Unternehmensdaten oft unstrukturiert und unübersichtlich sind – sie erfordern einen eher menschlichen Umgang mit Ausnahmen und Mehrdeutigkeiten.

Wir nutzen Foundation Agents, um Geschwindigkeit und Skalierbarkeit zu erreichen und gleichzeitig die Datensouveränität in den Vordergrund zu stellen: Unternehmen können horizontal auf ihre eigenen Daten zugreifen und diese nutzen, ohne dass diese ihr Unternehmen verlassen.

Kovant positioniert sich als autonome Unternehmensplattform, die ganze Abläufe und Abteilungen mit KI-Agenten steuern kann. Wie definieren Sie „autonom“ im Unternehmenskontext, und wie unterscheidet sich dies von den Automatisierungs- und Agententools, mit denen Unternehmen bereits heute experimentieren?

Im Unternehmenskontext bedeutet „autonom“ nicht „unüberwacht“. Wir meinen, dass KI-Agenten in der Lage sind, innerhalb eines Betriebs mit klaren Zielen und Leitplanken selbstständig Aktionen durchzuführen und bei Bedarf menschliche Unterstützung hinzuzuziehen.

Was Kovant auszeichnet, sind unsere Basisagenten. Anstatt einen einzelnen, festen Prozess zu automatisieren oder einer vordefinierten Abfolge zu folgen, arbeiten Kovant-Agenten als Team (oder Schwarm) an einer Operation – anhand von Anweisungen und einer Operationsübersicht, die wir Blueprint nennen. Sie sind nicht für eine einzelne, eng gefasste Aufgabe konzipiert, sondern arbeiten zusammen, um komplexe Arbeitsabläufe zu lösen, sich an veränderte Bedingungen anzupassen und die Verantwortung an zuständige Personen zu übergeben, wenn eine Überwachung erforderlich ist.

Ein Team von Bestandsverwaltungsagenten kann beispielsweise alle folgenden Aufgaben erledigen, ohne sie von Grund auf neu zu entwickeln: Kommunikation mit Lieferanten per E-Mail, Überwachung der Lagerbestände und von Fehlbeständen, Verfolgung von Lieferungen und Bestellungen, Aktualisierung von Statusmeldungen in verschiedenen Systemen, Erstellung von Abweichungstickets zur Genehmigung durch die Bestandsplaner, Umverteilung des Bestands zwischen Lagern und Konsolidierung von Bestandsberichten.

Der Wandel geht also dahin, dass Unternehmen statt auf „Chat plus Tools“ oder auf fehleranfällige Automatisierungen, die bei großem Umfang versagen, von der Entwicklung von Agenten zu deren Betrieb in großem Umfang übergehen.

Trotz des großen Interesses an agentenbasierter KI befinden sich viele Organisationen weiterhin im Pilotstadium. Welche Hauptgründe sehen Sie in realen Implementierungen dafür, dass Unternehmen Schwierigkeiten haben, von der Experimentierphase zur skalierten Produktion überzugehen?

Was wir beobachten, ist, dass die meisten Organisationen nicht im Pilotmodus stecken bleiben, weil die Idee falsch ist; sie bleiben stecken, weil das Umfeld einer Skalierung feindlich gesinnt ist.

Das erste Hindernis ist die fragmentierte IT-Landschaft in Unternehmen. Arbeitsabläufe erstrecken sich über zahlreiche Systeme, Daten sind an verschiedenen Orten gespeichert, und es ist schwierig, alles zuverlässig miteinander zu verknüpfen. Agentenbasierte KI wird oft als Ergänzung zu bestehenden Tools eingesetzt, anstatt den gesamten Workflow von Grund auf neu zu gestalten.

Es gibt auch ein echtes Architektur- und Datenproblem. Viele SaaS-Anbieter versuchen immer noch, Daten in einem System einzuschließen, was zu Inkompatibilitäten führt und die Möglichkeiten der Agenten systemübergreifend einschränkt. Viele Teams unterschätzen zudem, dass die meisten Unternehmensdaten unstrukturiert sind (E-Mails, Dokumente, Tickets, PDFs, Chatprotokolle). Geht man von sauberen, strukturierten Daten aus, wird die Wertschöpfung langwierig, mühsam und die Reproduzierbarkeit über die Pilotphase hinaus schwierig.

Kurz gesagt: Fragmentierung, Abhängigkeit von bestimmten Anbietern und unstrukturierte Daten erzeugen Widerstand – und Pilotprojekte werden erst dann zur Produktion, wenn diese Realitäten berücksichtigt werden.

Zuverlässigkeit wird oft als größtes Hindernis für den Einsatz von KI-Agenten in der realen Welt genannt. Warum versagen so viele Agentensysteme, sobald sie kontrollierte Umgebungen verlassen, und wie reduziert der Ansatz von Kovant Probleme wie Halluzinationen und unvorhersehbares Verhalten?

Manche Agentensysteme sehen in Demos großartig aus, versagen aber in der Praxis, weil die Umgebung unübersichtlich und unvorhersehbar ist. Daten sind unvollständig oder inkonsistent, Sonderfälle (Rückerstattungen, Streitigkeiten, spezielle Genehmigungen) treten ständig auf. Arbeitsabläufe erstrecken sich über mehrere Tools, Plattformen und Integrationen, die sich im Laufe der Zeit ändern, und Berechtigungen variieren. Wenn ein KI-Agent mit einer großen Aufgabe betraut wird und zu viele Informationen auf einmal erhält, steigt das Risiko von Fehlfunktionen und ungewöhnlichem Verhalten.

Kovant reduziert dieses Problem gezielt. Unsere einzigartige Architektur verengt den Problemraum, den Entscheidungsraum und den Kontext, mit dem Modelle arbeiten, um Fehlinterpretationen zu minimieren. Wir unterteilen Operationen in klar definierte Aufgaben für einzelne Agenten und Schritte. Dadurch wird das Verhalten vorhersehbarer, die Nachvollziehbarkeit und Kontrollierbarkeit des Systems verbessert und Fehlinterpretationen können besser bewältigt werden. Wir können nachvollziehen, was jeder Agent getan hat, wo ein Fehler aufgetreten ist und bei Bedarf eingreifen oder eskalieren.

Halluzinationen verschwinden nicht einfach so, aber indem wir die Verantwortlichkeiten der einzelnen Akteure einschränken und den Kontext, in dem sie agieren können, begrenzen, können wir ihre Häufigkeit und ihre Auswirkungen reduzieren. Dieser Ansatz der „eingeschränkten Aufgaben- und Kontextbeschränkung“ wird auch in aktuellen Forschungsarbeiten von Nvidias Team unterstützt, das ähnliche Vorteile durch die Einschränkung der Entscheidungsfindung von Akteuren feststellte.

Die Rechenschaftspflicht ist ein zentrales Anliegen, wenn KI-Systeme beginnen, in Geschäftssystemen aktiv zu werden. Wie verändern detaillierte Aktionsprotokolle die Diskussion um Vertrauen, Compliance und operationelle Risiken?

Mithilfe detaillierter Aktionsprotokolle können wir sehen, was passiert ist, warum es passiert ist und was als Nächstes geschieht.

Die detaillierten Protokolle verwandeln einen Agenten von einem mysteriösen Bot, der im Hintergrund im System arbeitet, in ein System, das man untersuchen kann.

Bei Kovant wird für jeden Einsatz eines KI-Agenten eine Risikokarte erstellt, auf deren Grundlage das Unternehmen Maßnahmen ergreifen kann. Wir haben eine integrierte Kontrollfunktion für risikoreiche Aktionen eingerichtet. Das bedeutet, dass Agenten Aufgaben nur dann ausführen können, wenn die Entscheidung von einem Menschen geprüft und genehmigt wurde. Alle Vorgänge werden wie in einem herkömmlichen Datenerfassungssystem protokolliert und sind somit nachvollziehbar.

Wir sind überzeugt, dass die Kombination von Aktionsprotokollen mit menschlicher Überwachung und Nachvollziehbarkeit wichtig ist, um das Risiko zu minimieren. So profitieren Sie weiterhin von der Geschwindigkeit und Skalierbarkeit, die Agenten im realen Betrieb bieten.

Es gibt zunehmend Diskussionen darüber, ob KI-Agenten aufgrund ihrer intransparenten Entscheidungsfindung überhaupt versicherbar sind. Wie kann die Überprüfbarkeit und Nachvollziehbarkeit von Agenten-Workflows dazu beitragen, das „Black-Box“-Problem zu lösen und die Versicherbarkeit zu ermöglichen?

Das Problem der Intransparenz erschwert die Versicherbarkeit. Wenn nicht klar ersichtlich ist, was ein Vermittler getan hat, warum er es getan hat und welche Kontrollmechanismen vorhanden waren, ist es für alle Beteiligten, insbesondere für Versicherer, schwierig, das Risiko einzuschätzen.

Unser Ansatz ist im Wesentlichen eine Erweiterung des im vorherigen Beitrag beschriebenen Verantwortlichkeitsmodells. Wir unterteilen den Entscheidungsbereich und die Auswirkungen von Maßnahmen in kleinere Abschnitte, sodass das Modell keine einzige, undurchsichtige Entscheidung trifft, die den gesamten Betrieb beeinflussen kann. Jeder Schritt ist präziser, besser vorhersehbar und leichter zu bewerten.

Wir ergänzen dies um detaillierte Protokolle, Transparenz und menschliche Kontrolle. Bei besonders wichtigen und folgenreichen Entscheidungen setzen wir eine menschliche Kontrollinstanz ein, sodass der Bearbeiter erst nach Prüfung und Genehmigung fortfahren kann. Dadurch wird der tatsächliche Ablauf des Workflows deutlich besser nachvollziehbar.

Die Überprüfbarkeit und Reproduzierbarkeit von Arbeitsabläufen ist der letzte Schritt. Im Fehlerfall lässt sich der Ablauf reproduzieren, schnell untersuchen, Korrekturen validieren und nachweisen, wie oft eine menschliche Genehmigung erforderlich ist und wo die Sicherheitsvorkehrungen getroffen wurden. Im Versicherungswesen bedeutet das: mysteriöses KI-Verhalten hin zu etwas, das eher einem standardmäßigen operationellen Risiko entspricht.

Initiativen wie die Agentic AI Foundation zielen darauf ab, gemeinsame Standards für agentenbasierte Systeme zu schaffen. Was sehen Sie als die vielversprechendsten Aspekte dieser Bemühungen, und wo bestehen für den realen Unternehmenseinsatz noch Defizite?

Standardisierung ist im Allgemeinen eine gute Sache. Die AAIF kann die wenig glamouröse, aber unerlässliche Aufgabe übernehmen, dafür zu sorgen, dass Agentensysteme dieselbe Sprache sprechen. Dies sollte die Integration erleichtern und die Abhängigkeit von einzelnen Anbietern im Laufe der Zeit verringern.

Meine Bedenken betreffen die Frage, wessen Perspektive die Standards prägt. Wenn der Großteil der Arbeit von Modellentwicklern und schnell wachsenden Technologieunternehmen geleistet wird, besteht die Gefahr, dass die „Standards“ eher auf das optimiert werden, was am einfachsten zu entwickeln oder zu demonstrieren ist, als auf das, was große Organisationen tatsächlich benötigen, um Agenten im täglichen Betrieb sicher zu betreiben.

Im realen Unternehmensbetrieb liegen die Lücken weniger in den Schnittstellen selbst, sondern vielmehr in der Kontrolle: Worauf kann ein Agent zugreifen und was kann er ändern? Wie sind Genehmigungsprozesse für wichtige Aktionen geregelt? Wie sind die Protokolle revisionssicher? Und wie können Teams das Verhalten überwachen, Vorfälle untersuchen und die Einhaltung von Vorschriften nachweisen? Unternehmen benötigen außerdem praktische Standards für den Betrieb in einer komplexen Realität: Tests für Grenzfälle, Umgang mit sich ändernden Systemen und die Möglichkeit, Aktionen in bestehenden Systemen und regulierten Datenumgebungen sicher anzuhalten, einzudämmen oder rückgängig zu machen.

Es handelt sich also um eine vielversprechende Richtung, doch die Auswirkungen werden begrenzt sein, solange Unternehmensanforderungen und operative Risikokontrollen nicht vernachlässigt werden.

Kovant hat bereits beachtliche Umsätze mit großen nordischen Unternehmen erzielt, und das weitgehend im Verborgenen. Welche Geschäftsfunktionen oder Arbeitsabläufe eignen sich heute am besten für autonome KI-Agenten?

Aus unseren Beobachtungen bei realen Implementierungen geht hervor, dass die heute am besten geeigneten Arbeitsabläufe aus reaktiven Bürotätigkeiten bestehen: Überwachung, Nachverfolgung, Prüfung, Aktualisierung von Systemen, Umgang mit Ausnahmen und Aufrechterhaltung des Betriebs über mehrere Tools hinweg.

In der Fertigung und den umfassenderen Lieferketten von Unternehmen zeigt sich das in folgenden Bereichen:

• Beschaffung/Einkauf: Verfügbarkeit von Rohstoffen, nachhaltige Beschaffung, Compliance-Prozesse, Lieferantenauswahl (einschließlich Dual-/Multi-Sourcing), Vertragsmanagement, Lieferantenrisikomanagement und Ausschreibungs-/Angebotsmanagement.
• ProduktionKapazitätsplanung, Produktionsplanung, Instandhaltungsmanagement, Qualitätsmanagement, Engpassmanagement und Verlustprävention.
• Lagerung: Warenannahme und -prüfung, Bestandsverwaltung, Lagerumschlag (FIFO/FEFO) und Zykluszählung/Prüfung.
• Transport / Logistik: Auswahl von Transportmittel und Spediteur, Zollabfertigung/Dokumentation, Sendungsverfolgung und Transparenz, Emissionsüberwachung und Einhaltung von Handelsbestimmungen.
• Vertrieb und Service: Produktverfügbarkeit, Vermeidung von Fehlbeständen, Verkaufs-/Retourenmanagement, Analyse des Verbraucherverhaltens sowie After-Sales-Bereiche wie Reparaturen, Produktlebenszyklusverfolgung, Werkstattbetrieb und Serviceverträge.

Wenn Unternehmen KI-Agenten in kritischen Betriebsabläufen einsetzen, wie empfehlen Sie, Autonomie und menschliche Aufsicht in Einklang zu bringen, um die Kontrolle zu gewährleisten, ohne den gesamten Prozess zu verlangsamen?

Das Gleichgewicht beruht auf Autonomie. Agenten müssen bei risikoarmen Aufgaben innerhalb klarer Richtlinien schnell agieren können, und bei Überschreitung einer definierten Risikoschwelle muss die Verantwortung an menschliche Experten eskaliert werden.

Viele Fehler entstehen dadurch, dass dem Modell zu viel Umfang und zu viel Kontext auf einmal gegeben wird. Ich empfehle, Operationen in kleinere, klar definierte Entscheidungen zu unterteilen, wobei jeder Schritt eindeutige Berechtigungen und einen begrenzten Wirkungsbereich hat. Das reduziert unvorhersehbares Verhalten und erleichtert die Überwachung und Verbesserung der Leistung.

Dann kombiniert man drei Dinge: Beobachtbarkeit, Aktionsprotokolle und menschliche Kontrolle. Alle Aktionen des Agenten sollten nachvollziehbar sein, damit man den Vorfall schnell überprüfen und untersuchen kann. Bei Aktionen mit hohem Risiko oder kritischen Auswirkungen wird ein Genehmigungsschritt in den Workflow integriert. So kann der Agent die Aktion vorschlagen und vorbereiten, sie wird aber erst nach der Freigabe durch eine Person ausgeführt.

Das sorgt für einen zügigen Ablauf. Lediglich die menschliche Kontrolle verlangsamt den Prozess minimal, doch dieser Schritt ist ein wichtiger Bestandteil. Die Mitarbeiter überwachen nicht jeden Klick, behalten aber in den entscheidenden Momenten die Kontrolle. Das Ergebnis ist Geschwindigkeit, wo sie sicher ist, und Kontrolle, wo sie notwendig ist.

Mit Blick auf die Zukunft: Wie erwarten Sie, dass sich die Rolle autonomer KI-Agenten in großen Organisationen in den nächsten Jahren entwickeln wird, und was wird Unternehmen, die mit agentenbasierter KI erfolgreich sind, von denen unterscheiden, die damit Schwierigkeiten haben?

In den nächsten Jahren werden autonome KI-Agenten von interessanten Experimenten zu einer echten Betriebsschicht in großen Organisationen werden. Sie werden in den Bereichen Betrieb, Kundenservice, Finanzen und Personalwesen eingesetzt. Mit zunehmender Zuverlässigkeit, Governance und Überwachung werden Unternehmen von isolierten Pilotprojekten zu durchgängigen Agententeams übergehen, die durchgängige Arbeitsabläufe abdecken.

Die größte Veränderung besteht darin, dass Geschwindigkeit, Agilität, Skalierbarkeit, Effizienz und Kosten zu einem wesentlich direkteren Wettbewerbsfaktor werden. Ich denke, Unternehmen stehen vor einer ähnlichen Entwicklung wie bei Uber. Diejenigen, die agentenbasierte KI wirklich beherrschen, werden deutlich schneller agieren können als Nachzügler, Märkte schneller erobern und ohne die üblichen operativen Verzögerungen auf Veränderungen reagieren können.

Der entscheidende Faktor für den Erfolg ist nicht nur der Einsatz von Agenten, sondern deren erfolgreiche Implementierung. Gesteuerte Autonomie, umfassende Beobachtbarkeit und Aktionsprotokolle sowie Architekturen, die den Entscheidungsspielraum einschränken, sind hierfür unerlässlich. Unternehmen, die agentenbasierte KI als Kernkompetenz mit den richtigen Kontrollmechanismen, Integrationen und Verantwortlichkeiten einsetzen, werden damit mehr erreichen, nicht weniger. So können sich Teams auf Wachstum und Innovation konzentrieren, anstatt ihre Zeit mit administrativen Aufgaben zu verbringen. Kurz gesagt: Radikale Geschwindigkeit und Effizienz werden im Unternehmensmaßstab zu einem echten Wettbewerbsvorteil.

Vielen Dank für das tolle Interview, Leser, die mehr erfahren möchten, sollten vorbeischauen Kovant.