Raj Shukla, CTO von SymphonyAI – Interview-Serie

Raj Shukla leitet die Technologie-Roadmap und -Umsetzung von SymphonyAI und führt das Engineering-Team, das die Eureka-Gen-AI-Plattform entwickelt. Mit fast 20 Jahren Erfahrung in der AI/ML-Entwicklung und -Forschung verfügt Shukla auch über umfangreiche Erfahrung im Bereich Enterprise-AI-SaaS durch seine Führungsrollen bei Microsoft (MSFT ), wo seine erfolgreiche 14-jährige Karriere die Leitung globaler AI-Wissenschafts- und Engineering-Organisationen bei Azure, Dynamics 365, MSR und den Such- und Werbeabteilungen umfasste. Raj hat umfangreiche Erfahrung im Bereich AI/ML in den Bereichen Suche, Werbung und Enterprise-AI und hat mehrere erfolgreiche AI-SaaS-Produkte in den Bereichen Consumer und Business entwickelt.

SymphonyAI ist ein Unternehmen für Enterprise-AI, das sich auf die Entwicklung von branchenspezifischen AI-Anwendungen konzentriert, die sofortigen Geschäftswert liefern. Anstatt generische Modelle bereitzustellen, bietet es vertikale Lösungen für den Einzelhandel, den Verbrauchsgütersektor, die Finanzdienstleistungen, die Fertigung, die Medien und die IT, um Herausforderungen wie Prognosen, Betrugsprävention, operative Optimierung und Analytik zu meistern. Die Produkte des Unternehmens werden von der Eureka-AI-Plattform angetrieben, die prädiktive, generative und agentische Fähigkeiten in Workflows integriert, die auf jeden Sektor zugeschnitten sind. Gegründet im Jahr 2017, ist das Unternehmen zu einem globalen Marktführer im Bereich vertikale AI gewachsen und bedient Tausende von Unternehmen mit skalierbaren, branchenspezifischen Lösungen.

Sie haben an der Spitze der AI-Innovation bei Microsoft, Oracle (ORCL ) und jetzt SymphonyAI gearbeitet – was hat Sie ursprünglich in die Welt des Enterprise-AI gezogen, und wie hat sich Ihre Perspektive im Laufe der Jahre entwickelt?

Meine Reise in die Welt des Enterprise-AI begann mit der Überzeugung, dass Unternehmen AI-Systeme implementieren sollten, die reale Geschäftsprobleme lösen, und nicht nur AI für die AI selbst. Ich habe gesehen, dass generische, breit angelegte AI-Lösungen selten einen transformativen Wert liefern. Bei SymphonyAI haben wir unsere Unternehmensstrategie und -kultur auf die Entwicklung von AI-Systemen ausgerichtet, die spezifische Branchenherausforderungen verstehen, von der Finanzkriminalitätsbekämpfung bis hin zur Einzelhandelswarenverkaufsförderung und der industriellen Verbesserung der Arbeitsbedingungen. Die Unternehmensreife fügt eine weitere Dimension hinzu – erfolgreiche Enterprise-AI erfordert mehr als nur gute Technologie, es erfordert auch hervorragende Datenverwaltung und -architektur, sophisticatede cross-funktionale Zusammenarbeit und Workflows sowie vollständige Transparenz und Prüfbarkeit.

Welche spezifischen Schwächen weisen Unternehmen bei der Verwendung von generischen vorgefertigten Modellen auf, insbesondere in stark regulierten Branchen wie Finanzen oder Gesundheitswesen? 

Generische vorgefertigte Modelle sind nicht für die hochriskanten, stark regulierten Umgebungen von Finanzen, Gesundheitswesen und Lebensmittelhandel konzipiert. Generische, vorgefertigte Modelle stoßen auf kritische Barrieren, einschließlich des Bedarfs an wesentlicher Branchenexpertise, um Branchen-spezifische Nuancen zu berücksichtigen und strenge regulatorische und Compliance-Anforderungen zu erfüllen, die sich je nach geografischem Standort unterscheiden. Am wichtigsten ist, dass sie nicht die Genauigkeit und Prüfbarkeit liefern können, die Unternehmen benötigen, wo Fehler Verbraucher schaden oder regulatorische Verstöße auslösen könnten. Ob es darum geht, Anti-Geldwäsche-Regulierungen einzuhalten oder es einem Einzelhändler zu ermöglichen, schnell zurückgerufene Artikel aus den Verteilungszentren und Regalen zu entfernen, ist die vertikale AI-Technologie von SymphonyAI speziell für die Branchen entwickelt, in denen wir tätig sind, und wird auf diesen Branchen trainiert, um Entscheidungen zu treffen oder zu automatisieren, die direkt einen Geschäftswert schaffen.

Die Kombination von vorgefertigten Modellen mit tiefer Branchenlogik wird zunehmend als Schlüssel zum Freischalten des ROI von Unternehmen gesehen – was sind die wesentlichen Komponenten, wie Branchenwissen, KPI-Abstimmung und regulatorische Schutzmechanismen, die diesen Ansatz effektiv machen? 

Die Kombination von vorgefertigten Modellen mit tiefer Branchenlogik schafft Werte, indem sie AI-Systeme entwickelt, die den Geschäftskontext und die operativen Anforderungen verstehen. Dieser Ansatz ist erfolgreich, wenn Modelle mit Branchen-spezifischen Ontologien erweitert werden, mit Unternehmens-KPIs abgestimmt werden, um sicherzustellen, dass die Ausgaben direkt messbare Geschäftsziele dienen, und mit regulatorischen Schutzmechanismen ausgestattet sind, die notwendige Compliance-Rahmenbedingungen und Prüfungsnachweise bieten. Wenn diese Elemente zusammenarbeiten, verwandeln sich generische AI-Systeme in geschäftskritische Lösungen, die messbare Ergebnisse liefern, während sie die Zuverlässigkeit und Compliance aufrechterhalten, die Unternehmen benötigen.

IBM hat kürzlich Seek AI übernommen und Watsonx Labs in New York City eröffnet, was auf eine mögliche strategische Verschiebung im AI-Landschaft hinweist – was zeigt dies über die Zukunft von M&A und Investitionstrends im Bereich Enterprise-AI? 

IBMs Übernahme von Seek AI und die Eröffnung von Watsonx Labs ist eine Bestätigung der grundlegenden Verschiebung, die wir vorhergesehen haben: Die Enterprise-AI-Landschaft hat sich verschoben und signalisiert, dass die nächste Welle von M&A-Transaktionen Unternehmen mit vorgefertigten vertikalen AI-Modellen priorisieren wird, die tiefere Branchenexpertise, Governance und regulatorische Schutzmechanismen sowie outcome-orientierte KPIs mitbringen. Strategische Käufer wie IBM erkennen, dass AI-Systeme, die auf Unternehmensdaten ausgerichtet sind, sofortigen ROI liefern, wenn sie spezifische Branchen-Workflows verstehen. Der Markt konsolidiert sich um die Erkenntnis, dass allgemeine Intelligenz vertikale Spezialisierung benötigt, um Unternehmens-Transformationen zu ermöglichen.

Ab welchem Punkt entwickelt sich ein Grundmodell zu einem branchenspezifischen Agenten – welche architektonischen Meilensteine signalisieren diesen Übergang? 

Ein Grundmodell entwickelt sich nicht automatisch zu einem branchenspezifischen Agenten; es muss dazu entwickelt werden. Es gibt keinen direkten Weg, auf dem ein allgemeines Modell einfach “intelligenter” wird und zu einem Bank-Untersuchungsbeamten wird. Der Übergang findet nur statt, wenn Engineering-Teams aufhören, sich auf die Rohintelligenz des Modells zu verlassen, und stattdessen die reglementierte Architektur um das Modell herum aufbauen – insbesondere durch die Integration einer Kontextschicht (wie ein Wissensgraph) und einer Orchestrierungsschicht, um das Modell dazu zu bringen, einem Geschäftsprozess zu folgen und nicht seinen eigenen wahrscheinlichen Tendenzen.

Welche sind die Kernherausforderungen beim Aufbau von agentischen Workflows, die sowohl widerstandsfähig als auch branchenspezifisch sind, und wie geht SymphonyAI diese Herausforderungen an? 

Die Kernherausforderungen beim Aufbau von widerstandsfähigen, branchenspezifischen agentischen Workflows bestehen darin, die Zuverlässigkeit über komplexe, mehrstufige Prozesse aufrechtzuerhalten. SymphonyAI geht diese Herausforderungen durch seine mehrschichtige Architektur an, die Branchenexpertise direkt in den Agenten integriert, Fehlerbehandlung mit Wiederherstellungsmechanismen implementiert und eine persistente Kontextverwaltung über mehrere Sitzungen hinweg aufrechterhält. Dies ermöglicht es unseren Agenten, in hochriskanten, regulierten Umgebungen zuverlässig zu arbeiten, in denen Zuverlässigkeit die Aufrechterhaltung von Genauigkeit, Compliance und operativer Integrität bedeutet.

SymphonyAI betont robuste Datenfundamente, Wissensgraphen und Metadatenschichten – warum sind diese Fähigkeiten für branchenspezifische AI-Systeme kritisch, und warum haben viele Unternehmen Schwierigkeiten, sie umzusetzen? 

Robuste Datenfundamente und Wissensgraphen sind für branchenspezifische AI-Systeme von entscheidender Bedeutung, um sinnvolle Quellen bereitzustellen, kontextualisierte Empfehlungen zu geben und sich an Markt-, Kunden- und Prozessänderungen auf allen Ebenen des Unternehmens anzupassen. Viele Unternehmen haben Schwierigkeiten, diese Fähigkeiten umzusetzen, da sie erhebliche Vorabinvestitionen in die Datenarchitektur, spezialisierte Ontologie-Expertise und grundlegende Änderungen der bestehenden Datenpraktiken erfordern, die viele Organisationen als organisatorisch und technisch herausfordernd empfinden. Das ist der Bereich, in dem ein AI-Technologie-Partner mit tiefem Know-how und Erfahrung in diesem Bereich wertvoll ist, einschließlich seiner Fähigkeit, die AI auf umfangreichen Mengen an Branchendaten und -quellen zu trainieren.

In realen Szenarien – wie z.B. Finanzkriminalitätsbekämpfung oder Einzelhandelsprognosen – wie kombiniert SymphonyAI prädiktive, generative und agentische AI zu kohärenten “Fähigkeiten”?

SymphonyAI kombiniert prädiktive, generative und agentische AI, indem es integrierte Workflows erstellt, in denen jedes AI-Produkt ein spezifisches Geschäftsproblem löst. Bei der Finanzkriminalitätsbekämpfung identifizieren unsere prädiktiven Modelle verdächtige Transaktionsmuster, und generative AI erstellt detaillierte Untersuchungsberichte und Risikobewertungen. Gleichzeitig orchestriert die agentische AI den gesamten Workflow, indem sie Fälle automatisch eskaliert, mit Compliance-Teams koordiniert und Untersuchungsstrategien basierend auf Echtzeit-Ergebnissen anpasst.

Der Schlüssel liegt darin, dass diese nicht separate AI-Tools sind, sondern integrierte Fähigkeiten innerhalb von branchenspezifischen Agenten, die den Geschäftskontext verstehen, den Workflow-Zustand aufrechterhalten und nahtlos zwischen prädiktiver Analyse, Inhaltsgenerierung und autonomer Aktion wechseln können, um vollständige Geschäftsergebnisse zu liefern, anstatt fragmentierte AI-Ausgaben.

Sie haben gewarnt, dass viele Enterprise-AI-Systeme ohne Robustheit stolpern könnten – was sind die Schlüsselmerkmale eines gut entwickelten, fehlertoleranten Enterprise-AI-Systems? 

Ein gut entwickeltes, für die Prüfung entwickeltes Enterprise-AI-System benötigt mehrere kritische Merkmale. Obwohl viele Unternehmen schnell in AI-Systeme investieren und sie einsetzen, um Effizienz, Produktivität und Innovation zu steigern, unterschätzen sie oft die notwendigen Grundlagen für den Erfolg. Einige wichtige Aspekte, die gut entwickelte Systeme benötigen, um erfolgreich zu sein, sind:

• Enterprise-AI-Systeme arbeiten mit Unternehmensdaten, die oft in Silos gespeichert sind und keine ordnungsgemäße programatische Zugriffsmöglichkeit, Berechtigungen und Zugriffskontrollen haben. Systeme benötigen die gleichen Authentifizierungs- und Autorisierungsmechanismen wie Mitarbeiter.
• Systeme benötigen auch die Fähigkeit, sich von allen Arten von Unternehmenssystemausfällen, Netzwerkausfällen und flüchtigen Endpunkten zu erholen. Die Orchestrierungsschicht muss lang laufende, dauerhafte, fehlertolerante Workflows ermöglichen, was die meisten populären LLM-Orchestratoren nicht tun.
• LLM-Systeme werden nicht deterministisch sein und bei Aufgaben fehlschlagen. Fehlerbehandlung, Wiederholungen und optimale Pfadfindung müssen wichtige Merkmale von agentischen Systemen sein.

Für CTOs, die überlegen, ob sie vertikale AI-Plattformen intern aufbauen oder mit Nischenanbietern zusammenarbeiten sollten, was würden Sie raten? 

Das Aufbauen von Enterprise-AI-Lösungen über mehrere Branchen hinweg, einschließlich Einzelhandel/CPG, Industrie, Finanzdienstleistungen und mehr, erfordert die gleichzeitige Beherrschung von Spitzen-AI-Technologie und tiefer Branchenexpertise, um echten Wert aus Enterprise-AI-Lösungen zu schöpfen. Unsere Eureka-AI-Plattform zeigt, wie vertikale Datenquellen, Wissensgraphen, prädiktive Modelle und Agenten auf jede Branche zugeschnitten werden müssen, aber dies stellt Jahre von Forschungsinvestitionen und Kundeniterationen dar, die die meisten internen Teams nicht haben. Für Unternehmen und CTOs, die in AI investieren möchten, rate ich ihnen, Lösungen zu wählen, die von Anfang an echte Ergebnisse liefern. Vertikale AI-Lösungen liefern diese Ergebnisse und ermöglichen es den Nutzern, Daten zu erhalten, die sie dann verwenden können, um Geschäftswert zu schaffen.

Wenn Sie in die Zukunft blicken, wie stellen Sie sich die Architektur von Enterprise-AI-Systemen vor – werden federale, vertikale Agenten auf gemeinsamen Grundmodellen zur Norm werden?

Wir werden nicht nur “federale” Agenten sehen; wir werden reglementierte agentische Architekturen sehen. Während gemeinsame Grundmodelle den Vernunft-Motor liefern, sind sie im Wesentlichen Commodities. Die Norm für erfolgreiche Unternehmen wird darin bestehen, spezialisierte, vertikale Agenten zu deployen, die nicht nur “miteinander sprechen”, sondern auch streng durch eine gemeinsame Kontextschicht orchestriert werden. Wenn Sie nur “federale” Agenten auf Grundmodellen haben, erhalten Sie ein lautes, halluzinationsanfälliges System – was wir den “leaky pipe” von Enterprise-AI nennen. Um diese Architektur in der Produktion zu skalieren, benötigen Sie drei spezifische Schichten, die über die einfache Föderation hinausgehen:

• Kontext (Der Wissensgraph): Agenten benötigen eine gemeinsame Wahrheitsquelle, nicht nur Wahrscheinlichkeiten.
• Orchestrierung: Sie benötigen einen “Master-Architekten”, der entscheidet, wann ein spezialisierter Agent eingesetzt wird und wann ein Mensch in die Schleife einbezogen wird.
• Reglementierung: Die Ausgabe muss rechtlich und operativ sicher sein, bevor sie das System verlässt.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten SymphonyAI besuchen.