Manuel Romero, Mitgründer und Chief Scientific Officer bei Maisa – Interview-Serie

Manuel Romero, Mitgründer und Chief Scientific Officer bei Maisa, ist ein AI-Forscher und -Ingenieur, der sich auf die Entwicklung zuverlässiger, unternehmensreifer künstlicher Intelligenz-Systeme konzentriert. Er gründete Maisa 2024, um verantwortungsvolle KI zu schaffen, die komplexe Geschäftsprozesse mit Transparenz und Kontrolle ausführen kann. Vor Maisa hatte Romero leitende Positionen im Bereich KI-Engineering und maschinellem Lernen bei Unternehmen wie Clibrain und Narrativa inne, wo er sich auf die Verarbeitung natürlicher Sprache und große KI-Systeme spezialisierte. Zu Beginn seiner Karriere arbeitete er als Full-Stack-Software-Entwickler und DevOps-Spezialist, bevor er in die fortschrittliche KI-Forschung und -Entwicklung wechselte und ein aktiver Beitragender zum Open-Source-KI-Ökosystem wurde.

Maisa AI entwickelt autonome “digitale Arbeitskräfte”, KI-Agenten, die darauf ausgelegt sind, komplexe Unternehmensworkflows zu automatisieren und dabei Nachvollziehbarkeit, Governance und Zuverlässigkeit zu gewährleisten. Die Plattform ermöglicht es Organisationen, KI-Agenten mit natürlicher Sprache zu erstellen und zu bereitstellen, wodurch die Automatisierung über interne Systeme und Datenquellen hinweg möglich wird, ohne dass umfangreiche Codierungen erforderlich sind. Durch die Konzentration auf überprüfbare Argumentation und strukturierte Ausführung zielt Maisa darauf ab, die häufigen Einschränkungen von generativen KI-Systemen zu überwinden und Unternehmen dabei zu helfen, autonome KI sicher und zuverlässig im großen Maßstab einzusetzen.

Sie haben sich oft auf das Verständnis des tieferen “Warum” hinter KI-Systemen konzentriert. Was hat Sie von einem technischen Standpunkt aus dazu bewogen, Maisa 2024 zu gründen, und welche Lücke in der Unternehmens-KI-Architektur glaubten Sie, dass nicht angegangen wurde?

Die Motivation, Maisa zu gründen, kam aus der Erkenntnis, dass die meisten Unternehmens-KI-Stacks um Modelle und nicht um Systeme herum aufgebaut waren.

Während des Booms der generativen KI konzentrierten sich viele Unternehmen darauf, große Sprachmodelle in bestehende Workflows zu integrieren. Diese Systeme waren jedoch oft fragil, undurchsichtig und schwierig zu betreiben, wenn es um die Skalierung ging. Ihnen fehlte:

• bestimmte Ausführung, wo es wichtig war.
• starke Beobachtbarkeit, Nachvollziehbarkeit
• Reproduzierbarkeit

Die Lücke, die wir sahen, war das Fehlen einer wahren KI-Infrastruktur für Unternehmen. Unternehmen bauten Anwendungen um LLM-APIs herum, aber ihnen fehlte etwas Äquivalentes zu einer Computerarchitektur für Wissensarbeit.

Maisa wurde gegründet, um diese Lücke zu schließen, indem es eine Architektur entwarf, die auf der Knowledge Processing Unit (KPU) basiert, einem System, das es der KI ermöglicht, zuverlässig innerhalb realer Unternehmensworkflows zu arbeiten.

Sie haben in fortgeschrittener natürlicher Sprachverarbeitung und generativen Systemen gearbeitet, bevor Sie Maisa gründeten. Wie haben diese Erfahrungen die architektonischen Entscheidungen hinter der Plattform beeinflusst?

Meine Erfahrungen in der NLP und NLG, insbesondere bei der Schulung und Vor-Schulung von Sprachmodellen und später großen Sprachmodellen (hunderte davon), machten mir sehr klar, dass ich, als ich versuchte, reale Systeme darauf aufzubauen, die Transformer-Architektur extrem leistungsfähig ist, aber mit mindestens drei grundlegenden Einschränkungen verbunden ist, die angegangen werden müssen, um sie zuverlässig in der Produktion zu verwenden.

Die erste Einschränkung ist die Halluzination. Diese Modelle generieren Text probabilistisch und können Ausgaben produzieren, die korrekt klingen, aber nicht auf verifizierten Informationen basieren.

Die zweite Einschränkung ist die Kontextbegrenzung. Selbst mit größeren Kontextfenstern operieren Modelle innerhalb eines begrenzten Token-Raums, was es schwierig macht, über große oder komplexe Wissenskörper nachzudenken.

Die dritte Einschränkung ist die Aktualität der Informationen. Vorgebildete Modelle repräsentieren einen Wissensstand zum Zeitpunkt der Schulung, während Unternehmensumgebungen Systeme erfordern, die über ständig wechselnde Informationen nachdenken können.

Die Anerkennung dieser Einschränkungen hat viele der architektonischen Entscheidungen hinter Maisa geprägt. Anstatt sich ausschließlich auf das Modell zu verlassen, konzentrierten wir uns auf den Bau eines Systems, das strukturierten Zugang zu Wissen, Validierungsmechanismen und kontrollierte Ausführung bietet, damit KI zuverlässig in realen Unternehmensworkflows arbeiten kann.

Viele Unternehmen experimentieren mit generativer KI, aber sie haben Schwierigkeiten, über Pilotprojekte hinauszukommen. Aus Sicht der Systemgestaltung, was ist der Kerngrund, warum die Skalierung in so vielen Organisationen fehlschlägt?

Viele Unternehmen haben Schwierigkeiten, über generative KI-Pilotprojekte hinauszukommen, weil die meisten Bereitstellungen als Experimente und nicht als robuste Systeme aufgebaut sind. Frühe Prototypen verlassen sich oft auf Prompt-Engineering, leichte Orchestrierung und einfache Abrufpipelines, die Wert demonstrieren können, aber nicht die Zuverlässigkeit, Beobachtbarkeit oder Kontrolle bieten, die für Produktionsumgebungen erforderlich sind. Wenn Organisationen versuchen, diese Systeme zu skalieren, stoßen sie auf Probleme wie inkonsistente Ausgaben, mangelnde Nachvollziehbarkeit, Schwierigkeiten bei der Integration in Unternehmensworkflows und begrenzte Governance über das Verhalten der KI. Im Kern liegt das Problem darin, dass große Sprachmodelle probabilistische Generatoren sind, während Unternehmensprozesse vorhersehbares und überprüfbares Verhalten erfordern. Ohne eine Architektur, die Struktur um die Argumentation, Validierung, Ausführung und Überwachung hinzufügt, bleiben generative KI-Systeme schwierig zu skalieren, wenn es über isolierte Anwendungsfälle hinausgeht.

Maisas digitale Arbeitskräfte sind darauf ausgelegt, überprüfbar und strukturiert zu sein, anstatt rein probabilistisch. Was bedeutet das in praktischen Begriffen für Unternehmen, die KI für den Produktiveinsatz bewerten?

Wenn wir sagen, dass Maisas digitale Arbeitskräfte überprüfbar und strukturiert sind, anstatt rein probabilistisch, meinen wir, dass die KI in einem kontrollierten System arbeitet, in dem ihre Handlungen und Argumentation nachvollzogen und gesteuert werden können. Anstatt einem Modell zu erlauben, freiwillig Ausgaben und Entscheidungen zu generieren, strukturiert das System, wie die KI mit Daten, Tools und Workflows interagiert. Jeder Schritt im Prozess kann protokolliert, überprüft und validiert werden, und Aktionen werden durch definierte Schnittstellen und nicht direkt aus Modellausgaben ausgeführt. Für Unternehmen bedeutet dies, dass KI-Systeme überwacht, überprüft und in kritische Prozesse mit größerer Zuversicht integriert werden können. Es verschiebt die KI von einem schwarzen Kasten-Assistenten zu einem System, dessen Verhalten verstanden, gesteuert und in Produktionsumgebungen vertrauenswürdig sein kann.

Als Architekt der Knowledge Processing Unit, wie unterscheidet sie sich von einer typischen Orchestrierungsebene oder Workflow-Engine, die um große Sprachmodelle herum aufgebaut ist?

Die Knowledge Processing Unit unterscheidet sich von typischen Orchestrierungsebenen, da sie darauf ausgelegt ist, den gesamten Lebenszyklus der KI-getriebenen Argumentation zu verwalten und nicht nur die Koordination von Prompts und Modellaufrufen. Die meisten Orchestrierungsframeworks agieren als Workflow-Manager, die Schritte wie Abruf, Prompting und Tool-Ausführung verketten. Die KPU arbeitet auf einer tieferen architektonischen Ebene, indem sie strukturiert, wie Wissen zugänglich gemacht, wie Argumentation durchgeführt und wie Aktionen innerhalb des Systems ausgeführt werden. Sie behandelt die Wissensverarbeitung als eine grundlegende Rechenebene, die Speicher, Validierung und kontrollierte Ausführung integriert, damit KI zuverlässig innerhalb komplexer Unternehmensworkflows arbeiten kann und nicht nur Antworten generiert.

In regulierten Branchen ist die Risikotoleranz gering. Welche spezifischen Designentscheidungen haben Sie getroffen, um sicherzustellen, dass KI-Ausgaben zuverlässig bleiben und keine Fehler über komplexe Workflows verbreiten?

In regulierten Branchen sind Zuverlässigkeit und Kontrolle essentiell, daher haben wir das System mit mehreren Sicherheitsvorkehrungen entworfen, um sicherzustellen, dass KI-Ausgaben vertrauenswürdig bleiben. Ein wichtiger Grundsatz ist die strukturierte Ausführung, bei der die KI nicht direkt kritische Aktionen auslösen kann, ohne durch kontrollierte Schnittstellen zu gehen. Wir haben auch Validierungsschichten integriert, die Modellausgaben gegen Schemata, Regeln oder sekundäre Mechanismen überprüfen, bevor sie akzeptiert werden. Darüber hinaus behält das System die volle Beobachtbarkeit bei, indem es Argumentationsschritte, Tool-Interaktionen und Entscheidungen aufzeichnet, damit sie nachvollzogen und überprüft werden können. Zusammen helfen diese Designentscheidungen, Fehler daran zu hindern, sich durch Workflows zu verbreiten, und ermöglichen es Organisationen, KI-Systeme mit dem erforderlichen Maß an Zuverlässigkeit und Governance zu betreiben.

Welche sind die überzeugendsten frühen Anwendungsfälle, in denen Sie gesehen haben, dass digitale Arbeitskräfte von der unterstützenden Hilfe zur vollständig operativen KI-getriebenen Ausführung übergehen?

Einige der überzeugendsten frühen Anwendungsfälle treten in wissensintensiven Workflows auf, bei denen Prozesse gut definiert sind, aber immer noch erhebliche Analyse und Entscheidungsfindung erfordern. In Bereichen wie Compliance-Überprüfung, technischer Support-Betrieb und internem Wissensmanagement können digitale Arbeitskräfte über die reine Assistenz hinausgehen und beginnen, strukturierte Aufgaben von Anfang bis Ende auszuführen. Sie können große Mengen an internen Informationen abrufen und analysieren, definierte Verfahren anwenden, mit Unternehmenssystemen über kontrollierte Tools interagieren und Ausgaben produzieren, die direkt in operative Workflows einfließen. Der Schlüssel liegt darin, dass die KI nicht nur Vorschläge generiert, sondern auch zuverlässig definierte Aktionen innerhalb eines gesteuerten Systems ausführen kann, was es Organisationen ermöglicht, Teile komplexer Wissensarbeit zu automatisieren, anstatt sie nur zu unterstützen.

Wie sehen Sie die Entwicklung der Kern-KI-Infrastruktur, um Compliance-Anforderungen zu erfüllen, ohne die Innovation zu behindern, wenn die regulatorische Überwachung von KI weltweit zunimmt?

Wenn die regulatorische Überwachung von KI zunimmt, glaube ich, dass wir uns von Architekturen entfernen werden, die einfach nur Modell-Provider-APIs aufrufen und das Ergebnis blind vertrauen. Unternehmen und Regulierungsbehörden werden zunehmend Systeme fordern, in denen das KI-Verhalten beobachtbar, überprüfbar und gesteuert ist. Hier werden Architekturen wie die Knowledge Processing Unit wichtig. Diese Art von Architektur ermöglicht es Organisationen, Kontrollen durchzusetzen, Entscheidungen nachzuvollziehen und sicherzustellen, dass KI-Ausgaben zuverlässig sind, bevor sie reale Prozesse beeinflussen. Mit der Zeit erwarte ich, dass diese Art von Systemen zur Standardgrundlage für vertrauenswürdige KI-Infrastruktur werden.

Sie haben über Ethik und Verantwortung gesprochen, neben Ihrer technischen Arbeit. Wie beeinflussen diese Perspektiven Ihre Herangehensweise an den Bau transparenter KI-Systeme?

Ethik und Verantwortung übersetzen sich für mich direkt in Systemdesign-Entscheidungen. Wenn KI-Systeme an realen operativen Workflows teilnehmen sollen, können sie nicht als undurchsichtige Black-Boxes funktionieren, deren Verhalten nicht überprüft oder verstanden werden kann. Diese Perspektive hat meine Herangehensweise an den Bau von KI-Systemen stark beeinflusst. Transparenz, Nachvollziehbarkeit und menschliche Aufsicht müssen von Anfang an in die Architektur eingebaut werden. Dies bedeutet, dass Argumentationsschritte beobachtbar, Entscheidungen überprüfbar und Aktionen durch kontrollierte Mechanismen ausgeführt werden. Wenn diese Prinzipien auf der Infrastrukturebene verankert sind, werden KI-Systeme nicht nur vertrauenswürdiger, sondern auch für Organisationen leichter verantwortungsvoll zu regieren.

Glauben Sie, dass agente KI-Infrastruktur so grundlegend werden kann wie Cloud-Infrastruktur in den letzten zehn Jahren – und was muss technisch passieren, damit dieser Wandel eintritt?

Ich glaube, dass agente KI-Infrastruktur das Potenzial hat, so grundlegend zu werden wie Cloud-Infrastruktur in den letzten zehn Jahren. Wenn Organisationen komplexe Wissensarbeit immer mehr automatisieren möchten, benötigen sie Systeme, die zuverlässig Argumentation, Speicher und Ausführung über viele Aufgaben und Datenquellen hinweg koordinieren können. Allerdings muss die zugrunde liegende Architektur über einfache Modellintegrationen hinausreifen. Wir benötigen Infrastruktur, die strukturierte Argumentation, zuverlässigen Zugang zu Unternehmenswissen, starke Beobachtbarkeit und kontrollierte Ausführung von Aktionen bietet. Wenn diese Fähigkeiten in das Kernsystem integriert sind, kann agente KI von experimentellen Tools zu verlässlicher Infrastruktur werden, auf die Unternehmen setzen, um kritische Operationen durchzuführen.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Maisa AI besuchen.