ActionAI erhält 10 Millionen Dollar, um Verantwortlichkeit und Zuverlässigkeit in die Unternehmens-AI zu bringen

Die Adoption von künstlicher Intelligenz in Unternehmen hat sich rasant beschleunigt, aber die Skalierung über Pilotprojekte hinaus bleibt eine beständige Herausforderung. Ein wichtiger Grund dafür ist das Vertrauen. Während Mitarbeiter immer mehr AI-Tools in ihrer täglichen Arbeit verwenden, zögern Unternehmen, sich auf sie für Kernoperationen zu verlassen, bei denen Genauigkeit und Verantwortlichkeit entscheidend sind.

Diese Lücke will ActionAI schließen. Das Unternehmen hat eine Seed-Runde von 10 Millionen Dollar angekündigt, um eine Infrastruktur aufzubauen, die AI-Systeme zuverlässig genug für den Einsatz in Unternehmen macht.

Warum die Adoption von AI ins Stocken gerät

Trotz weit verbreiteter Experimente erreichen die meisten Unternehmens-AI-Initiativen nicht die Produktion. Interne Daten werden oft nicht überprüft, Ausgaben können inkonsistent sein und Fehler – insbesondere Halluzinationen – stellen ein reales operatives Risiko dar.

Studien zeigen, dass während die Mehrheit der Mitarbeiter nun AI-Tools bei der Arbeit verwendet, viele dies ohne Überprüfung der Genauigkeit tun. Gleichzeitig bleiben viele Unternehmens-AI-Anwendungsfälle im Pilotmodus stecken. Das Problem ist nicht mehr, ob AI leistungsfähig ist, sondern ob es vertrauenswürdig ist.

Dies ist besonders problematisch in Branchen wie Finanzen, Versicherungen, Gesundheitswesen und Logistik, wo Fehler regulatorische, finanzielle oder rechtliche Konsequenzen haben können.

Aufbau einer Zuverlässigkeitsschicht für AI

Der Ansatz von ActionAI besteht darin, Zuverlässigkeit als grundlegende Schicht und nicht als Nachgedanke zu behandeln. Die Plattform ist darauf ausgelegt, AI-Systeme über den gesamten Lebenszyklus hinweg – von den Trainingsdaten bis zur endgültigen Ausgabe – zu überwachen und zu bewerten.

Statt sich nur auf die Modellleistung zu konzentrieren, kartiert das System, wie Daten durch jede Stufe des AI-Stacks fließen. Dies ermöglicht es Teams, genau zu bestimmen, wo Fehler auftreten, ob auf der Eingabebene, während der Verarbeitung oder auf der Ausgabestufe.

Ein wichtiger Bestandteil der Plattform ist ihre Fähigkeit, Probleme in Echtzeit zu debuggen. Wenn etwas schiefgeht, können Teams die Ursache schnell isolieren und Randfälle ansprechen, bevor sie zu größeren Problemen eskalieren.

Einführung von Erklärbarer Ausnahmen

Eines der bemerkenswertesten Elemente der Plattform ist ein System namens Erklärbarer Ausnahmen (ExEx). Anstatt AI-Systeme zu zwingen, mit unsicheren Ausgaben zu handeln, erkennt ExEx, wenn das Modell nicht sicher ist, und leitet die Aufgabe an einen Menschen weiter.

Was diesen Ansatz bemerkenswert macht, ist, dass er nicht nur ein Problem kennzeichnet – er liefert auch eine Begründung. Menschliche Prüfer erhalten Kontext, der erklärt, warum das AI-System unsicher war, sodass sie schneller und fundiertere Entscheidungen treffen können.

Dies schafft einen strukturierten Mensch-im-Schleifensystem, das Operationen nicht verlangsamt, sondern als Sicherheitsmechanismus dient. Es stellt sicher, dass unsichere oder hochriskante Ausgaben nie unbemerkt durch das System passieren.

Von der Überwachung zur kontinuierlichen Kontrolle

Über die Bereitstellung hinaus überwacht die Plattform die AI-Leistung in der Produktion weiter. Sie verfolgt, wie Systeme auf neue Daten, sich ändernde Bedingungen oder aktualisierte Anweisungen reagieren.

Wenn die Leistung nachlässt oder Anomalien auftreten, kennzeichnet das System sie automatisch, sodass Organisationen die Konsistenz über die Zeit aufrechterhalten können. Dies ist besonders wichtig, da AI-Modelle degenerieren oder unvorhersehbar werden, wenn sie neuen Eingaben ausgesetzt sind.

Das Ziel ist, von statischen AI-Bereitstellungen zu kontinuierlich verwalteten Systemen überzugehen, die sich anpassen, ohne die Zuverlässigkeit zu opfern.

ActionAI konzentriert sich auf Branchen, in denen Präzision unverhandelbar ist. Dazu gehören Finanzdienstleistungen, Fertigung, Einzelhandel, Versicherungen, Lieferketten und Rechtssysteme.

In diesen Umgebungen können sogar kleine Fehler zu Kaskadenproblemen führen. Durch die Einführung von Aufsicht, Nachvollziehbarkeit und strukturierter Ausnahmehandhabung soll die Plattform AI in Kontexten, in denen sie traditionell als zu riskant angesehen wurde, gangbar machen.

Ein Schritt in Richtung verantwortungsvolle AI

Für die Gründerin Miriam Haart ist das Kernproblem nicht nur die Verbesserung der AI-Leistung, sondern die Schaffung von verantwortungsvollen Systemen von Anfang an.

Die Architektur des Unternehmens konzentriert sich auf die Validierung von Daten, bevor sie in das System eingegeben werden, die Überwachung des Verhaltens während der Ausführung und die Sicherstellung, dass Ausgaben erklärt und überprüft werden können. Diese umfassende Sichtbarkeit ermöglicht es Organisationen, über die Experimentierphase hinauszugehen und in die vollständige Bereitstellung zu gelangen.

Die umfassendere Implikation dieser Finanzierungsrunde ist eine Veränderung in der Art und Weise, wie Unternehmen über AI denken. Anstatt AI als Werkzeug zu betrachten, das auf bestehende Systeme aufgesetzt wird, beginnen Unternehmen, es als Kerninfrastruktur zu betrachten – etwas, das den gleichen Standards wie jedes kritische System entsprechen muss.

ActionAI positioniert sich an diesem Schnittpunkt, an dem die Leistung allein nicht mehr ausreicht. Zuverlässigkeit, Transparenz und Kontrolle werden zu den definierenden Anforderungen für die Adoption von AI in Unternehmen.

Wenn diese Elemente standardisiert werden können, kann AI möglicherweise endlich von isolierten Pilotprojekten zu vollständig integrierten Betrieben im gesamten Unternehmen wechseln.