Interviews

Oran Moyal, Mitgründer und CTO von Ocean Security – Interviewreihe

Antoine Tardif
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Oran Moyal, Co-Founder and CTO of Ocean Security
Wichtige PunkteDer Status „AI-native“ ist organisatorisch und nicht technisch, weil er verändert, wie…
Mehr anzeigen
  • Der Status „AI-native“ ist organisatorisch und nicht technisch, weil er verändert, wie jedes Team Arbeit bearbeitet.
  • Die Beschleunigung einzelner Aufgaben scheitert, wenn Übergaben und Genehmigungen die eigentlichen Engpässe zwischen den Schritten bleiben.
  • Agenten benötigen durchgesetzte Berechtigungen und unabhängige Validierung, weil Anweisungen allein keine Sicherheitskontrollen sind.

Oran Moyal ist Mitgründer und CTO von Ocean Security. Dort entwickelt er agentische KI zur Untersuchung komplexer E-Mail-Bedrohungen. Sein beruflicher Hintergrund umfasst Cybersicherheitsforschung und -entwicklung, offensive Social-Engineering-Methoden und Unternehmenssicherheit. 2024 gründete er gemeinsam mit Shay Shwartz Ocean. Dabei bauten sie auf ihren Erfahrungen mit der Analyse auf, wie Angreifer vertrauenswürdige Kommunikation ausnutzen und wie Sicherheitssysteme auf immer gezieltere Bedrohungen reagieren können.

Ocean Security entwickelt eine agentische E-Mail-Sicherheitsplattform, die gezieltes Phishing, CEO-Betrug und Finanzbetrug untersuchen soll. Ihre spezialisierten KI-Agenten analysieren den Kommunikationskontext und die Absicht des Absenders, damit Sicherheitsteams Bedrohungen in scheinbar legitimer geschäftlicher Kommunikation erkennen können. In diesem Interview spricht Moyal darüber, was ein KI-natives Unternehmen ausmacht, wie sich Arbeitsabläufe auf Agenten ausrichten lassen und warum klare Anforderungen, unabhängige Validierung, durchgesetzte Berechtigungen und menschliches Urteilsvermögen für wirksame Automatisierung weiterhin zentral sind.

Bevor Sie 2024 Ocean mitgründeten, waren Sie mehrere Jahre in der Cybersicherheitsforschung und -entwicklung tätig, unter anderem bei den Israelischen Verteidigungsstreitkräften und bei VisibleRisk / Microsoft Security. Welche Erfahrungen haben Sie dazu bewogen, Ocean zu gründen, und wie hat das Aufkommen von KI Ihre ursprüngliche Vision für das Unternehmen beeinflusst?

Für eine gezielte Spear-Phishing-Kampagne brauchte man früher ein eigenes Team und wochenlange manuelle Recherche und Vorbereitung. Als generative KI aufkam, wurde uns klar, dass nun jeder Beschäftigte in jedem Unternehmen Ziel eines verheerenden Phishing-Angriffs auf dem Niveau staatlicher Akteure werden kann. Über Nacht verschaffte ein Abonnement für 20 US-Dollar jedem Angreifer Fähigkeiten auf dem Niveau staatlicher Akteure.

Shay und ich verfügen über umfassende Erfahrung mit Social Engineering aus der offensiven Perspektive, und wir haben beide Sicherheitsunternehmen für Großunternehmen aufgebaut und vergrößert. Deshalb wussten wir, dass herkömmliche Tools nicht mithalten konnten. Sie suchen nach Regelverstößen und Anomalien, doch diese Angriffe verbergen sich in der alltäglichen geschäftlichen Kommunikation: in echten E-Mail-Verläufen, über vertrauenswürdige Konten und mithilfe legitimer Dienste. Nichts wirkt ungewöhnlich. Deshalb gründeten wir 2024 Ocean, um Unternehmen mit KI-gestützter E-Mail-Sicherheit bei der Anpassung an diese neue Bedrohung zu unterstützen. Sie analysiert Kontext und Absicht des Absenders in Echtzeit – ähnlich wie ein menschlicher Ermittler –, bevor es zu einer Kompromittierung kommt.

Viele Unternehmen bezeichnen sich als „KI-nativ“, nur weil sie KI-Tools eingeführt oder bestimmte Prozesse automatisiert haben. Was unterscheidet Ihrer Ansicht nach ein wirklich KI-natives Unternehmen grundlegend von einem, das KI lediglich in seine bestehenden Abläufe integriert hat?

Viele Unternehmen nennen sich KI-nativ, weil sie KI-Tools gekauft haben. Das ist die Einführung neuer Technologien. KI-nativ zu sein verändert, wie ein Unternehmen seine tägliche Arbeit erledigt und Engpässe behebt.

Es beginnt damit, wie Führungskräfte auf einen Engpass reagieren. Der herkömmliche Reflex lautet: „Das dauert zu lange; stellen wir jemanden ein, der sich darum kümmert.“ Ein KI-natives Unternehmen fragt zuerst: „Wie kann KI diesen gesamten Aufgabenbereich beschleunigen?“ Wird diese Frage in jedem Team wiederholt, beginnt das ganze Unternehmen, anders zu arbeiten.

Ein echter Wandel hin zu einem KI-nativen Unternehmen ist organisatorischer, nicht technischer Art. Beschleunigt man eine Abteilung, verlagert sich der Engpass lediglich zur nächsten, und am Ende arbeitet das Unternehmen im Tempo seines langsamsten Bereichs. KI-native Unternehmen verändern sich gemeinsam. So fließen Informationen schneller, Feedbackschleifen werden kürzer und die Teams arbeiten als ein vernetztes System.

In diesem Modell verändert sich der Wert menschlicher Arbeit. Je mehr Aufgaben KI übernimmt, desto gefragter werden die Fähigkeiten, eine klare Richtung vorzugeben, Absichten zu definieren und Urteilsvermögen einzusetzen. Menschen und Agenten arbeiten Seite an Seite. KI übernimmt mehr von der Ausführung, während Menschen entscheiden, was sich zu entwickeln lohnt und warum.

Ziel ist, dass jedes Team mit denselben Ressourcen mehr leistet, schneller vorankommt und besser zusammenarbeitet – ohne Abstriche bei der Qualität.

Sie haben argumentiert, dass die Produktivitätsgewinne durch KI schnell wieder verloren gehen können, wenn die zugrunde liegenden Arbeitsabläufe ineffizient sind. Welche betrieblichen Engpässe hindern Unternehmen am häufigsten daran, den vollen Nutzen aus KI zu ziehen, und wie sollten Führungskräfte die Neugestaltung dieser Abläufe angehen?

Einzelne Aufgaben zu beschleunigen, macht nicht automatisch auch das Unternehmen schneller. Bleiben Prozesse, Abhängigkeiten und die Kommunikation zwischen Teams unverändert, geht unterwegs ein Großteil der Produktivitätsgewinne verloren, die KI ermöglicht.

Die häufigsten Engpässe sind nicht technischer Natur. Unklare Anforderungen führen zu wiederholter Nacharbeit, Übergaben zwischen Teams verzögern sich, und Aufgaben warten auf Freigaben. KI beschleunigt jeden einzelnen Schritt, doch zwischen den Schritten geht die gewonnene Zeit verloren.

Führungskräfte sollten zunächst messen, wofür tatsächlich Zeit aufgewendet wird, denn der wirkliche Engpass ist oft ein anderer als der, den alle vermuten. Anschließend sollten sie den gesamten Arbeitsablauf von Anfang bis Ende neu gestalten und dabei Übergaben, Definitionen und Feedbackschleifen verbessern, statt nur einzelne Aufgaben zu optimieren. Schließlich sollte jede KI-Initiative mit den KPIs verknüpft werden, für die die Teams bereits verantwortlich sind.

Am wichtigsten ist jedoch, dass Führungskräfte die Denkweise verändern. Automatisierung und Beschleunigung sollten zum Standard werden. Statt bestehende Prozesse einfach hinzunehmen, sollten Teams immer wieder hinterfragen, wie die Arbeit erledigt wird, damit sie schneller vorankommen und mehr bewirken können – ohne Abstriche bei der Qualität.

Einer der Grundsätze, die Sie betonen, ist, dass Anforderungen klar definiert sein müssen, bevor KI-Agenten in einen Arbeitsablauf eingebunden werden. Wie sollten Organisationen überdenken, wie sie Aufgaben definieren, Erwartungen kommunizieren und Erfolgskriterien festlegen, wenn KI-Agenten für die Ausführung erheblicher Teile der Arbeit verantwortlich sind?

Wenn KI-Agenten einen großen Teil der Arbeit erledigen, müssen Organisationen überdenken, wie sie Aufgaben definieren und kommunizieren. Eine vage Anfrage hält einen Agenten nicht auf. Er stellt Vermutungen an, und jede falsche Annahme führt zu zusätzlicher Nacharbeit.

Ich denke dabei an drei Ebenen:

Klare Aufgaben, Ziele und Kontext. Der Agent muss verstehen, was zu tun ist, warum es wichtig ist und in welchem Zusammenhang die Aufgabe steht. Bevor die Arbeit beginnt, sollte er bei Unklarheiten nachfragen können, damit Lücken gleich zu Beginn geschlossen werden und nicht erst auffallen, wenn die Arbeit schon zur Hälfte erledigt ist.

Selbstvalidierung. Die Erfolgskriterien sollten im Voraus so festgelegt werden, dass der Agent sie selbst überprüfen kann. In der Softwareentwicklung sollte ein Agent beispielsweise den Code ausführen, testen können, ob er wie vorgesehen funktioniert, und bestätigen, dass alle Tests bestanden werden, bevor ihn jemand überprüft.

Menschen als letzte Instanz. Die Menschen sollten ein Ergebnis erhalten, das der Agent anhand der vereinbarten Kriterien bereits in mehreren Durchläufen verfeinert hat. Ihre Aufgabe ist es, ihr Urteilsvermögen einzusetzen, nicht grundlegende Fehler zu beheben.

Je besser die Vorgaben definiert sind, desto weniger Zeit müssen Menschen für jedes Ergebnis aufwenden.

Sie sprechen sich dafür aus, KI-Agenten ihre Arbeit selbst überprüfen zu lassen, bevor sie menschlichen Prüfern vorgelegt wird. Wie sieht ein wirksamer KI-gestützter Validierungsprozess in der Praxis aus, und wie können Organisationen sicherstellen, dass automatisierte Qualitätsprüfungen nicht einfach dieselben Fehler verstärken, die bei der Ausführung gemacht wurden?

Ein wirksamer Validierungsprozess prüft die Arbeit so, wie sie tatsächlich eingesetzt wird. Der Agent sollte das reale System von Anfang bis Ende ausführen, bestätigen, dass das Ergebnis den Erfolgskriterien entspricht, und beheben, was fehlschlägt, bevor irgendetwas einer Person vorgelegt wird.

Damit bei der Validierung nicht dieselben Fehler wie bei der Arbeit des Agenten wiederholt werden, sind einige Grundsätze wichtig:

Kriterien und Ausführung voneinander trennen. Menschen sollten festlegen, woran Erfolg zu erkennen ist, bevor die Arbeit beginnt. Wenn ein Agent selbst bestimmt, was als „erledigt“ gilt, bewertet er seine eigene Arbeit.

Klare Leitplanken setzen. Nicht jede Prüfung sollte vom Urteilsvermögen eines Agenten abhängen. Manche Prüfungen müssen feste, deterministische Tests sein, die bestimmte Parameter, Standards und Richtlinien überprüfen. Sie geben dem Agenten klare Grenzen vor, die er nicht durch Schlussfolgerungen umgehen kann.

Eine unabhängige Prüfung einsetzen. Ein zweiter Agent, der mit einem frischen Blick und ohne Bindung an den ursprünglichen Ansatz an die Aufgabe herangeht, erkennt Fehler, die dem ersten entgangen sind.

Belege zeigen, nicht nur ein Urteil. Testergebnisse, Screenshots und Aufzeichnungen ermöglichen es den Menschen nachzuvollziehen, was passiert ist, anstatt einem „Bestanden“ einfach zu vertrauen.

Die Aufmerksamkeit der Menschen richtet sich dann auf die Bereiche mit dem höchsten Risiko. Es geht nicht darum, Menschen aus dem Prozess herauszunehmen. Vielmehr soll ihre Zeit dem Urteilsvermögen dienen und nicht mechanischen Prüfungen.

Traditionelle Organisationen verlassen sich oft auf mehrere Führungsebenen, Genehmigungen und Übergaben zwischen Teams. Wie verändert ein KI-natives Betriebsmodell die Zusammenarbeit zwischen Entwicklungs-, Produkt-, Sicherheits- und Geschäftsteams, und was geschieht mit den traditionellen Rollen und Verantwortlichkeiten, wenn Agenten immer mehr Aufgaben ausführen?

KI ermöglicht es jedem Menschen und jedem Team, mehr zu leisten. Wenn Übergaben, Genehmigungen und Abstimmungen jedoch unverändert bleiben, staut sich die zusätzliche Arbeit lediglich an und wartet auf den nächsten Schritt. Die Organisation wird dadurch nicht schneller. Stattdessen entstehen neue Engpässe. Ein KI-natives Betriebsmodell muss die Zusammenarbeit zwischen Teams neu gestalten und nicht nur die Arbeitsweise jedes einzelnen Teams.

Das beginnt damit, wie Informationen weitergegeben werden. Mehr davon sollte automatisiert fließen, damit Besprechungen Entscheidungen vorbehalten bleiben und nicht bloß dem Austausch von Neuigkeiten dienen. Wenn Erkenntnisse aus der Praxis direkt beim Produktteam ankommen, werden Entscheidungen schneller und präziser. Das wiederum führt zu klareren Definitionen und einer besseren Umsetzung.

Auch Genehmigungsprozesse müssen überdacht werden. Das ist der schwierigste Teil, denn dafür muss sich ändern, was die Organisation als normal betrachtet. Genehmigungen sind weiterhin wichtig, aber nicht jede Änderung sollte gleich behandelt werden. So kann etwa die Ergänzung einer Risikobewertung in einem bestimmten Genehmigungsprozess dazu beitragen, manuelle Genehmigungen bei Arbeiten mit geringem Risiko zu reduzieren und gleichzeitig dort eine menschliche Prüfung beizubehalten, wo sie entscheidend ist. Das ist nur eine Möglichkeit, einen Prozess zu beschleunigen, ohne die Kontrolle aufzugeben.

Auch die Rollen werden neu definiert. Wenn Agenten mehr Aufgaben ausführen, verlagert sich die Verantwortung der Menschen von einzelnen Aufgaben auf die Ergebnisse. Sie müssen den gesamten Kontext verstehen, Annahmen hinterfragen und über ihre bisherigen Zuständigkeitsgrenzen hinausgehen. Erfolgreich werden die Organisationen sein, die die Zusammenarbeit zwischen Menschen neu gestalten – nicht nur diejenigen, die am meisten KI einsetzen.

Ocean setzt selbst spezialisierte KI-Agenten ein, um komplexe E-Mail-Bedrohungen zu untersuchen. Wie hat Ihre Erfahrung mit der Entwicklung agentischer KI für die Cybersicherheit beeinflusst, wie Sie KI intern einsetzen, und lassen sich aus der Entwicklung autonomer Sicherheitssysteme Erkenntnisse für die Führung einer KI-nativen Organisation gewinnen?

Die Entwicklung autonomer Agenten für die E-Mail-Sicherheit hat unsere interne Nutzung von KI in zweierlei Hinsicht geprägt.

Die erste Erkenntnis: Agenten leisten nur so viel, wie ihr Verständnis des Kontexts zulässt. Ein Sicherheitsagent trifft bessere Entscheidungen, wenn er die Organisation versteht, die er schützt. Intern gilt dasselbe. Um mit Agenten gute Ergebnisse zu erzielen, müssen wir ihnen ein echtes Verständnis dafür vermitteln, wie die Organisation funktioniert, welchem Zweck die einzelnen Aufgaben dienen und wie sie mit dem Gesamtbild zusammenhängen.

Die zweite Erkenntnis: Agenten müssen kontinuierlich bewertet werden. Im Produktivbetrieb prüfen wir laufend, wie unsere Agenten arbeiten, wo sie scheitern und welche Tools oder Daten ihnen fehlen. Intern gehen wir genauso vor. Wir brauchen einen eigens dafür vorgesehenen Ort, an dem wir Agenten testen, trainieren und Feedback zu ihnen einholen können. Ohne einen solchen Ort lässt sich nur schwer feststellen, ob sich ein Agent verbessert oder was er als Nächstes braucht.

Eine KI-native Organisation zu führen, ähnelt stark dem Aufbau eines autonomen Sicherheitssystems: Agenten umfassenden Kontext geben, ihre Leistung kontinuierlich bewerten und Menschen dort einbeziehen, wo Urteilsvermögen gefragt ist.

Wenn Unternehmen KI-Agenten mehr Autonomie einräumen, kommen Bedenken hinsichtlich der Verantwortlichkeit, der Sicherheit und unbeabsichtigter Folgen auf. Wie sollten Unternehmen angesichts Ihres beruflichen Hintergrunds im Bereich Cybersicherheit Leitplanken schaffen, die Agenten eigenständiges Arbeiten ermöglichen, ohne die Sicherheit zu gefährden oder eine wirksame menschliche Aufsicht zu verlieren?

Autonomie ist die Richtung, in die sich Agenten entwickeln, und Unternehmen sollten sich schrittweise dorthin bewegen. Beginnen Sie dort, wo die Auswirkungen gut abzuschätzen sind, weisen Sie den Nutzen nach und weiten Sie den Einsatz dann aus.

Echte Leitplanken sind keine Anweisungen. Einem Agenten zu sagen: „Tu das nicht“, ist keine Sicherheitsmaßnahme. Leitplanken müssen durchgesetzt werden: mit strikten Beschränkungen dessen, worauf der Agent zugreifen kann, mit Prüfungen, die sicherstellen, dass er nichts außerhalb seines Zuständigkeitsbereichs erreichen kann, und mit kontinuierlicher Überwachung, die nicht vorgesehene Aktionen verhindert. Wie jeder andere Teil des Systems sollten auch sie regelmäßig getestet und validiert werden.

Verantwortlichkeit beginnt bei der betreibenden Person. Wer einen Agenten betreibt, legt dessen Grenzen fest: was er selbstständig tun darf, wofür eine Genehmigung erforderlich ist und wohin er nicht gelangen kann. Nehmen wir einen Agenten, der auf E-Mail-Bedrohungen reagiert. Er kann verdächtige Nachrichten selbstständig, schnell und zuverlässig unter Quarantäne stellen. Bei Aktionen mit größerer Tragweite, etwa wenn ein Absender in der gesamten Organisation blockiert werden soll, kann die betreibende Person zunächst eine Prüfung vorsehen. Mit wachsender Erfolgsbilanz des Agenten lassen sich diese Grenzen mit Zuversicht erweitern. Klare Leitplanken machen größere Autonomie erst möglich.

Das ist umso wichtiger, als Angreifer zunehmend KI-Agenten ins Visier nehmen. Das Unternehmen will schneller vorankommen, doch den Sicherheitsteams fehlt nach wie vor ein klarer Leitfaden zum Schutz von Agenten. Deshalb müssen durchgesetzte Berechtigungen und eine kontinuierliche Überwachung die Grundlage bilden.

Viele Unternehmen messen die Einführung von KI anhand der eingesparten Zeit, der automatisierten Aufgaben oder der Produktivität ihrer Beschäftigten. Welche Kennzahlen zeigen Ihrer Ansicht nach tatsächlich, ob ein KI-natives Betriebsmodell nachhaltigen geschäftlichen Mehrwert schafft – insbesondere, wenn Nacharbeiten, Qualität und Koordinationsaufwand berücksichtigt werden?

Die eingesparte Zeit ist eine wichtige Kennzahl und oft das erste deutliche Zeichen dafür, dass KI einen Mehrwert schafft. Ihre volle Wirkung zeigt sich jedoch erst im Zusammenspiel mit Kennzahlen, die erfassen, was die Organisation mit dieser Zeit anfängt und ob die erzielten Vorteile langfristig Bestand haben.

Qualität. Schneller ist nur dann besser, wenn die Qualität gleich bleibt oder steigt. Erfassen Sie Nacharbeiten, Mängel und wie oft Ergebnisse nach ihrer Auslieferung korrigiert werden müssen. Verbessern sich Geschwindigkeit und Qualität zugleich, sind die Vorteile real und nachhaltig.

Geschäftsausbau. Der tatsächliche Wert einer KI-nativen Organisation zeigt sich darin, was die eingesparte Zeit ermöglicht. Wir messen, wie viele neue Fähigkeiten und Initiativen wir aufbauen und umsetzen, ohne den Personalbestand zu erhöhen.

Geschwindigkeit von Anfang bis Ende. Wie lange ein Agent für die Entwicklung eines Features braucht, ist nur ein Teil des Gesamtbilds. Entscheidend ist der gesamte Prozess einschließlich jeder Übergabe – vom Entschluss, etwas zu priorisieren, bis zu dem Zeitpunkt, an dem es im Produkt verfügbar ist. Daran erkennen wir, wie schnell wir tatsächlich arbeiten und welcher Koordinationsaufwand in Kennzahlen auf Aufgabenebene unberücksichtigt bleibt. Im Sicherheitsbereich ist die Geschwindigkeit von Anfang bis Ende entscheidend. Angreifer setzen bereits KI-Agenten ein, daher muss die Zeit bis zur Erkennung und Abwehr einer Bedrohung immer kürzer werden.

Die eingesparte Zeit zeigt, dass KI funktioniert. Diese Kennzahlen zeigen, ob sie einen nachhaltigen Mehrwert für das Unternehmen schafft.

Sie haben darauf hingewiesen, dass kleinere, agilere Technologieunternehmen einen erheblichen Wettbewerbsvorteil erzielen können, wenn sie ihre Abläufe auf KI ausrichten. Welche Vorteile haben KI-native Start-ups gegenüber etablierten Marktteilnehmern, und wie wird sich Ihrer Ansicht nach die Struktur erfolgreicher Technologieunternehmen in den nächsten drei bis fünf Jahren entwickeln?

KI-native Start-ups haben einen strukturellen Vorteil. Sie können Arbeitsabläufe, Technologien und Teams von Anfang an auf KI-Agenten ausrichten, während etablierte Unternehmen mit jahrzehntealter Infrastruktur und komplexen Organisationsstrukturen zurechtkommen müssen. Der größere Abstand ist nicht technischer Natur. Alle haben Zugang zu denselben KI-Tools. Im Vorteil sind Unternehmen, die ihre Arbeitsweise neu gestalten können, ohne zuvor erst Genehmigungsebenen, Übergaben und starre Rollen aufbrechen zu müssen.

In den nächsten drei bis fünf Jahren werden erfolgreiche Technologieunternehmen meiner Meinung nach über die grundlegende KI-Automatisierung hinausgehen und auf agentische Betriebsmodelle setzen, in denen spezialisierte KI-Agenten ganze Arbeitsabläufe ausführen. Menschliche Teams werden nicht verschwinden, aber die Menschen werden weniger Zeit damit verbringen, Aufgaben von Hand zu erledigen, und mehr Zeit darauf verwenden, Kontext bereitzustellen, Leitplanken festzulegen und Ergebnisse zu steuern. Das Ergebnis werden schlankere Unternehmen sein, die schneller wachsen, effizienter arbeiten und mit Unternehmen konkurrieren können, die um ein Vielfaches größer sind.

Vielen Dank für das großartige Interview. Leserinnen und Leser, die mehr über agentische E-Mail-Sicherheit erfahren möchten, sollten Ocean Security besuchen.

Antoine ist eine visionäre Führungspersönlichkeit und Gründungspartner von Unite.AI. Ihn treibt eine unerschütterliche Leidenschaft an, die Zukunft von KI und Robotik zu gestalten und voranzubringen. Als Serienunternehmer ist er überzeugt, dass KI die Gesellschaft ebenso grundlegend verändern wird wie die Elektrizität. Er spricht häufig begeistert über das Potenzial bahnbrechender Technologien und künstlicher allgemeiner Intelligenz (AGI).

Als Futurist widmet er sich der Frage, wie diese Innovationen unsere Welt prägen werden. Darüber hinaus ist er Gründer von Securities.io, einer Plattform mit Schwerpunkt auf Investitionen in Spitzentechnologien, die die Zukunft neu definieren und ganze Branchen umgestalten.