Rony Ohayon, CEO und Gründer von DeepKeep – Interview-Serie

Rony Ohayon, CEO und Gründer von DeepKeep, ist ein erfahrener Unternehmer und Technologe mit einer Karriere, die sich über künstliche Intelligenz, Cybersicherheit, autonome Systeme und groß angelegte Video-Technologien erstreckt. Er hat mehrere Unternehmen in diesen Bereichen gegründet und geleitet, darunter wichtige Rollen in der Konnektivität autonomer Fahrzeuge, der Live-Video-Übertragung und der fortschrittlichen Ingenieurwissenschaft, sowie frühere akademische Arbeiten im Bereich Computer-Engineering.

DeepKeep ist eine AI-Sicherheitsplattform, die Unternehmen dabei hilft, künstliche Intelligenz, generative künstliche Intelligenz, LLMs, Computer-Vision- und Multimodal-Systeme über ihren gesamten Lebenszyklus hinweg zu schützen. Das Unternehmen konzentriert sich auf die Identifizierung von Schwachstellen, die Blockierung von adversarialen Bedrohungen, die Verhinderung von Problemen wie Datenlecks und Prompt-Manipulation, die Unterstützung der Einhaltung von Vorschriften und die Bereitstellung kontinuierlicher Überwachung, um vertrauenswürdige, widerstandsfähige und geschützte AI-Implementierungen zu gewährleisten.

Sie haben wichtige Innovationen im Bereich der Video-Übertragung, der Konnektivität autonomer Fahrzeuge und der künstlichen Intelligenz vorangetrieben. Was in Ihrer eigenen Karriere hat Sie davon überzeugt, dass die nächste große Herausforderung, die Sie lösen mussten, die Sicherheit der Unternehmens-AI war?

Ich wurde immer von dem Wunsch getrieben, hochwirksame Herausforderungen anzugehen, die Branchen verändern. Im Laufe der Jahre bemerkte ich ein wiederkehrendes Muster, bei dem neue Technologien, insbesondere künstliche Intelligenz, oft die Sicherheitsmaßnahmen überholen und kritische Schwachstellen hinterlassen.

Die Einführung von künstlicher Intelligenz in Unternehmen, insbesondere mit dem Aufkommen von großen Sprachmodellen (LLMs) und agentenbasierter künstlicher Intelligenz, hat ein neues Risikofeld eröffnet, und Unternehmen fühlen sich oft überfordert und unvorbereitet, diese Systeme sicher und zuverlässig einzusetzen. Meine Erfahrung im Bereich künstliche Intelligenz hat mir gezeigt, wie wichtig es ist, Sicherheit in den Kern dieser Technologien zu integrieren, um sicherzustellen, dass sie nicht nur innovativ, sondern auch sicher und vertrauenswürdig sind und zuverlässige Ergebnisse liefern, um Unternehmen proaktiv zu unterstützen. Diese Erkenntnis führte zur Gründung von DeepKeep, mit dem Fokus auf die Sicherheit von AI-Systemen, damit Unternehmen künstliche Intelligenz nutzen können, um die Produktivität und das Geschäftswachstum zu steigern, ohne die Sicherheit oder Privatsphäre zu gefährden.

Als Sie und Ihr Mitgründer DeepKeep 2021 gründeten, welcher spezifische AI-Sicherheits-Blindpunkt überzeugte Sie davon, dass es einen dringenden Bedarf an einer dedizierten Plattform gab, und wie prägte diese Erkenntnis die frühe Richtung des Unternehmens?

Nach Jahren der Arbeit mit künstlicher Intelligenz im Bereich Computer-Vision, die erhebliche Anstrengungen erforderte, um sicherzustellen, dass sie zuverlässig und robust ist, wurde uns klar, dass es Zeit war, eine dedizierte Lösung zu entwickeln, um Vertrauen und Sicherheit in Computer-Vision-Systemen zu gewährleisten.

Im Jahr 2021, vor der Explosion von LLMs, starteten wir DeepKeep, um diese Risiken in Computer-Vision-Modellen zu bekämpfen.

Können Sie uns zurück zur frühesten Prototyp-Version führen – was sie tatsächlich tat, wie klein das Team war und wie Sie validierten, dass Sie auf dem richtigen Weg waren?

Als wir DeepKeep gründeten, lag der Fokus noch auf traditioneller künstlicher Intelligenz – Computer-Vision, tabellarische Modelle und frühe NLP – lange vor dem Aufkommen von großen Sprachmodellen. Unser erster Prototyp war ein System für Red-Teaming von Computer-Vision-Klassifizierern, um ihre Robustheit gegenüber adversarialen Angriffen zu testen. Nebenbei bauten wir eine frühe Version eines AI-Feuerwalls, der diese Angriffe in Echtzeit erkennen und markieren konnte.

Die ersten Anwendungsfälle kamen aus der Automobilindustrie, der Versicherungsbranche und den Finanzdienstleistungen, wo das Fehlverhalten von Modellen ein echtes operatives Risiko darstellt. Wir waren ein kleines Team von etwa acht Personen, was es uns ermöglichte, schnell zu iterieren und frühzeitig ein funktionierendes Prototyp-Modell zu erstellen.

Wir validierten, dass wir auf dem richtigen Weg waren, indem wir direkt mit potenziellen Kunden sprachen, die konsequent die Robustheit gegenüber adversarialen Angriffen als ein aufkommendes Problem hervorhoben. Gleichzeitig begannen Frameworks wie MITREs ATLAS – das erstmals 2021 veröffentlicht wurde – zu erscheinen, was ein wichtiges externes Signal dafür war, dass das Feld der AI-Sicherheit und der adversarialen Bedrohungsmodellierung wachsen würde. Die Übereinstimmung zwischen Kundenfeedback und Branchentrend gab uns die Gewissheit, dass wir in die richtige Richtung gingen.

DeepKeep wurde von Anfang an so konzipiert, dass es AI-Systeme und nicht traditionelle Software sichert. Wie priorisierten Sie, welche Modelltypen und Angriffsflächen Sie zuerst fokussieren sollten?

Von Beginn an wussten wir, dass die Sicherung von Unternehmens-AI eine Paradigmenverschiebung erfordert. Während viele Organisationen clever genug sind, um zu wissen, dass sie Penetrationstests und Bewertungen für die von ihnen verwendeten Modelle durchführen müssen, verstanden wir, dass diese Maßnahmen nur der Anfang sind.

Die echten Risiken entstehen innerhalb des gesamten Anwendungskosystems, nicht nur in den Modellen selbst. Während die Sicherung von eigenständigen AI-Chatbots mit traditionellem Red-Teaming der Ausgangspunkt der Branche war, bewegten wir uns schnell in Richtung der Entwicklung von Lösungen, die benutzerdefinierte AI-Anwendungen und AI-Agents sichern, und werden uns weiterentwickeln, um die nächste Stufe zu sichern, in der Agenten miteinander interagieren und es eine signifikante Cross-Domain-Intelligenz gibt.

Wir ermöglichen das Scannen von Modellen aller Arten, schützen aber auch vor den dringlichsten Bedrohungen wie adversarialen Angriffen, Datenlecks, Systemmissbrauch und Vertrauensverlust, indem wir die Modelle mit Red-Teaming testen und Schutzmechanismen anwenden, die AI-Prompts und -Antworten sichern.

Wesentlich ist auch, dass wir die “semantische Schicht” von AI sichern, indem wir den Kontext verstehen, in dem die Modelle operieren. Dies stellt sicher, dass Modelle nicht so leicht manipuliert werden können.

Welche waren die größten technischen oder strategischen Richtungsänderungen, die Sie zwischen der Gründungsphase und der aktuellen Produktionsrichtung von DeepKeep vorgenommen haben?

Eine der größten Entscheidungen, die wir getroffen haben, war, uns über die traditionelle Modellsicherheit hinaus in den Bereich der AI-Anwendungssicherheit zu bewegen. Zunächst konzentrierten wir uns auf die Sicherung einzelner Modelle, aber als die AI-Landschaft sich entwickelte, erkannten wir, dass die Sicherung ganzer AI-Ökosysteme, in denen multiple Modelle, Agenten und Anwendungsfälle interagieren, viel kritischer war. Dies führte uns dazu, unseren Ansatz zu erweitern, indem wir Red-Teaming, einen umfassenden AI-Feuerwall, der jeden Agenten-, Mitarbeiter- und Anwendungs-Interaktion mit AI schützt, und Laufzeit-Überwachung integrierten.

Eine weitere wichtige Entscheidung war, eine vollständige Flexibilität bei der Bereitstellung zu bieten, einschließlich cloudbasierter, on-premises- und luftgegappter Lösungen, die es Unternehmen ermöglichen, DeepKeep in jeder Umgebung sicher zu bereitstellen. Wir haben auch kürzlich eine aktualisierte, branchenführende Schutzsperre für personenbezogene Daten in unsere Plattform integriert, die unseren Kunden ein noch höheres Maß an Datenschutz bietet und es Unternehmen ermöglicht, globale Compliance-Anforderungen zu erfüllen, während sie ihre AI-Nutzung ausbauen.

DeepKeep legt gleich viel Wert auf Sicherheit und Vertrauenswürdigkeit. In welchem Stadium wurde diese doppelte Ausrichtung zum Kern der Unternehmensidentität?

Die Konzentration auf Sicherheit und Vertrauenswürdigkeit wurde frühzeitig deutlich, insbesondere als wir ein tieferes Verständnis unserer Kunden und ihrer Bedürfnisse entwickelten.

Wenn es um AI-Modelle geht, spielen Sicherheit und Vertrauen gleich wichtige Rollen, da beide zu schädlichen und destruktiven Ergebnissen führen können. Eine Anwendung kann nicht robust und gleichzeitig unzuverlässig sein, und umgekehrt.

Traditionelle Cybersicherheits-Tools wurden nicht für Prompt-Injektion, Halluzinationen, Datenlecks oder Modell-Manipulation konzipiert. Welche dieser aufkommenden Bedrohungsvektoren sahen Sie Unternehmen am meisten kämpfen, und wie beeinflussten diese realen Probleme die Architektur von DeepKeep?

Von den aufkommenden Bedrohungen sind Prompt-Injektion und Datenlecks die dringlichsten Bedenken, mit denen wir Unternehmen kämpfen sehen. Da AI-Anwendungen und AI-Agents immer mehr in Geschäftsprozesse integriert werden, steigen die Risiken von Prompt-Manipulation und dem unbeabsichtigten Auslassen sensibler Daten. Diese Probleme führten uns dazu, DeepKeep mit Fokus auf kontextuelle Sicherheit zu entwerfen, die nicht nur die Modelle, sondern den gesamten Daten- und Interaktionsfluss innerhalb von AI-Ökosystemen schützt. Unsere Infrastruktur wurde so konzipiert, dass sie diese Schichten in der Entwicklungsphase testet und während der Laufzeit durch die Sicherung jeder AI-Interaktion schützt.

Ihre Plattform kombiniert Schutzmechanismen, Red-Teaming und Datenschutz-Schichten. Aus technischer Sicht, welcher Aspekt hat sich als am schwierigsten zu bewerkstelligen auf Unternehmens-Ebene erwiesen, und was haben Sie gelernt, während Sie ein System aufbauten, das sich an die schnelle Entwicklung von AI-Modellen anpassen muss?

Jede Schicht – Schutzmechanismen, Red-Teaming und Datenschutz – bringt ihre eigenen ingenieurtechnischen Herausforderungen mit sich, aber wir fanden heraus, dass die Herausforderungen, die all diese Schichten gemeinsam haben, tatsächlich am schwierigsten waren.

Das erste ist der Tempo des Wandels: neue Risiken, Jailbreaks und Angriffstechniken entstehen ständig, sodass alles, was statisch ist, schnell veraltet. Das zweite ist die Kontextanpassung: im Unternehmen funktioniert ein “one-size-fits-all”-Ansatz einfach nicht, da jede Anwendung unterschiedliche Richtlinien, Daten-Sensibilitäten und Benutzerverhaltensweisen hat.

Um die erste Herausforderung zu meistern, bauten wir eine vollständig modulare Architektur mit plugin-ähnlichen Komponenten, die es uns ermöglichen, neue Angriffe schnell in den Red-Teaming-Engine oder neue Schutzmechanismen in den Feuerwall zu integrieren, ohne das System zu stören.

Und um die zweite Herausforderung zu lösen, entwarfen wir ein agiles, kontextbewusstes System. Es analysiert die Umgebung der Anwendung und passt automatisch die relevanten Sicherheitsmaßnahmen an – was essentiell ist, wenn die zugrunde liegenden AI-Modelle und Anwendungsfälle so schnell evolvieren.

Diese beiden Fähigkeiten, Modularität und Kontextbewusstsein, waren entscheidend, um auf Unternehmens-Ebene zu operieren und mit den schnellen AI-Systemen Schritt zu halten.

Die Sicherheit von künstlicher Intelligenz ist ein sich entwickelnder Bereich. Welche Lücken sehen Sie in Unternehmen heute – sei es in der Politik, der Tooling oder dem Risikoverständnis – die am direktesten die Gestaltung des Sicherheits-Stapels von DeepKeep und die Kunden-Onboarding beeinflussten?

Die Lücken variieren erheblich je nach Branche, Unternehmensgröße und Reife der AI-Einführung.

Eine der größten Lücken, die wir in großen Unternehmen heute sehen, ist das Fehlen einer einzigen Lösung, die alle AI-Sicherheitsbedürfnisse abdeckt. Viele dieser Unternehmen sind sich ihrer Notwendigkeit für AI-Sicherheitslösungen bewusst, aber mit zunehmender Einführung steigt auch die Anforderung an zusätzliche Sicherheitsabdeckung. Wir lernten früh, dass es einen Wert in einer robusten, end-to-end-Lösung gibt, die verschiedene Fähigkeiten in Tandem und mit nahtloser Integration bietet. Der Kunde profitiert von einer Lösung, bei der das Ganze mehr ist als die Summe seiner Teile.

Als der Markt gereift ist, identifizierten wir eine weitere Lücke, nämlich dass Organisationen nach maßgeschneiderten und weniger generischen Sicherheits-Tools suchen, um ihre Agenten und Anwendungen zu schützen. Einer der Gründe für unseren kontextbewussten Ansatz war, diese Lücke zu schließen, mit dem Verständnis, dass jede Anwendung und jeder Agent unterschiedlich ist und entsprechend gesichert werden muss.

Wenn wir in fünf Jahren vorausblicken, wie erwarten Sie, dass die Risiken von Unternehmens-AI sich entwickeln werden – und wo glauben Sie, dass DeepKeep positioniert sein muss, um dieser Zukunft voraus zu sein?

Ich erwarte, dass die größten AI-Risiken in den nächsten fünf Jahren mit den Fortschritten in der Autonomie von künstlicher Intelligenz Schritt halten werden. Wenn Agenten immer autonomer werden, in jeden Geschäftsprozess integriert sind und komplexe Aufgaben ausführen können, wird das Potenzial für Sicherheitsverletzungen und Missbrauch wachsen. Wir gehen davon aus, dass sich das “Internet der Agenten” (IoA) entwickeln wird, in dem Agenten miteinander interagieren und ein noch komplexeres Netz von AI-Interaktionen bilden, das gesichert werden muss.

Um voranzubleiben, wird DeepKeep seine Plattform weiterentwickeln, um diese zunehmend komplexen AI-Systeme zu sichern, und sicherstellen, dass wir Laufzeit-Schutz über mehrere AI-Modelle und die wachsende Tendenz zur AI-gesteuerten Entscheidungsfindung unterstützen. Unser Ziel ist es, der vertrauenswürdige Partner zu sein, auf den Unternehmen zählen, um ihr gesamtes AI-Ökosystem zu schützen, egal wie komplex es wird. Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten DeepKeep besuchen.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten DeepKeep besuchen.