Rony Ohayon, CEO en oprichter van DeepKeep – Interviewreeks

Rony Ohayon, CEO en oprichter van DeepKeep, is een ervaren ondernemer en technoloog met een carrière die zich uitstrekt over AI, cybersecurity, autonome systemen en grootschalige videotechnologieën. Hij heeft meerdere bedrijven opgericht en geleid in deze domeinen, waaronder belangrijke rollen in autonome voertuigconnectiviteit, live videouitzending en geavanceerde engineering, naast eerder academisch werk in computerengineering.

DeepKeep is een AI-beveiligingsplatform ontworpen om ondernemingen te helpen bij het beveiligen van AI, generatieve AI, LLM’s, computervisie en multimodale systemen gedurende hun hele levenscyclus. Het bedrijf richt zich op het identificeren van kwetsbaarheden, het blokkeren van vijandige bedreigingen, het voorkomen van problemen zoals gegevenslekkage en promptmanipulatie, het ondersteunen van regelgevingsconformiteit en het bieden van continue monitoring om betrouwbare, veerkrachtige en beveiligde AI-implementaties te garanderen.

U heeft belangrijke innovaties geleid op het gebied van videouitzending, autonome voertuigconnectiviteit en AI-systemen. Wat uit uw eigen carrière heeft u ervan overtuigd dat de volgende grote uitdaging die u moest oplossen het beveiligen van ondernemings-AI was?

Ik ben altijd gemotiveerd om grote impact te hebben en uitdagingen aan te pakken die industrieën herschikken. In de loop der jaren merkte ik een terugkerend patroon op waarbij nieuwe technologie, vooral AI, vaak de beveiligingsmaatregelen voorbij streefde, waardoor kritieke kwetsbaarheden achterbleven.

De adoptie van AI door ondernemingen, met name met de opkomst van grote taalmodellen (LLM’s) en agentische AI, opende een nieuwe frontier van risico’s, en bedrijven voelen zich vaak overweldigd en onvoorbereid om deze systemen veilig en vertrouwd te gebruiken. Mijn ervaring met AI-systemen benadrukte hoe essentieel het is om beveiliging te integreren in het hart van deze technologieën om ervoor te zorgen dat ze niet alleen innovatief zijn, maar ook veilig en betrouwbaar, en betrouwbare resultaten opleveren om bedrijven proactief te ondersteunen. Deze realisatie leidde tot de oprichting van DeepKeep, met als focus het beveiligen van AI-systemen, zodat bedrijven AI kunnen omarmen om productiviteit en bedrijfsgroei te stimuleren, zonder veiligheid of privacy te compromitteren.

Toen u en uw mede-oprichter DeepKeep in 2021 lanceerden, welk specifiek AI-beveiligingsblind vond u er een dringende behoefte aan een toegewijd platform, en hoe heeft die inzicht de vroegste richting van het bedrijf beïnvloed?

Na jarenlang werken met AI in computervisie, wat aanzienlijke inspanningen vereiste om ervoor te zorgen dat het betrouwbaar en robuust was, realiseerden we ons dat het tijd was om een toegewijd oplossing te ontwerpen om vertrouwen en beveiliging in computervisie te garanderen.

In 2021, vóór de explosie van LLM’s, lanceerden we DeepKeep om deze risico’s in computervisie-modellen aan te pakken.

Kunt u ons terugvoeren naar het vroegste prototype – wat het eigenlijk deed, hoe klein het team was en hoe u valideerde dat u op de juiste weg was?

Toen we DeepKeep oprichtten, lag de focus nog steeds op traditionele AI – computervisie, tabulaire modellen en vroege NLP – lang voordat de opkomst van grote taalmodellen. Ons eerste prototype was een systeem voor het testen van de robuustheid van computervisieclassificatoren tegen vijandige aanvallen. Naast dat bouwden we een vroege versie van een AI-firewall die deze aanvallen in real-time kon detecteren en markeren.

De eerste use cases kwamen uit de automotive, verzekeringen en financiële dienstverlening, waar modelmisgedrag reële operationele risico’s met zich meebrengt. We waren een klein team van ongeveer acht personen op dat moment, wat ons in staat stelde om snel te itereren en een functioneel prototype vroeg te produceren.

We valideerden dat we op de juiste weg waren door rechtstreeks met potentiële klanten te spreken, die consistent benadrukten dat robuustheid tegen vijandige aanvallen een opkomende zorg was. Rond dezelfde tijd begonnen kaders zoals MITRE’s ATLAS – voor het eerst uitgebracht in 2021 – te verschijnen, wat een belangrijk extern signaal was dat het veld van AI-beveiliging en vijandige bedreigingsmodellering op het punt stond te groeien. De alignering tussen klantfeedback en industrierichting gaf ons vertrouwen dat we de juiste kant op gingen.

DeepKeep was vanaf het begin ontworpen om AI-systemen te beveiligen in plaats van traditionele software. Hoe prioriteerde u welke modeltypen en aanvalsoppervlakken u eerst moest focussen?

Vanaf het begin wisten we dat het beveiligen van ondernemings-AI een paradigmaswitch vereiste. Terwijl veel organisaties slim genoeg zijn om te weten dat ze penetratietests en evaluaties voor de modellen die ze gebruiken moeten uitvoeren, begrepen we dat die acties alleen het begin zijn. De echte risico’s ontstaan binnen het volledige applicatie-ecosysteem, niet alleen de modellen zelf.

Dus terwijl het beveiligen van zelfstandige AI-chatbots met traditioneel rood teamen het startpunt van de industrie was, gingen we snel verder met het ontwikkelen van oplossingen die aangepaste AI-toepassingen en AI-agents beveiligen, en zullen evolueren om de volgende stap te beveiligen waarin agents met elkaar communiceren en er significante cross-domeinkennis is.

We maken modelscanning mogelijk over alle modeltypen, maar beschermen ook tegen de meest dringende bedreigingen zoals vijandige aanvallen, gegevenslekkage, systeemmisbruik en vertrouwenserosie door rood teamen van de modellen en het toepassen van beveiligingsmaatregelen die AI-prompts en -antwoorden beveiligen.

Cruciaal is dat we ook de “semantische laag” van AI beveiligen door de context te begrijpen waarin de modellen opereren. Dit zorgt ervoor dat modellen niet zo gemakkelijk gemanipuleerd kunnen worden.

Wat waren de grootste technische of strategische koerswijzigingen die u maakte tussen de oprichtingsfase en de huidige productrichting van DeepKeep?

Een van de grootste beslissingen die we namen was om uit te breiden van traditionele modelbeveiliging naar het domein van AI-toepassingsbeveiliging. Aanvankelijk richtten we ons op het beveiligen van individuele modellen, maar naarmate het AI-landschap evolueerde, realiseerden we ons dat het beveiligen van complete AI-ecosystemen, waar meerdere modellen, agents en use cases samenkomen, veel kritischer was. Dit leidde tot een bredere aanpak door het incorporeren van rood teamen, een uitgebreide AI-firewall om elke interactie tussen agents, medewerkers en toepassingen met AI te beschermen, en run-time monitoring.

Een andere belangrijke beslissing was om volledige implementatieflexibiliteit te bieden, inclusief cloud-agnostische, on-prem en air-gapped oplossingen, waardoor ondernemingen DeepKeep veilig kunnen implementeren in elke omgeving. We hebben onlangs ook een geüpgrade, industrieleidende persoonlijke gegevensbeveiligingsmaatregel geïntegreerd in ons platform, wat onze klanten een nog diepere niveau van gegevensbescherming biedt en ervoor zorgt dat ondernemingen wereldwijde conformiteitsvereisten kunnen naleven bij het opschalen van hun AI-gebruik.

DeepKeep legt evenveel nadruk op beveiliging en betrouwbaarheid. Op welk moment werd deze dubbele focus een kernaspect van de identiteit van het bedrijf?

De focus op zowel beveiliging als betrouwbaarheid werd duidelijk in een vroeg stadium, vooral toen we een dieper inzicht kregen in onze klanten en hun behoeften.

Bij het omgaan met AI-modellen gaan beveiliging en vertrouwen hand in hand en spelen ze even belangrijke rollen, omdat beide tot schadelijke en destructieve resultaten kunnen leiden. Een applicatie kan niet robuust en onbetrouwbaar zijn, en vice versa.

Traditionele cybersecuritytools waren niet ontworpen voor promptinjectie, hallucinaties, gegevenslekkage of modelmanipulatie. Welke van deze opkomende bedreigingsvectoren ziet u ondernemingen het meest worstelen, en hoe hebben die werkelijke problemen de architectuur van DeepKeep beïnvloed?

Van de opkomende bedreigingen zijn promptinjectie en gegevenslekkage de meest dringende zorgen die we zien bij ondernemingen. Naarmate AI-toepassingen en AI-agents meer geïntegreerd raken in bedrijfsprocessen, nemen de risico’s van promptmanipulatie en de onopzettelijke blootstelling van gevoelige gegevens toe. Deze problemen leidden ertoe dat we DeepKeep ontwierpen met een focus op contextuele beveiliging, waarbij niet alleen de modellen worden beschermd, maar het hele gegevens- en interactiestroom binnen AI-ecosystemen.

Uw platform combineert beveiligingsmaatregelen, rood teamen en gegevensbeschermingslagen. Vanuit technisch oogpunt, welke hiervan is het moeilijkst gebleken om te engineereren op ondernemingsniveau, en wat heeft u geleerd bij het bouwen van een systeem dat moet aanpassen aan snel evoluerende AI-modellen?

Elk van deze lagen – beveiligingsmaatregelen, rood teamen en gegevensbescherming – komt met zijn eigen technische uitdagingen, maar we ontdekten dat de uitdagingen die al deze lagen gemeen hebben, eigenlijk het moeilijkst waren.

De eerste is het tempo van verandering: nieuwe risico’s, jailbreaks en aanvalstechnieken ontstaan constant, dus alles wat statisch is, wordt snel verouderd. De tweede is contextadoptie: in het bedrijfsleven werkt een eenheidsworstbenadering eenvoudigweg niet, omdat elke applicatie andere beleidsregels, gevoeligheid van gegevens en gebruikersgedrag heeft.

Om de eerste uitdaging aan te pakken, bouwden we een volledig modulair ontwerp met componenten in de stijl van plugins, waardoor we snel nieuwe aanvallen aan het rood teamen konden toevoegen of nieuwe beveiligingsmaatregelen aan de firewall konden toevoegen, zonder het systeem te verstoren.

En om de tweede uitdaging op te lossen, ontwierpen we een agentisch, contextueel bewust systeem. Het analyseert de omgeving van de applicatie en past automatisch de relevante beveiligingsmaatregelen aan – wat essentieel is wanneer de onderliggende AI-modellen en use cases zo snel evolueren.

Die twee capaciteiten, modulariteit en contextuele bewustzijn, zijn cruciaal gebleken om op ondernemingsniveau te opereren, terwijl we gelijke tred houden met snel evoluerende AI-systemen.

AI-beveiliging is een evoluerend vakgebied. Welke hiaten ziet u binnen ondernemingen vandaag – of het nu gaat om beleid, tooling of risicobegrip – die het meest direct de manier hebben beïnvloed waarop u de beveiligingsstack van DeepKeep en de onboarding van klanten hebt ontworpen?

Hiaten variëren aanzienlijk afhankelijk van de industrie, bedrijfsgrootte en AI-adoptiematuriteit.

Een van de grootste hiaten die we zien in grote ondernemingen vandaag is het ontbreken van een enkele oplossing die alle AI-beveiligingsbehoeften dekt. Veel van deze bedrijven zijn zich ervan bewust dat ze AI-beveiligingsoplossingen nodig hebben, maar naarmate de adoptie toeneemt, neemt ook de behoefte aan aanvullende beveiligingsdekking toe. We leerden vroeg dat er waarde zit in een robuuste, end-to-end-oplossing die verschillende capaciteiten in tandem en met naadloze integratie omvat. Klanten profiteren van een oplossing waarbij het geheel meer is dan de som van de delen.

Toen de markt volwassener werd, identificeerden we een ander hiaat, namelijk dat organisaties meer op maat gemaakte en minder generieke beveiligingstools zoeken om hun agents en toepassingen te beveiligen. Een van de redenen achter onze contextuele aanpak was om dit hiaat aan te pakken, met het inzicht dat elke applicatie en agent uniek is en op maat beveiligd moet worden.

Als we vooruitkijken naar de komende vijf jaar, hoe verwacht u dat de risico’s voor ondernemings-AI zullen evolueren – en waar denkt u dat DeepKeep moet worden gepositioneerd om voorop te blijven lopen in die toekomst?

Ik verwacht dat de grootste AI-risico’s in de komende vijf jaar zullen evolueren samen met de vooruitgang in AI-autonomie. Naarmate agents meer autonoom worden, geïntegreerd in elke bedrijfsoperatie en in staat om complexe taken uit te voeren, zal het potentieel voor beveiligingsinbreuken en misbruik toenemen. We voorzien de ontwikkeling van een Internet of Agents (IoA), waarin agents met elkaar communiceren en een nog complexer web van AI-interacties vormen om te beveiligen.

Om voorop te blijven lopen, zal DeepKeep zijn platform blijven evolueren om deze steeds complexere AI-systemen te beveiligen, waardoor we run-time bescherming kunnen bieden over meerdere AI-modellen en de groeiende trend van AI-gedreven besluitvorming ondersteunen. Ons doel is om de vertrouwde partner te zijn die bedrijven vertrouwen om hun hele AI-ecosysteem te beveiligen, ongeacht hoe geavanceerd het wordt. Bedankt voor het geweldige interview, lezers die meer willen leren, moeten DeepKeep bezoeken.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten DeepKeep bezoeken.