Rony Ohayon, administrerende direktør og grundlægger af DeepKeep – Intervieuserie

Rony Ohayon, administrerende direktør og grundlægger af DeepKeep, er en erfaren iværksætter og teknolog med en karriere, der spænder over AI, cybersikkerhed, autonome systemer og storstilede video-teknologier. Han har grundlagt og ledet flere virksomheder inden for disse områder, herunder store roller i autonome køretøjsforbindelser, live-videooverførsel og avanceret ingeniørarbejde, samt tidligere akademisk arbejde inden for computeringeniørarbejde.

DeepKeep er en AI-sikkerhedsplatform, der er designet til at hjælpe virksomheder med at beskytte AI, generativ AI, LLM’er, computer-vision og multimodale systemer på tværs af deres hele livscyklus. Virksomheden fokuserer på at identificere sårbarheder, blokere fjendtlige trusler, forhindre problemer som data-lækage og prompt-manipulation, støtte regulativ overholdelse og give kontinuerlig overvågning for at sikre troværdige, robuste og beskyttede AI-udrulninger.

Du har ledt store innovationer inden for videooverførsel, autonome køretøjsforbindelser og AI-systemer. Hvad i din egen karriere overbeviste dig om, at den næste store udfordring, du skulle løse, var at sikre virksomheds-AI?

Jeg har altid været motiveret til at løse høj-impakt-udfordringer, der kan forme brancher. Over årene har jeg lagt mærke til en tilbagevendende mønster, hvor ny teknologi, især AI, ofte overhaler sikkerhedsforanstaltninger og efterlader kritiske sårbarheder.

Virksomhedernes overtagelse af AI, især med opkomsten af store sprogmodeller (LLM’er) og agente AI, åbnede op for en ny front af risici, og virksomheder føler ofte, at de er overvældede og uforberedte på at udnytte disse systemer sikkert og med tillid. Min erfaring med AI-systemer har understreget, hvor vigtigt det er at integrere sikkerhed i hjertet af disse teknologier for at sikre, at de ikke kun er innovative, men også sikre og troværdige, og producerer pålidelige resultater til at støtte virksomheder proaktivt. Denne erkendelse førte til grundlæggelsen af DeepKeep, med fokus på at sikre AI-systemer, så virksomheder kan med tillid omfavne AI til at øge produktiviteten og forretningsvæksten, uden at kompromittere med sikkerheden eller privatlivet.

Da du og din medstifter lancerede DeepKeep i 2021, hvilken specifik AI-sikkerheds-blindhed overbeviste dig om, at der var en presserende behov for en dedikeret platform, og hvordan formede den indsigt virksomhedens tidlige retning?

Efter årevis med at arbejde med AI inden for computer-vision, som krævede betydelige bestræbelser for at sikre, at det er pålideligt og robust, indså vi, at det var tid at designede en dedikeret løsning til at sikre tillid og sikkerhed i computer-vision.

I 2021, før LLM-eksplosionen, lancerede vi DeepKeep for at tackle disse risici i computer-vision-modeller.

Kan du føre os tilbage til den første prototype – hvad den faktisk gjorde, hvor lille holdet var, og hvordan I validerede, at I var på rette vej?

Da vi grundlagde DeepKeep, var fokus stadig på traditionel AI – computer-vision, tabel-modeller og tidlige NLP – lang tid før opkomsten af store sprogmodeller. Vores første prototype var et system til at teste computer-vision-klassificatorers robusthed mod fjendtlige angreb. Samtidig byggede vi en tidlig version af en AI-brandmur, der kunne detektere og markere disse angreb i realtid.

De første brugstilfælde kom fra bil-, forsikrings- og finansielle services, hvor model-misadfærd medfører reel operativ risiko. Vi var et lille hold på omkring otte personer på det tidspunkt, hvilket gjorde det muligt for os at iterere hurtigt og producere en fungerende prototype tidligt.

Vi validerede, at vi var på rette vej, ved at tale direkte med potentielle kunder, som konsekvent fremhævede fjendtlig robusthed som en opkomende bekymring. Omkring samme tid begyndte rammer som MITRE’s ATLAS – først udgivet i 2021 – at dukke op, hvilket var et vigtigt eksternt signal om, at feltet for AI-sikkerhed og fjendtlig trusselsmodellering var ved at vokse. Alignment mellem kunde-tilbagemeldinger og brancheretning gav os tillid til, at vi var på vej i den rigtige retning.

DeepKeep blev designet fra starten til at sikre AI-systemer i stedet for traditionel software. Hvordan prioriterede I, hvilke modeltyper og angrebsflader I skulle fokusere på først?

Fra starten vidste vi, at sikring af virksomheds-AI krævede en paradigm-skift. Mens mange organisationer er kloge nok til at vide, at de skal udføre penetrationstest og evaluering for de modeller, de bruger, forstod vi, at disse handlinger kun er begyndelsen.

De virkelige risici opstår inden for den fulde applikationsøkosystem, ikke kun modellerne selv.

Så mens sikring af selvstændige AI-chatbots med traditionel red-teaming var branchens startpunkt, bevægede vi os hurtigt videre til at udvikle løsninger, der sikrer brugerdefinerede AI-applikationer og AI-agenter, og vil udvikle sig til at sikre næste skridt, hvor agenter interagerer med hinanden og der er betydelig cross-domæne-intelligens.

Vi muliggør model-scanning på tværs af alle modeltyper, men beskytter også mod de mest presserende trusler som fjendtlige angreb, data-lækage, system-misbrug og tillids-erosion ved at teste modellerne og anvende sikringsforanstaltninger, der sikrer AI-prompts og -svar.

Vigtigt er, at vi også sikrer AI’s “semantiske lag” ved at forstå konteksten, i hvilken modellerne opererer. Dette sikrer, at modellerne ikke kan manipuleres så let.

Hvad var de største tekniske eller strategiske ændringer, I gjorde mellem grundlæggelsesfasen og DeepKeeps nuværende produktretning?

En af de største beslutninger, vi traf, var at udvide os beyond traditionel model-sikkerhed til AI-applikations-sikkerhed. Initialt fokuserede vi på at sikre enkelt-modeller, men da AI-landskabet udviklede sig, indså vi, at sikring af hele AI-økosystemer, hvor multiple modeller, agenter og brugstilfælde mødes, var langt mere kritisk. Dette førte os til at udvide vores tilgang ved at inkorporere red-teaming, en omfattende AI-brandmur til at beskytte hver interaktion mellem agenter, medarbejdere og applikationer med AI, og kørsel-overvågning.

En anden vigtig beslutning var at tilbyde fuld udviklingsflexibilitet, herunder cloud-agnostisk, on-prem og air-gapped-løsninger, der giver virksomheder mulighed for at sikre DeepKeep i enhver miljø. Vi har også for nylig integreret en opgraderet, brancheførende personligt identificerbar information-vagtpost i vores platform, som har givet vores kunder en endnu dybere niveau af dataprotektion og sikrer, at virksomheder kan opfylde globale overholdelseskrav, mens de udvider deres AI-brug.

DeepKeep lægger lige stor vægt på sikkerhed og troværdighed. På hvilket tidspunkt blev denne dobbelte fokus kerne til virksomhedens identitet?

Fokuset på både sikkerhed og troværdighed blev klart tidligt, især da vi begyndte at danne en dybere forståelse af vores kunder og deres behov.

Når det handler om AI-modeller, går sikkerhed og tillid hånd i hånd og spiller lige store roller, fordi begge kan føre til skadelige og destruktive resultater. En applikation kan ikke være robust og samtidig upålidelig, og vice versa.

Traditionelle cybersikkerhedsværktøjer var ikke designet til prompt-injektion, hallucinationer, data-lækage eller model-manipulation. Hvilken af disse opkomne trusselsvektorer så du, at virksomheder kæmpede mest med, og hvordan påvirkede disse virkelige problemer DeepKeeps arkitektur?

Af de opkomne trusler er prompt-injektion og data-lækage de mest presserende bekymringer, vi ser, at virksomheder kæmpende med. Da AI-applikationer og AI-agenter bliver mere integreret i forretningsprocesser, er risikerne for prompt-manipulation og utilsigtet eksponering af følsomme data mere udtalte. Disse problemer førte os til at designe DeepKeep med fokus på kontekstuel sikkerhed, beskyttelse ikke kun mod modellerne, men hele data- og interaktionsflowet inden for AI-økosystemer. Vores infrastruktur blev bygget til at pentest disse lag i udviklingsfasen og beskytte under kørsel ved at sikre hver AI-interaktion.

Dit platform kombinerer vagtposter, red-teaming og data-beskyttelseslag. Fra et teknisk synspunkt, hvilken af disse har vist sig at være mest vanskelig at udvikle på virksomhedsniveau, og hvad lærte du, mens du byggede et system, der skal tilpasse sig hurtigt udviklende AI-modeller?

Hver lag – vagtposter, red-teaming og data-beskyttelse – kommer med sine egne ingeniør-udfordringer, men vi fandt, at udfordringerne, alle disse lag har til fælles, var de mest vanskelige.

Det første er tempoet i udviklingen: nye risici, fængsler og angrebsteknikker opstår konstant, så noget statisk bliver forældet hurtigt. Det andet er kontekst-tilpasning: i virksomheder fungerer en en-size-fits-all-tilgang ikke, fordi hver applikation har forskellige politikker, data-følsomhed og brugeradfærd.

For at imødegå den første udfordring byggede vi en fuldt modulær arkitektur med plugin-lignende komponenter, der giver os mulighed for at tilføje nye angreb til red-teaming-motoren eller nye vagtposter til brandmuren hurtigt og uden at forstyrre systemet.

Og for at løse den anden udfordring designede vi et agenter-baseret, kontekst-bevidst system. Det analyserer applikationens miljø og tilpasser automatisk de relevante sikkerhedsforanstaltninger – hvilket er essentielt, når de underliggende AI-modeller og brugstilfælde udvikler sig så hurtigt.

Disse to kapaciteter, modulær og kontekst-bevidst, har været nøgle til at operere på virksomhedsniveau, mens vi holder trit med hurtigt udviklende AI-systemer.

AI-sikkerhed er en udviklende disciplin. Hvilke huller ser du inden for virksomheder i dag – enten i politik, værktøjer eller risikoforståelse – der formede, hvordan du designede DeepKeeps sikkerhedsstak og kunde-onboarding?

Hullerne varierer betydeligt afhængigt af industri, virksomhedsstørrelse og AI-udviklingsmoden.

En af de største huller, vi ser i store virksomheder i dag, er manglen på en enkelt løsning, der dækker alle AI-sikkerhedsbehov. Mange af disse virksomheder er bevidste om deres behov for AI-sikkerhedsløsninger, men da adoptionen øges, øges også behovet for yderligere sikkerhedsdækning. Vi lærte tidligt, at der er værdi i en robust, end-to-end-løsning, der inkluderer forskellige kapaciteter, der fungerer sammen og med sammenhængende integration. Kunderne nyder godt af en løsning, hvor helheden er større end summen af dens dele.

Da markedet modnedes, identificerede vi et andet hul, som er, at organisationer søger mere tilpassede og mindre generiske sikkerhedsværktøjer til at beskytte deres agenter og applikationer. En af årsagerne bag vores kontekst-bevidste tilgang var at tackle dette hul, med forståelsen for, at hver applikation og agent er forskellig og kræver en tilpasset sikring.

Hvis vi ser fem år frem, hvordan forventer du, at virksomheds-AI-risici vil udvikle sig – og hvor tror du, DeepKeep skal være positioneret for at føre an i fremtiden?

Jeg forventer, at de største AI-risici i de næste fem år vil udvikle sig sammen med fremskridt i AI-autonomi. Da agenter bliver mere autonome, integreret i hver forretningsoperation og i stand til at udføre komplekse opgaver, vil risikoen for sikkerhedsbrud og misbrug øge. Vi forudser udviklingen af et Internet of Agents (IoA), hvor agenter interagerer med hinanden og danner en endnu mere kompleks netværk af AI-interaktioner, der skal sikres.

For at føre an skal DeepKeep fortsætte med at udvikle sin platform til at sikre disse stadig mere komplekse AI-systemer, sikre, at vi giver kørselsbeskyttelse på tværs af multiple AI-modeller og støtte den voksende trend af AI-drevet beslutningstagning. Vores mål er at være den pålidelige partner, som virksomheder kan stole på til at sikre deres hele AI-økosystem, uanset hvor sofistikeret det bliver.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge DeepKeep.