Rony Ohayon, CEO og grunnlegger av DeepKeep – Intervju-serie

Rony Ohayon, CEO og grunnlegger av DeepKeep, er en erfaren entrepreneur og teknolog med en karriere som spenner over AI, cybersikkerhet, autonome systemer og stor-skala video-teknologier. Han har grunnlagt og ledet flere selskaper innen disse områdene, inkludert viktige roller i autonome kjøretøy-tilkoblinger, live video-overføring og avansert ingeniørarbeid, samt tidligere akademisk arbeid i datamaskin-teknologi.

DeepKeep er en AI-sikkerhetsplattform designet for å hjelpe bedrifter å sikre AI, generativ AI, LLM-er, datamaskin-syn og multimodale systemer gjennom hele deres livssyklus. Selskapet fokuserer på å identifisere sårbarheter, blokkere motstridende trusler, forebygge problemer som data-lekkasje og prompt-manipulasjon, støtte regulatorisk overholdelse og gi kontinuerlig overvåking for å sikre pålitelige, robuste og beskyttede AI-utviklinger.

Du har ledet store innovasjoner innen video-overføring, autonome kjøretøy-tilkoblinger og AI-systemer. Hva fra din egen karriere overbeviste deg om at den neste store utfordringen du måtte løse var å sikre bedriftens AI?

Jeg har alltid vært motivert til å løse store utfordringer som kan endre bransjer. Over årene har jeg lagt merke til en gjentakende mønster hvor ny teknologi, spesielt AI, ofte går foran sikkerhetstiltakene, og etterlater kritiske sårbarheter.

Bedrifters innføring av AI, spesielt med oppblomstringen av store språkmodeller (LLM-er) og agente AI, åpnet opp en ny front av risikoer, og bedrifter føler ofte seg overveldet og uforberedt på å utnytte disse systemene trygt og med tillit. Min erfaring med AI-systemer har vist meg hvor viktig det er å integrere sikkerhet i hjertet av disse teknologiene for å sikre at de ikke bare er innovative, men også sikre og pålitelige, og produserer pålitelige resultater for å støtte bedrifter proaktivt. Denne erkjennelsen ledet til grunnleggelsen av DeepKeep, med fokus på å sikre AI-systemer så bedrifter kan trygt og med tillit omfavne AI for å øke produktivitet og bedriftsvekst, uten å kompromittere sikkerhet eller personvern.

Når du og din medgrunnlegger lanserte DeepKeep i 2021, hvilken bestemt AI-sikkerhets-blindhet overbeviste deg om at det var en akutt behov for en dedikert plattform, og hvordan påvirkte denne innsikten selskapets tidligste retning?

Etter årevis med arbeid med AI i datamaskin-syn, som krevde betydelige anstrengelser for å sikre at det er pålitelig og robust, innsett vi at det var på tide å designe en dedikert løsning for å sikre tillit og sikkerhet i datamaskin-syn.

I 2021, før LLM-eksplosjonen, lanserte vi DeepKeep for å løse disse risikoene i datamaskin-synsmodeller.

Kan du gå tilbake til den tidligste prototypen – hva den faktisk gjorde, hvor liten teamet var, og hvordan du verifiserte at du var på riktig vei?

Da vi grunnla DeepKeep, var fokuset fortsatt på tradisjonell AI – datamaskin-syn, tabellmodeller og tidlige NLP – lenge før oppblomstringen av store språkmodeller. Vår første prototype var et system for å teste robustheten til datamaskin-synsklassifiseringer mot motstridende angrep. Samtidig bygde vi en tidlig versjon av en AI-brannmur som kunne detektere og markere disse angrepene i sanntid.

De første bruksområdene kom fra bilindustrien, forsikring og finansielle tjenester, hvor modell-misbehaving kan medføre reelle operasjonelle risikoer. Vi var et lite team på omkring åtte personer på den tiden, noe som tillot oss å iterere raskt og produsere en fungerende prototype tidlig.

Vi verifiserte at vi var på riktig vei ved å snakke direkte med potensielle kunder, som konsekvent fremhevet motstridende robusthet som en fremvoksende bekymring. Rundt samme tid begynte rammer som MITREs ATLAS – først lansert i 2021 – å dukke opp, noe som var et viktig eksternt signal om at feltet AI-sikkerhet og motstridende trusselmodellering var på vei til å vokse. Sammenligningen mellom kunde-tilbakemelding og bransje-retning ga oss tillit til at vi gikk i riktig retning.

DeepKeep ble designet fra starten av for å sikre AI-systemer i stedet for tradisjonell programvare. Hvordan prioriterer du hvilke modelltyper og angrepsflater å fokusere på først?

Fra starten visste vi at sikring av bedriftens AI krevde en paradigmeskifte. Mens mange organisasjoner er smarte nok til å vite at de må utføre penetrerings-testing og evaluering for modellene de bruker, forsto vi at disse handlingene bare er begynnelsen.

De virkelige risikoene oppstår innenfor hele applikasjons-økosystemet, ikke bare modellene selv.

Så mens sikring av selvstendige AI-chatboter med tradisjonell rød-lag-testing var bransjens utgangspunkt, flyttet vi raskt videre til å utvikle løsninger som sikrer tilpassede AI-applikasjoner og AI-agenter, og vil utvikle seg til å sikre neste trinn hvor agenter samhandler med hverandre og det er betydelig kryss-domene-intelligens.

Vi muliggjør modell-scanning over alle modelltyper, men også beskytter mot de mest presserende truslene som motstridende angrep, data-lekkasje, system-misbruk og tillits-erosjon ved å teste modellene og anvende retningslinjer som sikrer AI-prompter og -svar.

Kritisk sett sikrer vi også AI-s “semantiske lag” ved å forstå konteksten modellene opererer i. Dette sikrer at modellene ikke kan manipuleres like lett.

Hva var de største tekniske eller strategiske vendingene du gjorde mellom grunnleggingsfasen og DeepKeeps nåværende produktretning?

En av de største beslutningene vi tok, var å utvide oss utover tradisjonell modell-sikkerhet og inn i området AI-applikasjons-sikkerhet. Først fokuserte vi på å sikre enkelt-modeller, men da AI-landskapet utviklet seg, innsett vi at sikring av hele AI-økosystemer, hvor flere modeller, agenter og bruksområder samhandler, var langt mer kritisk.

En annen nøkkel-beslutning var å tilby fullt ut plasserings-fleksibilitet, inkludert sky-agnostisk, på-premis og luft-lukket løsninger, noe som tillot bedrifter å sikre DeepKeep i enhver miljø.

DeepKeep legger lik vekt på sikkerhet og tillit. På hvilket stadium ble denne doble fokuset kjernen i selskapets identitet?

Fokuset på både sikkerhet og tillit ble klart tidlig, spesielt da vi begynte å danne en dypere forståelse av våre kunder og deres behov.

Når det gjelder AI-modeller, går sikkerhet og tillit hånd i hånd og spiller like roller, fordi begge kan føre til skadelige og destruktive resultater. En applikasjon kan ikke være robust og samtidig upålitelig, og omvendt.

Tradisjonelle sikkerhetsverktøy var ikke designet for prompt-injeksjon, hallusinasjoner, data-lekkasje eller modell-manipulasjon. Hvilke av disse nye trussel-vektorene så du bedrifter slåss med mest, og hvordan påvirkte disse virkelige problemene DeepKeeps arkitektur?

Av de nye truslene er prompt-injeksjon og data-lekkasje de mest presserende bekymringene vi ser bedrifter slåss med. Mens AI-applikasjoner og AI-agenter blir mer integrert i forretningsprosesser, øker risikoen for prompt-manipulasjon og utilsiktet eksponering av sensitive data.

Dette ledet oss til å designe DeepKeep med fokus på kontekstuell sikkerhet, beskytte ikke bare modellene, men hele data- og interaksjonsflyten innen AI-økosystemer.

Din plattform kombinerer retningslinjer, rød-lag-testing og data-beskyttelseslag. Fra et teknisk ståsted, hvilken av disse har vist seg å være mest vanskelig å konstruere på bedrifts-skala, og hva lærte du mens du bygde et system som må tilpasse seg raskt-bevegende AI-modeller?

Hver lag – retningslinjer, rød-lag-testing og data-beskyttelse – kommer med sine egne ingeniør-utfordringer, men vi fant at utfordringene alle disse lagene har felles, var faktisk de mest vanskelige.

Først er det tempoet i endringene: nye risikoer, fengslinger og angreps-teknikker oppstår konstant, så alt som er statisk blir raskt foreldet. Andre er kontekst-tilpasning: i bedrifter, fungerer en en-size-fits-all-tilnærming ikke, fordi hver applikasjon har forskjellige politikker, data-følsomhet og bruker-atferd.

For å møte den første utfordringen, bygde vi en fullt modulær arkitektur med plugin-stil-komponenter, som tillot oss å legge til nye angrep til rød-lag-test-motoren eller nye retningslinjer til brannmuren raskt og uten å forstyrre systemet.

Og for å løse den andre utfordringen, designet vi et agente, kontekst-bevisst system. Det analyserer applikasjonens miljø og tilpasser automatisk relevante sikkerhetstiltak – noe som er essensielt når de underliggende AI-modellene og bruksområdene utvikler seg så raskt.

Disse to evnene, modulæritet og kontekst-bevissthet, har vært nøkkel til å operere på bedrifts-skala, samtidig som vi holder oss oppdatert med raskt-bevegende AI-systemer.

AI-sikkerhet er en utviklende disiplin. Hva huller ser du innen bedrifter i dag – enten i politikk, verktøy eller risiko-forståelse – som mest direkte har formet hvordan du designet DeepKeeps sikkerhets-stakk og kunde-oppstart?

Huller varierer betydelig avhengig av bransje, selskaps-størrelse og AI-antakelse-maturitet.

En av de største hullene vi ser i store bedrifter i dag, er mangelen på en enkelt løsning som dekker alle AI-sikkerhets-behov. Mange av disse bedriftene er klar over behovet for AI-sikkerhets-løsninger, men etter hvert som antakelsen øker, øker også behovet for ytterligere sikkerhets-dekning.

Hvis vi ser fem år fremover, hvordan forventer du at bedrifts AI-risikoer vil utvikle seg – og hvor tror du DeepKeep må være posisjonert for å holde seg foran denne fremtiden?

Jeg forventer at de største AI-risikoene de neste fem årene vil utvikle seg sammen med fremgangen i AI-autonomi. Etter hvert som agenter blir mer autonome, integrert i hver forretnings-operasjon og i stand til å utføre komplekse oppgaver, vil potensialet for sikkerhets-brudd og misbruk øke.

For å holde oss foran, vil DeepKeep fortsette å utvikle plattformen vår for å sikre disse komplekse AI-systemene, og sikre at vi gir runtime-beskyttelse på tvers av flere AI-modeller og støtte den voksende trenden av AI-drevet beslutningstaking. Vårt mål er å være den pålitelige partner som bedrifter kan stole på for å sikre hele deres AI-økosystem, uansett hvor sofistikert det blir.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke DeepKeep.