Rony Ohayon, VD och grundare av DeepKeep – Intervjuserie

Rony Ohayon, VD och grundare av DeepKeep, är en erfaren entreprenör och teknolog med en karriär som spänner över AI, cybersäkerhet, autonoma system och storskaliga videoteknologier. Han har grundat och lett flera företag inom dessa områden, inklusive viktiga roller inom anslutning av autonoma fordon, direkt videöverföring och avancerad ingenjörskonst, samt tidigare akademiskt arbete inom datorteknik.

DeepKeep är en AI-säkerhetsplattform som är utformad för att hjälpa företag att skydda AI, generativ AI, LLM, datorseende och multimodala system under hela deras livscykel. Företaget fokuserar på att identifiera sårbarheter, blockera fientliga hot, förhindra problem som dataläckage och promptmanipulation, stödja regelefterlevnad och tillhandahålla kontinuerlig övervakning för att säkerställa tillförlitliga, robusta och skyddade AI-distributioner.

Du har lett stora innovationer inom videöverföring, anslutning av autonoma fordon och AI-system. Vad i din egen karriär övertygade dig om att den nästa stora utmaningen du behövde lösa var att säkra företags-AI?

Jag har alltid varit motiverad att tackla utmaningar som har stor inverkan och omformar branscher. Under åren har jag märkt ett återkommande mönster där ny teknik, särskilt AI, ofta överträffar säkerhetsåtgärder och lämnar kvar kritiska sårbarheter.

Företags antagande av AI, särskilt med tillväxten av stora språkmodeller (LLM) och agentbaserad AI, öppnade upp en ny gräns för risker, och företag känner ofta sig överväldigade och oförberedda på att utnyttja dessa system på ett säkert och tillförlitligt sätt. Min erfarenhet av AI-system har betonat hur viktigt det är att integrera säkerhet i hjärtat av dessa teknologier för att säkerställa att de inte bara är innovativa, utan också säkra och tillförlitliga, och producerar tillförlitliga resultat för att stödja företag proaktivt. Denna insikt ledde till grundandet av DeepKeep, med fokus på att säkra AI-system så att företag kan med tillförlitlighet anta AI för att öka produktivitet och affärsutveckling, utan att kompromissa med säkerhet eller integritet.

När du och din medgrundare lanserade DeepKeep 2021, vilken specifik AI-säkerhetsblind fläck övertygade dig om att det fanns ett brådskande behov av en dedikerad plattform, och hur formade den insikten företagets tidigaste riktning?

Efter år av att arbeta med AI inom datorseende, som krävde betydande ansträngningar för att säkerställa att det är tillförlitligt och robust, insåg vi att det var dags att utforma en dedikerad lösning för att säkerställa tillit och säkerhet i datorseende.

2021, före LLM-explosionen, lanserade vi DeepKeep för att tackla dessa risker i datorseendemodeller.

Kan du gå tillbaka till den tidigaste prototypen – vad den faktiskt gjorde, hur liten teamet var och hur ni validerade att ni var på rätt väg?

När vi grundade DeepKeep var fokus fortfarande på traditionell AI – datorseende, tabellmodeller och tidig NLP – långt innan tillväxten av stora språkmodeller. Vår första prototyp var ett system för att testa robustheten hos datorseendeklassificerare mot fientliga attacker. Utöver det byggde vi en tidig version av en AI-brandvägg som kunde upptäcka och flagga dessa attacker i realtid.

De tidigaste användningsfallen kom från bilindustrin, försäkringsbranschen och finansiella tjänster, där modellbeteende har verklig operativ risk. Vi var ett litet team på cirka åtta personer vid den tiden, vilket gjorde att vi kunde iterera snabbt och producera en fungerande prototyp tidigt.

Vi validerade att vi var på rätt väg genom att tala direkt med potentiella kunder, som konsekvent betonade robusthet mot fientliga attacker som en framväxande oro. Samtidigt som detta började ramverk som MITRE:s ATLAS – som släpptes första gången 2021 – dyka upp, vilket var ett viktigt yttre signal om att fältet för AI-säkerhet och fientlig hotmodellering var på väg att växa. Samstämmigheten mellan kundfeedback och branschriktning gav oss förtroende att vi var på väg åt rätt håll.

DeepKeep var utformad från början för att säkra AI-system snarare än traditionell programvara. Hur prioriterade ni vilka modelltyper och angreppsytor att fokusera på först?

Från början visste vi att att säkra företags-AI krävde en paradigmförändring. Medan många organisationer är tillräckligt kloka för att veta att de behöver utföra penetrationstest och utvärdering för de modeller de använder, förstod vi att dessa åtgärder bara är början.

Medan säkerhet för fristående AI-chattbotar med traditionell röd teamning var branschens startpunkt, flyttade vi snabbt vidare till att utveckla lösningar som säkrar anpassade AI-applikationer och AI-agenter, och kommer att utvecklas för att säkra nästa steg där agenter interagerar med varandra och det finns betydande tvärdomänteligens.

Vi möjliggör modellscanning över alla modelltyper, men skyddar också mot de mest brådskande hoten som fientliga attacker, dataläckage, systemmissbruk och tillitserosion genom att testa modellerna och applicera skyddsräcken som säkrar AI-prompter och svar.

Viktigt är att vi också säkrar AI:s “semantiska lager” genom att förstå sammanhanget i vilket modellerna fungerar. Detta säkerställer att modellerna inte kan manipuleras så lätt.

Vilka var de största tekniska eller strategiska förändringarna ni gjorde mellan grundningsstadiet och DeepKeeps nuvarande produktriktning?

En av de största besluten vi fattade var att expandera bortom traditionell modellsäkerhet in i området för AI-applikationssäkerhet. Initialt fokuserade vi på att säkra enskilda modeller, men när AI-landskapet utvecklades insåg vi att att säkra hela AI-ekosystem, där flera modeller, agenter och användningsfall samverkar, var långt viktigare. Detta ledde oss att bredda vår tillvägagångssätt genom att inkorporera röd teamning, en omfattande AI-brandvägg för att skydda varje interaktion agenter, anställda och applikationer har med AI, och realtidsövervakning.

Ett annat viktigt beslut var att erbjuda full flexibilitet vid distribution, inklusive molntjänster, lokala lösningar och luftgap, vilket tillåter företag att säkert distribuera DeepKeep i vilken miljö som helst. Vi har också nyligen integrerat en uppgraderad branschledande skydd för personuppgifter i vår plattform, vilket har gett våra kunder en ännu djupare nivå av dataskydd och säkerställer att företag kan uppfylla globala krav på regelefterlevnad när de skalar upp sin AI-användning.

DeepKeep lägger lika stor vikt vid säkerhet och tillförlitlighet. Vid vilken tidpunkt blev detta dubbla fokus kärnan i företagets identitet?

Fokuset på både säkerhet och tillförlitlighet blev tydligt tidigt, särskilt när vi började bilda en djupare förståelse för våra kunder och deras behov.

När det gäller AI-modeller går säkerhet och tillit hand i hand och spelar lika viktiga roller, eftersom båda kan leda till skadliga och destruktiva resultat. En applikation kan inte vara robust och samtidigt opålitlig, och vice versa.

Traditionella cybersäkerhetsverktyg var inte utformade för promptinjektion, hallucinationer, dataläckage eller modellmanipulation. Vilken av dessa framväxande hotvektorerna såg ni att företag kämpade mest med, och hur påverkade dessa verkliga problem DeepKeeps arkitektur?

Av de framväxande hoten är promptinjektion och dataläckage de mest pressande problemen som vi ser att företag kämpar med. När AI-applikationer och AI-agenter blir mer integrerade i affärsprocesser, ökar riskerna för promptmanipulation och oavsiktlig exponering av känsliga data. Dessa problem ledde oss att utforma DeepKeep med fokus på kontextuell säkerhet, skyddande inte bara modellerna utan hela flödet av data och interaktioner inom AI-ekosystem. Vår infrastruktur byggdes för att testa dessa lager i utvecklingsfasen och skydda under drift genom att säkra varje AI-interaktion.

Din plattform kombinerar skyddsräcken, röd teamning och dataskyddslager. Ur ett tekniskt perspektiv, vilken av dessa har visat sig vara mest svår att utveckla på företagsnivå, och vad lärde ni er medan ni byggde ett system som måste anpassa sig till snabbt föränderliga AI-modeller?

Varje lager – skyddsräcken, röd teamning och dataskydd – kommer med sina egna tekniska utmaningar, men vi fann att utmaningarna som alla dessa lager har gemensamt var de svåraste.

Det första är förändringstakten: nya risker, jailbreaks och attacktekniker uppstår konstant, så allt som är statiskt blir föråldrat snabbt. Det andra är kontextanpassning: i företaget fungerar en “en-storlek-passar-alla”-approach inte eftersom varje applikation har olika policys, datasensitivitet och användarbeteende.

För att tackla den första utmaningen byggde vi en fullständigt modulär arkitektur med plugin-liknande komponenter, vilket tillåter oss att lägga till nya attacker till röd teamningsmotorn eller nya skyddsräcken till brandväggen snabbt och utan att störa systemet.

Och för att lösa den andra utmaningen utformade vi ett agenterat, kontextmedvetet system. Det analyserar applikationens miljö och anpassar automatiskt relevanta säkerhetsåtgärder – vilket är essentiellt när de underliggande AI-modellerna och användningsfallen utvecklas så snabbt.

Dessa två förmågor, moduläritet och kontextmedvetenhet, har varit nyckeln till att operera på företagsnivå, samtidigt som vi håller jämna steg med snabbt föränderliga AI-system.

AI-säkerhet är en utvecklande disciplin. Vilka luckor ser ni inom företag idag – antingen i policy, verktyg eller riskförståelse – som mest direkt formade hur ni utformade DeepKeeps säkerhetsstack och kundonboarding?

Luckorna varierar betydligt beroende på bransch, företagsstorlek och AI-antagande mognad.

En av de största luckorna vi ser i stora företag idag är bristen på en enda lösning som täcker alla AI-säkerhetsbehov. Många av dessa företag är medvetna om sitt behov av AI-säkerhetslösningar, men när antagandet ökar, ökar också kraven på ytterligare säkerhetsomfattning. Vi lärde oss tidigt att det finns värde i en robust, änd-till-änd-lösning som inkluderar olika funktioner som fungerar i tandem och med smidig integration. Kunderna har nytta av en lösning där helheten är större än summan av delarna.

När marknaden mognade identifierade vi en annan lucka, som är att organisationer söker mer anpassade och mindre generiska säkerhetsverktyg för att skydda sina agenter och applikationer. En av anledningarna bakom vår kontextmedvetna approach var att tackla denna lucka, med förståelsen att varje applikation och agent är annorlunda och behöver skyddas på motsvarande sätt.

Om vi tittar fem år framåt, hur tror ni att företags-AI-risker kommer att utvecklas – och var tror ni att DeepKeep behöver vara positionerat för att ligga före den framtiden?

Jag tror att de största AI-riskerna under de närmaste fem åren kommer att utvecklas tillsammans med framsteg inom AI-autonomi. När agenter blir mer autonoma, integrerade inom varje affärsverksamhet och kapabla att utföra komplexa uppgifter, kommer risken för säkerhetsbrott och missbruk att öka. Vi förutser utvecklingen av ett “Internet of Agents” (IoA), där agenter interagerar med varandra och bildar en ännu mer komplex webb av AI-interaktioner som måste säkras.

För att ligga före den framtiden kommer DeepKeep att fortsätta utveckla sin plattform för att säkra dessa alltmer komplexa AI-system, och säkerställa att vi tillhandahåller realtidskydd över flera AI-modeller och stödjer den växande trenden av AI-baserat beslutsfattande. Vårt mål är att vara den pålitliga partner som företag litar på för att säkra hela sitt AI-ekosystem, oavsett hur sofistikerat det blir.

Tack för den utmärkta intervjun, läsare som vill lära sig mer kan besöka DeepKeep.