Rick Caccia, CEO og medstifter af WitnessAI – Interviewserie

Rick Caccia, CEO og medstifter af WitnessAI, har omfattende erfaring med lancering af sikkerheds- og compliance-produkter. Han har haft ledelsesroller i produkt og marketing hos Palo Alto Networks, Google og Symantec. Caccia har tidligere ledet produktmarketing hos ArcSight gennem dens IPO og efterfølgende drift som offentligt selskab og fungeret som den første Chief Marketing Officer hos Exabeam. Han har flere eksaminer fra University of California, Berkeley.

WitnessAI udvikler en sikkerhedsplatform, der fokuserer på at sikre en sikkert og sikker brug af AI i virksomheder. Med hver større teknologisk skift – såsom web, mobile og cloud-computing – opstår nye sikkerhedsudfordringer, der skaber muligheder for branchens ledere at opstå. AI repræsenterer den næste front i denne udvikling.

Virksomheden sigter mod at etablere sig som en leder i AI-sikkerhed ved at kombinere ekspertise i maskinlæring, cybersikkerhed og stor skala cloud-operationer. Deres team har dyb erfaring i AI-udvikling, reverse engineering og multi-cloud Kubernetes-udførelse, og løser de kritiske udfordringer ved at sikre AI-drevne teknologier.

Hvad inspirerede dig til at co-founder WitnessAI, og hvilke nøgleudfordringer i AI-styring og sikkerhed var du rettet mod at løse? 

Da vi først startede virksomheden, troede vi, at sikkerhedsteams ville være bekymrede over angreb på deres interne AI-modeller. I stedet sagde de første 15 CISO’er, vi talte med, det modsatte, at en bred virksomheds LLM-udførelse var langt væk, men det presserende problem var at beskytte deres medarbejdere mod andres AI-applikationer. Vi trådte tilbage og så, at problemet ikke var at afværge frygtelige cyberangreb, men at aktivere virksomheder til at bruge AI produktivt. Mens styring måske er mindre sexy end cyberangreb, er det, hvad sikkerheds- og privatlivsteams faktisk har brug for. De har brug for indsigt i, hvad deres medarbejdere gør med tredjeparts AI, en måde at implementere acceptabel brugspolitik og en måde at beskytte data uden at blokere brugen af disse data. Det er, hvad vi byggede.

Given din omfattende erfaring hos Google Cloud, Palo Alto Networks og andre cybersikkerhedsfirmaer, hvordan påvirkede disse roller din tilgang til at bygge WitnessAI? 

Jeg har talt med mange CISO’er over årene. En af de mest almindelige ting, jeg hører fra CISO’er i dag, er: “Jeg vil ikke være ‘Doctor No’, når det kommer til AI; jeg vil hjælpe vores medarbejdere med at bruge det til at blive bedre.” Som en, der har arbejdet med cybersikkerhedsleverandører i lang tid, er dette en meget anderledes udtalelse. Det minder mere om dotcom-æraen, tilbage da web var en ny og transformerende teknologi. Da vi byggede WitnessAI, startede vi specifikt med produktkapaciteter, der hjalp kunder med at adoptere AI sikkert; vores besked var, at dette er som magi, og selvfølgelig vil alle opleve magi. Jeg tror, at sikkerhedsfirmaer er for hurtige til at spille frygtkortet, og vi ville være anderledes.

Hvad adskiller WitnessAI fra andre AI-styrings- og sikkerhedsplatforme på markedet i dag? 

Vel, for det første er de fleste andre leverandører i branchen primært fokuseret på sikkerhedsdelen og ikke på styringsdelen. For mig er styring som bremsen på en bil. Hvis du virkelig vil komme hurtigt til et sted, har du brug for effektive bremsesorptioner samt en kraftfuld motor. Ingen vil køre en Ferrari meget hurtigt, hvis den ikke har nogen bremsesorptioner. I dette tilfælde er din virksomhed, der bruger AI, Ferrarien, og WitnessAI er bremsesorptionerne og ratstammen.

I modsætning hertil fokuserer de fleste af vores konkurrenter primært på teoretiske frygtelige angreb på en organisations AI-model. Det er et rigtigt problem, men det er et andet problem end at få indsigt og kontrol over, hvordan mine medarbejdere bruger alle de 5.000+ AI-applikationer, der allerede er på internettet. Det er meget lettere for os at tilføje en AI-brandmur (og vi har det) end det er for AI-brandmursleverandørerne at tilføje effektiv styring og risikostyring.

Hvordan balancerer WitnessAI behovet for AI-innovation med virksomhedssikkerhed og compliance? 

Som jeg skrev tidligere, tror vi, at AI skal være som magi – det kan hjælpe dig med at gøre fantastiske ting. Med det i mente tror vi, at AI-innovation og sikkerhed er forbundet. Hvis dine medarbejdere kan bruge AI sikkert, vil de bruge det ofte, og du vil komme foran. Hvis du anvender den typiske sikkerhedsmentalitet og låser det ned, vil din konkurrent ikke gøre det, og de vil komme foran. Alt, hvad vi gør, handler om at aktivere en sikkert adoption af AI. Som en kunde sagde til mig: “Dette er magi, men de fleste leverandører behandler det, som om det var sort magi, noget at frygte.” Hos WitnessAI hjælper vi med at aktivere magien.

Kan du tale om virksomhedens kernefilosofi vedrørende AI-styring – ser du AI-sikkerhed som en aktivator snarere end en begrænsning? 

Vi har ofte CISO’er, der kommer op til os på arrangementer, hvor vi har præsenteret, og de siger: “Jeres konkurrenter er alle om, hvor frygteligt AI er, og I er den eneste leverandør, der fortæller os, hvordan vi kan bruge det effektivt.” Sundar Pichai fra Google har sagt, at “AI kunne være mere gennemgående end ild,” og det er en interessant metafor. Ild kan være utroligt skadeligt, som vi har set nylig. Men kontrolleret ild kan skabe stål, som fremskynder innovation. Nogle gange taler vi om at skabe innovation, der aktiverer vores kunder til sikkert at dirigere AI-“ild” for at skabe det tilsvarende stål. Alternativt, hvis du tænker, at AI er ligesom magi, så er måske vores mål at give dig en magisk stav, så du kan dirigere og kontrollere den.

I begge tilfælde tror vi absolut, at sikkert at aktivere AI er målet. Bare for at give et eksempel, er der mange data loss prevention-værktøjer, det er en teknologi, der har været til stede i lang tid. Og folk forsøger at anvende data loss prevention til AI-brug, og måske ser DLP-browser-plugin, at du har skrevet en lang prompt, der beder om hjælp med dit arbejde, og den prompt har ufrivilligt et kunde-ID-nummer i sig. Hvad sker der? DLP-produktet blokerer prompten fra at gå ud, og du får aldrig noget svar. Det er begrænsning. I stedet kan vi med WitnessAI identificere det samme nummer og stille og kirurgisk redigere det på flyvet, og derefter fjernredigere det i AI-svaret, så du får et brugbart svar, mens du også holder dine data sikre. Det er aktivator.

Hvad er de største risici, virksomheder står over for, når de implementerer generativ AI, og hvordan mitigere WitnessAI disse risici?

Det første er indsigt. Mange mennesker er overraskede over, at AI-applikationsuniverset ikke kun er ChatGPT og nu DeepSeek; der er bogstaveligt talt tusinder af AI-applikationer på internettet, og virksomheder absorberer risici fra medarbejdere, der bruger disse applikationer, så det første skridt er at få indsigt: hvilke AI-applikationer bruger mine medarbejdere, hvad gør de med disse applikationer, og er det risikabelt?

Det andet er kontrol. Din juridiske afdeling har konstrueret en omfattende acceptabel brugspolitik for AI, en, der sikrer sikkerheden af kundedata, borgerdata, immaterielle rettigheder samt medarbejdersikkerhed. Hvordan vil du implementere denne politik? Er det i din endpoint-sikkerhedsprodukt? I din firewall? I din VPN? I din cloud? Hvis de alle er fra forskellige leverandører? Så har du brug for en måde at definere og gennemtvinge acceptabel brugspolitik, der er konsistent på tværs af AI-modeller, applikationer, cloud og sikkerhedsprodukter.

Det tredje er beskyttelse af dine egne applikationer. I 2025 vil vi se en hurtigere adoption af LLM’er inden for virksomheder, og derefter en hurtigere udførelse af chat-applikationer, der er drevet af disse LLM’er. Så virksomhederne har brug for at sikre, ikke kun at applikationerne er beskyttet, men også, at applikationerne ikke siger “dumme” ting, som f.eks. at anbefale en konkurrent.

Vi løser alle disse udfordringer. Vi giver indsigt i, hvilke applikationer folk har adgang til, hvordan de bruger disse applikationer, politik, der er baseret på, hvem du er og hvad du prøver at gøre, og meget effektive værktøjer til at forhindre angreb, såsom jailbreaks eller uønskede adfærd fra dine bots.

Hvordan hjælper WitnessAI’s AI-overvågningsfunktion virksomheder med at spore medarbejderes AI-brug og forhindre “skygge-AI”-risici?

WitnessAI tilslutter sig dit netværk let og bygger stille og roligt en katalog over hver AI-applikation (og der er bogstaveligt talt tusinder af dem på internettet), som dine medarbejdere har adgang til. Vi fortæller dig, hvor disse applikationer er placeret, hvor de hoster deres data osv., så du forstår, hvor risikable disse applikationer er. Du kan aktivere samtale-indsigt, hvor vi bruger dyb pakkeinspektion til at observere prompts og svar. Vi kan klassificere prompts efter risiko og efter hensigt. Hensigt kan være “skriv kode” eller “skriv en virksomheds kontrakt”. Det er vigtigt, fordi vi derefter lader dig skrive hensigtsbaseret politikstyring.

Hvad rolle spiller AI-politik-gennemførelse i at sikre virksomhedssamstemmelse, og hvordan strømliner WitnessAI denne proces?

Samstemmelse betyder, at din virksomhed følger regler eller politikker, og der er to dele i at sikre samstemmelse. Den første del er, at du må kunne identificere problematisk aktivitet. F.eks. har jeg brug for at vide, at en medarbejder bruger kundedata på en måde, der måske kan stride mod en dataværnslov. Vi gør det med vores overvågningsplatform. Den anden del er at beskrive og gennemtvinge politik over for denne aktivitet. Du vil ikke kun vide, at kundedata lækker, du vil stoppe det fra at lække. Så vi har bygget en unik AI-specifik politikmotor, Witness/CONTROL, der lader dig bygge identitets- og hensigtsbaseret politik til at beskytte data, forhindre skadelig eller ulovlig adfærd osv. F.eks. kan du bygge en politik, der siger noget i retning af: “Kun vores juridiske afdeling kan bruge ChatGPT til at skrive virksomheds kontrakter, og hvis de gør det, skal de automatisk redigere alle personlige oplysninger.” Let at sige, og med WitnessAI, let at implementere.

Hvordan løser WitnessAI bekymringer omkring LLM-jailbreaks og prompt-injektionsangreb?

Vi har et hardcore AI-forskningshold – rigtig skarpe. Tidligt byggede de et system til at skabe syntetisk angrebsdata, ud over at trække i vidt tilgængelige træningsdata. Som resultat har vi benchmarket vores prompt-injektion mod alt, der er derude, og vi er over 99% effektive og fanger regelmæssigt angreb, som modellerne selv ikke kan se.

I praksis vil de fleste virksomheder, vi taler med, starte med at styre medarbejder-applikationer og derefter lidt senere udføre en AI-kunde-applikation baseret på deres interne data. Så de bruger Witness til at beskytte deres medarbejdere og derefter aktiverer de prompt-injektions-brandmuren. Et system, en konsekvent måde at bygge politik, let at skalerer.

Hvad er dine langsigtede mål for WitnessAI, og hvor ser du AI-styring udvikle sig i de næste fem år? 

Indtil nu har vi kun talt om en person-til-chat-applikationsmodel her. Vores næste fase vil være at håndtere applikation-til-applikation, dvs. agens AI. Vi har designet API’erne i vores platform til at fungere lige så godt med både agenter og mennesker. Ud over det tror vi, at vi har bygget en ny måde at få netværksniveau-indsigt og politikstyring i AI-alderen, og vi vil vokse virksomheden med det i mente.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge WitnessAI.