Rick Caccia, CEO a spoluzakladatel WitnessAI – Interview Series

Rick Caccia, CEO a spoluzakladatel WitnessAI, má rozsáhlé zkušenosti se spuštěním bezpečnostních a dodržování předpisů produktů. Ve své minulosti zastával vedoucí role v produktovém a marketingovém týmu v Palo Alto Networks, Google a Symantec. Caccia dříve vedl produktový marketing v ArcSight během jeho IPO a následných operací jako veřejná společnost a působil jako první Chief Marketing Officer v Exabeam. Má několik titulů z University of California, Berkeley.

WitnessAI vyvíjí bezpečnostní platformu zaměřenou na zajištění bezpečného a zabezpečeného používání umělé inteligence v podnikových prostředích. S každou velkou technologickou změnou – jako je web, mobilní a cloud computing – vznikají nové bezpečnostní výzvy, které vytvářejí příležitosti pro průmyslové lídry, aby se etablovali. Umělá inteligence představuje další hranici v této evoluci.

Cílem společnosti je etablovat se jako lídr v oblasti umělé inteligence kombinací odborných znalostí v oblasti strojového učení, kybernetické bezpečnosti a velkých cloudových operací. Jejich tým má hluboké zkušenosti s vývojem umělé inteligence, reverzními inženýringem a nasazením multi-cloud Kubernetes, které řeší kritické výzvy spojené se zabezpečením technologií poháněných umělou inteligencí.

Co vás inspirovalo k založení WitnessAI a jakým klíčovým problémům v oblasti řízení a zabezpečení umělé inteligence jste se snažili řešit? 

Když jsme poprvé začali s touto společností, mysleli jsme si, že bezpečnostní týmy budou znepokojeny útoky na jejich interní modely umělé inteligence. Místo toho nám první 15 CISOs, se kterými jsme mluvili, řeklo, že tomu tak není, že rozsáhlé firemní nasazení LLM je ještě daleko, ale naléhavým problémem je ochrana zaměstnanců při používání cizích aplikací umělé inteligence. Krok jsme udělali zpět a viděli, že problém nebyl v odrazení strašných kybernetických útoků, ale v bezpečném umožnění firem produktivně využívat umělou inteligenci. Zatímco řízení může být méně atraktivní než kybernetické útoky, je to to, co bezpečnostní a bezpečnostní týmy skutečně potřebují. Potřebují přehled o tom, co jejich zaměstnanci dělají s třetími aplikacemi umělé inteligence, způsob, jak implementovat akceptovatelnou užívající politiku a způsob, jak chránit data bez blokování jejich použití. Takže to je to, co jsme postavili.

Vzhledem k vašim rozsáhlým zkušenostem v Google Cloud, Palo Alto Networks a dalších bezpečnostních firmách, jak tyto role ovlivnily váš přístup k budování WitnessAI? 

Mluvím s mnoha CISOs po mnoho let. Jednou z nejčastějších věcí, které od nich slyším, je: “Nechci být ‘Doktor Ne’ co se týče umělé inteligence; chci pomoci našim zaměstnancům ji používat, aby byli lepší.” Jako někdo, kdo pracoval s bezpečnostními dodavateli po dlouhou dobu, je toto prohlášení velmi odlišné. Je to připomínka éry dotcom, kdy byl web novou a transformační technologií. Když jsme postavili WitnessAI, specificky jsme začali s produktovými schopnostmi, které pomáhají zákazníkům bezpečně přijmout umělou inteligenci; naše poselství bylo, že tato věc je jako kouzlo a samozřejmě každý chce zažít kouzlo. Myslím, že bezpečnostní společnosti jsou příliš rychlé při hraní strachu a my jsme chtěli být odlišní.

Co odlišuje WitnessAI od ostatních platforem pro řízení a zabezpečení umělé inteligence na trhu dnes? 

Například většina ostatních dodavatelů v tomto prostoru se zaměřuje primárně na bezpečnostní část a ne na část řízení. Pro mě je řízení jako brzdy na autě. Pokud opravdu chcete jet rychle, potřebujete efektivní brzdy kromě silného motoru. Nikdo nebude řídit Ferrari velmi rychle, pokud nemá brzdy. V tomto případě je vaše společnost, která používá umělou inteligenci, Ferrari a WitnessAI jsou brzdy a řízení.

Na rozdíl od toho se většina našich konkurentů zaměřuje na teoretické strašné útoky na model umělé inteligence organizace. To je skutečný problém, ale je to jiný problém než získání přehledu a kontroly nad tím, co naši zaměstnanci dělají s těmito aplikacemi. Je to mnohem snazší pro nás přidat umělou inteligenci ohňový zeď (a máme ji) než pro dodavatele ohňového zdi přidat efektivní řízení a řízení rizik.

Jak WitnessAI vyvažuje potřebu inovací umělé inteligence s firemní bezpečností a dodržováním předpisů? 

Jako jsem psal dříve, věříme, že umělá inteligence by měla být jako kouzlo – může vám pomoci dělat úžasné věci. S tím na mysli si myslíme, že inovace umělé inteligence a bezpečnost jsou propojeny. Pokud vaši zaměstnanci mohou používat umělou inteligenci bezpečně, budou ji používat často a vy budete předjíždět. Pokud aplikujete typický bezpečnostní přístup a zamkněte ji, váš konkurent to neučiní a on bude předjíždět. Vše, co děláme, je o umožnění bezpečného přijetí umělé inteligence. Jak mi jeden zákazník řekl: “Tato věc je kouzlo, ale většina dodavatelů ji behanduje jako černou magii, strašnou a něčím, čeho se bát.” V WitnessAI jsme pomáháme umožnit kouzlo.

Můžete mluvit o firemní filozofii WitnessAI týkající se řízení umělé inteligence – vidíte bezpečnost umělé inteligence jako umožňující spíše než omezující? 

Pravidelně máme CISOs, kteří k nám přicházejí na akcích, kde jsme prezentovali, a říkají nám: “Vaši konkurenti jsou všichni o tom, jak strašná je umělá inteligence, a vy jste jediný dodavatel, který nám říká, jak ji skutečně efektivně používat.” Sundar Pichai z Google řekl, že “umělá inteligence by mohla být hlubší než oheň” a to je zajímavá metafora. Oheň může být neuvěřitelně ničivý, jak jsme nedávno viděli. Ale ovládaný oheň může vyrobit ocel, která urychluje inovace. Někdy v WitnessAI mluvíme o vytváření inovací, které umožňují našim zákazníkům bezpečně směrovat “oheň” umělé inteligence, aby vytvořili ekvivalent oceli. Alternativně, pokud si myslíte, že umělá inteligence je podobná magii, pak snad náš cíl je dát vám kouzelnou hůlku, aby jste ji mohli řídit a kontrolovat.

Jaké jsou největší rizika, kterým čelí podniky při nasazení generativní umělé inteligence, a jak WitnessAI tyto rizika zmírňuje?

Prvním je přehled. Mnoho lidí je překvapeno, když se dozví, že vesmír aplikací umělé inteligence není pouze ChatGPT a nyní DeepSeek; existuje literálně tisíce aplikací umělé inteligence na internetu a podniky absorbují rizika spojená s používáním těchto aplikací zaměstnanci, takže prvním krokem je získání přehledu: které aplikace umělé inteligence používají naši zaměstnanci, co s nimi dělají a zda je to riskantní?

Druhým je kontrola. Váš právní tým vytvořil komplexní politiku akceptovatelného použití umělé inteligence, jednu, která zajišťuje bezpečnost zákaznických dat, občanů, duševního vlastnictví, jakož i bezpečnost zaměstnanců. Jak budete tuto politiku implementovat? Je to v produktu pro ochranu koncových bodů? V ohňovém zdi? Ve VPN? V cloudu? Co když jsou všechny od různých dodavatelů? Takže potřebujete způsob, jak definovat a vynucovat akceptovatelnou užívající politiku, která je konzistentní napříč modely umělé inteligence, aplikacemi, cloudy a bezpečnostními produkty.

Třetím je ochrana vašich vlastních aplikací. V roce 2025 uvidíme mnohem rychlejší přijetí LLM v podnikových prostředích a poté rychlejší nasazení chat aplikací poháněných těmito LLM. Takže podniky potřebují zajistit, aby nejenom jejich aplikace byly chráněny, ale také aby tyto aplikace neříkaly “hloupé” věci, jako doporučení konkurenta.

Řešíme všechny tři. Poskytujeme přehled o tom, které aplikace lidé přistupují, jak je používají, politiku, která je založena na tom, kdo jste a co se snažíte udělat, a velmi efektivní nástroje pro prevenci útoků, jako jsou jailbreaky nebo nežádoucí chování z vašich botů.

Jak funkce AI observability WitnessAI pomáhá společnostem sledovat používání umělé inteligence zaměstnanci a předcházet “stínovým” rizikům umělé inteligence?

WitnessAI se snadno připojí k vaší síti a tiše vytváří katalog každé aplikace umělé inteligence (a existuje jich literálně tisíce na internetu), ke které přistupují vaši zaměstnanci. Říkáme vám, kde tyto aplikace jsou umístěny, kde hostují svá data atd., aby jste pochopili, jak riskantní tyto aplikace jsou. Můžete zapnout viditelnost konverzací, kde používáme hlubokou inspekci paketů k pozorování dotazů a odpovědí. Můžeme klasifikovat dotazy podle rizika a podle záměru. Záměr může být “napsat kód” nebo “napsat firemní smlouvu”. Je to důležité, protože potom vám umožníme napsat politiku založenou na záměru.

Jakou roli hraje vynucování politiky umělé inteligence při zajišťování firemního dodržování předpisů umělé inteligence a jak WitnessAI tento proces zjednodušuje?

Dodržování předpisů znamená zajištění toho, že vaše společnost dodržuje předpisy nebo politiky, a existují dvě části zajišťující dodržování předpisů. První je, že musíte být schopni identifikovat problémovou aktivitu. Například musím vědět, že zaměstnanec používá zákaznická data způsobem, který by mohl porušit zákon o ochraně dat. To děláme s naší platformou pro observability. Druhá část spočívá v popisu a vynucování politiky proti této aktivitě. Nechcete pouze vědět, že zákaznická data unikají, chcete je zastavit. Takže jsme postavili unikátní AI-specifický motor pro vynucování politiky, Witness/CONTROL, který vám umožňuje snadno vytvářet politiky založené na identitě a záměru, aby chránily data, zabránily škodlivým nebo nezákonným odpovědím atd. Například můžete vytvořit politiku, která říká něco jako: “Pouze náš právní tým může používat ChatGPT k vytváření firemních smluv a pokud tak učiní, automaticky odstraní jakékoli osobní identifikační informace.” Snadno se řekne a s WitnessAI je to snadné implementovat.

Jak WitnessAI řeší obavy kolem jailbreaků LLM a injekcí dotazů?

Máme tvrdý AI výzkumný tým – opravdu ostrý. Brzy postavili systém pro vytváření syntetických útočných dat, kromě toho, že jsme čerpali z široce dostupných trénovacích datových sad. Jako výsledek jsme benchmarkovali naši injekci dotazů proti všemu, co je tam, a jsme více než 99% efektivní a pravidelně chytáme útoky, které samotné modely postrádají.

Ve skutečnosti většina společností, se kterými mluvíme, chce začít s řízením aplikací zaměstnanců a poté trochu později nasadit zákaznickou aplikaci umělé inteligence založenou na jejich interních datech. Takže používají Witness k ochraně svých lidí a poté zapnou ohňový zeď pro injekci dotazů. Jeden systém, jeden konzistentní způsob, jak vytvářet politiky, snadné škálování.

Jaké jsou vaše dlouhodobé cíle pro WitnessAI a kde vidíte evoluci řízení umělé inteligence v příštích pěti letech? 

Dosud jsme mluvili pouze o modelu člověk-chat aplikace. Naší další fází bude zvládnutí aplikací aplikací, tj. agentic AI. Navrhli jsme API v naší platformě tak, aby fungovaly stejně dobře s agenty i lidmi. Za tím jsme postavili novým způsobem, jak získat přehled a kontrolu na úrovni sítě v éře umělé inteligence, a budeme růst naší společnost s tím na mysli.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit WitnessAI.