Rick Caccia, WitnessAI:n toimitusjohtaja ja perustaja – Haastattelusarja

Rick Caccia, WitnessAI:n toimitusjohtaja ja perustaja, on laaja kokemus turvallisuus- ja compliancetuotteiden lanseerauksesta. Hän on toiminut johtotehtävissä tuote- ja markkinointiosuuksilla Palo Alto Networksissa, Googlessa ja Symantecissa. Caccia on aiemmin johtanut tuotemarkkinointia ArcSightissa sen listautumisen ja julkisen yhtiön toiminnan aikana ja toiminut ensimmäisenä markkinointijohtajana Exabeamissa. Hänellä on useita tutkintoja Kalifornian yliopistosta Berkeleystä.

WitnessAI kehittää turvallisuusalustaa, joka keskittyy varmistamaan AI:n turvallisen ja luotettavan käytön yrityksissä. Jokaisen suuren teknologisen muutoksen – kuten webin, mobiilin ja pilvilaskennan – myötä uudet turvallisuushaasteet syntyvät, mikä luo mahdollisuuksia alan johtajien nousulle. AI edustaa seuraavaa rintamaa tässä kehityksessä.

Yrityksen tavoitteena on vakiinnuttaa itsensä AI-turvalleen johtajaksi yhdistämällä asiantuntemusta koneoppimisesta, kyberturvallisuudesta ja suurten pilvipalvelujen toiminnasta. Sen tiimi tuo syvää kokemusta AI-kehityksestä, reverse engineeringistä ja monipilvisestä Kubernetes-käytöstä, joka koskee AI-vetoinen teknologian turvallisuuden kriittisiä haasteita.

Mikä innoitti sinua perustamaan WitnessAI:n, ja mitkä olivat avainhaasteet AI-hallinnassa ja turvallisuudessa, joita halusit ratkaista? 

Kun aloimme yrityksen, ajattelimme, että turvallisuustiimit olisivat huolissaan hyökkäyksistä heidän sisäisiin AI-malleihin. Sen sijaan ensimmäiset 15 CISO:ta, joille puhuin, sanoivat vastakkaisen, että laajan yritysten LLM-käyttöönotto oli vielä kaukana, mutta kiireellinen ongelma oli suojella heidän työntekijöidensä AI-sovellusten käyttöä. Otimme askeleen taakse ja näimme, että ongelma ei ollut pelkästään torjua pelottavia kyberhyökkäyksiä, vaan turvata yritysten työntekijöiden turvallinen AI:n käyttö. Hallinto voi olla vähemmän seksikästä kuin kyberhyökkäykset, mutta se on se, mitä turvallisuus- ja tietosuojatiimit todella tarvitsevat. He tarvitsevat näkyvyyttä siitä, mitä heidän työntekijänsä tekevät kolmannen osapuolen AI-sovelluksilla, keinon toteuttaa hyväksyttävän käytön politiikkaa ja keinon suojata tietoja estämättä niiden käyttöä. Niinpä se on se, mitä olemme rakentaneet.

Kuinka laaja kokemuksesi Googlen pilvipalveluissa, Palo Alto Networksissa ja muissa kyberturvallisuusyhtiöissä vaikuttivat lähestymistapaasi WitnessAI:n rakentamiseen? 

Olen puhunut monien CISO:iden kanssa vuosien varrella. Yksi yleisin asia, jonka kuulen heiltä tänään, on: “En halua olla ‘Tohtori Ei’, kun on kyse AI:sta; haluan auttaa työntekijöitäni käyttämään sitä paremmin.” Joku, joka on työskennellyt kyberturvallisuusyhtiöiden kanssa kauan, tämä on erilainen lausuma. Se muistuttaa enemmän dotcom-aikakautta, jolloin web oli uusi ja muuntava teknologia. Kun rakensimme WitnessAI:ta, aloimme tarkalleen tuoteominaisuuksilla, jotka auttoivat asiakkaitamme omaksumaan AI:n turvallisesti; viestimme, että tämä on kuin magiaa, ja jokainen haluaa kokea magiaa. Ajattelen, että turvallisuusyhtiöt ovat liian nopeita pelottamaan pelolla, ja halusimme olla erilaisia.

Mikä erottaa WitnessAI:n muista AI-hallinta- ja turvallisuusalustoista markkinoilla tänään? 

No, yksi asia on, että useimmat muut toimijat alan markkinoilla keskittyvät pääasiassa turvallisuuteen eikä hallintoon. Minulle hallinto on kuin auton jarrut. Jos haluat päästä minnekin nopeasti, tarvitset tehokkaat jarrut lisäksi voimakkaaseen moottoriin. Kukaan ei aja Ferraria nopeasti, jos siinä ei ole jarruja. Tässä tapauksessa yrityksesi käyttää AI:ta on Ferrari, ja WitnessAI on jarrut ja ohjauspyörä.

Kuinka WitnessAI tasapainottaa AI-innovaation tarpeen ja yritysten turvallisuuden ja compliancen? 

Kuten kirjoitin aiemmin, uskomme, että AI pitäisi olla kuin magiaa – se voi auttaa sinua tekemään upeita asioita. Tämän ajatuksen kanssa mielessä, ajattelemme, että AI-innovaatio ja turvallisuus ovat kytköksissä toisiinsa. Jos työntekijäsi voivat käyttää AI:ta turvallisesti, he käyttävät sitä usein, ja sinä etene. Jos sovellet tyypillistä turvallisuusmieltä ja lukitset sen, kilpailijasi ei tee sitä, ja he etenevät. Kaikki, mitä teemme, on aiheuttamassa AI:n turvallista omaksumista. Yksi asiakkaani sanoi minulle: “Tämä on magiaa, mutta useimmat toimijat käsittelevät sitä kuin se olisi mustaa magiaa, pelottavaa ja jotain, mitä pitäisi pelätä.” WitnessAI:ssa autamme asiakkaitamme käyttämään AI:ta turvallisesti.

Voitko kertoa yrityksen ydinfilosofiasta AI-hallinnassa – näkevätkö te AI-turvalleen enablerinä eikä rajoituksena? 

Säännöllisesti CISO:t tulevat meille tapahtumiin, joissa olemme esittäneet, ja he sanovat: “Teidän kilpailijanne ovat kaikki aiheuttamassa pelkoa AI:sta, ja te olette ainoa toimija, joka kertoo, miten asiakkaat voivat käyttää AI:ta tehokkaasti.” Sundar Pichai Googlessa on sanonut, että “AI voi olla syvemmän vaikuttava kuin tuli”, ja se on mielenkiintoinen vertaus. Tuli voi olla erittäin vahingollista, kuten olemme näyttäneet äskettäin. Mutta hallittu tuli voi tehdä terästä, joka kiihdyttää innovaatiota. Joskus WitnessAI:ssa puhumme luomisesta, joka mahdollistaa asiakkaidemme turvallisesti ohjata AI-“tulta” luomaan teräksen vertaista innovaatiota. Vaihtoehtoisesti, jos ajattelet AI:ta magiana, ehkä tämä tavoitteemme on antaa sinulle taikasauva, jolla voit ohjata ja hallita sitä.

Mitkä ovat suurimmat riskit, joita yritykset kohtaavat käyttäessään generatiivista AI:ta, ja miten WitnessAI lievittää näitä riskejä?

Ensimmäinen on näkyvyys. Monet ihmiset ovat yllättyneitä siitä, että AI-sovellusmaailma ei ole vain ChatGPT ja DeepSeek; on tuhansia AI-sovelluksia internetissä, ja yritykset ottavat riskejä, kun työntekijät käyttävät näitä sovelluksia, joten ensimmäinen askel on saada näkyvyys: mitkä AI-sovellukset työntekijäni käyttävät, mitä he tekevät näillä sovelluksilla, ja onko se riskialtista?

Toinen on hallinta. Lakitiimisi on laatinut kattavan hyväksyttävän käytön politiikan AI:lle, joka varmistaa asiakastietojen, kansalaisdatan, immateriaalioikeuksien ja työntekijöiden turvallisuuden. Miten toteutat tämän politiikan? Onko se päätepisteessäsi, palomuurissasi, VPN:ssäsi, pilvessäsi? Mitä jos ne ovat eri toimijoiden tuotteita? Tarvitset tavan määritellä ja pakottaa hyväksyttävän käytön politiikkaa, joka on yhdenmukainen AI-malleissa, sovelluksissa, pilvessä ja turvallisuustuotteissa.

Kuinka WitnessAI:n AI-havainnollistusominaisuus auttaa yrityksiä seuraamaan työntekijöiden AI-käyttöä ja estämään “varjo-AI”-riskejä?

WitnessAI yhdistää helposti verkkoonne ja rakentaa hiljaisesti luettelon kaikista AI-sovelluksista (ja niitä on tuhansia internetissä), joihin työntekijäsi pääsevät käsiksi. Kerromme, missä nämä sovellukset sijaitsevat, missä ne isännöivät tietojaan jne., jotta ymmärrät, kuinka riskialttiita nämä sovellukset ovat. Voit ottaa käyttöön keskustelunäkyvyyden, jossa käytämme syvää pakettitarkastelua havainnoimaan kysymyksiä ja vastauksia. Voimme luokitella kysymykset riskin ja aikomuksen mukaan. Aikomus voi olla “kirjoita koodia” tai “kirjoita yrityssopimus”. Se on tärkeää, koska sitten annamme sinun kirjoittaa aikomuksen perusteella olevia politiikkasäätöjä.

Mikä on AI-politiikan toteutuksen rooli yritysten AI-yhdenmukaisuuden varmistamisessa, ja miten WitnessAI tehostaa tätä prosessia?

Yhdenmukaisuus tarkoittaa varmistamista, että yrityksesi noudattaa sääntöjä tai politiikkoja, ja siinä on kaksi osaa. Ensimmäinen on, että sinun on tunnistettava ongelmallinen toiminta. Esimerkiksi minun on tiedettävä, että työntekijäsi käyttää asiakastietoja tavalla, joka voi olla ristiriidassa tietosuojalain kanssa. Teemme tämän havainnollistuspalvelumme avulla. Toinen osa on kuvaaminen ja politiikan pakottaminen tällaisia toimia vastaan. Et halua vain tietää, että asiakastiedot vuotavat, vaan haluat estää niiden vuotamisen. Niinpä olemme kehittäneet yksilöllisen AI-kohtaisen politiikkamoottorin, Witness/CONTROL, joka antaa sinun helposti luoda identiteetti- ja aikomuksen perusteella olevia politiikkoja suojella tietoja, estää haitallisia tai laittomia vastauksia jne. Esimerkiksi voit luoda politiikan, joka sanoo jotain tämän tapaista: “Vain oikeusosastomme voi käyttää ChatGPT:ta kirjoittamaan yrityssopimuksia, ja jos he tekevät niin, poista automaattisesti kaikki henkilötiedot.” Helppo sanoma, ja WitnessAI:ssa se on helppo toteuttaa.

Kuinka WitnessAI vastaa LLM-vankilamurtoihin ja kysymysinjektiotarpeisiin?

Meillä on tiimi, joka on erittäin terävä. Aluksi he rakensivat järjestelmän luomaan syntetisiä hyökkäysdataa lisäksi ottamalla käyttöön laajasti saatavilla olevia koulutusdatajoukkoja. Tuloksena olemme mittanneet prompttien injektioita kaikkea, mitä on tarjolla, ja olemme yli 99 % tehokkaita ja saamme usein kiinni hyökkäykset, joita itse mallit eivät havaitse.

Mitkä ovat pitkän aikavälin tavoitteet WitnessAI:lle, ja miten näet AI-hallinnan kehittyvän seuraavien viiden vuoden aikana? 

Tähän asti olemme puhuneet vain henkilökohtaisesta chat-sovelluksesta. Seuraava vaihe on käsitellä sovelluksesta sovellukseen eli agenteille. Olemme suunnitelleet API:emme toimimaan yhtä hyvin sekä agenteille että ihmisille. Uskomme, että olemme luoneet uuden tavan saada verkkotasoinen näkyvyys ja politiikkavaliokunta AI-ajan alla, ja kasvamme yritystä sillä ajatuksella.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla WitnessAI:ssa.