Rehan Jalil, izvršni direktor Securitija – serija intervjua

Rehan Jalil je izvršni direktor tvrtke Securiti.AI, savjetnik za rizične projekte u Mayfield Fundu te investitor i mentor mnogim startupima iz Silicijske doline. Bio je SVP i GM za Cloud Security u Symantecu.

Securiti AI je centralizirana platforma razine poduzeća koja omogućuje sigurnu upotrebu podataka i umjetne inteligencije – i pionir Data+AI Command Centera. Tvrtke se oslanjaju na Securiti za sigurnost svojih podataka, privatnost, upravljanje i usklađenost. Securiti je dobio brojne nagrade za industriju i analitičare, a nedavno ga je Gartner Peer Insights prepoznao kao izbor kupaca za DSPM, a GigaOm kao najbolje ocijenjenog dobavljača za DSPM.

Možete li razraditi viziju koja stoji iza Securiti AI Data Command Centera i kako se on razlikuje od ostalih platformi za upravljanje podacima na tržištu?

 Naša vizija s Data Command Centerom je jasna: cilj nam je osnažiti organizacije da u potpunosti iskoriste svoju podatkovnu imovinu bez ugrožavanja privatnosti, sigurnosti ili usklađenosti. To se postiže automatskim skeniranjem organizacijskog podatkovnog krajolika (SaaS, IaaS, podatkovna jezera i skladišta u oblaku, itd.) i dobivanjem preciznih uvida u sve osjetljive informacije i AI sustave. Ovi uvidi, zabilježeni u jedinstvenom grafikonu znanja u stvarnom vremenu, koriste se za provođenje kontrola privatnosti i sigurnosti i osiguravanje usklađenosti s globalnim propisima o podacima. Ova platforma posebno je vrijedna u razvoju modernih generativnih AI sustava koji se hrane podacima – posebno nestrukturiranim podacima. Povijesno gledano, organizacije su se oslanjale na niz fragmentiranih alata za rješavanje svojih obveza vezanih uz podatke, što je bilo skupo i složeno. Securitijeva objedinjena platforma povećava učinkovitost, smanjuje troškove, umanjuje rizike i omogućuje sigurnu upotrebu podataka i umjetne inteligencije.

Koji su bili ključni izazovi s kojima ste se suočili prilikom pokretanja Securitija 2019. i kako je vaše iskustvo u Symantecu oblikovalo vaš pristup?

 Jedan od izazova s ​​kojima smo se suočili pri pokretanju Securitija bila je epidemija Covida samo šest mjeseci nakon pokretanja tvrtke. U prvim danima pokretanja tvrtke ključno je stjecanje kupaca i rani prihod. Imali smo veliki zamah, uključujući rano privlačenje kupaca i osvajanje RSAC 2020 Najinovativnijeg startupa. Tjedan dana nakon što smo osvojili priznanje RSA, svijet se zatvorio i ušli smo u neizvjesnu gospodarsku klimu. Kroz svoje iskustvo sa Symantecom i prethodnim tvrtkama, bio sam dobro upoznat s radom s najvećim globalnim organizacijama na njihovim složenim sigurnosnim potrebama. Kao tim, prošli smo i kroz ekonomske krize u prošlosti. Ovo iskustvo dalo nam je samopouzdanje da se držimo naše strategije, nastavimo ulagati u rješavanje stvarnih problema s kojima se suočavaju velike poslovne organizacije i strpljivo čekamo da se tržišta vrate u normalnije stanje.

Kako Securiti AI osigurava sigurnost osjetljivih podataka u hibridnim multicloud okruženjima?

Zaštita osjetljivih podataka u složenim hibridnim višeoblačnim okruženjima zahtijeva holistički pristup. Securiti koristi naprednu tehnologiju za automatsko otkrivanje i klasifikaciju podataka u cijelom podatkovnom krajoliku organizacije, kao što su SaaS, IaaS, podatkovna jezera, skladišta i lokalni sustavi, uključujući i strukturirane i nestrukturirane podatke. Securiti dodatno obogaćuje ove informacije dubokim kontekstualnim uvidima gradeći graf znanja u stvarnom vremenu, uključujući kome podaci pripadaju, prava pristupa, koji se propisi primjenjuju, gdje se podaci nalaze i još mnogo toga. Ovaj temelj je ključan za automatizaciju preciznih kontrola za zaštitu osjetljivih informacija i usklađenost s relevantnim propisima. Na primjer, platforma automatizira obveze privatnosti kao što su mapiranje podataka, zahtjevi i procjene prava ispitanika. Također se bavi obvezama sigurnosti podataka kao što su obavještajni podaci i upravljanje pristupom podacima, upravljanje sigurnošću podataka, minimiziranje podataka i upravljanje kršenjima. Trenutno je od velikog interesa upravljanje nestrukturiranim podacima i siguran razvoj AI sustava, uključujući identificiranje shadow AI-a, osiguravanje da osjetljivi podaci ne hrane AI modele, katalogiziranje i praćenje rizika AI sustava te provođenje kontrola s LLM vatrozidima kako bi se AI sustavi zaštitili od zlouporabe ili zloupotrebe. Naš centar za upravljanje podacima pruža neusporedivu vidljivost i kontrolu omogućujući sigurno korištenje podataka i umjetne inteligencije.

S obzirom na sve veću složenost propisa o privatnosti podataka, kako Securiti AI pomaže organizacijama da ostanu usklađene i učinkovito upravljaju obvezama u vezi s privatnošću?

 Kretanje složenom mrežom propisa o privatnosti podataka može biti zastrašujuće. Novo zakonodavstvo dolazi velikom brzinom – poput Zakona o umjetnoj inteligenciji EU-a, Izvršne uredbe Bijele kuće o umjetnoj inteligenciji i kalifornijskog zakona 1047 koji će se pojaviti u roku od nekoliko mjeseci. Poduzeća moraju svakodnevno razmatrati nove zahtjeve, a istovremeno se pridržavati okvira kao što su NIST-ov AI Risk Management i singapurski Model AI Governance. Securiti ima predani istraživački tim koji je u korak sa svim najnovijim propisima i ugrađuje to znanje u naš Data Command Center. Ovo organizacijama pruža kontekst u stvarnom vremenu za isticanje potencijalnih rizika zajedno s ugrađenim predlošcima za automatizaciju usklađenosti s najnovijim propisima. Securitijev Data Command Center automatizira mnoge od dugotrajnih i najsloženijih zadataka povezanih s usklađenošću privatnosti, uključujući mapiranje podataka, procjene utjecaja na privatnost, zahtjeve za pravima subjekata podataka, prekogranične prijenose, upravljanje povredama i upravljanje pristankom.

Možete li razgovarati o ulozi umjetne inteligencije u Securitiovoj platformi i kako poboljšava sigurnost podataka i upravljanje?

 Securiti koristi napredne tehnike koje koriste AI i ML kako bi pružili veću točnost u otkrivanju i klasifikaciji podataka. Ove tehnike značajno smanjuju lažne pozitivne rezultate i povećavaju otkrivanje osjetljivog sadržaja u izazovnim skupovima podataka kao što su nestrukturirani podaci, slike i video. Osim iskorištavanja umjetne inteligencije u platformi, Securitijev Data Command Center također je ključan za pomoć organizacijama u upravljanju njihovim ekosustavima umjetne inteligencije. Dio toga uključuje sigurnu obradu velikih nestrukturiranih i strukturiranih skupova podataka, istovremeno osiguravajući da osjetljive ili netočne informacije ne potiču modele umjetne inteligencije. Dodatno, postoji veliki poziv da se zaštiti privatnost i prava pristupa podacima i zaštite sistemski kritični modeli AI od stvari kao što su brzo ubacivanje i eksfiltracija podataka. Postavljanje sveobuhvatnih kontrola i zaštitnih ograda oko sustava umjetne inteligencije omogućuje organizacijama da sigurno prihvate inovacije.

Kako radi Securiti LLM Firewall i koje prednosti nudi u osiguravanju GenAI aplikacija?

 Naš kontekst svjestan LLM vatrozid je postao ključni gradivni blok u našem sigurnosnom nizu. Za kratak pregled, vatrozid LLM opremljen je naprednim mogućnostima obrade jezika, što znači da razumije korisničke upite na više jezika, analizira multimedijski sadržaj i pruža snažnu zaštitu od raznih prijetnji poput curenja podataka, brzih injekcija i štetnog sadržaja. Securitijevi LLM vatrozidi jedinstveni su po tome što su svjesni konteksta – imaju razumijevanje osjetljivog sadržaja i konteksta oko podataka u stvarnom vremenu, kao što su prava pristupa – pružajući kontinuirani nadzor i zaštitu na temelju uvida u podatkovni krajolik u stvarnom vremenu. Vatrozidi tvrtke Securiti također su jedinstveni po tome što provjeravaju tri različite točke u AI cjevovodu, uključujući brzi vatrozid (između korisničkog odziva i LLM modela, štiteći od zlonamjernih napada), vatrozid za dohvaćanje (između LLM modela i vektorske baze podataka, praćenje podataka koji se dohvaćaju za odgovor) i vatrozid za odgovor (između LLM modela i korisničkog odzivnika, osiguravajući da se odgovarajući odgovori izdaju na temelju korporativnih politika). Oni pružaju sveobuhvatne kontrole u stvarnom vremenu za zaštitu AI sustava. Sve ove interakcije zahtijevaju inspekciju u stvarnom vremenu kako bi se identificirali vanjski napadi, zlonamjerni akteri, pa čak i pogreške korisnika.

Možete li navesti primjere kako globalne tvrtke iskorištavaju Securitijev Data Command Center za razbijanje silosa i postizanje objedinjene podatkovne inteligencije?

Kao primjer, tvrtka s liste Fortune 500 s kojom smo radili imala je složene zahtjeve vezane uz privatnost podataka, sigurnost podataka i upravljanje podacima. Surađivali smo s ključnim članovima tih timova na najvišim razinama, uključujući njihove CPO, CDO i CISO. Žalili su se da imaju desetke fragmentiranih alata kako bi pokušali dobiti upravljanje podacima koje im je potrebno – a ti su alati često imali nedosljedne poglede na njihove podatke. Spajanje ovih sustava kako bi ispunili svoje obveze u pogledu podataka također je bilo složeno i skupo. Bili su nestrpljivi iskoristiti naše rješenje kako bi dobili "jedinstveni izvor istine" o svom krajoliku podataka koji bi mogli koristiti različiti timovi, eliminirajući nedosljednosti i pojednostavljujući operacije između grupa (npr. rukovanje prekograničnim prijenosima ili povredama podataka, što zahtijeva unos više timova). Objedinjena platforma poboljšala je operativnu učinkovitost, smanjila složene troškove integracije i osigurala da svi timovi rade s istim skupom podataka čime se smanjuju odgovornost i rizici.

S obzirom na vaše opsežno iskustvo u sigurnosti, koji se trendovi po vašem mišljenju pojavljuju u sigurnosti podataka i upravljanju?

Organizacije se bore sa složenim nizom proizvoda kako bi zadovoljile svoje zahtjeve za sigurnošću podataka i upravljanjem. Jedan jasan trend je pojava unificiranih platformi koje pomažu smanjiti troškove i složenost te olakšavaju koordinaciju među odjelima. Još jedan trend je povećana upotreba umjetne inteligencije i automatizacije unutar ovih rješenja kako bi se pomoglo u skaliranju za rješavanje eksplozije podataka u hibridnom multicloudu i složenog niza propisa o podacima. Rješenja za naslijeđeno otkrivanje podataka i DLP više ne zadovoljavaju te potrebe. Konačno, najveći trend od svih je brzi rast upotrebe umjetne inteligencije, posebno generativne umjetne inteligencije. Iako su svi upoznati s potrošačkim AI rješenjima, kao što je Chat GPT, uvjerljiviji slučaj upotrebe su rješenja AI za poduzeća koja stvarno mogu potaknuti inovacije i konkurentsku prednost. Za uspješnu izgradnju sustava umjetne inteligencije razine poduzeća, organizacije će trebati sveobuhvatne kontrole i rješenja za upravljanje podacima kako bi ugradili odgovarajuće zaštitne ograde. Uspješne organizacije naporno će raditi na izgradnji inovativnih AI rješenja, što će zauzvrat stvoriti potrebu za novim AI sigurnosnim i upravljačkim rješenjima.

Što mislite, kako bi se organizacije trebale pripremiti za izazove i prilike koje donosi sve veća uporaba umjetne inteligencije u upravljanju podacima?

Eksplozija AI je uzbudljiva, ali tvrtke moraju dati prioritet odgovornoj implementaciji kako bi izbjegle da AI postane financijska ili reputacijska odgovornost. Davanjem prioriteta pouzdanim praksama umjetne inteligencije, tvrtke – i njihovi klijenti – mogu očekivati ​​visoku razinu transparentnosti, rizika kontrole i povjerenja u ugled. To znači preuzimanje kontrole nad vašim AI krajolikom, procjenu modela za pristranost i sigurnost, kontinuirani nadzor i osiguravanje etičkog rukovanja podacima. AI bi trebao raditi za vas, a ne protiv vas.

Kako Securiti AI integrira automatizaciju u upravljanje sigurnošću podataka i privatnošću i koje prednosti ova automatizacija donosi tvrtkama u smislu učinkovitosti i usklađenosti?

Securiti AI izgrađen je na temeljima automatizacije, učinkovitosti vožnje i smanjenja rizika od ljudske pogreške. Automatiziranjem zadataka poput otkrivanja podataka, klasifikacije i procjene usklađenosti, oslobađamo timove za sigurnost i privatnost da se usredotoče na strateške inicijative. Naše mogućnosti automatizacije proširuju se na odgovor na incidente, otkrivanje prijetnji i sanaciju – tako da naši klijenti mogu brzo reagirati na sigurnosne incidente. Dodatno, automatizacija igra ključnu ulogu u osiguravanju usklađenosti s propisima koji se razvijaju. Pojednostavljenjem procesa usklađenosti pomažemo organizacijama smanjiti troškove, minimizirati rizike i pokazati svoju predanost zaštiti podataka.

Hvala vam na sjajnom intervjuu, čitatelji koji žele saznati više neka ga posjete Securiti AI.