Rehan Jalil, dyrektor generalny Securiti – seria wywiadów

Rehan Jalil jest dyrektorem generalnym Securiti.AI, doradcą Venture w Mayfield Fund oraz inwestorem i mentorem wielu startupów z Doliny Krzemowej. Był wiceprezesem i dyrektorem generalnym ds. bezpieczeństwa w chmurze w firmie Symantec.

Securiti AI to scentralizowana platforma klasy korporacyjnej, która umożliwia bezpieczne korzystanie z danych i sztucznej inteligencji – będąca pionierem Data+AI Command Center. Firmy polegają na Securiti w zakresie bezpieczeństwa danych, prywatności, zarządzania i zgodności. Firma Securiti została wyróżniona licznymi nagrodami branżowymi i analitycznymi, a ostatnio została uznana przez Gartner Peer Insights za wybór klientów dla DSPM oraz przez GigaOm za najwyżej ocenianego dostawcę DSPM.

Czy możesz rozwinąć wizję stojącą za Data Command Center Securiti AI i czym różni się ono od innych platform zarządzania danymi dostępnych na rynku?

 Nasza wizja dotycząca Data Command Center jest prosta: naszym celem jest umożliwienie organizacjom pełnego wykorzystania zasobów danych bez narażania prywatności, bezpieczeństwa i zgodności. Osiąga się to poprzez automatyczne skanowanie krajobrazu danych organizacji (SaaS, IaaS, jeziora i hurtownie danych w chmurze itp.) i uzyskiwanie szczegółowego wglądu we wszystkie wrażliwe informacje i systemy AI. Te spostrzeżenia, zapisane na unikalnym wykresie wiedzy wyświetlanym w czasie rzeczywistym, służą do egzekwowania kontroli prywatności i bezpieczeństwa oraz zapewnienia zgodności z globalnymi przepisami dotyczącymi danych. Platforma ta jest szczególnie cenna w rozwoju nowoczesnych systemów generatywnej AI, które żywią się danymi – zwłaszcza danymi nieustrukturyzowanymi. Historycznie rzecz biorąc, organizacje korzystały z szeregu fragmentarycznych narzędzi, aby sprostać obowiązkom dotyczącym danych, co było kosztowne i złożone. Ujednolicona platforma Securiti zwiększa wydajność, obniża koszty, ogranicza ryzyko i umożliwia bezpieczne korzystanie z danych i sztucznej inteligencji.

Jakie były najważniejsze wyzwania, przed którymi stanęłaś podczas uruchamiania Securiti w 2019 r. i jak doświadczenie w firmie Symantec wpłynęło na Twoje podejście?

 Jednym z wyzwań, przed którymi stanęliśmy zakładając Securiti, była epidemia Covida zaledwie sześć miesięcy po uruchomieniu firmy. W pierwszych dniach zakładania firmy kluczowe znaczenie ma zdobycie klientów i uzyskanie wczesnych przychodów. Mieliśmy duży impet, w tym wczesne pozyskanie klientów i zdobycie tytułu Najbardziej Innowacyjnego Startupu RSAC 2020. Tydzień po tym, jak zdobyliśmy wyróżnienie RSA, świat się zatrzymał i weszliśmy w niepewny klimat gospodarczy. Dzięki mojemu doświadczeniu z firmą Symantec i poprzednimi firmami dobrze poznałem współpracę z największymi globalnymi organizacjami w zakresie ich złożonych potrzeb w zakresie bezpieczeństwa. Jako zespół również przechodziliśmy w przeszłości przez okresy pogorszenia koniunktury gospodarczej. To doświadczenie dało nam pewność, że możemy trzymać się naszej strategii, nadal inwestować w rozwiązywanie realnych problemów, z jakimi borykają się duże organizacje korporacyjne, i cierpliwie czekać, aż rynki powrócą do bardziej normalnego stanu.

W jaki sposób Securiti AI zapewnia bezpieczeństwo wrażliwych danych w hybrydowych środowiskach wielochmurowych?

Zabezpieczanie wrażliwych danych w złożonych hybrydowych środowiskach multicloud wymaga holistycznego podejścia. Securiti wykorzystuje zaawansowaną technologię do automatycznego wykrywania i klasyfikowania danych w całym krajobrazie danych organizacji, takim jak SaaS, IaaS, jeziora danych, magazyny danych i systemy lokalne, obejmujące zarówno dane ustrukturyzowane, jak i nieustrukturyzowane. Securiti dodatkowo wzbogaca te informacje o dogłębne analizy kontekstowe, budując graf wiedzy w czasie rzeczywistym, obejmujący informacje o tym, do kogo należą dane, uprawnienia dostępu, obowiązujące przepisy, lokalizację danych i wiele innych. Ta podstawa jest kluczowa dla automatyzacji precyzyjnych kontroli w celu ochrony wrażliwych informacji i zapewnienia zgodności z odpowiednimi przepisami. Na przykład platforma automatyzuje obowiązki dotyczące prywatności, takie jak mapowanie danych, wnioski o prawa osób, których dane dotyczą, i ich oceny. Uwzględnia również obowiązki dotyczące bezpieczeństwa danych, takie jak inteligencja i zarządzanie dostępem do danych, zarządzanie postawą bezpieczeństwa danych, minimalizacja danych i zarządzanie naruszeniami. Obecnie przedmiotem szczególnego zainteresowania jest zarządzanie nieustrukturyzowanymi danymi i bezpieczny rozwój systemów AI, w tym identyfikacja ukrytych rozwiązań AI, zapewnienie, że wrażliwe dane nie będą wykorzystywane w modelach AI, katalogowanie i monitorowanie ryzyka związanego z systemami AI oraz egzekwowanie mechanizmów kontroli za pomocą zapór sieciowych LLM w celu ochrony systemów AI przed niewłaściwym użyciem lub nadużyciami. Nasze Centrum Zarządzania Danymi zapewnia niezrównaną przejrzystość i kontrolę, umożliwiając bezpieczne korzystanie z danych i sztucznej inteligencji.

W jaki sposób Securiti AI pomaga organizacjom zachować zgodność i skutecznie zarządzać obowiązkami dotyczącymi prywatności, biorąc pod uwagę rosnącą złożoność przepisów dotyczących prywatności danych?

 Poruszanie się po złożonej sieci przepisów dotyczących ochrony danych może być zniechęcające. Nowe przepisy pojawiają się w szybkim tempie – np. unijna ustawa o sztucznej inteligencji, rozporządzenie wykonawcze Białego Domu dotyczące sztucznej inteligencji i kalifornijska ustawa nr 1047, która ma wejść w życie w ciągu kilku miesięcy. Przedsiębiorstwa muszą codziennie brać pod uwagę nowe wymagania, przestrzegając jednocześnie ram takich jak zarządzanie ryzykiem AI NIST i model zarządzania sztuczną inteligencją Singapuru. Securiti dysponuje wyspecjalizowanym zespołem badawczym, który na bieżąco śledzi najnowsze przepisy i wykorzystuje tę wiedzę w naszym Data Command Center. Zapewnia to organizacjom kontekst w czasie rzeczywistym, umożliwiający podkreślenie potencjalnych zagrożeń, wraz z wbudowanymi szablonami automatyzującymi przestrzeganie najnowszych przepisów. Centrum zarządzania danymi Securiti automatyzuje wiele najbardziej czasochłonnych i skomplikowanych zadań związanych z przestrzeganiem zasad prywatności, w tym mapowanie danych, oceny wpływu na prywatność, wnioski o prawa osób, których dane dotyczą, transfery transgraniczne, zarządzanie naruszeniami i zarządzanie zgodami.

Czy możesz omówić rolę sztucznej inteligencji na platformie Securiti oraz sposób, w jaki poprawia ona bezpieczeństwo danych i zarządzanie?

 Securiti wykorzystuje zaawansowane techniki wykorzystujące sztuczną inteligencję i uczenie maszynowe, aby zapewnić większą dokładność w odkrywaniu i klasyfikacji danych. Techniki te znacznie ograniczają liczbę fałszywych alarmów i zwiększają wykrywanie wrażliwych treści w trudnych zbiorach danych, takich jak dane nieustrukturyzowane, obrazy i wideo. Oprócz wykorzystania sztucznej inteligencji na platformie, Data Command Center firmy Securiti ma również kluczowe znaczenie, jeśli chodzi o pomaganie organizacjom w zarządzaniu ich ekosystemami sztucznej inteligencji i zarządzaniu nimi. Częścią tego jest bezpieczne przetwarzanie dużych, nieustrukturyzowanych i ustrukturyzowanych zbiorów danych, przy jednoczesnym zapewnieniu, że wrażliwe lub nieprawidłowe informacje nie zasilają modeli sztucznej inteligencji. Ponadto istnieje ogromne wezwanie do ochrony prywatności i praw dostępu do danych oraz ochrony modeli sztucznej inteligencji o znaczeniu krytycznym dla systemu przed takimi czynnikami, jak natychmiastowe wstrzykiwanie i eksfiltracja danych. Wdrożenie kompleksowych kontroli i barier ochronnych wokół systemów sztucznej inteligencji umożliwia organizacjom bezpieczne wdrażanie innowacji.

Jak działa zapora ogniowa LLM firmy Securiti i jakie korzyści oferuje w zabezpieczaniu aplikacji GenAI?

 Nasza świadomość kontekstu Zapora ogniowa LLM stał się kluczowym elementem naszego stosu zabezpieczeń. W skrócie: zapora ogniowa LLM jest wyposażona w zaawansowane możliwości przetwarzania języka, co oznacza, że ​​rozumie komunikaty użytkownika w wielu językach, analizuje treści multimedialne i zapewnia solidną ochronę przed różnymi zagrożeniami, takimi jak wyciek danych, natychmiastowe wstrzykiwanie i szkodliwe treści. Zapory ogniowe LLM firmy Securiti są wyjątkowe, ponieważ są świadome kontekstu – rozumieją w czasie rzeczywistym wrażliwe treści i kontekst wokół danych, np. uprawnienia dostępu – zapewniając ciągłe monitorowanie i ochronę w oparciu o wgląd w krajobraz danych w czasie rzeczywistym. Zapory sieciowe Securiti są również wyjątkowe pod tym względem, że sprawdzają trzy różne punkty potoku AI, w tym zaporę natychmiastową (między monitem użytkownika a modelem LLM, chroniącą przed złośliwymi atakami), zaporę pobierania (między modelem LLM a bazą danych wektorowych, monitorowanie, jakie dane są pobierane w celu uzyskania odpowiedzi) oraz zaporę odpowiedzi (pomiędzy modelem LLM a monitem użytkownika, zapewniającą wydawanie odpowiednich odpowiedzi w oparciu o zasady korporacyjne). Zapewniają one kompleksową kontrolę w czasie rzeczywistym w celu ochrony systemów AI. Wszystkie te interakcje wymagają kontroli w czasie rzeczywistym w celu zidentyfikowania ataków zewnętrznych, złośliwych aktorów, a nawet błędów użytkowników.

Czy możesz podać przykłady tego, jak globalne firmy wykorzystują Data Command Center firmy Securiti do rozbijania silosów i osiągania ujednoliconej inteligencji danych?

Przykładowo firma z listy Fortune 500, z którą współpracowaliśmy, miała złożone wymagania dotyczące prywatności danych, bezpieczeństwa danych i zarządzania danymi. Nawiązaliśmy współpracę z kluczowymi członkami tych zespołów na najwyższych szczeblach, w tym z ich CPO, CDO i CISO. Narzekali na posiadanie dziesiątek fragmentarycznych narzędzi w celu uzyskania wymaganego zarządzania danymi, a narzędzia te często przedstawiały niespójne poglądy na temat swoich danych. Połączenie tych systemów w celu spełnienia obowiązków związanych z danymi również było skomplikowane i kosztowne. Chcieli wykorzystać nasze rozwiązanie, aby uzyskać „pojedyncze źródło prawdy” na temat swojego krajobrazu danych, z którego mogłyby korzystać różne zespoły, eliminując niespójności i usprawniając operacje pomiędzy grupami (np. obsługa transferów transgranicznych lub naruszeń danych, które wymagają wkład wielu zespołów). Ujednolicona platforma poprawiła efektywność operacyjną, zmniejszyła złożone koszty integracji i zapewniła, że ​​wszystkie zespoły pracowały na tym samym zestawie danych, ograniczając odpowiedzialność i ryzyko.

Biorąc pod uwagę Twoje rozległe doświadczenie w dziedzinie bezpieczeństwa, jakie trendy pojawiają się w bezpieczeństwie danych i zarządzaniu?

Organizacje borykają się ze złożoną gamą produktów spełniających wymagania dotyczące bezpieczeństwa danych i zarządzania. Wyraźnym trendem jest pojawienie się ujednoliconych platform, które pomagają obniżyć koszty i złożoność oraz ułatwić koordynację między działami. Kolejnym trendem jest zwiększone wykorzystanie sztucznej inteligencji i automatyzacji w tych rozwiązaniach, aby pomóc w skalowaniu w celu zaradzenia eksplozji danych w hybrydowym środowisku wielochmurowym i złożonemu zestawowi przepisów dotyczących danych. Starsze rozwiązania do wykrywania danych i DLP nie spełniają już tych potrzeb. Wreszcie największą tendencją jest szybki wzrost wykorzystania sztucznej inteligencji, w szczególności sztucznej inteligencji generatywnej. Chociaż wszyscy znają konsumenckie rozwiązania AI, takie jak Chat GPT, bardziej przekonującym przypadkiem użycia są rozwiązania AI dla przedsiębiorstw, które naprawdę mogą zwiększyć innowacje i przewagę konkurencyjną. Aby pomyślnie zbudować systemy AI klasy korporacyjnej, organizacje będą potrzebować kompleksowych rozwiązań w zakresie kontroli i zarządzania danymi, aby osadzić odpowiednie zabezpieczenia. Organizacje odnoszące sukcesy będą ciężko pracować nad tworzeniem innowacyjnych rozwiązań w zakresie sztucznej inteligencji, co z kolei stworzy zapotrzebowanie na nowe rozwiązania w zakresie bezpieczeństwa i zarządzania sztuczną inteligencją.

Jak Twoim zdaniem organizacje powinny przygotować się na wyzwania i możliwości, jakie stwarza rosnące wykorzystanie sztucznej inteligencji w zarządzaniu danymi?

Eksplozja sztucznej inteligencji jest ekscytująca, ale firmy muszą nadać priorytet odpowiedzialnemu wdrażaniu, aby sztuczna inteligencja nie stała się obciążeniem finansowym lub reputacyjnym. Dzięki priorytetowemu traktowaniu godnych zaufania praktyk związanych ze sztuczną inteligencją firmy – i ich klienci – mogą oczekiwać wysokiego poziomu przejrzystości, kontroli ryzyka i zaufania do reputacji. Oznacza to przejęcie kontroli nad środowiskiem sztucznej inteligencji, ocenę modeli pod kątem stronniczości i bezpieczeństwa, ciągłe monitorowanie i zapewnienie etycznego postępowania z danymi. Sztuczna inteligencja powinna działać dla Ciebie, a nie przeciwko Tobie.

W jaki sposób Securiti AI integruje automatyzację w zarządzaniu bezpieczeństwem danych i prywatnością i jakie korzyści ta automatyzacja przynosi firmom pod względem wydajności i zgodności?

Securiti AI opiera się na automatyzacji, zwiększaniu wydajności i zmniejszaniu ryzyka błędu ludzkiego. Automatyzując zadania takie jak odkrywanie danych, klasyfikacja i ocena zgodności, odciążamy zespoły ds. bezpieczeństwa i prywatności, aby mogły skupić się na inicjatywach strategicznych. Nasze możliwości automatyzacji obejmują reagowanie na incydenty, wykrywanie zagrożeń i naprawę, dzięki czemu nasi klienci mogą szybko reagować na incydenty związane z bezpieczeństwem. Dodatkowo automatyzacja odgrywa kluczową rolę w zapewnieniu zgodności ze zmieniającymi się przepisami. Usprawniając procesy compliance, pomagamy organizacjom redukować koszty, minimalizować ryzyko i wykazywać zaangażowanie w ochronę danych.

Dziękuję za wspaniały wywiad. Czytelnicy chcący dowiedzieć się więcej powinni odwiedzić nas Securiti AI.