Rehan Jalil, CEO Securiti – Wywiad

Rehan Jalil jest CEO Securiti.AI, Venture Advisor w Mayfield Fund oraz inwestorem i mentorem wielu startupów z Doliny Krzemowej. Był SVP i GM ds. Bezpieczeństwa Chmury w Symantec.

Securiti AI to platforma przedsiębiorcza, scentralizowana, umożliwiająca bezpieczne korzystanie z danych i sztucznej inteligencji – oraz pionier Data+AI Command Center. Przedsiębiorstwa polegają na Securiti w kwestiach bezpieczeństwa danych, prywatności, zarządzania i zgodności. Securiti została wyróżniona licznymi nagrodami branżowymi i analitycznymi, a ostatnio została uznana przez Gartner Peer Insights za Customers’ Choice dla DSPM, oraz przez GigaOm za najlepszego dostawcę DSPM.

Czy mógłbyś wyjaśnić wizję za Data Command Center Securiti AI i jak różni się od innych platform zarządzania danymi na rynku?

Nasza wizja związana z Data Command Center jest prosta: chcemy umożliwić organizacjom w pełni wykorzystywać ich aktywa danych bez naruszania prywatności, bezpieczeństwa czy zgodności. To osiągane jest poprzez automatyczne skanowanie krajobrazu danych organizacji (SaaS, IaaS, chmury danych i magazyny itp.) oraz uzyskanie szczegółowych informacji o wszystkich wrażliwych informacjach i systemach sztucznej inteligencji. Te informacje, przechwycone w unikalnym, dynamicznym grafie wiedzy, są wykorzystywane do egzekwowania kontroli prywatności i bezpieczeństwa oraz zapewnienia zgodności z globalnymi przepisami dotyczącymi danych. Ta platforma jest szczególnie cenna przy tworzeniu nowoczesnych, generatywnych systemów sztucznej inteligencji, które żywią się danymi – szczególnie nieustrukturyzowanymi. Historycznie, organizacje polegały na serii fragmentarycznych narzędzi, aby rozwiązać swoje zobowiązania dotyczące danych, co było kosztowne i skomplikowane. Zintegrowana platforma Securiti zwiększa wydajność, redukuje koszty, minimalizuje ryzyko i umożliwia bezpieczne korzystanie z danych i sztucznej inteligencji.

Jakie były kluczowe wyzwania, z którymi spotkałeś się podczas uruchamiania Securiti w 2019 roku, i jak Twoje doświadczenie w Symantec ukształtowało Twój podejście?

Jednym z wyzwań, z którymi spotkaliśmy się podczas uruchamiania Securiti, było wprowadzenie epidemii COVID tylko sześć miesięcy po uruchomieniu firmy. We wczesnych dniach uruchamiania firmy, zdobycie klientów i wczesnych przychodów jest kluczowe. Mieliśmy dużą dynamikę, w tym wczesne zainteresowanie klientów i wygraną nagrodę RSAC 2020 Most Innovative Startup. Tydzień po tym, jak wygraliśmy nagrodę RSA, świat się zamknął, a weszliśmy w niepewną sytuację gospodarczą. Dzięki mojemu doświadczeniu w Symantec i poprzednich firmach, byłam bardzo zaznajomiona z pracą z największymi organizacjami na świecie nad ich złożonymi potrzebami bezpieczeństwa. Jako zespół, również przeszliśmy przez gospodarcze załamania w przeszłości. To doświadczenie dało nam pewność, aby trzymać się strategii, kontynuować inwestowanie w rozwiązywanie prawdziwych problemów, z którymi borykają się duże organizacje, oraz cierpliwie czekać, aż rynki wrócą do bardziej normalnego stanu.

Jak Securiti AI zapewnia bezpieczeństwo wrażliwych danych w środowiskach hybrydowych, wielochmurowych?

Zabezpieczenie wrażliwych danych w złożonych środowiskach hybrydowych, wielochmurowych wymaga holistycznego podejścia. Securiti wykorzystuje zaawansowaną technologię do automatycznego odkrywania i klasyfikowania danych w całym krajobrazie danych organizacji, takim jak SaaS, IaaS, chmury danych, magazyny i systemy lokalne, w tym zarówno strukturalne, jak i nieustrukturyzowane dane. Securiti dodatkowo wzbogaca te informacje o głębokie kontekstowe spostrzeżenia, tworząc dynamiczny graf wiedzy, w tym informacje o tym, do kogo należą dane, prawa dostępu, jakie przepisy mają zastosowanie, gdzie znajdują się dane itp. Ta podstawa jest kluczowa dla automatyzacji precyzyjnych kontroli w celu zabezpieczenia wrażliwych informacji i zapewnienia zgodności z odpowiednimi przepisami. Na przykład, platforma automatyzuje obowiązki związane z prywatnością, takie jak mapowanie danych, wnioski o prawa podmiotów danych i oceny. Adresuje również obowiązki związane z bezpieczeństwem danych, takie jak inteligencja dostępu do danych, zarządzanie i minimalizacja danych oraz zarządzanie incydentami. Bardzo istotne jest obecnie zarządzanie nieustrukturyzowanymi danymi i bezpieczne rozwijanie systemów sztucznej inteligencji, w tym identyfikowanie ukrytej sztucznej inteligencji, zapewnienie, że wrażliwe dane nie karmią modeli sztucznej inteligencji, katalogowanie i monitorowanie ryzyka systemów sztucznej inteligencji oraz egzekwowanie kontroli za pomocą zapór ogniowych LLM, aby chronić systemy sztucznej inteligencji przed nadużyciem lub wykorzystaniem. Nasz Data Command Center zapewnia niezrównaną widoczność i kontrolę, umożliwiając bezpieczne korzystanie z danych i sztucznej inteligencji.

Jak Securiti AI pomaga organizacjom pozostać zgodnymi z rosnącą złożonością przepisów dotyczących prywatności danych i zarządzać zobowiązaniami związanymi z prywatnością?

Nawigowanie w złożonej sieci przepisów dotyczących prywatności danych może być przytłaczające. Nowe ustawy pojawiają się w szybkim tempie – jak EU AI Act, Biały Dom AI Executive Order i California Bill 1047, które wkrótce wejdą w życie. Przedsiębiorstwa mają nowe wymagania do rozważenia każdego dnia, a także przestrzegają ram, takich jak NIST’s AI Risk Management i Singapore’s Model AI Governance. Securiti ma dedykowany zespół badawczy, który jest na bieżąco z najnowszymi przepisami i włącza tę wiedzę do naszego Data Command Center. To zapewnia organizacjom kontekst w czasie rzeczywistym, aby podkreślić potencjalne ryzyka wraz z wbudowanymi szablonami do automatyzacji zgodności z najnowszymi przepisami. Data Command Center Securiti automatyzuje wiele z najbardziej czasochłonnych i skomplikowanych zadań związanych z prywatnością, w tym mapowanie danych, oceny wpływu na prywatność, wnioski o prawa podmiotów danych, transfery transgraniczne, zarządzanie incydentami i zarządzanie zgodami.

Czy mógłbyś omówić rolę sztucznej inteligencji w platformie Securiti i jak poprawia bezpieczeństwo danych i zarządzanie?

Securiti wykorzystuje zaawansowane techniki wykorzystujące sztuczną inteligencję i maszynowe uczenie, aby zapewnić zwiększoną dokładność w odkrywaniu i klasyfikowaniu danych. Te techniki znacznie redukują fałszywe pozytywy i uzupełniają wykrywanie wrażliwych treści w trudnych zbiorach danych, takich jak nieustrukturyzowane dane, obrazy i filmy. Oprócz wykorzystania sztucznej inteligencji w platformie, Data Command Center Securiti jest również kluczowy w pomocy organizacjom w zarządzaniu i zarządzaniu ich ekosystemami sztucznej inteligencji. Część tego obejmuje bezpieczne przetwarzanie dużych, nieustrukturyzowanych i strukturalnych zbiorów danych, przy jednoczesnym zapewnieniu, że wrażliwe lub niepoprawne informacje nie karmią modeli sztucznej inteligencji. Dodatkowo, jest ogromne zapotrzebowanie na zabezpieczenie prywatności i uprawnień dostępu do danych oraz ochronę modeli sztucznej inteligencji przed rzeczami, takimi jak iniekcja promtu i eksfiltracja danych. Wprowadzenie kompleksowych kontroli i barier ochronnych wokół systemów sztucznej inteligencji umożliwia organizacjom bezpieczne korzystanie z innowacji.

Jak działa zapora LLM Securiti, a jakie korzyści oferuje w zabezpieczaniu aplikacji GenAI?

Nasza zapora LLM z uwzględnieniem kontekstu jest kluczowym elementem naszego stosu bezpieczeństwa. Zapora LLM jest wyposażona w zaawansowane możliwości przetwarzania języka, co oznacza, że rozumie prompty użytkowników w wielu językach, analizuje treści multimedialne i zapewnia solidną ochronę przed różnymi zagrożeniami, takimi jak wyciek danych, iniekcja promtu i szkodliwa treść. Zapory LLM Securiti są unikalne, ponieważ są świadome kontekstu – mająją wiedzę w czasie rzeczywistym o wrażliwej treści i kontekście wokół danych, takim jak uprawnienia dostępu, zapewniając ciągłe monitorowanie i ochronę na podstawie wglądu w krajobraz danych w czasie rzeczywistym. Zapory LLM Securiti są również unikalne, ponieważ sprawdzają trzy różne punkty w potoku sztucznej inteligencji, w tym zapory promtu (między promtem użytkownika a modelem LLM, chroniąc przed atakami), zapory pobierania (między modelem LLM a bazą danych wektorów, monitorując, jakie dane są pobierane do odpowiedzi) oraz zapory odpowiedzi (między modelem LLM a promtem użytkownika, zapewniając, że odpowiednie odpowiedzi są wydawane zgodnie z politykami firmowymi). Te zapory zapewniają kompleksowe, czasowe kontrole, aby zabezpieczyć systemy sztucznej inteligencji. Wszystkie te interakcje wymagają inspekcji w czasie rzeczywistym, aby zidentyfikować zewnętrzne ataki, aktorów i błędy użytkowników.

Czy mógłbyś podać przykłady, jak globalne firmy wykorzystują Data Command Center Securiti, aby przełamać bariery i osiągnąć zunifikowaną inteligencję danych?

Na przykład, firma z listy Fortune 500, z którą współpracowaliśmy, miała złożone wymagania dotyczące prywatności danych, bezpieczeństwa i zarządzania. Współpracowaliśmy z kluczowymi członkami tych zespołów na najwyższym poziomie, w tym z ich CPO, CDO i CISO. Skarżyli się na posiadanie dziesiątek fragmentarycznych narzędzi, aby spełnić swoje wymagania dotyczące zarządzania danymi – i te narzędzia często miały niespójne widoki ich danych. Byli zainteresowani wykorzystaniem naszego rozwiązania, aby uzyskać „jedno źródło prawdy” o ich krajobrazie danych, które mogłoby być wykorzystane przez różne zespoły, eliminując nieścisłości i usprawniając operacje między grupami (np. obsługę transferów transgranicznych lub incydentów, które wymagają wkładu wielu zespołów). Zintegrowana platforma poprawiła efektywność operacyjną, zmniejszyła koszty integracji i zapewniła, że wszystkie zespoły pracują na podstawie tego samego zestawu danych, minimalizując odpowiedzialność i ryzyko.

Biorąc pod uwagę Twoje obszerne doświadczenie w dziedzinie bezpieczeństwa, jakie trendy widzisz w zakresie bezpieczeństwa i zarządzania danymi?

Organizacje mają trudności z złożonym zestawem produktów, aby rozwiązać swoje wymagania dotyczące bezpieczeństwa i zarządzania danymi. Jednym z wyraźnych trendów jest pojawienie się zunifikowanych platform, które pomagają redukować koszty i złożoność oraz ułatwiają koordynację między departamentami. Innym trendem jest zwiększone wykorzystanie sztucznej inteligencji i automatyzacji w ramach tych rozwiązań, aby pomóc w skalowaniu i rozwiązywaniu eksplozji danych w środowiskach hybrydowych, wielochmurowych i złożonych przepisów dotyczących danych. Tradycyjne rozwiązania do odkrywania danych i DLP nie spełniają już tych potrzeb. Ostatecznie, największym trendem jest gwałtowny wzrost wykorzystania sztucznej inteligencji, w szczególności generatywnej sztucznej inteligencji. Podczas gdy wszyscy są zaznajomieni z rozwiązaniami konsumenckimi sztucznej inteligencji, takimi jak Chat GPT, bardziej przekonywującym przypadkiem użycia jest rozwiązanie przedsiębiorcze sztucznej inteligencji, które może naprawdę napędzać innowacje i przewagę konkurencyjną. Aby pomyślnie zbudować przedsiębiorcze systemy sztucznej inteligencji, organizacje będą musiały wdrożyć kompleksowe kontrole i rozwiązania zarządzania danymi, aby osadzić odpowiednie bariery ochronne. Sukcesywne organizacje będą działać energicznie, aby zbudować innowacyjne rozwiązania sztucznej inteligencji, co z kolei stworzy potrzebę nowych rozwiązań bezpieczeństwa i zarządzania sztuczną inteligencją.

Jak organizacje powinny przygotować się do wyzwań i możliwości, jakie niesie ze sobą coraz częstsze wykorzystanie sztucznej inteligencji w zarządzaniu danymi?

Eksplozja sztucznej inteligencji jest ekscytująca, ale firmy muszą priorytetowo traktować odpowiedzialne wdrożenie, aby uniknąć, aby sztuczna inteligencja stała się finansową lub reputacyjną odpowiedzialnością. Poprzez priorytetowe praktyki godnej zaufania sztucznej inteligencji, firmy – i ich klienci – mogą oczekiwać wysokiego poziomu przejrzystości, kontroli ryzyka i reputacyjnego zaufania. To oznacza kontrolę nad swoim pejzażem sztucznej inteligencji, ocenę modeli pod kątem uprzedzeń i bezpieczeństwa, ciągłe monitorowanie oraz zapewnienie etycznego zarządzania danymi. Sztuczna inteligencja powinna działać dla Ciebie, a nie przeciwko Tobie.

Jak Securiti AI integruje automatyzację w zarządzaniu bezpieczeństwem i prywatnością danych, a jakie korzyści ta automatyzacja przynosi firmom pod względem wydajności i zgodności?

Securiti AI jest zbudowana na fundamencie automatyzacji, napędzając wydajność i redukując ryzyko błędów ludzkich. Poprzez automatyzację zadań, takich jak odkrywanie danych, klasyfikacja i oceny zgodności, uwalniamy zespoły bezpieczeństwa i prywatności, aby skoncentrować się na inicjatywach strategicznych. Nasze możliwości automatyzacji sięgają również do reagowania na incydenty, wykrywania zagrożeń i likwidacji – dzięki temu nasi klienci mogą szybko reagować na incydenty bezpieczeństwa. Dodatkowo, automatyzacja odgrywa kluczową rolę w zapewnieniu zgodności z ewoluującymi przepisami. Poprzez usprawnienie procesów zgodności, pomagamy organizacjom redukować koszty, minimalizować ryzyko i demonstrować swoje zaangażowanie w ochronę danych.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Securiti AI.