Ali Hayat, dyrektor generalny i założyciel Axipro – cykl wywiadów

Ali Hayat jest dyrektorem generalnym i założycielem Axipro. Łączy doświadczenie w zarządzaniu ryzykiem przemysłowym i audytach ISO z praktyką w dziedzinie cyberbezpieczeństwa i doradztwa w zakresie zgodności. Na początku kariery pracował w środowiskach przemysłowych wysokiego ryzyka, w których kluczowe znaczenie miały bezpieczeństwo, wymogi regulacyjne i ryzyko operacyjne. Później stworzył Axipro bez zewnętrznego finansowania, koncentrując się na wspieraniu rozwijających się firm we wdrażaniu praktycznych zabezpieczeń, przygotowaniach do audytów i zarządzaniu pojawiającymi się zagrożeniami związanymi ze sztuczną inteligencją.

Axipro to firma doradcza specjalizująca się w cyberbezpieczeństwie i zgodności, wspierająca organizacje w spełnianiu wymogów takich standardów i regulacji jak SOC 2, ISO 27001, ISO 42001 oraz przepisów o ochronie danych. Jej działalność obejmuje doradztwo, automatyzację procesów związanych ze zgodnością, przygotowanie do audytów i testy bezpieczeństwa, ze szczególnym naciskiem na ciągłe monitorowanie i nadzór człowieka. W tym wywiadzie Hayat mówi o procesach związanych ze zgodnością wspieranych przez AI, nieautoryzowanym wykorzystaniu AI, zagrożeniach związanych z autonomicznymi agentami, różnicach w zarządzaniu w poszczególnych regionach oraz przepaści między uzyskaniem certyfikatu a odpornością na zagrożenia cybernetyczne.

Karierę rozpocząłeś w środowiskach przemysłowych wysokiego ryzyka, pracując przy projektach związanych z Saudi Aramco, ADNOC i TotalEnergies, w których bezpieczeństwo, zarządzanie ryzykiem i zgodność z przepisami miały kluczowe znaczenie. Co skłoniło cię do przejścia od bezpieczeństwa przemysłowego i audytów do cyberbezpieczeństwa, a co ostatecznie zmotywowało cię do założenia Axipro?

Założyłem Axipro, ponieważ podczas pracy w obszarze zarządzania jakością dostrzegłem lukę na rynku. W 2021 roku zauważyłem, że pojawia się wiele nowych platform cyberbezpieczeństwa, oferujących częściowo zautomatyzowane rozwiązania do zapewnienia zgodności z SOC 2 i ISO 27001.

Szybko stało się jasne, że choć platformy te odciążały zespoły techniczne od znacznej części obowiązków związanych ze zgodnością, nadal wymagały konfiguracji i utrzymania. Startupy, które już miały trudności z nadążaniem za rozwojem, były gotowe zapłacić zespołowi specjalistów za bieżące pilnowanie zgodności. Tak właśnie powstała Axipro.

Następnie, w 2022 roku, pojawiły się pierwsze platformy AI. To był kolejny moment olśnienia. Podczas gdy wiele osób z branży obawiało się, że stanie się zbędnych, szybko dostrzegłem w tym ogromną szansę. AI najprawdopodobniej doprowadzi do wykładniczego wzrostu liczby cyberataków, a startupy będą potrzebowały wykwalifikowanych specjalistów, którzy pomogą im zadbać o bezpieczeństwo i zgodność z przepisami w odpowiedzi na te zagrożenia.

Obecnie jesteśmy partnerem Elite Drata i preferowanym partnerem Vanta. Pomogliśmy ponad 300 firmom spełnić wymagania wiodących standardów z zakresu cyberbezpieczeństwa i AI.

Stworzyłeś Axipro od podstaw, bez zewnętrznego finansowania, i rozwinąłeś firmę w międzynarodową działalność doradczą obsługującą setki klientów. Jakie były największe wyzwania związane z rozwijaniem firmy z własnych środków w branży cyberbezpieczeństwa i w jaki sposób technologia oraz automatyzacja pomogły ci zwiększyć skalę działalności przy zachowaniu jakości usług?

Pierwsze lata były niezwykle trudne. Od wyczerpania oszczędności, gdy spodziewaliśmy się dziecka, po obserwowanie, jak pierwsze modele AI przejmują branżę — to właśnie pierwsze 2–3 lata prawdopodobnie odpowiadają za siwe włosy, które mam dziś na głowie.

Konkurowałem z kilkoma gigantami o ugruntowanej renomie, dużych biurach i pokaźnych budżetach marketingowych. Mieszkałem w Bahrajnie, miałem doświadczenie w zarządzaniu jakością, a mój budżet marketingowy wynosił 0.

Postanowiłem obrać przeciwny kierunek: działałem na niewielką skalę i wydajnie, a moje ceny były niższe niż ceny największych, uznanych firm.

Dzięki temu pozyskałem wielu nowych klientów, ale nasze marże były niewielkie. Zarządzanie przepływami pieniężnymi stało się prawdziwą sztuką, a przez pierwsze 2 lata ledwo dawaliśmy radę. Wszystko się zmieniło, gdy podpisaliśmy pierwszą umowę o wartości pięciocyfrowej, obejmującą wiele standardów. Dało nam to trochę oddechu, pozwoliło zatrudnić pierwszych pracowników na pełny etat i zacząć myśleć o marketingu wykraczającym poza partnerstwa i polecenia.

Axipro koncentruje się na upraszczaniu złożonych wymogów dotyczących zgodności dzięki transformacji cyfrowej i automatyzacji. Jak sztuczna inteligencja zmienia tradycyjne procesy związane ze zgodnością i które działania, twoim zdaniem, dają największe możliwości zwiększenia wydajności dzięki AI?

Branża związana ze zgodnością wiele zyskała dzięki AI. Wcześniej opierała się na dużej ilości powtarzalnej pracy, takiej jak gromadzenie i mapowanie dowodów, odpowiadanie na kwestionariusze bezpieczeństwa oraz opracowywanie polityk. Obecnie niemal wszystkie te zadania są zautomatyzowane. AI umożliwiła również ciągłe monitorowanie i sygnalizowanie ryzyka w obszarze cyberbezpieczeństwa i zgodności.

AI jest obecnie wykorzystywana na niemal każdym etapie procesu zapewniania zgodności. Po rozpoczęciu współpracy z nowym klientem nasz wewnętrzny system AI przeprowadza automatyczną ocenę ryzyka na podstawie branży, wielkości i lokalizacji firmy. Dysponujemy dużą bazą danych z poprzednich projektów, która pozwala nam automatycznie wykrywać potencjalne zagrożenia i sygnały ostrzegawcze. To prawdopodobnie największa korzyść, jaką daje AI.

Cyberprzestępcy również skorzystali na rozwoju AI, a liczba ataków wzrosła wykładniczo. Trwa swego rodzaju wyścig zbrojeń AI kontra AI: firmy takie jak nasza pracują nad automatycznym wykrywaniem zagrożeń, a hakerzy automatyzują ataki.

Właśnie dlatego potrzebny jest ludzki osąd, który stanowi podstawę naszego sposobu pracy: AI musi zajmować się powtarzalnymi zadaniami i zwiększać wydajność operacyjną, aby ludzie mogli skupić się na ocenie zagrożeń i reagowaniu na nie.

Wiele organizacji nadal traktuje zgodność z wymogami cyberbezpieczeństwa jako okresowe zadanie, skupiające się na przygotowaniach do audytów. Jak narzędzia oparte na sztucznej inteligencji i platformy do ciągłego monitorowania, takie jak Drata, zmieniają to podejście? Co przejście na ciągłe zapewnianie zgodności oznacza dla firm?

Kiedy zaczynałem pracę w obszarze zgodności, wszyscy obawiali się sezonu audytowego. Przez większą część roku firmy zaniedbywały mechanizmy kontrolne, a przed terminem audytu przez całe tygodnie gorączkowo zbierały zrzuty ekranu i dzienniki. Pozytywny wynik oznaczał, że firma spełniała wymogi w danym dniu — i właściwie tylko tyle.

Drata i podobne platformy to zmieniły. Łączą się z firmowymi narzędziami chmurowymi i kadrowymi, a następnie codziennie sprawdzają mechanizmy kontrolne. Jeśli ktoś wyłączy uwierzytelnianie wieloskładnikowe (MFA) albo były pracownik nadal ma dostęp, od razu to widać, a nasz zespół natychmiast rozwiązuje problem.

Zgodność przestała być dla firm corocznym projektem, a stała się częścią codziennej działalności. Audyty są krótsze i tańsze, a zespoły sprzedaży mogą na żądanie pokazać nabywcom korporacyjnym aktualny stan bezpieczeństwa firmy, co pomaga szybciej finalizować transakcje.

Ochrona prywatności danych i cyberbezpieczeństwo powoli przestają być wymogiem obowiązującym w branżach przetwarzających wrażliwe informacje, a stają się wartością dodaną w działaniach marketingowych.

W miarę jak organizacje coraz częściej polegają na sztucznej inteligencji przy tworzeniu dokumentacji dotyczącej bezpieczeństwa, ocenie ryzyka i weryfikacji dowodów zgodności, jak mogą zadbać o to, by systemy te dostarczały dokładne i wiarygodne wyniki? W których obszarach wiedza i doświadczenie człowieka muszą pozostać niezbędne w procesie audytu i certyfikacji?

Sztuczna inteligencja bardzo dobrze pisze dokumenty, które brzmią przekonująco. Polityka może wyglądać na doskonałą, a mimo to opisywać procesy, których firma w rzeczywistości nie stosuje.

Postępujemy tak, że sztuczna inteligencja przygotowuje wstępne wersje dokumentów i wskazuje problemy, ale ktoś z naszego zespołu sprawdza wszystko, zanim materiały trafią do klienta lub audytora. Wszystko, co wygeneruje AI, powinno też odsyłać do dokumentów potwierdzających te informacje, abyśmy mogli je zweryfikować.

W przypadku audytów wewnętrznych i zewnętrznych stawiam wyraźną granicę. Audytorzy zatwierdzają wyniki, podpisując się pod nimi własnym nazwiskiem i zawodową reputacją. Sztuczna inteligencja może pomóc im szybciej przeanalizować dowody, ale decyzję o przyznaniu firmie certyfikatu powinien podejmować człowiek. Jeśli nikt nie ponosi odpowiedzialności, certyfikat traci swoją wartość.

Axipro pomaga organizacjom wdrażać standardy takie jak ISO 27001, SOC 2 i ISO 42001 — międzynarodowy standard dotyczący systemów zarządzania sztuczną inteligencją. Jakie nowe wyzwania napotykają firmy, próbując ustanowić zasady odpowiedzialnego zarządzania AI, i czym zarządzanie ryzykiem związanym ze sztuczną inteligencją różni się od tradycyjnego zapewniania zgodności w obszarze bezpieczeństwa informacji?

Większość firm, z którymi rozmawiamy, nawet nie wie, w jakim stopniu korzysta ze sztucznej inteligencji. Zjawisko to określa się mianem „Shadow AI”.

Dział marketingu zarejestrował się w jednym z narzędzi, programiści podłączyli model do produktu, a ktoś z działu finansów wkleja arkusze kalkulacyjne do chatbota. Nie ma w tym złych intencji — ludzie chcą pracować szybciej, a narzędzia AI są tanie i szybkie. Może to jednak łatwo doprowadzić do ujawnienia danych firmy.

Pierwszym i najważniejszym krokiem w większości projektów dotyczących ISO 42001 i zgodności z wymogami związanymi ze sztuczną inteligencją jest sporządzenie mapy wszystkich tych zastosowań. Analizujemy raporty wydatków, rejestracje w usługach programowych i dane sieciowe, a także rozmawiamy z każdym zespołem o tym, z czego faktycznie korzysta na co dzień. Sporządzona przez nas lista jest niemal zawsze dłuższa, niż się spodziewano.

Zakazywanie sztucznej inteligencji rzadko się sprawdza, a do tego przynosi skutki odwrotne do zamierzonych i jest nieefektywne. Chcemy, by nasi klienci mogli korzystać ze wzrostu efektywności, jaki zapewniają modele AI. Lepszym rozwiązaniem jest udostępnienie pracownikom zatwierdzonych narzędzi, które spełniają ich potrzeby, ustalenie jasnych zasad dotyczących danych, które można do nich wprowadzać, oraz ułatwienie zgłaszania próśb o udostępnienie nowych narzędzi.

Zarządzanie sztuczną inteligencją wiąże się też z pytaniami, których wcześniej nie stawiano w obszarze bezpieczeństwa informacji. W przypadku ISO 27001 najważniejsze jest niedopuszczenie do danych osób, które nie powinny mieć do nich dostępu. Przy ISO 42001 trzeba również wiedzieć, czy AI działa prawidłowo, czy można wyjaśnić jej decyzje i kto odpowiada za jej błędy.

Ryzyko związane z tymi systemami zmienia się też szybciej. Dostawca może zaktualizować model z dnia na dzień i zmienić sposób działania produktu, nawet jeśli sami niczego nie zmienimy.

Firmy, które mają już certyfikat ISO 27001, zaczynają z przewagą. Oba standardy opierają się na tej samej strukturze systemu zarządzania, więc znaczną część podstawowych prac mają już za sobą.

Wraz z pojawieniem się autonomicznych agentów AI, które mogą uzyskiwać dostęp do wrażliwych informacji, wchodzić w interakcje z systemami korporacyjnymi i realizować procesy biznesowe, na jakie nowe zagrożenia dla cyberbezpieczeństwa i zgodności organizacje powinny się przygotować? Czy istniejące ramy bezpieczeństwa są dostosowane do tych coraz bardziej autonomicznych systemów?

Agenci to obszar, któremu obecnie przyglądam się najpilniej. Zwykłe oprogramowanie robi dokładnie to, co mu się każe. Agent podejmuje własne decyzje i można go oszukać, a on sam może oszukiwać innych — jak pokazał incydent z Hugging Face.

Najczęściej obserwowanym przez nas zagrożeniem jest wstrzykiwanie promptów. Atakujący może ukryć instrukcje w wiadomości e-mail lub pliku PDF. Gdy agent je odczyta, zastosuje się do nich, korzystając z przyznanych mu uprawnień.

Drugie ryzyko polega na tym, że firmy przyznają agentom zdecydowanie zbyt szeroki dostęp, bo tak jest łatwiej. Pracownicy często zapewniają agentom AI dostęp za pośrednictwem własnych kont e-mail zamiast dedykowanych kont, przez co niezwykle trudno ustalić, czy zmianę wprowadził człowiek, czy bot. Jeśli rejestrowanie zdarzeń również działa słabo, można nawet nie wiedzieć, co zrobił agent.

ISO 27001 i SOC 2 nadal obejmują podstawowe kwestie, takie jak kontrola dostępu i rejestrowanie zdarzeń, a ISO 42001 pomaga w obszarze AI. Żaden z tych standardów nie został jednak opracowany z myślą o autonomicznych agentach, dlatego spodziewam się, że wkrótce pojawią się nowe wytyczne.

AIUC-1 zyskuje pozycję wiodącego standardu dla AIUC-1, a my właśnie rozpoczęliśmy szkolenie naszego zespołu w zakresie jego wdrażania. Rozmawialiśmy już o nim z kilkoma klientami, ale nie mamy jeszcze studiów przypadku, które moglibyśmy przedstawić. Standard ten cieszy się silnym poparciem dużych firm z branży cyberbezpieczeństwa, dlatego spodziewamy się, że te ramy staną się wiodącym standardem dla agentów AI.

Pracowałeś na Bliskim Wschodzie, w Europie i Stanach Zjednoczonych, więc zetknąłeś się z różnymi środowiskami regulacyjnymi i podejściami do zarządzania ryzykiem. Jak regionalne różnice w zarządzaniu AI i ochronie danych wpływają na sposób wdrażania AI przez firmy? Jakie wyzwania pojawiają się, gdy organizacje działają w wielu jurysdykcjach?

Mieszkam w Bahrajnie i współpracuję z klientami z Europy i USA, więc przestałem oczekiwać, że przepisy dotyczące AI będą się ujednolicać. Jeśli już, różnice między regionami stają się coraz większe.

Europa reguluje tę dziedzinę za pomocą przepisów prawa. Unijny akt w sprawie sztucznej inteligencji klasyfikuje systemy AI według poziomu ryzyka i określa obowiązki dla każdej kategorii, dlatego europejskie firmy zwykle działają ostrożnie i wszystko dokumentują. W USA nie ma federalnej ustawy o AI, a większość regulacji wynika z działań rynku. Kupujący wymagają w umowach stosowania ram takich jak AI RMF opracowane przez NIST, a pozostałe kwestie rozstrzyga odpowiedzialność prawna. Chiny wybierają trzecią drogę: za każdym razem, gdy dana technologia stwarza nowe ryzyko, ustanawiają nowe przepisy.

Najbardziej interesujący wydaje mi się region Zatoki Perskiej. Na przykład Arabia Saudyjska nie ma jeszcze horyzontalnej ustawy o AI. Większość wiążących przepisów znajduje się w prawie o ochronie danych i regulacjach dotyczących zamówień publicznych, ponieważ państwo jest największym nabywcą technologii w regionie. To, którym przepisom trzeba sprostać, w dużej mierze zależy od tego, kim jest klient. Kiedy SDAIA, saudyjski organ regulacyjny, uzyskała w 2024 r. certyfikat ISO 42001, dało to rynkowi jasny sygnał, jakiego standardu będzie wymagać w przetargach.

Największe trudności pojawiają się, gdy firma działa w więcej niż jednym z tych regionów. Saudyjska firma SaaS z Rijadu, która sprzedaje swoje usługi w Europie, może spełniać unijne wymagania techniczne, a mimo to nie sprostać w Arabii Saudyjskiej przepisom dotyczącym rejestracji i przesyłania danych. Żadna ze stron nie uznaje dokumentacji drugiej.

Nasze podejście polega na zbudowaniu wspólnej podstawy, którą można stosować w różnych regionach — ISO 42001 wraz z ISO 27001 — a następnie uzupełnieniu jej o wymagania poszczególnych regionów. Samo ISO 42001 nie zapewnia zgodności z prawem w żadnym kraju, ale jest najbliższe wspólnemu językowi, który akceptują wszystkie te regiony.

Między uzyskaniem certyfikatu bezpieczeństwa a utrzymaniem rzeczywistej odporności na zagrożenia cybernetyczne często istnieje znaczna luka. Jak organizacje mogą wykorzystywać AI i automatyzację, by wyjść poza odhaczanie wymogów zgodności i rozwijać praktyki bezpieczeństwa, które nieustannie dostosowują się do nowych zagrożeń?

Widziałem firmy z nowym raportem SOC 2 i podstawowymi lukami w zabezpieczeniach, których nikt wcześniej nie zauważył. Ich celem było zaliczenie audytu. Certyfikat potwierdza, że firma spełniała określony standard w danym dniu, ale nie pokazuje, czy potrafi powstrzymać atak.

Aby pójść dalej, trzeba sprawdzić, czy każda kontrola bezpieczeństwa zdałaby test. Automatyzacja bardzo w tym pomaga. Ciągłe monitorowanie pozwala wykrywać problemy, zanim staną się poważne, a aktualne dane o zagrożeniach sprawiają, że oceny ryzyka uwzględniają bieżące działania atakujących. Regularne testy penetracyjne i symulacje ataków pokazują następnie, czy zabezpieczenia sprawdzają się w praktyce.

Uzyskanie w tym roku certyfikatu CREST było częścią tych działań. Chcieliśmy testować zabezpieczenia naszych klientów i dokumentować wyniki.

Jak wyobrażasz sobie wpływ AI na branżę doradztwa w zakresie cyberbezpieczeństwa i zgodności w perspektywie najbliższych trzech do pięciu lat? Czy uważasz, że agenci AI będą ostatecznie samodzielnie wykonywać większość rutynowych zadań związanych ze zgodnością? Jak będzie ewoluować Axipro w miarę dojrzewania tych technologii?

Uważam, że w ciągu pięciu lat agenci AI będą wykonywać większość rutynowych zadań związanych ze zgodnością, takich jak gromadzenie dowodów, aktualizowanie polityk i wypełnianie kwestionariuszy bezpieczeństwa. Firmy, które zarabiają na rozliczaniu godzin pracy, nie oferując przy tym żadnej wyraźnej wiedzy eksperckiej w tym zakresie, będą miały trudności.

Nie sądzę jednak, by agenci samodzielnie zarządzali zgodnością. Im więcej pracy przejmie AI, tym większe znaczenie będą miały pozostałe decyzje. Ktoś nadal będzie musiał zatwierdzić audyt i zmierzyć się z konsekwencjami, gdy coś pójdzie nie tak. Ponieważ atakujący również korzystają z AI, zapotrzebowanie na wykwalifikowanych specjalistów ds. obrony będzie nadal rosło.

W Axipro spodziewam się, że będziemy poświęcać mniej czasu na dokumentację, a więcej na doradzanie klientom i testowanie ich zabezpieczeń. Nasze wewnętrzne rozwiązania AI przejmą większą część prac związanych z realizacją usług, a nasz zespół skupi się na decyzjach wymagających ludzkiego osądu. Jeszcze w 2022 roku wiele osób uważało, że AI sprawi, iż firmy takie jak nasza staną się zbędne. Jak dotąd stało się odwrotnie: rozwijamy się w tempie ponad 10% miesiąc do miesiąca, czasami mamy więcej pracy, niż jesteśmy w stanie wykonać, i nie spodziewamy się, że sytuacja się uspokoi.

Dziękujemy za świetny wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej o zgodności z wymogami cyberbezpieczeństwa, zarządzaniu AI oraz budowaniu ciągłych praktyk w zakresie bezpieczeństwa, powinni odwiedzić Axipro.