Ali Hayat, CEO a zakladatel společnosti Axipro – série rozhovorů

Ali Hayat je CEO a zakladatel společnosti Axipro. Spojuje zkušenosti s řízením průmyslových rizik a audity podle norem ISO s praxí v oblasti kybernetické bezpečnosti a poradenství v oblasti compliance. Na začátku kariéry působil v průmyslových provozech s vysokou mírou rizika, kde hrály zásadní roli bezpečnost, regulatorní požadavky a provozní rizika. Později vybudoval Axipro bez externích investic a zaměřil se na pomoc rostoucím společnostem při zavádění praktických bezpečnostních opatření, přípravě na audity a řízení nově vznikajících rizik spojených s AI.

Axipro je poradenská společnost zaměřená na kybernetickou bezpečnost a compliance, která organizacím pomáhá plnit požadavky rámců, mezi něž patří SOC 2, ISO 27001, ISO 42001 a předpisy na ochranu dat. Její služby zahrnují poradenství, automatizaci compliance, přípravu na audity a testování zabezpečení, přičemž kladou důraz na průběžné monitorování a lidský dohled. V tomto rozhovoru Hayat hovoří o pracovních postupech v oblasti compliance založených na AI, stínové AI, rizicích autonomních agentů, rozdílech v řízení v jednotlivých regionech a rozporu mezi certifikací a odolností v oblasti kybernetické bezpečnosti.

Vaše kariéra začala v průmyslových provozech s vysokou mírou rizika, kde jste pracoval na projektech zahrnujících společnosti Saudi Aramco, ADNOC a TotalEnergies. Bezpečnost, řízení rizik a dodržování předpisů tam byly zásadní. Co vás inspirovalo k přechodu od průmyslové bezpečnosti a auditů ke kybernetické bezpečnosti a co vás nakonec přimělo založit Axipro?

Axipro jsem založil, protože jsem při práci v oblasti řízení kvality na trhu zaznamenal nedostatek. V roce 2021 jsem si všiml, že se objevuje mnoho nových platforem kybernetické bezpečnosti, které nabízely poloautomatizované platformy pro zajištění souladu s SOC 2 a ISO 27001.

Ukázalo se, že tyto platformy sice technickým týmům ulehčily velkou část práce spojené s compliance, ale stále vyžadovaly nastavení a údržbu. Startupy, které už tak měly co dělat, aby držely krok s růstem, proto byly ochotné platit týmu vedenému lidmi, který na compliance průběžně dohlížel. Tak vznikla Axipro.

V roce 2022 byly uvedeny první platformy AI. Byl to další aha moment. Zatímco se mnozí lidé v oboru obávali, že se stanou nadbytečnými, rychle jsem si uvědomil, že jde o obrovskou příležitost. AI pravděpodobně povede k exponenciálnímu nárůstu kybernetických útoků a startupy budou potřebovat zkušené odborníky, kteří jim pomohou reagovat na jejich potřeby v oblasti zabezpečení a compliance.

Dnes jsme partnerem Drata Elite Partner a Vanta Preferred Partner a pomohli jsme více než 300 společnostem dosáhnout souladu s předními standardy kybernetické bezpečnosti a AI.

Axipro jste vybudoval od základů bez externích investic a rozrostl ji v mezinárodní poradenskou společnost, která obsluhuje stovky klientů. Jaké byly největší výzvy spojené s budováním kyberbezpečnostní firmy z vlastních zdrojů a jak vám technologie a automatizace pomohly rozšířit provoz při zachování kvality služeb?

Prvních několik let bylo nesmírně náročných. Od chvíle, kdy jsem vyčerpal úspory a čekali jsme dítě, až po nástup prvních modelů AI, které ovládly obor, se na mých současných šedinách nejspíš podepsaly právě první 2 až 3 roky.

Konkurenci mi tvořilo několik Goliášů se zavedenou pověstí, velkými kancelářemi a značnými rozpočty na marketing. Sídlil jsem v Bahrajnu, měl jsem zkušenosti s řízením kvality a můj marketingový rozpočet byl 0.

Zvolil jsem opačný přístup: udržoval jsem firmu malou a efektivní a nabízel ceny nižší než velcí zavedení hráči.

Díky tomu jsem získal mnoho nových klientů, naše marže však byly nízké. Řízení cash flow se stalo hotovým uměním a první 2 roky jsme přežili jen tak tak. Všechno se změnilo, když jsme uzavřeli první zakázku v hodnotě pěti číslic, která zahrnovala více rámců. Díky ní jsme získali trochu prostoru k nadechnutí, mohl jsem přijmout první zaměstnance na plný úvazek a začít uvažovat o marketingu i mimo partnerské vztahy a doporučení.

Axipro se zaměřuje na zjednodušování složitých rámců compliance prostřednictvím digitální transformace a automatizace. Jak umělá inteligence mění tradiční pracovní postupy v oblasti compliance a které činnosti podle vás nabízejí největší příležitosti ke zvýšení efektivity díky AI?

Odvětví compliance z AI výrazně těží. Dříve se opíralo o velké množství opakující se práce, například shromažďování a mapování důkazů, odpovídání na bezpečnostní dotazníky a přípravu zásad. Téměř všechny tyto úkoly jsou nyní automatizované. AI také umožnila průběžné monitorování a signalizaci rizik v oblasti kybernetické bezpečnosti a compliance.

AI se nyní podílí téměř na všech fázích procesu zajišťování souladu. Jakmile přijmeme nového klienta, naše vlastní AI provede automatizované posouzení rizik na základě odvětví, velikosti a lokality jeho společnosti. Máme rozsáhlou databázi předchozích zakázek, která nám pomáhá automaticky odhalovat možná rizika a varovné signály. To je pravděpodobně největší přínos AI.

Z AI těží také útočníci v oblasti kybernetické bezpečnosti a počet útoků exponenciálně vzrostl. Probíhá jakési závodní soupeření AI proti AI: na jedné straně firmy, jako je ta naše, pracují na automatické detekci hrozeb, zatímco hackeři na druhé straně automatizují útoky.

Právě zde přichází ke slovu lidský úsudek, který je pro náš způsob práce zásadní: AI musí zvládat opakující se úkoly a zvyšovat provozní efektivitu, aby se lidé mohli soustředit na vyhodnocování hrozeb a reakci na ně.

Mnoho organizací stále přistupuje k dodržování požadavků na kybernetickou bezpečnost jako k pravidelné činnosti zaměřené na přípravu na audity. Jak nástroje využívající AI a platformy pro průběžné monitorování, jako je Drata, tento přístup mění a co přechod k průběžnému dodržování předpisů znamená pro firmy?

Když jsem začínal v oblasti dodržování předpisů, všichni se děsili období auditů. Firmy po většinu roku ignorovaly své kontrolní mechanismy a pak celé týdny před termínem auditu sháněly snímky obrazovek a protokoly. Úspěšné absolvování auditu znamenalo, že jste požadavky splňovali v daný den, a tím to v podstatě končilo.

Drata a podobné platformy to změnily. Propojují se s cloudovými a personálními nástroji firmy a každý den kontrolují její kontrolní mechanismy. Pokud někdo vypne vícefaktorové ověřování nebo má bývalý zaměstnanec stále přístup, hned se to projeví a náš tým to okamžitě napraví.

Dodržování předpisů přestalo být pro firmy každoročním projektem a stává se součástí běžného provozu. Audity jsou kratší a levnější a obchodní týmy mohou na požádání ukázat stav zabezpečení firmy zákazníkům z řad velkých podniků, což pomáhá rychleji uzavírat obchody.

Ochrana osobních údajů a kybernetická bezpečnost se pomalu mění z požadavku na působení v citlivých odvětvích v marketingovou přednost, která přináší firmám další hodnotu.

Organizace se stále více spoléhají na AI při vytváření bezpečnostní dokumentace, hodnocení rizik a kontrole důkazů o dodržování předpisů. Jak mohou zajistit, aby tyto systémy poskytovaly přesné a důvěryhodné výsledky? Kde musí při auditech a certifikaci zůstat nezastupitelná lidská odbornost?

AI umí velmi dobře psát dokumenty, které znějí přesvědčivě. Zásady mohou vypadat dokonale, a přesto popisovat procesy, které firma vůbec nemá zavedené.

Postupujeme tak, že AI připravuje návrhy a upozorňuje na problémy, ale někdo z našeho týmu vše zkontroluje, než se materiály dostanou ke klientovi nebo auditorovi. Vše, co AI vytvoří, by mělo také odkazovat na podklady, o které se opírá, abychom to mohli ověřit.

Při interních i externích auditech vedu jasnou hranici. Auditoři stvrzují svým podpisem své jméno i profesní pověst. AI jim může pomoci rychleji projít podklady, ale o tom, zda firma získá certifikaci, musí rozhodovat člověk. Pokud za rozhodnutí nikdo nenese odpovědnost, certifikát ztrácí svou hodnotu.

Axipro pomáhá organizacím orientovat se v normách, jako jsou ISO 27001, SOC 2 a ISO 42001, mezinárodní normě pro systémy řízení umělé inteligence. S jakými novými výzvami se firmy potýkají při zavádění odpovědného řízení AI a v čem se řízení rizik spojených s AI liší od tradičního dodržování požadavků na zabezpečení informací?

Většina firem, se kterými mluvíme, ani netuší, nakolik AI využívá. Říká se tomu „stínová AI“.

Marketingové oddělení si pořídilo jeden nástroj, vývojáři zapojili do produktu nějaký model a někdo z finančního oddělení vkládá tabulky do chatbota. Nikdo to nedělá se zlým úmyslem, lidé se jen snaží pracovat rychleji a nástroje AI jsou levné a rychlé. Přesto tak lze snadno odhalit firemní data.

Prvním a nejdůležitějším krokem většiny projektů zaměřených na ISO 42001 a dodržování požadavků na AI je zmapovat veškeré toto využití. Procházíme výkazy výdajů, registrace softwaru a síťová data a s každým týmem mluvíme o tom, jaké nástroje skutečně používá v každodenní práci. Seznam, který nakonec sestavíme, bývá téměř vždy delší, než se očekávalo.

Zákaz používání AI většinou nefunguje a je kontraproduktivní i neefektivní. Chceme, aby naši klienti mohli využívat zvýšení efektivity, které modely AI přinášejí. Lepší je poskytnout zaměstnancům schválené nástroje, které splní svůj účel, stanovit jasná pravidla, jaká data do nich lze vkládat, a usnadnit žádosti o nové nástroje.

Řízení AI přináší i otázky, které zabezpečení informací dosud řešit nemuselo. U ISO 27001 jde především o to, aby se k vašim datům nedostali neoprávnění lidé. U ISO 42001 je navíc třeba vědět, zda se AI chová správně, zda dokážete vysvětlit její rozhodnutí a kdo nese odpovědnost, když udělá chybu.

Tato rizika se navíc rychleji mění. Dodavatel může přes noc aktualizovat model a změnit chování vašeho produktu, aniž byste sami cokoli udělali.

Firmy, které už mají ISO 27001, začínají s výhodou. Obě normy využívají stejnou strukturu systému řízení, takže velká část přípravných prací už je hotová.

Jaká nová rizika v oblasti kybernetické bezpečnosti a dodržování předpisů by měly organizace zohlednit, když se objevují autonomní agenti AI schopní přistupovat k citlivým informacím, komunikovat s podnikovými systémy a vykonávat firemní procesy? Dokážou stávající bezpečnostní rámce řešit tyto stále autonomnější systémy?

Agenti jsou oblastí, kterou právě teď pozorně sleduji. Běžný software dělá přesně to, co se mu řekne. Agent se rozhoduje sám a lze ho oklamat, stejně jako může klamat ostatní, jak ukázal incident kolem Hugging Face.

Nejčastějším rizikem, se kterým se setkáváme, je prompt injection. Útočník může skrýt pokyny do e-mailu nebo souboru PDF, a když si je agent přečte, řídí se jimi s využitím přístupových oprávnění, která jste mu udělili.

Druhým rizikem je, že firmy agentům udělují příliš široký přístup, protože je to jednodušší. Zaměstnanci často poskytují AI agentům přístup prostřednictvím svých vlastních e-mailových účtů místo vyhrazených účtů, takže je velmi obtížné zjistit, zda změnu provedl člověk, nebo bot. Pokud je navíc nedostatečné protokolování, možná ani nezjistíte, co agent udělal.

ISO 27001 a SOC 2 se stále vztahují na základní oblasti, jako je řízení přístupu a protokolování, a ISO 42001 pomáhá v oblasti AI. Žádná z těchto norem však nebyla vytvořena s ohledem na autonomní agenty a očekávám, že se brzy objeví nové pokyny.

AIUC-1 se rýsuje jako přední standard pro AIUC-1 a my jsme teprve začali školit zaměstnance, jak jej zavádět. S klienty jsme o něm vedli několik rozhovorů, ale zatím nemáme žádné případové studie, které bychom mohli představit. Výrazně za ním stojí velké společnosti působící v oblasti kybernetické bezpečnosti, takže očekáváme, že se tento rámec stane předním standardem pro AI agenty.

Působil jste na Blízkém východě, v Evropě i ve Spojených státech, a setkal jste se tak s různými regulačními prostředími a přístupy k řízení rizik. Jak regionální rozdíly v řízení AI a ochraně dat ovlivňují způsob, jakým firmy AI nasazují, a jaké výzvy vznikají, když organizace působí ve více jurisdikcích?

Žiji v Bahrajnu a spolupracuji s klienty v Evropě a USA, takže už neočekávám, že se pravidla pro AI sjednotí. Pokud něco, regiony se od sebe stále více vzdalují.

Evropa reguluje prostřednictvím zákonů. Akt o umělé inteligenci EU rozděluje systémy AI podle rizika a stanovuje povinnosti pro každou kategorii, takže evropské firmy postupují obvykle obezřetně a všechno dokumentují. USA nemají federální zákon o AI a většinu regulace zajišťuje trh. Kupující ve smlouvách požadují rámce, jako je NIST AI RMF, a zbytek doplňuje odpovědnost za škodu. Čína volí třetí cestu: pokaždé, když nějaká technologie přinese nové riziko, přijme nové pravidlo.

Nejzajímavější mi připadá oblast Perského zálivu. Například Saúdská Arábie zatím nemá obecný zákon o AI. Většina závazných pravidel vychází z právních předpisů na ochranu dat a z pravidel pro zadávání veřejných zakázek, protože stát je v regionu největším odběratelem technologií. Požadavky, které musíte splnit, do značné míry závisí na tom, kdo je vaším zákazníkem. Když v roce 2024 získal certifikaci ISO 42001 samotný saúdský regulátor SDAIA, ukázalo to trhu, jakou normu bude požadovat ve výběrových řízeních.

Nejtěžší je situace, kdy firma působí ve více než jednom z těchto regionů. Saúdská softwarová společnost typu SaaS se sídlem v Rijádu může splnit technické požadavky EU, a přesto v Saúdské Arábii nevyhovět pravidlům pro registraci a předávání dat. Ani jedna strana neuznává dokumentaci té druhé.

Naším přístupem je vytvořit společný základ použitelný napříč regiony, který tvoří ISO 42001 spolu s ISO 27001, a poté k němu přidat požadavky jednotlivých regionů. ISO 42001 sama o sobě nezajišťuje soulad s právními předpisy nikde, ale je nejblíže společnému jazyku, který všechny tyto regiony uznávají.

Mezi získáním bezpečnostní certifikace a skutečnou kybernetickou odolností, kterou je třeba udržovat, často zeje značná propast. Jak mohou organizace využívat AI a automatizaci, aby se posunuly od pouhého odškrtávání požadavků k bezpečnostním postupům, které se průběžně přizpůsobují novým hrozbám?

Viděl jsem firmy s čerstvou zprávou SOC 2, které přitom měly základní bezpečnostní nedostatky, jichž si nikdo nevšiml. Jejich cílem bylo projít auditem. Certifikát dokládá, že firma k určitému datu splnila požadavky normy, ale neukazuje, zda dokáže zastavit útok.

K tomu je třeba zjistit, zda by každá kontrola obstála při testování. Automatizace v tom výrazně pomáhá. Průběžné monitorování zachytí problémy, dokud jsou ještě malé, a aktuální informace o hrozbách udržují hodnocení rizik v souladu s tím, jak útočníci postupují nyní. Pravidelné penetrační testy a simulace útoků pak ukazují, zda kontroly fungují v praxi.

Získání certifikace CREST v tomto roce bylo součástí našeho úsilí. Chtěli jsme otestovat zabezpečení našich klientů a vše zdokumentovat.

Jak si představujete, že AI v příštích třech až pěti letech promění odvětví poradenství v oblasti kybernetické bezpečnosti a souladu s předpisy? Myslíte si, že AI agenti nakonec budou většinu běžných činností souvisejících se souladem s předpisy zvládat samostatně, a jak se podle vás bude Axipro vyvíjet s tím, jak tyto technologie dozrávají?

Myslím, že AI agenti budou do pěti let zajišťovat většinu běžné práce související se souladem s předpisy, například shromažďování důkazů, aktualizace zásad a bezpečnostní dotazníky. Firmy, které na této práci vydělávají účtováním odpracovaných hodin, aniž by pro ni měly prokazatelné odborné znalosti, budou mít potíže.

Nemyslím si ale, že agenti budou řídit soulad s předpisy zcela samostatně. Čím více práce převezme AI, tím důležitější budou rozhodnutí, která zůstanou na lidech. Někdo stále musí schválit audit a vypořádat se s následky, když se něco pokazí. Protože AI používají i útočníci, poptávka po kvalifikovaných obráncích bude dál růst.

V Axipro očekávám, že budeme věnovat méně času dokumentaci a více poradenství klientům a testování jejich zabezpečení. Naše interní AI převezme větší část práce na dodávkách a náš tým se zaměří na rozhodnutí, která vyžadují lidský úsudek. Ještě v roce 2022 si mnozí mysleli, že AI učiní firmy, jako je ta naše, zbytečnými. Zatím se stal pravý opak: rosteme někdy o více než 10 % meziměsíčně, občas máme více práce, než zvládneme, a neočekáváme, že se situace zklidní.

Děkujeme za skvělý rozhovor; čtenáři, kteří se chtějí dozvědět více o dodržování předpisů v oblasti kybernetické bezpečnosti, správě AI a zavádění průběžných bezpečnostních postupů, by měli navštívit Axipro.