David Kellerman, Field CTO ve společnosti Cymulate – Interview Series

David Kellerman je Field CTO ve společnosti Cymulate a senior technický zástupce pro zákazníky v oblasti informační a kybernetické bezpečnosti. David vede zákazníky k úspěchu a vysokým standardům bezpečnosti.

Cymulate je kybernetická bezpečnostní společnost, která poskytuje validaci ohrožení hrozeb pro organizace, které chtějí uzavřít bezpečnostní mezery předtím, než je útočníci využijí. Jejich platforma umožňuje organizacím stanovit základní bezpečnostní postavení a posílit kybernetickou odolnost prostřednictvím kontinuálního objevování, validace, prioritizace a řízené nápravy bezpečnostních slabostí. Díky automatizaci a umělé inteligenci nabízí Cymulate pokročilé ofenzivní testování bezpečnosti pro validaci kontrol, hrozeb a útočných cest. Jako otevřená platforma se Cymulate integruje s existujícími bezpečnostními a IT infrastrukturami, aby poháněla pracovní postup procesu správy expozic a zlepšovala obranu v reálném čase. Nabízením simulace porušení a útoku (BAS) a správy bezpečnostního postavení pomáhá Cymulate podnikům identifikovat zranitelnosti.

Co považujete za primárního hybatele za růst hrozeb kybernetické bezpečnosti souvisejících s umělou inteligencí v roce 2025?

Hrozby kybernetické bezpečnosti související s umělou inteligencí rostou kvůli zvýšené dostupnosti umělé inteligence. Útočníci nyní mají přístup k nástrojům umělé inteligence, které jim pomáhají iterovat na malware, vytvářet více přesvědčivé phishingové e-maily a zvyšovat své útoky, aby zvýšili jejich dosah. Tyto taktiky nejsou „nové“, ale rychlost a přesnost, s nimiž jsou nasazovány, přidaly významně k již dlouhému seznamu kybernetických hrozeb, kterým musí bezpečnostní týmy čelit. Organizace spěchají k implementaci technologie umělé inteligence, aniž by plně rozuměly, že bezpečnostní kontroly musí být kolem ní umístěny, aby nebyla snadno využita útočníky.

Existují nějaké specifické odvětví nebo sektory, které jsou více zranitelné vůči těmto hrozbám kybernetické bezpečnosti souvisejícím s umělou inteligencí, a proč?

Odvětví, která neustále sdílejí data napříč kanály mezi zaměstnanci, klienty nebo zákazníky, jsou náchylná k hrozbám kybernetické bezpečnosti souvisejícím s umělou inteligencí, protože umělé inteligence usnadňuje útočníkům přesvědčivé sociální inženýrství. Phishingové podvody jsou účinně číslovací hrou a pokud útočníci mohou nyní poslat více autentických e-mailů širšímu počtu příjemců, jejich úspěch se zvýší významně. Organizace, které vystavují své služby umělé inteligence veřejnosti, potenciálně zvou útočníky, aby se pokusili je využít. Ačkoli je to zděděný rizik implementace veřejných služeb, je důležité to udělat správně.

Jaké jsou klíčové zranitelnosti, kterým čelí organizace, když používají veřejné LLM pro obchodní funkce?

Únik dat je pravděpodobně největší obava. Při používání veřejného velkého jazykového modelu (LLM) je obtížné říci, kam ta data nakonec skončí – a poslední věc, kterou chcete udělat, je náhodně nahrát citlivá data do veřejně přístupného nástroje umělé inteligence. Pokud potřebujete analyzovat důvěrná data, držte je uvnitř. Nezaměřujte se na veřejné LLM, které mohou únik citlivých dat na širší internet.

Jak mohou podniky účinně zabezpečit citlivá data, když testují nebo implementují systémy umělé inteligence do produkce?

Při testování systémů umělé inteligence v produkci by organizace měly přijmout ofenzivní přístup (oproti defenzivnímu). To znamená, že bezpečnostní týmy by měly proaktivně testovat a ověřovat bezpečnost svých systémů umělé inteligence, místo aby reagovaly na příchozí hrozby. Pravidelné monitorování útoků a ověřování bezpečnostních systémů může pomoci zajistit, že citlivá data jsou chráněna a bezpečnostní řešení fungují podle očekávání.

Jak mohou organizace proaktivně bránit proti útokům řízeným umělou inteligencí, které se neustále vyvíjejí?

Zatímco útočníci využívají umělou inteligenci k vývoji svých hrozeb, bezpečnostní týmy mohou také využít umělou inteligenci k aktualizaci svých nástrojů pro simulaci porušení a útoku (BAS), aby zajistily, že jsou chráněny proti novým hrozbám. Nástroje, jako je denní feed hrozeb Cymulate, načítají nejnovější vznikající hrozby do softwaru pro simulaci porušení a útoku Cymulate denně, aby zajistily, že bezpečnostní týmy ověřují kybernetickou bezpečnost svých organizací proti nejnovějším hrozbám. Umělá inteligence může pomoci automatizovat procesy, jako je tento, a umožnit organizacím zůstat agilní a připravené čelit i nejnovějším hrozbám.

Jakou roli hrají automatizované platformy pro validaci bezpečnosti, jako je Cymulate, při snižování rizik spojených s kybernetickými hrozbami řízenými umělou inteligencí?

Automatizované platformy pro validaci bezpečnosti mohou pomoci organizacím zůstat na vrcholu vznikajících kybernetických hrozeb řízených umělou inteligencí prostřednictvím nástrojů zaměřených na identifikaci, ověřování a prioritizaci hrozeb. S umělou inteligencí jako násobičem útočníků je důležité nejen detekovat potenciální zranitelnosti ve vaší síti a systémech, ale také ověřit, které z nich představují skutečnou hrozbu pro organizaci. Teprve poté lze expozice účinně prioritizovat, aby organizace mohly zmírnit nejnebezpečnější hrozby jako první, než se přesunou k méně naléhavým položkám. Útočníci využívají umělou inteligenci k prohledávání digitálních prostředí za potenciálními slabostmi, než spustí vysoce přizpůsobené útoky, což znamená, že schopnost řešit nebezpečné zranitelnosti automatizovaným a účinným způsobem je nyní kritičtější než kdykoli předtím.

Jak mohou podniky začlenit nástroje pro simulaci porušení a útoku, aby se připravily na útoky řízené umělou inteligencí?

Softwarové nástroje pro simulaci porušení a útoku (BAS) jsou důležitou součástí správy expozic, která umožňuje organizacím vytvářet reálné scénáře útoků, které lze použít k ověření bezpečnostních kontrol proti nejnaléhavějším hrozbám dneška. Nejnovější zpravodajské informace a primární výzkum ze Skupiny pro výzkum hrozeb Cymulate (v kombinaci s informacemi o vznikajících hrozbách a nových simulacích) se aplikují denně na nástroj BAS Cymulate, který upozorňuje bezpečnostní lídry, pokud nová hrozba nebyla zablokována nebo detekována stávajícími bezpečnostními kontrolami. S BAS mohou organizace také přizpůsobit simulace řízené umělou inteligencí svým jedinečným prostředím a bezpečnostním politikám s otevřeným rámcem pro vytváření a automatizaci vlastních kampaní a pokročilých scénářů útoků.

Jaké jsou vaše tři hlavní doporučení pro bezpečnostní týmy, aby zůstaly před vznikajícími hrozbami?

Hrozby se stávají složitějšími každý den. Organizace, které nemají efektivní program pro správu expozic, riskují, že budou nebezpečně pozadu, takže mé první doporučení by bylo implementovat řešení, které umožňuje organizaci účinně prioritizovat expozice. Dále bych zajistil, aby řešení pro správu expozic zahrnovalo funkce BAS, které umožňují bezpečnostnímu týmu simulovat vznikající hrozby (umělou inteligencí i jinak), aby zhodnotil, jak se chovají bezpečnostní kontroly organizace. Nakonec bych doporučil využít automatizaci, aby zajistil, že ověřování a testování mohou probíhat na nepřetržitou bázi, nejen během pravidelných kontrol. S tím, jak se krajina hrozeb mění v průběhu minut, je kritické mít aktuální informace. Data o hrozbách z minulého čtvrtletí jsou již dávno zastaralá.

Jaké vývojové trendy v technologii umělé inteligence můžete předpovědět v příštích pěti letech, které by mohly buď zhoršit nebo zmírnit kybernetické bezpečnostní rizika?

Budoucnost bude záviset na tom, jak dostupná umělá inteligence bude i nadále. Dnes mohou nízkoúrovňoví útočníci využívat schopnosti umělé inteligence k vylepšení a zesílení svých útoků, ale nevytvářejí nové, bezprecedentní taktiky – pouze dělají stávající taktiky účinnější. V současné době můžeme (většinou) kompenzovat to. Ale pokud umělá inteligence bude i nadále růst a zůstane vysoce dostupná, mohlo by to změnit. Regulace zde budou hrát roli – EU (a v menší míře USA) přijaly kroky k regulaci vývoje a používání umělé inteligence, takže bude zajímavé sledovat, zda to bude mít nějaký účinek na vývoj umělé inteligence.

Předpokládáte posun v tom, jak organizace budou prioritizovat hrozby kybernetické bezpečnosti související s umělou inteligencí ve srovnání s tradičními kybernetickými bezpečnostními výzvami?

Útočníci využívají umělou inteligenci k rychlému spuštění pokročilých, cílených kampaní a bezpečnostní týmy potřebují každou výhodu, kterou mohou získat, aby zůstali před nimi. Organizace, které používají validační nástroje, budou mít mnohem snazší čas zůstat na vrcholu, protože budou priorizovat a zmírnit nejnaléhavější a nebezpečnější hrozby jako první. Připomeňme, že většina útočníků hledá snadný cíl. Nemůžete zastavit každý útok, ale můžete se vyhnout tomu, abyste se stali snadným cílem.

Děkuji za skvělý rozhovor, čtenáři, kteří si chtějí přečíst více, by měli navštívit Cymulate.