Umělá inteligence, odpovědnost a probuzení kybernetické bezpečnosti

Jak organizace stále více přijímají umělou inteligenci (AI), aby poháněly inovace, transformovaly operace a zefektivňovaly rozhodování, musí se vypořádat s další realitou: AI rychle mění kybernetickou hrozbu. Zatímco AI pomáhá CISO zlepšit detekci a reakci, také vede k více sofistikovaným kybernetickým útokům. Stejné AI motory, které generují cenné poznatky, mohou také generovat falešné identity, phishingové kampaně a malware.

Zpráva Wipro State of Cybersecurity Report 2025 přesně zobrazuje tuto realitu. Navzdory slibu AI posílit bezpečnost, organizace stále nestačí. To však není kvůli technologii, ale kvůli mezerám v odpovědnosti, izolovaným plánům řízení a špatnému školení v oblasti kybernetické bezpečnosti. Mnoho kybernetických útoků pochází nejen z pokročilých protivníků, ale také z lidské chyby a podinvestování do základních bezpečnostních opatření.

Rozšiřující se hrozba

AI změnila krajinu pro kybernetické zločince. Nyní mohou použít generativní modely k vytvoření personalizovaných phishingových zpráv, automatizovat tvorbu malwaru, který může uniknout detekci, a dokonce manipulovat audio a video, aby napodobovali výkonné ředitele pomocí deepfake. Tyto taktiky již nejsou omezeny pouze na národní aktéry nebo elitní hackerské skupiny, protože jsou dostupné prostřednictvím open-source nástrojů a platform AI-as-a-service.

Výzkum Wipro ukazuje, že 44 % organizací nyní uvádí vnitřní nedbalost a nedostatečné povědomí o kybernetické bezpečnosti jako hlavní zranitelnosti, dokonce více než ransomware v indexu rizik. To ukazuje, že mnoho firem nedokáže držet krok s vývojem útoků: zastaralé systémy, zastaralý software a slabé strategie správy záplat dělají to snadné pro kybernetické zločince, aby pronikli do sítí.

Zanedbání základních bezpečnostních postupů již není zastaralým nebo odpustitelným přehlédnutím – je to kritické obchodní riziko. Vzestup AI-podporovaných útoků pouze rozšiřuje mezeru mezi organizacemi, které berou kybernetickou bezpečnost vážně, a těmi, které ne.

Rozmazané hranice odpovědnosti

Jedním z hlavních zjištění zprávy je nedostatek jasnosti kolem vlastnictví kybernetické bezpečnosti. Zatímco 53 % CISO hlásí přímo CIO, zbytek je rozptýlený napříč různými výkonnými funkcemi, včetně COO, CFO a právníků. To oslabuje rozhodování a činí nejasným, kdo je skutečně odpovědný za bezpečnostní výsledky.

Tento problém se stává ještě akutnější, když vstupuje do obrazu AI. Zpráva zjistila, že 70 % evropských respondentů se domnívá, že implementace AI by měla být sdílenou odpovědností, ale pouze 13 % má vyčleněný tým, který dohlíží na ni. Adopce AI často probíhá bez kritického dohledu nad riziky bez jasně definované odpovědnosti, což vede k nekonzistentním postupům, neřízeným zranitelnostem a zmeškaným příležitostem pro sladění s regulačními rámci.

Lídři IT musí považovat kybernetickou bezpečnost a řízení AI za strategické priority na úrovni výkonné rady. Seniorští výkonní pracovníci musí jít za pasivní dohled a účastnit se cvičení, scénářového plánování a kontrol kybernetické připravenosti. V dnešním prostředí je spolupráce, komunikace a krizové řízení nezbytné pro udržení odolnosti.

Role AI v přetvoření bezpečnosti

Zatímco AI vytvořila nové hrozby, nabízí také powerfulní schopnosti, aby organizace chránily své sítě. AI-poháněná detekce hrozeb může analyzovat velké množství dat v reálném čase, snížit falešné pozitivy a identifikovat behaviorální nepravidelnosti, které by mohly naznačovat útok. Může automatizovat incidentní triáž, urychlit reakční časy a pomoci bezpečnostním operačním centrům.

Podle Wipro 93 % dotázaných organizací priorizuje AI pro detekci a reakci na hrozby, což odráží hodnotu organizací na detekci hrozeb. Tato dvojí povaha AI vyžaduje měřený a zodpovědný přístup k implementaci. Organizace potřebují rámce řízení, které pokrývají vysvětlitelnost modelů, mitigaci biasu a soulad s právními předpisy o ochraně dat. Bez nich může AI стать nepředvídatelným rizikem místo nástroje pro odolnost.

Proč školení zaměstnanců stále záleží

Ve světě pokročilých AI nástrojů lidská chyba stále zůstává nejčastější zranitelností v kybernetické bezpečnosti. Phishing zůstává nejčastějším útočným vektorem pro 65 % organizací. Jak útočníci používají AI k vytvoření více přesvědčivých sociálních inženýrských taktik, riziko uživatelů spuštěných útoků se zvyšuje.

Jedním z hlavních důvodů je, že organizace často považují školení v oblasti kybernetické bezpečnosti za jednorázovou compliance aktivitu. Mělo by to být probíhající proces, který se vyvíjí over time. Zaměstnanci by měli být školeni na běžné hrozby a AI-podporovaná rizika, jako je deepfake hlasová napodobenina nebo injekce promptů na AI-podporovaných platformách. Zanedbané aktualizace, neopravené systémy a závislost na zastaralé infrastruktuře zůstávají trvalými problémy a vytvářejí příležitosti pro útoky. Školení musí jít ruku v ruce s rutinními audity, správou záplat a meziodvětvovou koordinací.

Aby organizace skutečně bránily moderním hrozbám, musí investovat do lidské a strojové inteligence a zajistit, aby jejich týmy byly stejně agilní a adaptabilní jako jejich technologie.

Stavba kultury odpovědnosti

Základ kybernetické bezpečnostní strategie není technologie; je to jasnost. Organizace musí definovat, kdo je odpovědný za co, stanovit rámce řízení a podporovat bezpečnostní kulturu, která pokrývá všechny oblasti.

Klíč je zmocnit CISO nebo ekvivalentní IT vedení autoritou a viditelností. Je moudré vytvořit mezioborové rady kybernetického rizika, včetně IT, compliance, právníků a obchodních jednotek. Některé společnosti zakládají výbory na úrovni rady, které se zaměřují specificky na dohled nad kybernetickou bezpečností.

Rámce řízení pro nasazení AI musí zahrnovat kontroly nad trénovacími daty, nasazením modelů, právy přístupu a skutečným monitorováním. Tyto rámce by měly evolovat spolu s předpisy, jako je EU AI Act, a vznikajícími průmyslovými standardy pro etické použití AI.

Školení zaměstnanců v oblasti AI musí být také zakotveno v tomto kulturním posunu. AI bezpečnost není pouze IT problém – je to sdílená odpovědnost napříč odděleními, regiony a role. Celá společnost vyhrává, když každý v organizaci rozumí své roli v ochraně dat a systémů.

Od povědomí k akci

AI přetvořila kybernetickou bezpečnostní krajinu. Útočníci jsou rychlejší, škálovatelnější a stále více automatizovaní. Obránci mají powerfulní nástroje k dispozici, ale nástroje samotné je nezachrání.

Organizace musí postavit lepší procesy řízení, ne pouze více powerfulných algoritmů. To zahrnuje vyjasnění odpovědnosti za AI systémy a možná zařazení AI do kybernetické bezpečnostní směsi.

Zpráva posílá jasnou zprávu: technologie se vyvíjí rychle, ale lidé, procesy a priority zůstávají pozadu. Překlenutí této mezery je strategickou imperativem, zejména nyní, když AI vstoupila do obrazu. Není pochyb o tom, že AI bude pokračovat v transformaci způsobu, jakým žijeme a pracujeme. Ale zda tato transformace posílí nebo ohrozí vaši organizaci, závisí na tom, jak vážně berete odpovědnost, počínaje dnes.