Zprávy

Zpráva Check Point „2026 Cloud Security Report: Securing the AI Transformation“ varuje, že podniková bezpečnost zaostává za zaváděním AI

Antoine Tardif
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové body% organizací uvedlo nebo mělo podezření na bezpečnostní incidenty související s AI.
Zobrazit více
  • % organizací uvedlo nebo mělo podezření na bezpečnostní incidenty související s AI.
  • Pouze 5 % má plný přehled o používání nástrojů AI zaměstnanci a o tocích dat.
  • % nyní považuje jednotné řízení bezpečnosti za klíčové pro pracovní zátěže AI.

Přijetí umělé inteligence se zrychluje rychleji, než se mohou bezpečnostní týmy podniků přizpůsobit, uvádí nová zpráva „Zpráva o bezpečnosti cloudu 2026: Zabezpečení transformace umělé inteligence“ od Check Point a Cybersecurity Insiders. Zpráva tvrdí, že největším problémem, s nímž se organizace potýkají, již není to, zda zavádějí umělou inteligenci, ale zda jejich bezpečnostní architektura dokáže zvládnout rozsah, rychlost a autonomii, kterou systémy umělé inteligence nyní zavádějí do produkčních prostředí.

Zjištění naznačují, že mnoho podniků vstupuje do nebezpečného přechodného období. Asistenti umělé inteligence, kopiloti, autonomní agenti a strojově řízené pracovní postupy jsou rychle začleňovány do obchodních operací, zatímco kontroly kolem nich zůstávají fragmentované. Tradiční bezpečnostní architektury byly navrženy kolem předvídatelného chování lidí, stabilních aplikací a jasně definovaných síťových hranic. Systémy umělé inteligence mění všechny tři najednou.

Umělá inteligence již byla nasazena v produkčním prostředí

Jedno z nejzřetelnějších zjištění ve zprávě je, že fáze experimentování s umělou inteligencí je z velké části za námi. Asi 70 % organizací dotázaných uvedlo, že již provozují úlohy generativní umělé inteligence v produkčních prostředích, zatímco 64 % uvedlo, že mají agenty umělé inteligence v pilotním nebo produkčním nasazení.

Tohle je důležité, protože agenti umělé inteligence již nejsou omezeni pouze na generování textu nebo souhrny informací. Stále častěji jsou propojeni s podnikovými aplikacemi, API, interními databázemi a systémy pro řízení provozu. V některých případech organizace dokonce poskytují těmto systémům privilegovaný přístup k jádru infrastruktury.

Zpráva uvádí, že 12 % organizací již poskytlo agentům umělé inteligence privilegovaný přístup ke kritickým systémům. To vytváří zcela jiný typ problému kybernetické bezpečnosti. Bezpečnostní týmy již nejsou pouze odpovědné za řízení interakcí zaměstnanců s nástroji umělé inteligence, jako je ChatGPT nebo Gemini. Nyní jsou nuceny řídit autonomní systémy, které jsou schopné provádět akce v provozovaných prostředích.

Podle zprávy 83 % respondentů uvedlo, že zabezpečení aplikací generativní umělé inteligence je obtížnější než ochrana tradičních softwarových prostředí.

Bezpečnostní incidenty jsou již široce rozšířeny

Výsledky průzkumu naznačují, že bezpečnostní problémy související s umělou inteligencí již nejsou teoretické. Více než polovina dotázaných organizací uvedla, že došlo k alespoň jednomu potvrzenému bezpečnostnímu incidentu souvisejícímu s umělou inteligencí, zatímco dalších 24 % podezřívalo incidenty, ale nemělo dostatečnou viditelnost, aby je potvrdilo.

To znamená, že 78 % organizací buď ví, že došlo k bezpečnostním incidentům souvisejícím s umělou inteligencí, nebo nemohou s jistotou vyloučit, že k nim došlo.

Druhy incidentů se značně liší. Některé zahrnují neautorizované použití externích nástrojů umělé inteligence zaměstnanci, často označované jako „stínová umělá inteligence“. Jiné zahrnují únik citlivých dat prostřednictvím systémů umělé inteligence nebo útoky phishing a deepfake generované umělou inteligencí.

Zpráva zdůrazňuje, že provoz umělé inteligence se stále více podobá legitimní podnikové činnosti, což výrazně ztěžuje detekci. Volání API, požadavky na modely a odchozí spojení do služeb umělé inteligence mohou vypadat normálně na síťové vrstvě, pokud systémy inspekce nejsou schopny analyzovat chování interakce samotné.

To vytváří prostředí, ve kterém může škodlivá aktivita splývat s legitimním používáním umělé inteligence.

51bodová mezera v bezpečnosti umělé inteligence

Možná nejzajímavějším statistickým údajem ve zprávě je takzvaná „51bodová mezera v připravenosti“.

Zatímco 77 % organizací uvedlo, že změnily svou celkovou bezpečnostní strategii v reakci na přijetí umělé inteligence, pouze 26 % věří, že jejich současná bezpečnostní architektura je skutečně připravena podporovat zátěže umělé inteligence bez významné přestavby.

Zpráva tvrdí, že tato disproporce vysvětluje, proč se organizace nadále potýkají se selháváním zásad, mezerami v řízení a problémy s viditelností, navzdory zvýšené investici a pozornosti vedení.

V mnoha prostředích se zátěže umělé inteligence pohybují mezi cloudovými službami, aplikacemi SaaS, privátní infrastrukturou, API a vzdálenými koncovými body. Stávající bezpečnostní kontroly často ztrácejí konzistenci na těchto hranicích.

Výzkumníci argumentují, že organizace stále více potřebují sjednocené bezpečnostní architektury, které jsou schopné uplatňovat konzistentní zásady napříč hybridními prostředími, místo aby se spoléhaly na odpojené nástroje, které fungují nezávisle.

Viditelnost do aktivit umělé inteligence zůstává extrémně omezená

Zpráva opakovaně zdůrazňuje, že mnoho organizací stále postrádá základní viditelnost do svých prostředí umělé inteligence.

Pouze 5 % respondentů uvedlo, že mají úplnou viditelnost do toho, které nástroje umělé inteligence zaměstnanci používají, jak k nim přistupují a kam citlivá data proudí, když vstoupí do systémů umělé inteligence.

Podobný procentní podíl uvedl, že mohou spolehlivě rozlišit legitimní aktivitu umělé inteligence od podezřelého nebo neautorizovaného chování.

To vytváří významná provozní slepá místa. Asistenti umělé inteligence založení na prohlížeči mohou zanechat málo důkazů na koncovém bodě, zatímco interakce založené na API mohou úplně obcházet tradiční systémy objevování SaaS. Agenti umělé inteligence fungující pod účty služeb mohou vypadat nerozlišitelně od normálního automatizovaného chování systému.

Bez speciální telemetrie a monitorování umělé inteligence se mnoho organizací snaží zabezpečit prostředí, která nemohou plně pozorovat.

Stávající infrastruktura nebyla postavena pro provoz umělé inteligence

Zpráva také argumentuje, že umělá inteligence fundamentálně mění vzorce provozu podniků.

Organizace hlásily dramatické zvýšení provozu založeného na API, toků komunikace mezi uživateli a systémy umělé inteligence, provozu ve směru východ-západ uvnitř datových center a odchozích požadavků na externí služby umělé inteligence.

Tyto posuny zatěžují stávající bezpečnostní nástroje infrastruktury.

Pouze 24 % organizací uvedlo, že jejich nástroje pro bezpečnost sítě mohou plně prohlížet provoz umělé inteligence bez degradace výkonu. Zatímco 67 % uvedlo, že mají fragmentované bezpečnostní zásady napříč hybridními prostředími.

Výzkumníci argumentují, že tradiční architektury postavené kolem předvídatelných relací uživatelů a stabilních toků aplikací jsou nyní nuceny řídit dynamické, intenzivně využívající API, službami zprostředkované interakce, které se vyskytují napříč několika prostředími současně.

Zpráva také poukazuje na rostoucí migraci zátěží umělé inteligence zpět do privátních datových center a hybridní infrastruktury. Asi 29 % organizací uvedlo, že již přesouvají zátěže umělé inteligence do privátních nebo místních prostředí, zatímco dalších 49 % zvažuje toto opatření.

Tento trend je částečně poháněn regulatorními obavami, požadavky na výkon a snahou umístit výpočetní prostředky umělé inteligence blíže k citlivým podnikovým datům.

Firewally webových aplikací a tradiční bezpečnostní opatření narážejí na své limity

Jiným hlavním tématem ve zprávě je rostoucí nesoulad mezi aplikacemi umělé inteligence a tradičními webovými bezpečnostními nástroji.

Pouze 22 % respondentů uvedlo, že jejich firewall webových aplikací (WAF) nebo WAAP řešení jsou efektivní při detekci útoků specifických pro generativní umělou inteligenci, jako je injekce promptů. Zatímco 71 % uvedlo, že zaznamenalo zvýšený počet falešně pozitivních výsledků od přijetí zátěží generativní umělé inteligence.

Tradiční logika WAF byla navržena kolem předvídatelného provozu prohlížeče, známých signatur a strukturovaných požadavků. Systémy umělé inteligence generují dlouhé prompty, streamované odpovědi, interakce modelu-specifického API a autonomní komunikaci mezi službami, které často spadají mimo tyto předpoklady.

Také ochrana za běhu je zatím nevyzrálá.

Pouze 17 % organizací uvedlo, že ve velkém rozsahu nasadilo kontroly za běhu, které mohou kontrolovat vstupy a výstupy velkých jazykových modelů a v reálném čase na ně uplatňovat zásady. Více než polovina uvedla, že nemá žádný formální proces testování bezpečnosti pro aplikace generativní umělé inteligence nebo se spoléhá pouze na ad hoc testování.

Zpráva varuje, že mnoho organizací nasazuje funkčnost umělé inteligence do produkčních prostředí rychleji, než mohou řádně ověřit její bezpečnost.

Zaměstnanci pokračují v obcházení omezení umělé inteligence

I když organizace implementují kontroly, zaměstnanci často najdou způsoby, jak je obejít.

Podle průzkumu 42 % organizací uvedlo, že zaměstnanci obcházejí bezpečnostní kontroly umělé inteligence, když tyto kontroly vytvářejí tření nebo zpomalují produktivitu.

Tohle chování zahrnuje používání osobních účtů umělé inteligence nebo přístup k nástrojům založeným na prohlížeči mimo schválená podniková prostředí.

Zpráva argumentuje, že toto chování odráží hlubší architektonický problém. Bezpečnostní zásady, které interferují s pracovními postupy, často selhávají, protože zaměstnanci upřednostňují rychlost a uživatelskou přívětivost před dodržováním pravidel.

Výzkumníci navrhují, že organizace potřebují učinit schválený přístup k umělé inteligenci snazším a plynulejším než neautorizované alternativy, pokud chtějí snížit používání „stínové“ umělé inteligence.

Posun směrem k sjednoceným architekturám bezpečnosti umělé inteligence

V celé zprávě se Check Point a Cybersecurity Insiders opakovaně vracejí k myšlence, že bezpečnost umělé inteligence nemůže být vyřešena izolovanými dílčími produkty.

Místo toho zpráva argumentuje, že organizace se postupně přesouvají směrem k širším bezpečnostním architekturám typu „hybrid mesh“, které jsou schopné uplatňovat centrální vynucování zásad napříč cloudovou infrastrukturou, datovými centry, platformami SaaS, koncovými body a zátěžemi umělé inteligence současně.

Podle průzkumu 86 % organizací nyní považuje sjednocené bezpečnostní řízení napříč datovým centrem, cloudem a okrajem za kritické pro zátěže umělé inteligence.

Zpráva uzavírá, že umělá inteligence odhaluje slabiny, které již existovaly uvnitř fragmentovaných podnikových bezpečnostních modelů. Výzvou již není pouze detekce hrozeb po jejich výskytu. Jde o budování architektur, které upřednostňují prevenci a dokážou fungovat stejnou rychlostí a ve stejném měřítku jako moderní systémy umělé inteligence.

Jak je zřejmé z „Zprávy o bezpečnosti cloudu 2026: Zabezpečení transformace umělé inteligence“, mnoho podniků již přijalo umělou inteligenci provozně, ale jejich bezpečnostní základy se stále snaží dohnat tento vývoj.

Antoine je vizionářský lídr a zakládající partner Unite.AI, kterého pohání neochvějné nadšení pro utváření a podporu budoucnosti umělé inteligence a robotiky. Jako podnikatel, který založil několik společností, věří, že AI promění společnost stejně zásadně jako elektřina, a často s nadšením hovoří o potenciálu převratných technologií a obecné umělé inteligence (AGI).

Jako futurista se věnuje zkoumání toho, jak tyto inovace budou utvářet náš svět. Je také zakladatelem Securities.io, platformy zaměřené na investice do špičkových technologií, které nově definují budoucnost a proměňují celá odvětví.