Přehodnocení odolnosti AI: Proč je čas opustit model ‘Nastav a zapomeň’

Nový průzkum Gallup ukazuje trend rostoucího přijetí AI, přičemž více než polovina zaměstnaných dospělých uvádí, že technologii používají alespoň několikrát ročně. Tato data jsou jen náznakem rychlého rozšíření AI v podnikovém prostředí. Ačkoli řada vedoucích představitelů firem začala zpochybňovat návratnost investic do AI, neodradilo to organizace od využívání technologie k zefektivnění manuálních úkolů a maximalizaci produktivity.

Přestože toto přijetí pokračuje, organizace mohou být v pokušení přehlížet škodlivé chyby v automatizovaných pracovních postupech. AI vnímají jako řešení „na klíč“, které vyžaduje od IT týmů pouze nastavit technologii, nechat ji běžet a „zapomenout“, že existuje. Některé bezpečnostní týmy se snaží tomuto myšlení čelit tím, že vytvářejí automatizační příručky určené k podpoře bezpečného a zabezpečeného používání AI. Přesto i ti nejlepší IT a bezpečnostní týmy ponechávají v těchto příručkách jen málo prostoru pro úpravy. V důsledku toho se podniky nemohou bezpečně vyvíjet spolu s AI, protože samotná technologie se také neustále mění.

Jak podniky poskytují AI větší pravomoci v kritických obchodních pracovních postupech, operační agilita se musí stát novým mandátem moderních organizací. Aby se to stalo univerzální praxí, musí vedoucí bezpečnosti firem opustit myšlení „nastav a zapomeň“ a navrhovat odolnost.

Pochopení paradoxu automatizace

Automatizace poháněná AI přináší obrovské zisky v produktivitě napříč mnoha podnikovými funkcemi. Vezměme si jako příklad kybernetickou bezpečnost. Nástroje AI umožňují analytikům provádět další kroky, na které v přepracovaných a přetížených centrech bezpečnostních operací nikdy neměli čas. Patří sem úkoly jako prioritizace upozornění, revize událostí, detekce hrozeb, ověřování křížových referencí a získání druhého názoru. Na rozdíl od některých vedoucích v C‑suite jsou CISOs obecně optimističtí ohledně hodnoty, kterou AI v budoucnu přinese. Podle údajů z „The CISO Report: From Risk to Resilience in the AI Era“ věří 83 % CISO, že automatizace je investice, která s největší pravděpodobností překoná očekávání.

Navzdory těmto výhodám přetrvává paradox. Stejná zpráva poukazuje na skeptický postoj CISO k AI, kteří se obávají následků autonomních chyb. 83 % CISO považuje dopady halucinací, jako jsou opomenutá upozornění nebo falešně pozitivní výsledky, za svůj největší problém s agentní AI. Existují dostatečné důkazy podporující tyto obavy z halucinací. Velká komerční letecká společnost byla právně odpovědná a byla nařízena zaplatit odškodnění poté, co její chatbot zákaznické podpory „halucinoval“ politiku vrácení peněz za smuteční tarif. Firma zabývající se hrozbami čelí právním problémům, protože údajně zveřejnila zprávu spojující startup s hackery cizí mocnosti. Když AI selže, následky mohou zasáhnout nejen interní systémy, ale i kapitál i reputaci.

Problém se zastaralými příručkami

Bezpečnostní příručky zaměřené na AI představují základ pro úspěšné a bezpečné přijetí AI. Problémy však nastávají, když se tyto příručky nikdy nemění. Hrozby, IT infrastruktura a obchodní prostředí se neustále vyvíjejí. AI umožňuje útočníkům škálovat útoky, zatímco rozšiřující se a stále složitější IT prostředí ztěžuje jejich detekci. Současně, jak podniky svěřují AI větší odpovědnost, důsledky chyb se stávají významnějšími.

Pokud všechny tyto faktory budou i nadále pokračovat ve vývoji, musí se s nimi vyvíjet i logika automatizace. Zmražené automatizační příručky tomu brání. Nechávají bezpečnostní týmy čelit aktuálním problémům s zastaralou logikou. V některých případech může být tato situace dokonce horší než kdyby bezpečnostní tým neměl žádnou příručku.

Aby se příručky staly živými organismy vhodnými pro současnou implementaci AI a tím podpořily vnitřní odolnost, musí být:

• Průběžně testovány na čerstvé zpravodajství o hrozbách
• Aktualizovány po skutečných incidentech
• Vyřazeny, jakmile již nejsou účinné nebo přinášejí hodnotu

Tento přístup je v souladu s doporučeními Cybersecurity and Infrastructure Security Agency (CISA) a dalších globálních kyberbezpečnostních agentur, které podporují kontinuální monitorování AI systémů a neustálý lidský zásah.

Implementace formule odolnosti

Éra AI vyzývá podniky, aby opustily myšlení zakotvené v AI jako jednorázovém řešení nebo jen přidávání automatizace k existujícím případům použití. Organizace místo toho potřebují vybudovat kulturu odolnosti, která umožní jak IT personálu, tak systémům posilovat tam, kde AI funguje správně — a efektivně reagovat, když technologie udělá chybu.

Tříčlenná praktická formule může pomoci zakotvit tuto odolnost do automatizovaných akcí.

• Jistota: Pro každý automatizovaný pracovní postup by si týmy měly položit otázku: Jak jsme si jisti spouštěčem, který inicioval automatickou reakci?
• Obrácenost: Je akce obrátitelná? Pokud ano, jak rychle a bezpečně ji můžeme provést?
• Rozsah dopadu: Jak dalekosáhlé jsou důsledky, pokud se chyba rozšíří, a jak kritický je dotčený majetek pro podnik?

Správné nástroje pro observabilitu a monitorování jsou klíčové pro zodpovězení těchto otázek. Týmy by měly využívat jednotnou platformu pro observabilitu a správu dat, aby plně pochopily, kde v IT prostředí může dojít k automatické reakci, které další aktiva to ovlivní a jaké jsou související obchodní důsledky. Pravidelné provádění tohoto cvičení umožní bezpečnostním týmům udržovat aktuální AI příručky. Navíc to umožní správné praktiky lidského zásahu, protože IT týmy budou vědět, kde a jak zasáhnout, aby zabránily nesprávným automatizovaným akcím mít široce rozšířené a nákladné dopady.

Už žádný model ‘Nastav a zapomeň’

Je důležité, aby moderní CISO a IT vedoucí pochopili, že odpovědnost za chování AI končí u nich. Čím více AI zasahuje do důležitých podnikových úkolů, tím větší zátěž spočívá na hlavních bezpečnostních důstojnících. Jednoduché pravidlo, které si lze zapamatovat, zní: „Automatizace mění toho, kdo stiskne tlačítko. Nemění to, kdo je zodpovědný za to, že bylo tlačítko stisknuto.“

Rizika a zodpovědnost dnešního CISO jsou příliš vysoké na to, aby se nadále používaly příručky typu „nastav a zapomeň“. Místo toho musí být odolnost jak praxí, tak kulturou, která prostupuje celou organizací a umožní jí zotavit se po chybě AI. Když týmy zařadí kontinuální monitorování, obrácitelnost, omezení a lidské vlastnictví do automatizační příručky, mohou podniky zabránit tomu, aby automatické rozhodnutí se stalo problémem celého podniku.