Jak řešit síťové bezpečnostní výzvy související s agentic AI

Agentic umělá inteligence (AI) představuje další hranici AI, která slibuje překročit i schopnosti generativní AI (GenAI). Na rozdíl od většiny systémů GenAI, které se spoléhají na lidské podněty nebo dohled, je agentic AI proaktivní, protože nevyžaduje uživatelský vstup pro řešení složitých, vícekrokových problémů. Díky využití digitálního ekosystému velkých jazykových modelů (LLM), strojového učení (ML) a zpracování přirozeného jazyka (NLP) agentic AI provádí úkoly autonomně jménem člověka nebo systému, což výrazně zlepšuje produktivitu a operace.

Zatímco agentic AI je stále ve svých počátcích, odborníci vyzdvihli některé průlomové použití. Zvažte prostředí zákaznické podpory pro banku, kde AI agent dělá více než pouze odpovídá na otázky uživatele, když je požádán. Místo toho agent skutečně dokončuje transakce nebo úkoly, jako je přesun peněz, když je uživatel požádán. Další příklad by mohl být v finančním prostředí, kde systémy agentic AI pomáhají lidským analytikům autonomním a rychlým analýzám velkých množství dat, aby vytvořily auditované zprávy pro rozhodování založené na datech.

Nepopiratelné možnosti agentic AI jsou nezpochybnitelné. Nicméně, stejně jako u každé nové technologie, existují bezpečnostní, řídící a dodržovací obavy. Jedinečná povaha těchto AI agentů představuje několik bezpečnostních a řídících výzev pro organizace. Podniky musí řešit tyto výzvy, aby nejen využily výhod agentic AI, ale také zajistily síťovou bezpečnost a efektivitu.

Jaké síťové bezpečnostní výzvy vytváří agentic AI pro organizace?

AI agenti mají čtyři základní operace. První je vnímání a sběr dat. Tyto stovky, tisíce a možná miliony agentů sbírají a shromažďují data z různých míst, ať už z cloudu, na místě, okraje atd., a tato data mohou pocházet z kteréhokoli místa, spíše než z jednoho konkrétního geografického umístění. Druhý krok je rozhodování. Jakmile tito agenti sesbírají data, používají AI a ML modely k rozhodování. Třetí krok je akce a provedení. Tyto agenti jednají podle rozhodnutí. Poslední krok je učení, kde tito agenti využívají data shromážděná před a po svém rozhodnutí ke korekci a adaptaci.

Při tomto procesu agentic AI vyžaduje přístup k enormním datovým sadám, aby fungovala účinně. Agenti obvykle integrují s datovými systémy, které zpracovávají nebo ukládají citlivé informace, jako jsou finanční záznamy, zdravotnické databáze a další osobní identifikační informace (PII). Bohužel, agentic AI komplikuje úsilí o zajištění síťové infrastruktury proti zranitelnostem, zejména s připojením mezi cloudy. Představuje také bezpečnostní výzvy při odchodu, což ztěžuje podnikům ochranu proti úniku dat a porušování bezpečnostních pravidel. Pokud je AI agent kompromitován, citlivé údaje by mohly být snadno únikem nebo ukradeny. Rovněž by agenti mohli být ovládnuti škodlivými aktéry a použiti k vytváření a distribuci dezinformací ve velkém měřítku. Když dojde k porušením, existují nejen finanční pokuty, ale také důsledky pro pověst.

Klíčové schopnosti, jako je pozorovatelnost a stopovatelnost, mohou být agentic AI znesnadněny, protože je obtížné sledovat, které datové sady AI agenti přistupují, zvyšuje riziko expozice dat nebo přístupu neoprávněnými uživateli. Podobně může dynamické učení a adaptace agentic AI bránit tradičním bezpečnostním auditům, které se spoléhají na strukturované protokoly pro sledování toku dat. Agentic AI je také efemérní, dynamická a neustále běžící, což vytváří 24/7 potřebu udržovat optimální viditelnost a bezpečnost. Škála je další výzvou. Útočný povrch se dramaticky zvětšil, sahající za hranice datového centra a cloudu až k okraji. Skutečně, v závislosti na organizaci, agentic AI může přidat tisíce až miliony nových koncových bodů na okraji. Tyto agenti fungují v mnoha místech, ať už v různých cloudech, na místě, okraji atd., což činí síť více zranitelnou vůči útokům.

Komplexní přístup k řešení bezpečnostních výzev agentic AI

Organizace mohou řešit bezpečnostní výzvy agentic AI aplikací bezpečnostních řešení a osvědčených postupů na každém ze čtyř základních operačních kroků:

1. Vnímání a sběr dat: Podniky potřebují síťové připojení s vysokou šířkou pásma, které je šifrované od konce do konce, aby umožnily svým agentům sbírat enormní množství dat potřebných pro fungování. Připomeňte si, že tato data mohou být citlivá nebo velmi cenná, v závislosti na použití. Společnosti by měly nasadit řešení šifrovaného připojení s vysokou rychlostí, které běží mezi všemi těmito zdroji dat a chrání citlivá a PII data.
2. Rozhodování: Společnosti musí zajistit, aby jejich AI agenti měli přístup k správným modelům a AI a ML infrastruktuře, aby mohli učinit správná rozhodnutí. Implementací cloudové brány firewall mohou podniky získat potřebné připojení a bezpečnost pro své AI agenty, aby přístup k správným modelům v auditovatelném způsobem.
3. Akce a provedení: AI agenti jednají na základě rozhodnutí. Nicméně, podniky musí identifikovat, který agent z desítek nebo tisíců agentů učinil toto rozhodnutí. Rovněž potřebují vědět, jak jejich agenti komunikují mezi sebou, aby se vyhnuli konfliktům nebo “robotům bojujícím proti robotům”. Organizace proto potřebují pozorovatelnost a stopovatelnost těchto akcí provedených jejich AI agenty. Pozorovatelnost je schopnost sledovat, monitorovat a rozumět vnitřním stavům a chování AI agentů v reálném čase. Stopovatelnost je schopnost sledovat a dokumentovat data, rozhodnutí a akce učiněné AI agentem.
4. Učení a adaptace: Společnosti vynakládají miliony, ne-li stovky milionů nebo více, na ladění svých algoritmů, což zvyšuje hodnotu a přesnost těchto agentů. Pokud se zlý aktér zmocní tohoto modelu a exfiltruje jej, všechny tyto zdroje by mohly být v jeho rukou během několika minut. Podniky mohou chránit své investice pomocí bezpečnostních funkcí, které brání proti exfiltraci a porušování bezpečnostních pravidel.

Využití agentic AI v bezpečném a zodpovědném způsobem

Agentic AI máremarkable potenciál, který umožňuje společnostem dosáhnout nových výšin produktivity a efektivity. Ale, stejně jako u každé nové technologie v oblasti AI, organizace musí přijmout opatření, aby ochránily své sítě a citlivá data. Bezpečnost je zvláště kritická dnes, zvažuje se sofistikované a organizované malefaktory financované státem, jako je Salt Typhoon a Silk Typhoon, které pokračují v provádění velkých útoků.

Organizace by měly spolupracovat s odborníky na cloudovou bezpečnost, aby vyvinuli robustní, škálovatelnou a budoucí bezpečnostní strategii, která je schopna řešit jedinečné výzvy agentic AI. Tito partneři mohou umožnit podnikům sledovat, spravovat a zabezpečit své AI agenty; navíc jim pomáhají poskytovat společnosti s vědomím, které potřebují k uspokojení standardů souvisejících s dodržováním předpisů a řízení.