Kindo spouští Deep Hat Sift, který omezuje zbytečná spuštění AI agentů

AI agent, který čte každé bezpečnostní upozornění nebo každou položku protokolu, generuje náklady, i když dospěje k závěru, že není třeba nic dělat. Při objemech typických pro velké podniky se taková vyšetřování bez zjištění problému mohou sama stát značnou pracovní zátěží. Kindo uvedlo na trh Deep Hat Sift, model navržený tak, aby ještě před zahájením zpracování větším modelem rozhodoval, které příchozí události odůvodňují spuštění agenta.

Sift byl oznámen 28. října. Učí se z verdiktů agenta, kterému slouží, a poté filtruje události, které by agent jinak odmítl. Produkt nejprve události pouze sleduje, nic nezadržuje: každá událost se stále dostane k agentovi, dokud člověk nenavrhne chování filtru, nezkontroluje je a neschválí prahovou hodnotu.

Tento přístup nabízí jiný způsob kontroly nákladů než výběr levnějšího jazykového modelu. Sift se nesnaží snížit cenu každého jednotlivého vyšetřování, ale vyhnout se těm, u nichž je nepravděpodobné, že bude nutné zasáhnout. Jeho účinnost závisí jak na kvalitě těchto rozhodnutí, tak na kontrolních mechanismech určujících, co se přeskočí.

Rozhodovací model před jazykovým modelem

Kindo popisuje Deep Hat Sift jako rozhodovací model System One: rychlý a levný model, který místo generování odpovědi řeší výběrovou otázku. Každý model je přiřazen ke konkrétnímu zdroji, cílovému agentovi a úloze filtrování, takže jeho učení odpovídá pracovní zátěži, které má sloužit.

Tato konkrétnost je důležitá. Událost relevantní pro bezpečnostní vyšetřování nemusí být důležitá pro práci servisního oddělení. Sift se učí, které události jeho cílový agent odmítá, a jako trénovací signál využívá verdikty, které agent vrací. Kindo uvádí, že díky tomu není pro každý datový proud potřeba samostatný projekt, v němž by data ručně označovali lidé.

První nasazení probíhá ve stínovém režimu. Sift vyhodnocuje příchozí události, zatímco agent je dál všechny kontroluje, takže systém může porovnávat své předpovědi s rozhodnutími agenta. Ještě před zahájením filtrování dostanou operátoři náhled toho, co by bylo zadrženo při použití jejich vlastních dat.

Člověk pak musí schválit prahovou hodnotu a písemně uvést důvod. Odpovědnost za rozhodnutí o přijatelné podobě filtrování tak připadá týmu odpovědnému za daný pracovní postup; aktivace není automatickým důsledkem instalace modelu.

Vzorkování a pojistky pro případ selhání pomáhají odhalit, co by mohlo uniknout

Filtrování přináší obtížný problém s měřením: pokud se událost k agentovi vůbec nedostane, jak tým pozná, zda se k němu dostat měla? Sift dál náhodně vybírá vzorek událostí, které by jinak zadržel, a verdikty agenta k tomuto vzorku využívá k průběžnému měření míry přehlédnutí.

Stránka produktu jasně uvádí, vůči čemu se měří: úplnost a míra přehlédnutí se stanovují na základě úsudků agenta. Tyto metriky ukazují, nakolik Sift napodobuje rozhodnutí daného agenta. Samy o sobě však neprokazují, zda agent správně identifikuje každý bezpečnostní incident nebo provozní problém.

Kindo uvádí, že pokud kvalita klesne, Sift přestane filtrovat a události znovu předá agentovi ke kontrole, místo aby je dál potlačoval. Společnost popisuje také limity aktivity, při jejichž překročení se systém během náhlého nárůstu provozu může vrátit do stínového režimu. Filtrované události i rozhodnutí o schválení se zaznamenávají, aby týmy mohly prověřit, co bylo zadrženo a proč.

„Dokud člověk neschválí prahovou hodnotu, nic se nefiltruje. A pokud kvalita klesne, filtrování se vypne a všechny události se předají jazykovému modelu k posouzení,“ uvedl v oznámení Troy Presley, inženýr Deep Hat Sift ve společnosti Kindo.

Tyto mechanismy kompromis odhalují, nikoli odstraňují. Konzervativnější filtrování může zachovat pokrytí, ale ušetří méně spuštění. Agresivnější filtrování může omezit větší část práce, zároveň však zvyšuje význam vzorkování, odhalování poklesu kvality a kvality navazujícího agenta.

Navrženo pro upozornění, tikety a nepřetržité datové proudy protokolů

Produkt cílí na pracovní zátěže s velkým objemem příchozích dat, z nichž jen malá část vyžaduje zásah. Kindo uvádí upozornění ze systémů SIEM a nástrojů pro detekci koncových zařízení, fronty tiketů, nahlášené phishingové zprávy, systémové a síťové protokoly i datové proudy z platforem, jako je Kafka. Mezi monitorovací zdroje patří Splunk, Datadog a New Relic.

Sift funguje před agentem, nikoli jako náhrada těchto zdrojových systémů. Bezpečnostní platforma nadále generuje detekce, systém pro správu tiketů dál uchovává svou frontu a agent zůstává odpovědný za případy, které se k němu dostanou. Nová vrstva rozhoduje, které události spustí tuto další práci s využitím AI.

Stejný postup by se mohl uplatnit také ve finančních a compliance procesech, které prověřují transakční nebo provozní datové proudy. I zde se výběr událostí ke kontrole liší od rozhodnutí o odhalení podvodu nebo souladu s předpisy. Cílový agent i navazující obchodní proces zůstávají důležitou součástí výsledku.

Jak Sift zapadá do platformy pro správu agentů Kindo

Širší platforma společnosti Kindo propojuje agenty s podnikovými systémy pro zabezpečení, infrastrukturu a IT provoz. Spojuje samotné provádění úloh s kontextem, oprávněními a provozním dohledem a poskytuje týmům místo, kde mohou spravovat práci poté, co byl vybrán model.

Webové stránky společnosti popisují, kdo vlastní jednotlivé agenty, jaká mají přístupová oprávnění a jak se náklady přiřazují podle agenta, vlastníka a týmu. Sift přidává do tohoto pracovního postupu kontrolu v jeho dřívější fázi: rozhoduje, zda má událost vůbec spustit agenta. Technické rozhodnutí o filtrování tak propojuje s provozní otázkou, které úlohy generují náklady na inferenci.

Podle oznámení o uvedení na trh je Deep Hat Sift nyní k dispozici pro místní nasazení, v cloudu spravovaném zákazníkem, v cloudu Kindo i v prostředích bez připojení k internetu. Vyhodnocování probíhá tam, kde je nainstalováno Kindo, zatímco volání modelů se spravují prostřednictvím platformy. Produkt funguje s agenty Kindo.

Úspory budou záviset na proudu událostí

Kindo neuvedlo obecnou procentní úsporu ani univerzální měřítko přesnosti pro Sift. Na stránce produktu místo toho týmům doporučuje, aby si na vlastních událostech nejprve vyzkoušely, které z nich by byly zadrženy. Pro zájemce o koupi je to důležitý rozdíl: ekonomický přínos závisí na objemu událostí, nákladech na každý ušetřený běh, podílu událostí vyžadujících akci a provozním prahu, který je tým ochoten přijmout.

U proudů s velkým množstvím šumu může omezení zbytečných spuštění agentů zpřístupnit nepřetržitou kontrolu pomocí AI za nižší cenu. U proudů, kde má přehlédnutí události závažné důsledky, jsou nastavení vzorkování a eskalace stejně důležitá jako náklady na inferenci. Deep Hat Sift začleňuje tato rozhodnutí do pracovního postupu agentů a přesouvá hlavní otázku od toho, který model má událost zpracovat, k tomu, zda ji daný model vůbec musí zpracovat.