Steve Wilson, Chief AI a Product Officer ve společnosti Exabeam – Interview Series

Steve Wilson je Chief AI a Product Officer ve společnosti Exabeam, kde jeho tým aplikuje nejmodernější technologie umělé inteligence na řešení reálných bezpečnostních problémů. Založil a spolupořádá projekt OWASP Gen AI Security, který stojí za průmyslovým standardem OWASP Top 10 pro Large Language Model Security.

Jeho oceněná kniha „The Developer’s Playbook for Large Language Model Security“ (O’Reilly Media) byla vybrána jako nejlepší kniha o kybernetické bezpečnosti od Cyber Defense Magazine.

Exabeam je lídr v oblasti inteligence a automatizace, která poskytuje bezpečnostní operace pro nejchytřejší společnosti na světě. Kombinací rozsahu a síly umělé inteligence s naší vedoucí behaviorální analytikou a automatizací získávají organizace komplexnější pohled na bezpečnostní incidenty, odhalují anomálie, které ostatní nástroje přehlédly, a dosahují rychlejších, přesnějších a opakovaných reakcí. Exabeam umožňuje globálním bezpečnostním týmům bojovat proti kyberhrozbám, snižovat rizika a optimalizovat operace.

Vaše nová pozice je Chief AI a Product Officer ve společnosti Exabeam. Jak tato pozice odráží rostoucí důležitost umělé inteligence v kybernetické bezpečnosti?

Kybernetická bezpečnost byla jednou z prvních oblastí, které skutečně přijaly strojové učení – ve společnosti Exabeam jsme strojové učení používáme jako jádro našeho detekčního motoru již více než deset let, abychom identifikovali anomální chování, které by lidé sami mohli přehlédnout. S příchodem novějších technologií umělé inteligence, jako jsou inteligentní agenti, se umělá inteligence stala z důležité absolutně centrální.

Má kombinovaná role Chief AI a Product Officer ve společnosti Exabeam přesně odráží tuto evoluci. Ve společnosti, která je hluboce zavázána k začlenění umělé inteligence do svých produktů, a v odvětví, jako je kybernetická bezpečnost, kde je role umělé inteligence stále kritičtější, bylo logické sjednotit strategii umělé inteligence a produktovou strategii do jedné role. Toto sjednocení zajišťuje, že jsme strategicky zarovnání k dodání transformačních řešení umělé inteligence pro bezpečnostní analytiky a operační týmy, kteří na nás nejvíce závisí.

Exabeam je průkopníkem „agentic AI“ v bezpečnostních operacích. Můžete vysvětlit, co to znamená v praxi a jak se liší od tradičních přístupů umělé inteligence?

Agentic AI představuje významnou evoluci od tradičních přístupů umělé inteligence. Je akčně orientovaný – proaktivně iniciuje procesy, analyzuje informace a předkládá přehledy, aniž by analytici museli žádat. Kromě prosté analýzy dat agentic AI působí jako poradce, nabízí strategická doporučení napříč整个 SOC, směruje uživatele k nejjednodušším výhrám a poskytuje krok za krokem pokyny pro zlepšení jejich bezpečnostního postavení. Kromě toho agenti fungují jako specializované balíčky, nikoli jako jeden nepohodlný chatbot, každý přizpůsobený specifickými osobnostmi a datovými sadami, které se integrují bezproblémově do pracovního postupu analytiků, inženýrů a manažerů, aby poskytly cílenou, účinnou pomoc.

S Exabeam Nova, která integruje několik inteligentních agentů napříč pracovním postupem SOC, jak vypadá budoucnost role bezpečnostního analytika? Její role se vyvíjí, zmenšuje nebo stává více specializovanou?

Role bezpečnostního analytika se určitě vyvíjí. Analytici, bezpečnostní inženýři a manažeři SOC jsou zahlceni daty, upozorněními a případy. Skutečná budoucí změna spočívá nejen v úspoře času na rutinních úkolech – ačkoli agenti certainly pomáhají – ale v povýšení role každého na roli vedoucího týmu. Analytici budou stále potřebovat silné technické dovednosti, ale nyní povedou tým agentů, kteří urychlí jejich úkoly, zesílí jejich rozhodnutí a skutečně povedou ke zlepšení bezpečnostního postavení. Tato transformace umožňuje analytikům stát se strategickými koordinátory spíše než taktickými reagujícími.

Recentní data ukazují na propast mezi výkonnými řediteli a analytiky ohledně produktivity umělé inteligence. Proč si myslíte, že tato propast existuje, a jak lze ji řešit?

Recentní data ukazují na zřetelnou propast: 71 % výkonných ředitelů se domnívá, že umělá inteligence významně zvyšuje produktivitu, ale pouze 22 % analytiků na první linii, denních uživatelů, souhlasí. Ve společnosti Exabeam jsme viděli, jak se tato propast zvětšuje spolu s recentní hysterií kolem slibů umělé inteligence v kybernetické bezpečnosti. Nikdy nebylo snazší vytvořit působivou ukázku umělé inteligence, a dodavatelé jsou rychlí v prohlášení, že vyřešili každou bezpečnostní výzvu. Zatímco tyto ukázky inicialně oslní výkonné ředitele, mnohé z nich selhávají tam, kde to skutečně záleží – v rukou analytiků. Potenciál existuje, a existují i skutečné příklady úspěchu, ale stále je příliš mnoho hluku a příliš málo skutečných zlepšení. Abychom mostli tuto propast, výkonní ředitelé musí priorizovat nástroje umělé inteligence, které skutečně umožňují analytikům, ne pouze je ohromují v ukázkách. Když umělá inteligence skutečně zvyšuje efektivitu analytiků, důvěra a skutečná zlepšení produktivity budou následovat.

Umělá inteligence urychluje detekci hrozeb a reakci, ale jak udržujete rovnováhu mezi automatizací a lidským úsudkem v případech kybernetických hrozeb?

Schopnosti umělé inteligence se rychle vyvíjejí, ale dnešní základní „jazykové modely“ podkladající inteligentní agenty byly původně navrženy pro úkoly, jako je překlad jazyka – ne pro nuancované rozhodování, teorii her nebo zpracování komplexních lidských faktorů. To činí lidský úsudek ještě důležitějším v kybernetické bezpečnosti. Role analytika není zmenšena umělou inteligencí; je povýšena. Analytici jsou nyní vedoucími týmu, kteří využívají svou zkušenost a vhled k vedení a směrování více agentů, zajišťují, aby rozhodnutí zůstala informovaná kontextem a nuancí. Nakonec je rovnováha mezi automatizací a lidským úsudkem o vytváření symbiotického vztahu, ve kterém umělá inteligence zesiluje lidskou odbornost, ne ji nahrazuje.

Jak se vyvíjí vaše produktová strategie, když se umělá inteligence stává základním designovým principem místo přidání?

Ve společnosti Exabeam je naše produktová strategie zásadně ovlivněna umělou inteligencí jako základním designovým principem, ne povrchním přidáním. Postavili jsme Exabeam od základů, aby podporoval strojové učení – od ingestování logů, parsingu, obohacování a normalizace – aby osídlil robustní Common Information Model, který je speciálně optimalizován pro krmení systémů strojového učení. Vysokokvalitní, strukturovaná data nejsou pouze důležitá pro systémy umělé inteligence – jsou jejich životním prvkem. Dnes přímo vkládáme naše inteligentní agenty do kritických pracovních postupů, vyhýbáme se generickým, neohrabaným chatbotům. Místo toho přesně cílíme na kritické použití, které přináší skutečné, hmatatelné výhody našim uživatelům.

S Exabeam Nova se snažíte „přejít z asistivního na autonomní“. Jaké jsou klíčové milníky pro dosažení plně autonomních bezpečnostních operací?

Myšlenka plně autonomních bezpečnostních operací je zajímavá, ale předčasná. Plně autonomní agenti, napříč jakýmkoli doménou, prostě nejsou dosud efektivní nebo bezpečné. Zatímco rozhodování v umělém inteligence se zlepšuje, nedosáhlo ještě lidské úrovně spolehlivosti a nedosáhne jí po nějakou dobu. Ve společnosti Exabeam我们的 přístup není pronásledovat úplnou autonomii, kterou naše skupina v OWASP identifikuje jako základní zranitelnost známou jako Excessive Agency. Poskytnutí agentům více autonomie, než lze spolehlivě otestovat a ověřit, staví operace na rizikové půdě. Místo toho je náš cíl týmy inteligentních agentů, schopných, ale pečlivě vedených, pracujících pod dohledem lidských odborníků v SOC. Tato kombinace lidského dohledu a cílené agentic pomoci je realistickým, účinným směrem vpřed.

Jaké jsou největší výzvy, se kterými jste se setkali při integraci GenAI a strojového učení v rozsahu vyžadovaném pro kybernetickou bezpečnost v reálném čase?

Jedna z největších výzev při integraci GenAI a strojového učení v rozsahu pro kybernetickou bezpečnost v reálném čase je rovnováha mezi rychlostí a přesností. GenAI sám o sobě nemůže nahradit obrovský rozsah toho, co naše vysokorychlostní strojové učení zpracovává – zpracovává terabajty dat nepřetržitě. Ani nejmodernější inteligentní agenti nemají „kontextové okno“, které by bylo dostatečně velké. Místo toho naše receptura zahrnuje použití strojového učení k destilaci obrovských dat do akčních přehledů, které naše inteligentní agenti pak efektivně překládají a operationalizují.

Spoluzaložil jste OWASP Top 10 pro LLM Applications. Co vás inspirovalo k tomu, a jak vidíte, že tato iniciativa bude formovat nejlepší praktiky pro bezpečnost umělé inteligence?

Když jsem spustil OWASP Top 10 pro LLM Applications na začátku roku 2023, strukturované informace o LLM a GenAI bezpečnost byly vzácné, ale zájem byl neuvěřitelně vysoký. Během několika dnů se k iniciativě připojilo více než 200 dobrovolníků, kteří přinesli rozmanité názory a odborné znalosti, aby formovali původní seznam. Od té doby byl přečten více než 100 000krát a stal se základem mezinárodních průmyslových standardů. Dnes se naše úsilí rozšířilo do projektu OWASP Gen AI Security, který pokrývá oblasti, jako je AI Red Teaming, zabezpečení agentic systémů a manipulace s ofenzivními použitími Gen AI v kybernetické bezpečnosti. Naše skupina nedávno překročila 10 000 členů a pokračuje v rozvoji bezpečnostních praktik umělé inteligence celosvětově.

Vaše kniha „The Developer’s Playbook for LLM Security“ získala hlavní cenu. Jaký je nejvýznamnější závěr nebo princip z této knihy, který by měl každý vývojář umělé inteligence pochopit při budování zabezpečených aplikací?

Nejvýznamnější závěr z mé knihy „The Developer’s Playbook for LLM Security“ je jednoduchý: „s velkou mocí přichází velká zodpovědnost“. Zatímco pochopení tradičních bezpečnostních konceptů zůstává nezbytné, vývojáři nyní čelí zcela novým výzvám, které jsou specifické pro LLM. Tato mocná technologie není volnou jízdou; vyžaduje proaktivní, promyšlené bezpečnostní postupy. Vývojáři musí rozšířit svůj pohled, rozpoznat a řešit tyto nové zranitelnosti od samého začátku, zabudovávat bezpečnost do každého kroku životního cyklu aplikace umělé inteligence.

Jak vidíte budoucnost kybernetické bezpečnostní pracovní síly v příštích 5 letech, když se agentic AI stává mainstreamem?

Jsme v současné době v závodě umělé inteligence. Protivníci agresivně nasazují umělou inteligenci, aby dosáhli svých škodlivých cílů, což činí odborníky na kybernetickou bezpečnost důležitějšími než kdykoli předtím. Příštích pět let nebude snižovat kybernetickou bezpečnostní pracovní sílu; naopak ji povýší. Odborníci musí přijmout umělou inteligenci, integrovat ji do svých týmů a pracovních postupů. Bezpečnostní role se posunou směrem k strategickému velení – méně o individuálním úsilí a více o koordinaci efektivní reakce s týmem agentů umělé inteligence. Tato transformace umožňuje odborníkům na kybernetickou bezpečnost vést rozhodně a sebevědomě v boji proti neustále se vyvíjejícím hrozbám.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Exabeam.