O umělé inteligenci je třeba mít trpělivost

Od spuštění ChatGPT uplynuly téměř dva roky a umělá inteligence prošla整个 technologickým cyklem hype, od velkolepých, společensky měnících očekávání až po recentní korekci na akciovém trhu. Ale v rámci kybernetické bezpečnostní branže je stále ještě oprávněné nadšení z Generative AI (genAI); může to však trvat déle, než investoři a analytici předpokládali, aby sektor zcela změnil.

Nejzřetelnějším a nejnovějším znamením posunu v hype byl Black Hat USA Conference na počátku srpna, na kterém sehrála generativní umělá inteligence velmi malou roli v produktových spuštěních, demonstracích a obecném vytváření buzzu. Ve srovnání s RSA Conference před čtyřmi měsíci, na které se objevily stejní dodavatelé, se zaměřením na AI na Black Hat bylo zanedbatelné, což by mohlo vést neutrální pozorovatele k závěru, že se průmysl posouvá dál nebo že se AI stalo komoditou. Ale tomu tak není.

Toto je to, co mám na mysli. Převratný benefit aplikace generativní umělé inteligence v rámci kybernetické bezpečnostní branže pravděpodobně nevzejde z generických chatbotů nebo rychlého vrstvení AI nad modely zpracování dat. Tyto jsou stavebními kameny pro pokročilejší a efektivnější použití, ale zatím nejsou specializovány pro bezpečnostní průmysl a jako výsledek nejsou pohánějí novou vlnu optimálních bezpečnostních výsledků pro zákazníky. Skutečná transformace, kterou AI poskytne pro bezpečnostní průmysl, nastane, až budou modely AI přizpůsobeny a naladěny pro bezpečnostní použití.

Aktuální obecné použití AI v bezpečnostilargely employs prompt engineering a Retrieval-Augmented Generation, což je rámec AI, který umožňuje velkým jazykovým modelům (LLM) přístup k dalším datovým zdrojům mimo jejich trénovací data, kombinujících nejlepší části generativní AI a databázového vyhledávání. Užitnost těchto se značně liší v závislosti na použití a jak dobře stávající zpracování dat podporuje použití; nejsou to “magie”. To platí i pro další aplikace, které vyžadují proprietární data a odborné znalosti, které nejsou běžné na internetu, jako je lékařská diagnóza a právní práce. Zdá se, že společnosti budou upravovat datové procesy a systémy přístupu k datům, aby optimalizovaly použití generativní AI. Kromě toho společnosti pro generativní AI podporují vývoj speciálně naladěných modelů, i když zatím není jasné, jak dobře to bude fungovat pro použití, kde je kvalita a detail essenciální.

Existuje několik důvodů, proč tato specializace bude trvat déle, než se projeví v bezpečnostním průmyslu. Jedním z hlavních důvodů je, že přizpůsobení těchto modelů vyžaduje mnoho lidí ve smyčce během tréninku, kteří jsou odborníky na kybernetickou bezpečnost a AI, dvě branže, které bojují s nedostatkem talentů. Kybernetická bezpečnostní branže postrádá zhruba čtyři miliony profesionálů po celém světě, podle Světového ekonomického fóra, a Reuters odhaduje, že bude 50% mezera v náboru pro AI související pozice v blízké budoucnosti.

Bez dostatečného počtu odborníků bude přesná práce potřebná k přizpůsobení modelů AI pro bezpečnostní kontext zpomalena. Náklady na provedení datové vědy nezbytné pro trénink těchto modelů také omezují počet organizací, které mají zdroje na výzkum do custom AI modelování. Je zapotřebí milionů dolarů, aby se mohli dovolit zpracovat výpočetní výkon, který vyžadují pokročilé modely AI, a tyto peníze musí pocházet z někde. I když má organizace zdroje a tým na podporu výzkumu do přizpůsobení AI, skutečný pokrok se nestane přes noc. Bude trvat čas, aby se zjistilo, jak nejlépe doplnit modely AI, aby prospěly bezpečnostním praktikům a analytikům, a jako u každého nového nástroje, bude zde také učení, když budou zavedeny bezpečnostně specifické přirozené jazykové procesory, chatboti a další AI asistované integrace.

Generativní AI je stále připravena posunout svět kybernetické bezpečnosti do nové paradigmatické situace, kde útočné AI schopnosti, které využívají protivníci a hrozby, budou soutěžit se bezpečnostními poskytovateli AI modely, které jsou navrženy k detekci a monitorování hrozeb. Výzkum a vývoj nezbytný pro pohánění této změny bude prostě trvat déle, než obecná technologická komunita předpokládala.