Na umělé inteligenci je trpělivost ctností

Za téměř dva roky od spuštění ChatGPT prošla generativní umělá inteligence celým cyklem technologického humbuku, od vznešených, společnost měnících očekávání až po podněcování nedávné korekce akciového trhu. Ale v odvětví kybernetické bezpečnosti konkrétně, vzrušení kolem Generativní AI (genAI) je stále oprávněný; jen to může trvat déle, než investoři a analytici předpokládali, že se celý sektor změní.

Nejjasnější a nejnovější znamení posunu v humbuku bylo na Black Hat USA konference počátkem srpna, kdy generativní umělá inteligence hrála velmi malou roli při uvádění produktů na trh, předvádění a všeobecném vytváření rozruchu. Ve srovnání s konferencí RSA o pouhé čtyři měsíce dříve, na níž se zúčastnili stejní výrobci, bylo zaměření Black Hatu na AI zanedbatelné, což by přiměřeně vedlo neutrální pozorovatele k domněnce, že průmysl jde dál nebo že se AI stala komoditou. Ale není tomu tak úplně.

Tady je to, co mám na mysli. Transformační přínos aplikace generativní umělé inteligence v odvětví kybernetické bezpečnosti pravděpodobně nebude pocházet z obecných chatbotů nebo rychlého vrstvení umělé inteligence přes modely zpracování dat. Toto jsou stavební kameny pro pokročilejší a efektivnější případy použití, ale v současnosti se nespecializují na bezpečnostní průmysl, a v důsledku toho nepřinášejí zákazníkům novou vlnu optimálních výsledků zabezpečení. Ke skutečné transformaci, kterou AI poskytne bezpečnostnímu průmyslu, spíše dojde, až budou modely AI přizpůsobeny a vyladěny pro případy použití zabezpečení.

Současné obecné případy použití AI v oblasti zabezpečení do značné míry využívají rychlé inženýrství si Generování rozšířeného vyhledávání, což je rámec AI, který v podstatě umožňuje velké jazykové modely (LLM) pro využití dalších datových zdrojů mimo jejich tréninková data, a to kombinací nejlepších částí generativní umělé inteligence a vyhledávání databází. Užitečnost těchto se značně liší v závislosti na případu užití a na tom, jak dobře daný případ použití podporuje stávající zpracování dat dodavatele; hej, nejsou "kouzla". To platí pro jiné aplikace, které vyžadují vlastnická data a odborné znalosti, které na internetu nepřevládají, jako je lékařská diagnostika a právní práce. Zdá se pravděpodobné, že společnosti upraví kanály zpracování dat a systémy přístupu k datům, aby optimalizovaly případy použití generativní umělé inteligence. Také společnosti zabývající se generativní AI podporují vývoj speciálně vyladěných modelů, i když se teprve uvidí, jak dobře to bude fungovat pro použití, kde je kvalita a detaily zásadní.

Existuje však několik důvodů, proč bude trvat, než se tato specializace projeví v bezpečnostním průmyslu. Jedním z hlavních důvodů je, že přizpůsobení těchto modelů vyžaduje, aby během školení bylo ve smyčce mnoho lidí, kteří jsou odborníky na kybernetickou bezpečnost a umělou inteligenci, což jsou dvě odvětví, která se snaží najmout dostatek talentů. Odvětví kybernetické bezpečnosti po celém světě chybí zhruba čtyři miliony odborníků Světové ekonomické fóruma Reuters odhaduje, že v blízké budoucnosti vznikne 50% mezera v náboru pozic souvisejících s umělou inteligencí.

Bez velkého množství dostupných odborníků se zpomalí přesná práce potřebná k přizpůsobení modelů AI tak, aby fungovaly v kontextu zabezpečení. Náklady na provádění datové vědy nezbytné k trénování těchto modelů také omezují počet organizací, které mají prostředky k provádění výzkumu vlastního modelování AI. Dovolit si výpočetní výkon, který vyžadují špičkové modely umělé inteligence, vyžaduje miliony dolarů a tyto peníze musí odněkud pocházet. I když má organizace zdroje a tým na podporu výzkumu přizpůsobení umělé inteligence, skutečný pokrok vpřed nenastane přes noc. Bude chvíli trvat, než přijdeme na to, jak nejlépe rozšířit modely umělé inteligence, aby byly přínosem pro bezpečnostní odborníky a analytiky, a stejně jako u každého nového nástroje dojde ke křivce učení, když budou představeny procesory přirozeného jazyka specifické pro zabezpečení, chatboti a další integrace s podporou umělé inteligence. .

Generativní umělá inteligence je stále připravena posunout svět kybernetické bezpečnosti do nového paradigmatu, kde útočné schopnosti umělé inteligence, které využívají protivníci a aktéři hrozeb, budou konkurovat modelům umělé inteligence poskytovatelů zabezpečení, které byly vytvořeny pro detekci a monitorování hrozeb. Výzkum a vývoj nezbytný k nastartování tohoto posunu potrvá jen chvíli déle, než obecná technologická komunita předpokládala.