Většina firemního AI není zabezpečena. Zde je to, co mohou podniky dělat

Podniky se závodí, aby přijaly generativní umělou inteligenci (AI), aby zůstaly konkurenceschopné na svých trzích. Bezpečnostní týmy však čelí významné výzvě, protože se spoléhají na zastaralé rámce navržené pro jinou technologickou éru. Nástroje, které úspěšně chránily organizace po desetiletí, nyní zanechávají kritické zranitelnosti vystavené, když zaměstnanci interagují s webovými platformami AI.

Rostoucí hrozba stínového AI v podniku

Stínový AI se objevuje, když zaměstnanci obcházejí oficiální IT kanály a používají neautorizované spotřebitelské nástroje AI pro pracovní úkoly. Tyto platformy nabízejí rychlost a pohodlí, které interní schvalovací procesy nemohou dorovnat, což je činí neodolatelnými pro produktivní pracovníky.

Nedávný výzkum odhalil, že 73,8 % zapojení zaměstnanců s ChatGPT se vyskytuje na nekorporátních účtech, což znamená, že citlivé informace přímo proudí do veřejných modelů. Podobně je používání Gemini a Bard na osobních účtech 94,4 % a 95,9 %.

Vyřizování úkolů na neověřených externích platformách má podstatné důsledky. Analýza ukazuje, že 55 % všech selhání AI pochází z těchto třetích stran, což vytváří rizika, která sahají od poškození pověsti a finančních ztrát. Nedůvěra spotřebitelů, pokuty za dodržování předpisů a soudní spory často následují. Pro společnosti, které používají třetí strany AI bez provedení analýzy rizik před nasazením, je to znepokojivé.

Bez vynutitelných pokynů zaměstnanci přebývají citlivé firemní informace, což vytváří obrovské soukromé závazky, zatímco mnoho třetích stran chybí přísná bezpečnostní opatření potřebná k ochraně důvěrných obchodních záznamů. Zásady a postupy úložiště v těchto řešeních mohou neúmyslně vystavit zákaznické informace a finanční záznamy potenciálním útokům.

Proč tradiční prevence ztráty dat selhává

Zastaralé nástroje pro prevenci ztráty dat (DLP) byly navrženy tak, aby zastavily soubory od stažení nebo odeslání prostřednictvím e-mailových příloh. Tyto řešení excelují ve svém původním účelu, ale čelí zásadnímu omezení ve věku webových AI. Například nemohou snadno monitorovat nebo blokovat text, který zaměstnanec ručně napíše nebo vloží přímo do okna AI.

Mezera se stává jasnou, když se podíváme na to, co tato řešení mohou a nemohou chránit:

• DLP chytí: Stažení souborů, e-mailové přílohy, přenosy USB a nahrávání dokumentů
• DLP vynechá: Akce kopírování a vkládání do webových oken, ručně psané podněty, snímky obrazovky převáděné na text a přímý vstup textu do webových aplikací

Jak se přijímání AI urychluje napříč organizacemi, tato mezera se rozšiřuje a vytváří cestu pro vyloučení informací, kterou tradiční bezpečnostní infrastruktura nebyla navržena řešit. Bezpečnostní týmy se nacházejí v reaktivní pozici, objevují se úniky až poté, co citlivé obsah již opustil kontrolu organizace.

Jaký je nejlepší přístup pro zabezpečené firemní AI?

Držet se zastaralých řešení DLP a ignorovat realitu přijetí AI nezůstává životaschopnou dlouhodobou obchodní strategií. Společnosti potřebují aktualizovat na AI poháněnou detekci hrozeb, která se přizpůsobuje novým útokům a vynucuje přísné hranice používání AI, které chrání citlivé informace. Centralizující správy praktik pro prevenci náhodného vystavení dokončuje tuto bezpečnostní základnu.

Přejít na vícestupňový AI kontext

Tradiční nástroje pro detekci hrozeb se spoléhají na reaktivní pravidla, která hledají historické podpisy známých útoků. Tento přístup buď generuje nadměrné falešné pozitivy, které označují normální chování zaměstnanců jako podezřelé, nebo úplně vynechává nové útoky, které neodpovídají žádné předchozímu vzoru v jeho databázi.

Například Artesia General Hospital uznal tyto omezení při ochraně svých operací a digitálních ekosystémů, což vedlo organizaci k nasazení technologie Darktrace. Bez předem definovaného seznamu hrozeb se platforma učí každé zařízení, uživatele a interakci v síti nemocnice, aby vyvinula pochopení toho, co vypadá normální chování zespodu.

Komponent Cyber AI Analyst vyšetřuje upozornění pomocí metod podobných lidským analytikům, zatímco spojuje jemné anomálie, které by mohly naznačit skutečné hrozby pro záznamy pacientů a operace nemocnice. Systém autonomně vyšetřuje hrozby sítě Artesie, aby určil, která upozornění představují skutečné bezpečnostní incidenty.

Tento vícestupňový AI přístup významně snižuje falešné pozitivy, které zatěžují bezpečnostní týmy. Když se přechází z 100 benigních upozornění denně na dvě nebo tři kritické incidenty, které skutečně vyžadují lidskou pozornost, jejich zaměření se zužuje. Analytici dostávají přesně informace, které potřebují, aniž by trávili hodiny manuální analýzou.

Vynutit přísné vnitřní zásady používání AI

Stanovení pevných hranic a nasazení technických zábran, které kontrolují, jaké informace mohou vstoupit do veřejných modelů AI, řeší zranitelnosti, které zastaralá řešení DLP nemohou samostatně uzavřít.

Samsung poskytuje varovný příklad toho, co se stane, když zaměstnanci přistupují k nástrojům AI bez dostatečných technických zábran. V rámci 20 dní po povolení ChatGPT přístupu v dubnu 2023 společnost zažila tři samostatné úniky, které ohrozily vysoce důvěrné informace napříč několika odděleními.

Inženýři vložili proprietární zdroj kódu databáze polovodičů do ChatGPT, aby zkontrolovali chyby v kódu, odhalující kritické podrobnosti o výrobních procesech Samsungu. Při jiné události zaměstnanec nahrál specializovaný kód navržený pro identifikaci vad na zařízení, zatímco hledal návrhy optimalizace. Zaměstnanci také převedli zaznamenané vnitřní schůzky na text, než je předali ChatGPT pro automatickou generaci zápisů.

Jakmile informace vstoupí do trénovacího datasetu veřejného modelu AI, neexistuje žádný tlačítko pro odstranění, aby se informace z knowledge base odstranily nebo vyčistily. Samsung nakonec zákázal ChatGPT úplně, protože uniklé proprietární obsahy nelze zotavit.

Stanovit centralizovanou správu dat

Řešení firemního AI je pouze tak zabezpečené, jako informace, ke kterým má přístup v rámci organizace, a standardizace oprávnění napříč všemi systémy vytváří základnu pro zabezpečené nasazení AI. Když se vnitřní síť společnosti potýká s nekonzistentními kontrolami přístupu a fragmentovanými manažerskými postupy, i schválené nástroje AI mohou náhodně vystavit důvěrné personální záznamy nebo finanční záznamy neoprávněným zaměstnancům.

Například AXIS Capital čelil této výzvě přímo, když se zabýval samostatnými, izolovanými platformami pro politiku a nároky rozmístěnými napříč různými geografickými oblastmi. Každá obchodní linka vytvořila své vlastní referenční standardy pro hlášení, a nekonzistence vedly k chybám v citaci, podpoře a úpravách nároků, které činily firemní reporting extrémně obtížným.

Pojišťovna vyvinula organizaci-wide strategii využívající webové formuláře pro správu a přísná bezpečnostní pravidla pro standardizaci základních referenčních hierarchií. Začínající od Severoamerického systému klasifikace průmyslu a standardní klasifikace průmyslu, AXIS pak rozšířil do ratingových a pojistných kódů, které dříve lišily podle umístění.

Implementací centralizované správy dat a kontroly vytvořila společnost jediný zabezpečený zdroj pravdy, který je přístupný napříč všemi operacemi. Tím se odstranily nekonzistence, které sužovaly jejich platformy, zatímco AXIS mohl urychlit základní pojistné procesy, jako je zavedení nových produktových nabídek, snížení provozního rizika a dosažení spolehlivé analýzy na firemní úrovni.

Zabezpečení budoucnosti firemní inovace

Přijetí AI v podnikání je nevyhnutelné, protože organizace soutěží o tržní výhodu. Spoléhání se na zastaralé bezpečnostní rámce a tolerování nestrukturovaných praktik správy bude pouze urychlovat úniky a porušování předpisů. Otázkou není, zda společnosti přijmou AI, ale zda tak učiní zabezpečeně. Implementací vícestupňové detekce hrozeb AI a stanovením přísného dohledu nad přístupem k informacím mohou podniky přijmout inovace AI, zatímco chrání své nejcitlivější obsah.